NVIDIA A30 Tensor Core 具备 Tensor Float (TF32) 精度，可提供比 NVIDIA T4 高 10 倍之多的性能，并且无需更改代码；若使用自动混合精度和 FP16，性能可进一步提升 2 倍，综合起来可将吞吐量提高 20 倍。

NVIDIA A30 Tensor Cores with Tensor Float (TF32) provide up to 10X higher performance over the NVIDIA T4 with zero code changes and an additional 2X boost with automatic mixed precision and FP16, delivering a combined 20X throughput increase.

Multi-Instance GPU (MIG) and FP64 Tensor Cores combine with fast 933 gigabytes per second (GB/s) of memory bandwidth in a low 165W power envelope, all running on a PCIe card optimal for mainstream servers.

nvidia a30的训练和推理性能介于v100和a100之间。 A30的应用领域其实和A100类似，除了深度学习就是HPC。 比如Altair、ANSYS这些经典的有限元分析、流体力学计算等。

2024年10月22日 · 在深度学习模型训练中，数据通常以Tensor的形式存储。因此，在评估显卡性能时，特别需要关注其在处理Tensor运算时的表现，尤其是针对Tensor BF16、Tensor FP16和Tensor FP32等不同精度格式下的计算能力。

2023年3月22日 · 本文对比了A30与V100GPU在基础配置、模型训练（不同batch_size下的单卡和多卡训练性能）、推理压测以及算力和带宽方面的差异。 在压测中，针对80000数据进行500数据的并发请求，同时探讨了PCI与PCIe的技术要点。

A30 ： Built for AI inference at scale, the same compute resource can rapidly re-train AI models with TF32, as well as accelerate high-performance computing applications using FP64 Tensor Cores. Multi-Instance GPU (MIG) and FP64 Tensor Cores combine with fast 933 gigabytes per second (GB/s) of memory bandwidth in a low 165W power envelope, all ...

NVIDIA A30具备Tensor Float (TF32) 精度，可提供比NVIDIA T4高10倍之多的性能，并且无需更改代码；若使用自动混合精度和FP16，性能可进一步提升2倍，综合起来可将吞吐量提高20倍。

In addition to these features, the A30 supports double precision (FP64), single precision (FP32), half precision (FP16), Brain Float 16 (BF16) and Integer (INT8) computations, unified virtual memory, and page migration engine capability.

NVIDIA A30 GPU 基于最新的 NVIDIA Ampere 架构 构建，可加速各种工作负载，例如大规模 AI 推理、企业培训和适用于数据中心主流服务器的 HPC 应用程序。 A30 PCIe 卡将第三代张量核心与大容量 HBM2 内存 (24 GB) 和快速 GPU 内存带宽 (933 GB/s) 结合在一个低功耗封装（最大 165 W）中。 A30 支持广泛的数学精度： 它还支持 Tensor Float 32 (TF32) 和 Tensor Core FP64 等创新，提供单一加速器来加速每个工作负载。 图 1 显示了 TF32，它具有 FP32 的范围和 FP16 …