/
基准测试 关键字列表
NVIDIA GPUs H100 vs A100，该如何选？
在人工智能和高性能计算领域，GPU 扮演着至关重要的角色。作为 GPU 领域的领导者，NVIDIA 推出的 H100 和 A100 两款产品备受瞩目。H100 作为 A100 的继任者，在架构、性能和功能上都进行了显著的提升。本文将深入剖析这两款 GPU 的技术细节、性能差异以及应用场景，帮助读者全面了解 H100 和 A100，从而在实际应用中做出明智的选择。
MLPerf Llama大模型推理测试：一款GPU独战NVIDIA群雄
与大模型推理测试结果直接相关的，就是GPU的型号和数量。除此之外，我们还能看到更多信息，比如使用的服务器型号、CPU，以及软件平台环境等。参考上面截图，实际上NVIDIA GPU在Llama-2-70b测试中基本都是用CUDA+TensorRT；而AMD则是ROCm+PyTorch+vLLM。
白皮书
京公网安备 11010802021500号
