评测：英伟达H100可11分钟搞定基于GPT-3的大模型训练

　　昨天，机器学习及人工智能领域开放产业联盟MLCommons披露的MLPerf基准评测最新数据显示，英伟达H100芯片组在人工智能算力表现的测试中，刷新了所有组别的纪录，也是唯一一个能够跑完所有测试的硬件平台。

　　MLPerf是由学术界、实验室和产业组成的人工智能领袖联盟，是目前国际公认的权威AI性能评测基准。Training v3.0包含8种不同的负载，包括视觉(影像分类、生物医学影像分割、两种负载的物体侦测)、语言(语音识别、大语言模型、自然语言处理)和推荐系统。简单来说，就是由不同的设备供应商提交完成基准任务所需要的时间。

　　在投资者比较关注的“大语言模型”训练测试中，英伟达和GPU云算力平台CoreWeave提交的数据为这项测试设定了残酷的业界标准。在896个英特尔至强8462Y+处理器和3584个英伟达H100芯片的齐心协力下，仅仅花了10.94分钟就完成了基于GPT-3的大语言模型训练任务。

　　除了英伟达外，只有英特尔的产品组合在这个项目上获得评测数据。由96个至强8380处理器和96个Habana Gaudi2 AI芯片构建的系统中，完成同样测试的时间为311.94分钟。横向对比，使用768个H100芯片的平台跑完这个测试也只需要45.6分钟。