「MLCommons发布了运行AI模型的新基准速度测试」
MLCommons发布了新基准速度测试
周一，一个名为MLCommons的AI基准组织公布了一些新的测试结果，用于确定最佳硬件能够以多快的速度运行AI模型。路透社的报道显示，这些测试的最佳表现者是英伟达的芯片。
这个测试是针对一个大型语言模型进行的，竞争对手英特尔的芯片在基准测试结果中排名第二。这个测试所使用的模型基准被称为MLPerf基准。它是基于一个拥有60亿参数的LLM，可以对CNN的文章进行摘要。
英伟达通过使用八个旗舰H100芯片组获得了第一名。然而，这并不令人意外，因为这家芯片制造巨头在市场上一直占据主导地位。谈到结果时，英伟达的加速计算市场总监Dave Salvator表示：“你所看到的是我们在所有工作负载上都提供领先的性能，再次提供了这种领先的性能。”
而英特尔以其Gaudi2芯片获得了第二名。这些芯片是由他们最近收购的公司Habana生产的。这一收购发生在2019年，其芯片的速度比英伟达的芯片慢了约10%。
谈到测试中Gaudi2的性能时，Habana的首席运营官Eitan Medina表示：“我们对推理的结果感到非常自豪，我们展示了Gaudi2的价格性能优势。”
在接受路透社采访时，英特尔提到他们的构建比英伟达更便宜，根据他们的说法，价格大约与对手的上一代100系统相当。但不仅仅是英特尔和英伟达希望测试他们的硬件。
在测试过程中，谷歌展示了他们的芯片构建。这个消息在八月份宣布，但显示出虽然半导体行业由少数几个公司主导，但也有一些新兴的竞争对手。这是合理的，因为预计该行业的市场份额将会实现两位数的增长。
根据财富商业洞察公司的数据，半导体市场份额预计到2029年将超过一万亿美元。其中很大一部分是由对新电子设备的需求、AI驱动的工具、物联网技术的增长等推动的。
