测试发布文章111

我们在每一家公司都听到一个共同的抱怨:算力不足。这使得实验次数减少,模型规模缩小。

中国的算力不足,主要是美国的芯片出口管制政策造成的。我们感兴趣的是亲眼目睹本土公司如何应对。

虽然供应并非完全短缺,中国公司仍然能够拿到英伟达的 H100、B200 和 B300 显卡,但是数量至少比美国竞争对手少一个数量级。

英伟达最新款的 GB300 NVL72 系统(72颗英伟达最新 GPU 组成一个系统)的实时推理速度比三年前的 H100 集群快30倍,每颗芯片的内存容量高出3.6倍,每次推理的能耗降低了25倍。美国公司正在大量订购这些系统,而中国公司却无法做到。

插图

中国科技公司,尤其是华为,在研发 AI 芯片方面取得了长足进步。但即使是华为今年3月发布的最新芯片 Ascend 950PR,其性能也仅与2022年发布的 H100 大致相当。而且,这些芯片的出货量远低于 H100。据估计,英伟达仅在2025年10月之前就已出货了700万颗 Hopper 和 Blackwell GPU,而且出货速度还在不断增长。华为计划今年出货75万颗 Ascend 950PR 芯片,这仍然只有英伟达去年出货量的十分之一左右。