未命名文稿222
们在每一家公司都听到一个共同的抱怨:算力不足。这使得实验次数减少,模型规模缩小。
中国的算力不足,主要是美国的芯片出口管制政策造成的。我们感兴趣的是亲眼目睹本土公司如何应对。
虽然供应并非完全短缺,中国公司仍然能够拿到英伟达的 H100、B200 和 B300 显卡,但是数量至少比美国竞争对手少一个数量级。

英伟达最新款的 GB300 NVL72 系统(72颗英伟达最新 GPU 组成一个系统)的实时推理速度比三年前的 H100 集群快30倍,每颗芯片的内存容量高出3.6倍,每次推理的能耗降低了25倍。美国公司正在大量订购这些系统,而中国公司却无法做到。
中国科技公司,尤其是华为,在研发 AI 芯片方面取得了长足进步。