simcyber

测试发布文章111

我们在每一家公司都听到一个共同的抱怨:算力不足。这使得实验次数减少,模型规模缩小。 中国的算力不足,主要是美国的芯片出口管制政策造成的。我们感兴趣的是亲眼目睹本土公司如何应对。 虽然供应并非完全短缺,中国公司仍然能够拿到英伟达的 H100、B200 和 B300 显卡,但是数量至少比美国竞争对手少一个数量级。 英伟达最新款的 GB300 NVL72 系统(72颗英伟达最新 GPU 组成一个系统)的实时推理速度比三年前的 H100 集群快30倍,每颗芯片的内存容量高出3.6倍,每次推理的能耗降低了25倍。美国公司正在大量订购这些系统,而中国公司却无法做到。 中国科技公司,尤其是华为,在研发

测试发布文章111

我们在每一家公司都听到一个共同的抱怨:算力不足。这使得实验次数减少,模型规模缩小。 中国的算力不足,主要是美国的芯片出口管制政策造成的。我们感兴趣的是亲眼目睹本土公司如何应对。 虽然供应并非完全短缺,中国公司仍然能够拿到英伟达的 H100、B200 和 B300 显卡,但是数量至少比美国竞争对手少一个数量级。 英伟达最新款的 GB300 NVL72 系统(72颗英伟达最新 GPU 组成一个系统)的实时推理速度比三年前的 H100 集群快30倍,每颗芯片的内存容量高出3.6倍,每次推理的能耗降低了25倍。美国公司正在大量订购这些系统,而中国公司却无法做到。 中国科技公司,尤其是华为,在研发

算力重压下的反脆弱进化:拆解中国大模型实验室的“精益工程(Lean Engineering)”

算力重压下的反脆弱进化:拆解中国大模型实验室的“精益工程(Lean Engineering)” 过去两年,硅谷的大模型圈子简直把「Scaling Law(尺度定律)」奉若神明——仿佛只要堆够算力、砸足参数、喂饱数据,AI就能像开了金手指一样“大力出奇迹”。这种靠资源堆出来的「Scale Moat(规模护城河)」,让美国AI巨头们一度稳坐钓鱼台,毕竟谁能比他们手里的GPU集群更庞大呢? 但最近,世界知名科技智库Exponential View发布的一份深度报告,却把镜头对准了大洋彼岸另一种正在悄悄崛起的技术范式。报告里的观点让我这个一线技术从业者眼前一亮:面对外部算力的极限施压,中国的AI实验室非但没有陷入停滞,反而被逼出了超强的“反脆弱”进化能力——他们正在用算法创新和极致到骨子里的工程优化,

硅谷正在失去它的“灵魂”,而中国AI圈像个大学宿舍

硅谷正在失去它的“灵魂”,而中国AI圈像个大学宿舍 前几天我跟大家分享了那篇硅谷大牛偷偷调研中国AI实验室的报告,结果后台直接炸锅了!评论区里从算法工程师到产品经理,甚至还有不少跨界看热闹的朋友,都在疯狂讨论:中美AI的差距,真的就只是算力堆出来的数字吗? 无独有偶,跟那位硅谷大牛同行的,还有一位欧洲的独立开发者、技术圈的硬核观察家——Florian Brand。这哥们儿是第一次来中国,带着满脑子对东方AI圈的好奇,在短短10天里开启了一场「中国AI实验室闪电打卡之旅」,一口气刷完了月之暗面、智谱、MiniMax、零一万物,还有阿里、美团、小米、宇树科技这些国内最顶尖的AI团队。 回国之后,Florian写下了一篇名为《中国AI实验室氛围纪实》的博文,看完之后我简直拍案叫绝: