AI 将把我们引向何方

导读

This article dives into the cultural discourse around large language models, challenging the overly optimistic "problem solved" narrative pushed by AI maximalists, analyzing how the current development of AI is gradually eroding the bargaining power of ordinary workers, concentrating productive resources in the hands of a few capitalists, and pointing out that the seemingly neutral technological progress is actually accompanied by deep class issues and structural inequality, finally leaving everyone in a rent-seeking loop built on the collective intellectual achievements of human beings.

这篇文章深入探讨了当下围绕大语言模型的文化 discourse，戳破了AI极端支持者鼓吹的“XX行业已被解决”的乐观叙事，分析了当前AI发展如何逐步消解普通劳动者的议价权，将生产资源集中在少数资本手中，指出看似中立的技术进步背后实则暗藏深刻的阶级问题与结构性不公，最终会让所有人陷入一个建立在人类集体智慧成果之上的逐利租金循环。

网上一部分AI极端支持者特别反感别人把大语言模型称作“下一词预测器”或者“随机鹦鹉”，觉得这是在贬低这项技术的价值。他们总喜欢用“已解决”“已出局”这类词来宣告那些需要人类创造力、专业能力和大量付出的行业即将终结，什么“动画行业已经被解决了”“好莱坞要完了”“编程不需要人了”“研究生没有存在的必要了”之类的说法层出不穷。这根本不是对技术进步的中立描述，字里行间都透着一种幸灾乐祸的意味，仿佛在庆祝人类劳动者被淘汰。相关讨论里充满了对立情绪，和网上站队的政治讨论一模一样，我想不到还有哪项技术能带来这么强的部落主义站队效应，加密货币？Arch Linux用户？都远远比不上。

AI最初的核心理念本是帮我们解决气候、疾病、贫困、冲突这类棘手的公共问题，现在这个愿景正在快速褪色。前沿实验室的导向已经变成了一个更直白也更扭曲的目标：单纯地削减人力成本。 哪怕是最弱势的劳动者，多少都曾拥有过议价筹码——也就是“被需要”的劳动价值，而企业每年花数十亿就是为了夺走这个筹码。现在AI行业的CEO和支持者们轻描淡写地就宣布，这个筹码以后不作数了：Anthropic的CEO达里奥·阿莫代伊在这方面早就名声在外，OpenAI的CEO萨姆·奥尔特曼说大学学位已经没用了，因为AI能提供更个性化的教学。在他们之后，风险投资人们也跟着表态，说未来5年某某类工作就会被“解决”，说这些话的时候他们完全是站在既得利益者的角度，丝毫没有考虑普通人的处境。

所有公开的网站、书籍、所有被创作出来的文字、照片、视频，默认都会被纳入AI训练语料库，只有网站运营者可以在robots.txt里加规则申请不被抓取，而且前提是抓取方遵守规则。还有大量抓取程序根本不会主动标识身份，甚至存在被爬取内容的黑市交易。如果你的内容不是发布在网站上，连申请不被抓取的资格都没有。还有成千上万的人拿着极低的报酬给数据集做标注、优化，而数据中心的高速建设还在推高普通民众的公用事业账单。 巨额资本疯狂涌入AI领域，没有回报的事没人会做。如果资本真的关心公共利益，我们早就该逆转气候变化、拯救濒危动物了，而不是现在这样一边说AI会解决这些难题，一边把盈利放在第一位。AI热潮本质上就是资本主义的典型产物，从一开始就带着逐利的基因。

我们花了很多年普及网络安全知识，教大家了解Cookie是什么，为什么要同意网站在浏览器里存储小文本。结果现在大家主动又无意识地把自己和他人的隐私信息、私人故事输入到那些不起眼的文本框里，喂给AI。 哪怕是OpenAI的API服务，至少对普通用户来说都不提供零留存政策，他们会把你的对话存储一段未公开的时长。最近我看到很多人说AI训练数据快用完了，你真的觉得他们不会用你的对话数据来在这场激烈的竞争中领先其他实验室，在大语言模型排行榜上拿到更好的名次吗？ 我们付出金钱，付出数据，放弃劳动议价权，放弃早年偶然发现或者后天培养出来的创作乐趣，整个循环正在不断自我闭环，我们被锁在名为技术进步的花园里，却分不到半点收获。 所以下一词预测到底把我们带到了哪里？我们陷入了一个永恒的租金循环，要为用人类数百年集体产出训练出来的技术不断付费。不管你属于哪个阶级，对个体来说这都不是什么好事。

来源：https://pop.rdi.sh/where-does-next-token-prediction-leave-us/