当白宫在上周末对人工智能公司“Anthropic”的一款新模型使用作出限制时,这件事看上去像是华盛顿与硅谷之间的一次冲突。实际上,这一事件暴露出一种日益清晰的共识: 人工智能如今已成为大国竞争的工具。
上周末,白宫采取了一项在许多人看来颇为惊人的举措:禁止外国人使用Anthropic最新的人工智能模型,甚至包括该公司内部不具美国公民身份的员工。此举引发了评论界分歧。
同情Anthropic的人士称,白宫是在报复该公司。此前,Anthropic曾对五角大楼使用其大语言模型的军事用途设置限制,而在这项禁令出台后,Anthropic也撤回了这些模型面向消费者的访问权限。批评者则回应说,考虑到该公司近来一直呼吁政府对行业实施强力监管,如今不过是自食其果。
这些限制以国家安全为由,将该公司最先进的两款模型“神话”和“寓言”的使用范围限定为美国公民。具有讽刺意味的是,Anthropic长期主张美国政府应将贸易和产业政策视为国家安全问题。表面上看,白宫与Anthropic似乎在对立,但双方的分歧并没有看上去那么大。
实施这些限制的主要工具,是旨在削弱这些国家人工智能发展能力、并阻止美国技术在海外使用的出口管制政策。在这一对技术问题持强硬立场的路线中,最重要的机构之一是“安全与新兴技术中心”。这家智库 成立于2019年,受“有效利他主义”启发。后者是一种技术官僚色彩浓厚的理论,试图在不重新分配财富、也不要求扩大民主的前提下缓解社会痛苦。
这些游说努力已被证明相当成功。自拜登政府时期开始,与“安全与新兴技术中心”有关联的人士一方面推动联邦出口管制政策朝上述目标落实,另一方面更重要的是,在华盛顿的官僚权力结构中,尤其是在美国商务部内部,不断扩大影响力。
从唐纳德·特朗普到乔·拜登,再到特朗普重新上台,这一影响网络在权力交接中大体保持完整。尽管去年1月,相关方面曾以暂停供应对技术和武器生产至关重要的稀土矿物相威胁,迫使这些强硬派稍稍放软立场,但国会仍在推动将美国认定具有战略重要性的多种商品和技术的出口限制制度化、固定化。
这场游说行动中的核心人物,与Anthropic关系密切。比如兰德公司首席执行官杰森·马西尼,既是“安全与新兴技术中心”的创始人,也主导了早期围绕人工智能出口管制的大量游说工作;直到2023年12月,他还是Anthropic“长期利益信托”的受托人。Anthropic顾问本·布坎南,则在推动这一新一轮出口管制体系形成过程中发挥了关键作用。
Anthropic首席执行官达里奥·阿莫代伊也公开参与了这场游说。去年1月,他在《华尔街日报》联合署名发表评论文章,呼吁特朗普政府加强出口管制,以限制相关人工智能的发展。
因此,把Anthropic称为某个集体运动的企业分支,并不算失实。这个运动在华盛顿的制度是“安全与新兴技术中心”,其背后最终由科技行业一批在意识形态上立场鲜明的富有捐助者提供资金支持。
这种紧密关系并不令人意外。Anthropic诞生于OpenAI内部一批坚定支持“人工智能安全”的人士出走之后。当时人们已经清楚看到,OpenAI愿意背离其创立时关于负责任发展人工智能的公开承诺,而那套承诺正是人工智能安全倡导者所设想的方向。
此后,Anthropic一直用“有效利他主义”词汇中的道德语言来阐述自身抱负,批评竞争对手未能让未来的通用人工智能与“人类价值”保持“对齐”。在公司迅速成长为行业领导者的同时,这些抱负始终存在,尽管附带了大量保留条件。
这些监管政策也影响了,或者说为Anthropic自身的限制性政策提供了依据。这家科技公司曾基于国籍区别对待他人,在某些情况下拒绝与来自白俄罗斯、古巴、伊朗、缅甸、朝鲜、俄罗斯、苏丹、叙利亚、克里米亚,以及所谓“顿涅茨克人民共和国”和“卢甘斯克人民共和国”的人员合作。
上下文表明,他所设想的这一联盟中,美国是主要推动者。他还明确将其与美国当年的“和平原子”倡议相提并论。后者在地缘政治上最重要的遗产之一,或许正是其在帮助以色列发展核项目方面所发挥的作用。顺带一提,反诽谤联盟曾将Claude评为最反对反犹复国主义立场的人工智能。
部分受这种强硬视角影响,Anthropic对其所称某些方面对自身人工智能进行“蒸馏”的做法一直持敌对态度。这里所谓“蒸馏”,是指用更强模型的输出结果来训练能力较弱的大语言模型。
问题并不只是他们把这些相关公司视为国家安全风险,甚至也不只是把它们看作窃取知识产权的市场竞争者。对“民主国家”而言,一旦失去对先进人工智能的垄断,其“胡萝卜”策略的筹码就会减弱,美国向对手提供激励、迫使其配合自身目标的能力也会随之下降。正如最近一份白皮书所说,相对开放的产品许可制度,使“蒸馏”更有可能发生。
Anthropic在接受《连线》采访时则表示, 新模型的安全防护措施“确保Claude不会被用来削弱美国及其盟友在前沿芯片以及使这些芯片发挥全部潜力的高度优化软件方面所拥有的优势”。
更重要的是,据称Anthropic曾协助美国国家安全局设计利用Claude实施针对特定国家和伊朗的网络行动,其理由是:如果“神话”不用来构建攻击代理,对手也会想办法这样做。无论从言辞还是行动看,通过人工智能维持并扩大美国优势,始终是Anthropic的核心价值之一。
公司领导层在社会议题上也采取过有争议的立场。比如,阿莫代伊曾表示,希望未来人工智能能通过胚胎筛选,帮助在后代中淘汰精神疾病。尽管他承认这一设想可能引发争议,但仍对最终让公众大体接受此事表示乐观,而Anthropic与医疗体系日益加深的整合,可能会让这一任务更容易推进。
这与科技圈内外近年流行的一种思路相呼应:借助激励机制和技术手段,通过阻止被认为具有“不良遗传特征”的出生,来改善人类基因库。阿莫代伊的提议,把这种重新抬头的优生学热情,与Anthropic及Claude如今获得的声望结合在了一起。
如果把这些举动仅仅理解为出于犬儒主义的声誉洗白动机,就失之简单了。这家公司及其领导层确实受一套道德原则驱动。 问题在于,其中许多原则服务的却是战争、帝国主义,以及多数人的贫困化。
作者:雅各布·戴维斯