白宫在最后时刻对安思罗皮克新一代人工智能模型施加限制,这让外界对总统唐纳德·特朗普两周前推出的人工智能监管框架产生了根本性质疑。
据科技行业代表、政策专家以及至少一名政府官员说,这一做法也削弱了特朗普此前关于以“轻监管”方式管理先进人工智能的承诺。
行政命令原本意在建立一套程序,在不过度扰乱美国科技产业的前提下,应对这项技术带来的网络安全风险,让企业继续创新,并在全球人工智能竞争中争夺主导地位。相反,围绕安思罗皮克最新产品的未具体说明的安全担忧,在上周引发了政府最后关头的紧急应对,最终形成一项联邦指令,促使该公司于周五晚间突然切断所有用户对其新模型“寓言”的访问权限。
自由意志主义智库R街研究所高级技术与创新研究员亚当·蒂里尔说:“很明显,特朗普政府在人工智能问题上的整体态度已经发生变化,优先事项似乎也转向了首先打击安思罗皮克。”
这一局面在某种程度上与今年早些时候安思罗皮克和国防部之间的对峙相似。那场争端最终以五角大楼将该公司列为危及国家安全的供应链风险告终。当时,行业倡导者就警告说,这场冲突会削弱美国在全球先进人工智能竞赛中的地位。
不过,安思罗皮克与政府的关系随后一度有所缓和,部分原因是政府急于获得“神话”的使用权限。这是安思罗皮克一款功能强大的新模型,其面向公众的版本上周以“寓言5”的名称发布。
如今,在政府对安思罗皮克新模型实施限制、禁止非美国公民使用之后,安思罗皮克已切断对“寓言5”和“神话5”的访问。这两款模型是该公司最新、管控最严格、具备顶级网络能力的产品。
对于新的出口管制指令是否削弱了总统近期的人工智能行政命令,白宫发言人库什·德赛表示,特朗普政府“正与人工智能行业领袖合作,在前沿创新与涉及美国及其盟友的国家安全关切之间寻求平衡”。
德赛说:“美国在全球人工智能竞赛中遥遥领先,特朗普总统致力于确保美国的技术主导地位。”安思罗皮克发言人拒绝置评。在经历数周反复讨论后,特朗普的行政命令提出了一套框架:大型科技公司将在计划发布前30天,自愿将新的人工智能系统提交政府审查。
该方案明确否决了此前一些更强硬的提议。那些提议原本会让审查程序成为强制要求,或要求企业在发布模型前先取得政府许可。最终版本的轮廓,部分受到风险投资人、前白宫人工智能事务主管戴维·萨克斯的影响;他目前仍被认为对总统有相当影响力。
但据两名政府官员和一名白宫官员透露,上周五,在亚马逊首席执行官安迪·贾西提出担忧、称用户可能绕过该模型的安全护栏后,白宫决定限制对安思罗皮克“寓言”模型的访问。由于无权公开讨论此事,这些官员均要求匿名。
安思罗皮克表示,这一决定几乎没有提前通知,迫使公司关闭该产品。这在整个人工智能行业引发一波焦虑,游说人士和行业倡导者都难以将政府的做法与行政命令所承诺的“不过度监管”相协调。
蒂里尔说:“我们不希望出现这样的局面:某些在政治上不受青睐的参与者,或者他们的模型,在周五下午突然发现自己必须从全球市场撤下产品,以满足政府中某些人的要求。”他还说,这项行政命令“本来应该为局势带来一些秩序,但很明显,它并没有做到”。
和本文采访的其他几位人士一样,蒂里尔表示,现在已经很清楚,政府提出的先进人工智能模型审查“根本不是自愿的”。另一些人则说,强制下架“寓言”强烈暗示,政府将要求新的人工智能系统必须获得政府许可,即便行政命令并非如此表述。
软件与信息产业协会全球公共政策和政府事务负责人保罗·莱卡斯说:“我们担心,这看起来有些像一种临时拼凑出来的许可制度,而我们认为,这与推动美国技术走向全球的目标背道而驰。”该协会是一个科技行业组织,会员包括安思罗皮克和亚马逊。
莱卡斯说:“无论政府如何声明这一措施只针对某一家开发商,它都无疑会让整个行业担心,自己也可能面临类似行动。”这位游说人士还表示,上周五的做法“代表了行业长期反对的一类路径,而政府自己过去也一直反对这种做法”。
一些人工智能专家表示,安思罗皮克与部分政府官员之间长期存在的嫌隙,也让这场安全争论增添了令人不安的因素。科赫资助的“丰裕研究所”人工智能政策负责人尼尔·奇尔森说:“只要你从基于标准或基于法律的路径——至少你知道自己需要满足哪些要求——转向一个主要取决于你的人脉关系、以及决策者如何看待你和你的公司的空间,那么整个行业就会被政治化。”
奇尔森还说,在他看来,政府上周五针对安思罗皮克的行动“与其说是一种许可制度,不如说更像一场选美比赛”。他说:“更像是,‘我们看到时自然知道自己喜不喜欢。’而这种状态比许可制度还要更不确定。”
甚至有一名特朗普政府官员也表示,只要这项出口管制仍然存在,它就会继续削弱这项行政命令。由于希望自由讨论白宫针对安思罗皮克行动的影响,这名官员要求匿名。
这名官员说:“如果这件事很快过去,如果限制明天就被取消,那我会说,‘好吧,这大体上仍然和那项行政命令一致,我们继续推进就是了。’如果一周后局面还是一团糟,那就可以非常清楚地知道到底发生了什么。”
这名官员还说,围绕出口管制的拉锯如果持续下去,将给美国人工智能行业带来“巨大问题”。他说:“这意味着今后每一个模型在发布前,都得先征求政府许可。这是极其糟糕的局面,会彻底瘫痪整个行业。”
政府的出口管制禁止外国公民接触安思罗皮克最先进的模型。一家顶级人工智能公司的高级官员也对这一做法表示担忧。由于希望自由讨论白宫的行动,这名人士同样要求匿名。他担心,如果这一管制持续存在,或类似限制扩大到其他公司,外国研究人员可能会转而去美国以外的地方寻找工作机会。
这名行业官员说:“这会让整个人工智能行业处于不利地位,也会在招募和留住人工智能研究人员方面造成问题。”目前尚不清楚安思罗皮克与白宫之间这场最新对峙何时、以及是否会得到解决。双方周一举行的会谈并未立即宣布停火。一名白宫官员告诉《政治报》,这一僵局可能会持续不止几天。
另一名接受《政治报》采访的政府官员说:“我在政府内部接触到的绝大多数人都认为,这条路是个糟糕透顶的主意。”这名官员说:“现在主导这件事的,只是少数几个人。”
美国外交关系协会新兴技术高级研究员、前拜登政府官员克里斯·麦圭尔表示,白宫现在面临两个选择:要么与安思罗皮克修复关系,让“寓言”重新上线;要么就不得不把同类管制广泛适用于其他先进人工智能模型。他说:“我倾向于认为,他们大概率会选择前者,因为如果选择后者,那将对人工智能竞争力造成毁灭性打击。”
作者:达娜·尼克尔