8月10日，Meta首席执行官马克·扎克伯格发表了一篇长达6500字、题为《未来属于每个人》的公开信，描绘了一幅由“个人超级智能”主导的乌托邦式画卷。他主张将人工智能（AI）打造为涵盖科研、医疗、商业及个人助理的强大工具，强调其核心价值在于创造新知识的“发明”而非简单的“自动化”，并通过极力倡导开源与技术分发来防止技术垄断。

这一发声并非孤立事件。此前，OpenAI首席执行官萨姆·奥特曼与Anthropic首席执行官达里奥·阿莫代伊等领袖曾屡次警告AI对人类生存的威胁及风险；而今随着企业上市进程推进，行业巨头们集体从“末日警告”转向“积极叙事”，大肆探讨AI推动社会变革的潜力。这一转向被指折射出各大科技公司在AI监管博弈与产业布局中的深层商业算计。

然而，这一宏大叙事引发了科技评论界的多维剖析与普遍质疑。评论者指出，尽管AI在赋能人类创造力和科研方面展现出巨大潜力，但其对整体劳动市场的冲击仍充满不确定性。知名AI伦理学者弗吉尼亚·迪格纳姆（Virginia Dignum）则认为，扎克伯格的宣言带有鲜明的自利色彩与营销属性，其单方面预设了当前AI发展路径的必然性以及扩张数据中心基础设施的必要性。她指出，扎克伯格对政府监管的抗拒完全契合Meta本身的商业利益，而其主导的开源路线本质上也是与OpenAI、Anthropic等竞争对手对抗的策略手段。

外界普遍认为，这种缺乏对科技巨头有效问责机制的自利性叙事，恐难以建立起公众对未来AI系统的真正信任。

现任瑞典于默奥大学（Umeå University）人工智能政策实验室负责人的弗吉尼亚·迪格纳姆是全球AI伦理与治理领域的重要学者，研究AI长达40年，同时担任联合国人工智能高级别咨询机构成员。

迪格纳姆在近期出版的新书《人工智能悖论》（The AI Paradox）中探讨了AI的八大悖论，试图拨开围绕AI的炒作和耸人听闻的迷雾，强调技术并非单纯地“降临”于人类社会，而是反映了人类在“构建什么”“谁将从中受益”以及“希望创造怎样的未来”等问题上作出的选择，是人类价值选择与权力博弈的结果。

近日接受澎湃新闻（www.thepaper.cn）专访时，迪格纳姆强调，AI不能作为人的决策责任转嫁的对象。“在采用AI之前，人们首先应回答的问题是：为什么要使用AI，它是否真的是最合适的方案？”她将AI比作一个装有各种不同工具的工具箱，“而不是只有一把越造越大的螺丝刀”，某一种路径（工具）都不应垄断人们对AI发展路径的想象。

至于全球治理与监管，迪格纳姆表示，汽车在学校门口的限速并不限制其最高时速的提升，AI也必须根据具体应用场景接受监管，并把“是否使用AI”的最终决定权始终掌握在人类手中，并由人类承担相应责任。

AI如何发展始终在于人类的选择，AGI并非唯一

澎湃新闻：目前，全世界对AI的态度处于兴奋与焦虑并存的状态。您此时发表的新书《人工智能悖论》希望传递怎样的核心信息？

迪格纳姆：正是因为这种情绪分化，我才决定写这本书，试图指向一个中间立场：AI既不该让人极度焦虑，也不该被期待解决我们所有的问题。

关键在于：AI不是降临在我们身上的事情，而是我们人类主动创造的。我们可以选择让AI以有利于人类、环境和后代福祉的方式发展，也可能选择让AI只惠及少数群体、危害环境。如何构建AI是人类自己的选择，不是外在于我们、强加给我们的东西。

澎湃新闻：您在书中提到“不可避免性的迷思”。当下我们为什么需要叩问甚至质疑AI的“不可避免性”？

迪格纳姆：在欧洲和世界许多地方，我们被引导着相信AI是不可避免的，就像天气一样，只能适应，无法改变。但AI与天气根本不同，它是人类创造的技术。当我们——无论是个人、组织、公司还是国家——建造这些系统时，我们可以决定如何建造、为了什么目的建造，它应该是什么样子，应该做什么，不应该做什么。

“不可避免性”的另一个问题是，我们若只从AI“能做什么”出发思考，而不充分思考AI“应该做什么”，则会把我们推向未必真正符合世界当下需求的方向。

我并不是说我们不该使用AI，但要先提出我所说的“问题零”：AI真的是最合适的方案吗？使用它我们能得到什么，又会失去什么？有没有其他选项？我看到很多政府正在争相把AI应用到各个领域，却没有思考过为什么要这样做。

澎湃新闻：您在人工智能领域研究了数十年，您曾说，即使在专家之间，当前AI和通用人工智能（AGI）的定义仍然很模糊。今天我们谈论的AI主要指大语言和多模态模型、智能体，这个行业似乎被通用大模型的路线所垄断。我们是否正在忽视其他更健康、更理性的AI替代路径？

迪格纳姆：确实忽视了。这在很大程度上是被开发这些系统的公司的营销所主导的。目前对这项技术的投资是巨大的，甚至在它的能力边界尚未被证实之前就已如此。

这些投资基于一个前提：改进AI需要更多数据、更多算力。如果所有的投资和努力都投入到扩大算力规模上，那么那些在这项技术上重金投入的人，就很难考虑其他替代方案，因为他们赌的是：改进AI的方式就是不断扩大规模。而在我看来，“规模扩张”是一个危险的赌注，因为如果这是唯一路径，它将永无止境，而我们不可能超越地球和环境所能承受的极限。任何专注于“扩大规模”的领域，到某个时刻都会变成金字塔骗局，人们在其中下注，只有塔尖的人获益，其余的人承担后果。

所以我认为，我们需要以更广阔的方式理解AI这门技术，认识到存在许多不同的方法，某些方法更适合解决某类问题。我们可以把AI看作一个工具箱，里面有许多不同的工具，而不是只有一把越造越大的螺丝刀。如果你想锯木头，就该用锯子，不是螺丝刀。

我的同事、计算机科学家温迪·霍尔女爵士曾用“皇帝的新装”来形容当前的处境，我们正看着一个没穿衣服的皇帝，却没人敢指出来：还存在其他选择。

澎湃新闻：今天大语言模型发展得非常快，但人们仍然无法完全理解它究竟如何工作，有专家称其推理过程是一个“黑箱”。此外，您也在书中将大语言模型比喻为“弗兰肯斯坦的怪物”。如果人类创造了AI却无法真正理解（或控制）这一创造物，这意味着什么？

迪格纳姆：“弗兰肯斯坦”这一比喻指的是，大语言模型由大量来源各异的文本拼接而成，却没有认真理解这些文本各自所处的原始语境。“黑箱”则是指系统缺乏透明度，也就是说，人们无法清楚地验证系统究竟是如何运作的。

“黑箱”问题说明，开发不同于当前随机性、非确定性方法的替代方案非常重要。更重要的是，必须明确责任归属：责任不应由算法承担，而应由部署这些系统的人承担，因为他们在明知无法证明系统如何运作的情况下，仍然决定使用这些系统。

人类的协作也是“超级智能体”

澎湃新闻：有人可能会说，AI模型的某些表现确实正在变得越来越好。但您在书中说“提升飞机的飞行能力，最终也不会让它下蛋”。这是否说明AGI的概念误解了人类智能的本质？

迪格纳姆：AI确实很擅长发现数据模式、做相关性分析，但这些技能意味着什么？这就需要我们去理解现实世界中的问题，而AI无法做到。人类面临的很多问题，需要的不是更多数据，而是常识、沟通意愿、合作意愿，这些都不是AI能替我们做的事。

这就是为什么，当我谈及AGI时，认为其本身是个定义糟糕的概念，它容易让事情变得模糊——谁都不知道彼此究竟在谈什么，所有人却都会因此感到恐惧。从最基本的意义上说，AGI指的是人类将创造出一种在认知能力和智能上超过人类的系统。

事实上，所有技术都在某方面比人强，例如，我的车跑得比我快，这不奇怪。AI作为一种技术，提升我们理解和分析海量数据、从数据中提取模式的能力，这是件好事。但如果我们所说的AGI只是“比一个人更聪明”，那当我们把“系统”的概念扩展到不仅仅是一台电脑，那么我们两个人就已经是“AGI”了——我们各自掌握不同的语言和专业背景，协作起来比单独一人更聪明。而若试图把这些所有的不同能力塞进一台机器里，某种意义上就是放弃了人类“协作”的价值，而把决定权交给了一台机器，交给了（创造AI的）某个特定组织构建的特定方式，无论他们意图多好，都有自己的利益考量。

所以，我们需要把AI的能力与人类协作的能力结合起来，这才是比“期待机器替我们解决一切”更有用的AGI。

澎湃新闻：大语言模型的训练数据压缩了大量人类知识，也保留了性别、种族和文化偏见。如果我们在某领域的知识水平低于AI，该如何评估其输出？大模型由少数企业主导，我们该如何保护多元文化？

迪格纳姆：这需要我们共同解决。单独一人可能无法识别所有偏见，但不同文化背景的人协作时，能更快看清全局。

推动透明度也很重要，尤其是关于已做出选择的透明度：哪些数据被输入系统？来源是否恰当？是否遵守版权规则？数据标注工作往往由劳动法薄弱国家的劳动者完成？这也是问题所在。

记者在这方面扮演着重要角色，你们能提出尖锐问题，不会轻易放弃。持续追问这些公司、要求它们负责，非常重要。

澎湃新闻：您在书中提到AI能力的提升反而凸显了人类特质（如共情、道德判断等）的独特性。我们该如何构建人机协作关系，而非替代关系？

迪格纳姆：我从事AI研究近40年，给AI下定义一直很难。有个说法虽然像玩笑却很中肯：“AI就是AI还做不到的事情。”每当AI解决一个问题，我们就发现还有很多事它做不到。

从基于规则的系统，到专家系统，再到今天基于数据模式的系统，我们不断发现AI尚不具备的人类能力，如共情、社会互动、语言之外的感知方式等等。这正说明，构成“人之为人”的东西，远比我们能装进机器里的更多。机器可以帮助我们，但无法完全取代我们。

澎湃新闻：但现实中确实有企业在用AI替代人力。如果真正的“超级智能”来自人与人的协作，我们该如何利用AI增强集体智慧？

迪格纳姆：确实如此，这在整个工业革命历程中都发生过，从农业机械到打字机被电脑取代，每次转型都给一些人带来痛苦。保持社会团结、建立转型期的安全网非常重要，历史上许多社会问题正源于这类转型。

但劳动力替代从未真正消除人的重要性，农业和办公室依然需要人，因为机器不能做所有事。所以，我们不仅需要理解AI能替代什么，更重要的是理解如何利用AI让我们的工作做得更好。企业应该更多地关注如何把人的能力与机器的能力结合起来，而不是急于用机器取代人。那样做只会带来一堆问题。

效率不等于福祉，“停下来看自己在做什么”是被低估的能力

澎湃新闻：您书中讨论了AI的八大悖论。这些是否都指向一个结论：AI最深层的挑战在于人类的价值选择？

迪格纳姆：是的。无论是“智能”的定义、AGI是否会取代人类，还是如何监管AI，归根结底都关乎我们的价值观：我们在乎什么？我们想怎样生活？我们想为后代留下一个什么样的世界？究竟是什么使我们成为人？这些才是最重要的问题。

澎湃新闻：您曾在非洲和欧洲生活，拥有发达国家和发展中国家的丰富经历。您如何定义AI时代的人类福祉（well-being）？有人说AI能带来更高效率、更多空闲时间，但我们也需要衡量：AI究竟是被用来赋能劳动者，还是仅仅被当作削减劳动力成本的工具？

迪格纳姆：几百年来，我们被困在“效率”这一观念中：更快、更多、不断增加产出。但归根结底要问：为什么？如果我们所有人都像老鼠赛跑一样不停地冲刺去做更多事，却没有时间去享受我们所创造的东西，去享受我们的世界、彼此的陪伴，那这一切效率究竟为了什么？

“停下来审视自己在做什么”的能力，在当今发达世界是一种被严重低估的能力或技能。也许这正是我们能从其他文化、其他民族那里学到的东西。生活不应该只是不停地赶路，我们需要有目标。而目标未必总关乎数量，也关乎质量。

我从其他文化中学到：社群的重要性，花时间彼此相处、欣赏周围环境，同样是生活的重要部分。欧洲人拥有一切，却依然不快乐、不满足，“拥有的数量”未必等于“生活的质量”，这正是悖论之一。当然，我们也需要更公平地在全球分配机会，但同时不能只看拥有多少，还要关注人们体验的质量。这两者并不总是朝着同一方向发展，也不一定能够通过提高效率实现。

澎湃新闻：当我们越来越多地使用AI时，我有时会感到困惑——我们究竟是在向AI提问，还是被AI的算法和工作流程所引导？当我们习惯于从AI那里获得即时答案、与AI互动时，我们的思考能力、提出批判性问题的能力、深入探究问题的能力，会不会逐渐萎缩？

迪格纳姆：这非常重要。我们与技术互动越多，技能就会随之改变。随着我们使用技术，我们的技能也在变化。重要的是要意识到，也需要理解哪些技能是真正不可或缺的，哪些技能是我们可以放弃的。

但“去技能”确实令人担忧，尤其涉及决策能力时。我从有年幼孩子的同事那里听说，也从一些研究中看到，世界上许多青少年已经无法独立作出决定，甚至连上学穿什么衣服都要依靠AI。他们依赖AI告诉自己应该穿什么、应该和什么人交朋友，甚至如何作出人生决定。这些是令人担忧的问题，因为我们不能真正失去独立思考、从错误中学习、并有勇气去做决定（以及可能犯错）的能力。

是否使用AI本身就是一种选择，而这种选择塑造着我们自身。我们迫切需要提高AI素养，否则可能像对药物上瘾一样，再也无法摆脱依赖。那将是一个非常严重的问题。

监管不是创新的敌人，最终决定权必须留给人类

澎湃新闻：您曾在联合国和欧盟从事AI治理工作。相较于那些“遥远的威胁”，很多人更关心当下的直接风险，比如虚假信息、情感依赖等问题——我们该如何负责任地使用AI？当很多公司甚至政府在考虑将AI引入工作流程时，您认为他们应该优先考虑哪些问题？

迪格纳姆：技术发展必须与理解其社会影响结合起来。很多人误以为监管会损害创新，这不是事实。就像汽车能开到300公里/小时，但学校门前限速30公里，这不限制技术能力，只是确保特定场景下的安全使用。

对AI也是同理：针对具体场景监管，不代表限制技术进步。开发技术的人未必是决定监管的最合适人选，我们需要让其他利益相关方参与。

对于虚假信息的问题，欧盟刚出台规定要求AI生成图像必须标注。这只是开始，监管永远无法杜绝所有滥用，但我们知道有法律存在，可以处罚他们，让他们为此付出代价。

澎湃新闻：在您看来，无论技术多么先进，哪些根本性的人类判断必须严格禁止AI介入？尤其是涉及战争领域——我们已经看到一些AI工具应用于地面战场。您对此有什么看法？

迪格纳姆：很简单：必须始终保留在人类手中的，是“是否使用AI”这个选择权。无论是战争还是面向儿童的场景，这个决定必须始终是人类的决定，并要承担相应问责。

在任何高风险领域，使用AI前都要经过“问题零”的审视：为什么要用AI？想实现什么？谁在决定？考虑了哪些选项？这需要是一个反复进行的过程，而这些问题本身与技术无关，只需要政治意愿去面对。

澎湃新闻：您如何看待大型科技公司的角色和权力？该如何让它们负责？

迪格纳姆：这确实令人担忧。一小部分私营企业没有政府监督或民主问责机制，却拥有比许多国家更大的权力，权力集中在以盈利为主要动机的组织手中，这有点像中世纪的封建领主。

这是双面的：它们主导着与G7等决策者的对话，问题不在于它们参与讨论（它们理应参与），而在于它们成了政府唯一倾听的声音。政府必须同时倾听公民社会等其他声音，而不能只听（大型科技）企业的意见。

澎湃新闻：您如何看待中国在全球AI发展中的角色？

迪格纳姆：中国比世界其他很多地方更积极地支持全球治理倡议，这非常令人鼓舞，尤其考虑到中国的体量。中国在某些问题上的观点与欧美不同，但我不认为这是坏事，我们需要倾听多元的声音。