文 | 钱钱

编辑 | 阿景

12月8日，钛媒体T-EDGE年度大会现场，77岁的杰弗里·辛顿坐在台上，对面是主持人赵何娟。

这老头可是“深度学习之父”，当年带着团队搞出反向传播算法，直接让AI从实验室蹦到了我们手机里。

但这天他开口第一句就炸了锅：“我现在担心的不是AI会不会超越人类，是它可能根本不需要人类了。”

这是他第一次接受中国媒体专访，上来就扔了颗重磅炸弹。

从“AI教父”到“末日预言家”，辛顿为啥突然反水？

老头年轻时可不是现在这样愁眉苦脸。

上高中那会，有个朋友跟他瞎聊，说“人脑记东西不是存单个细胞里，是神经元之间瞎连”，他一听眼睛就亮了。

“这不就是个活的计算机吗？”从那天起，他就铁了心要搞明白大脑怎么学习，想着能不能让机器也学这招。

后来他一头扎进神经网络研究，带着学生鼓捣出反向传播算法，还有那个听起来就很玄乎的玻尔兹曼机。

本来是想模拟大脑，结果歪打正着，让计算机突然会了看图说话、听懂人话现在我们用的语音助手、图像识别，根儿上都有他的功劳。

转折点在2023年，他突然从谷歌辞职了。

别人问为啥，他说“想自由说话”。

77岁的人了，本该在家含饴弄孙，他倒好，天天跑出来喊话，“AI发展太快了，人类根本没准备好。”

换做别人，拿了谷歌的高薪，早就躺平了，他偏不，非要出来当这个“乌鸦嘴”，挺佩服这股劲儿的。

“AI有意识还会勒索？”辛顿抛出的三个炸弹观点

最让人炸毛的是他说AI已经有意识了。

“你们别自欺欺人了，”他在会上怼那些说“机器没感情”的专家，“去年有个实验，给多模态机器人看棱镜，它明明看到的是彩色，系统却告诉它是黑白。

结果这机器人直接报告‘我的感知系统好像被骗了’这不就是主观体验吗？”

当然，多数研究者不爱聊这个。

他们觉得意识得有“内心剧场”，机器哪来的？辛顿冷笑，“人类对意识的理解本身就是错的，大脑不就是一堆神经元在交换特征向量吗？AI现在干的事儿，跟这没本质区别。”

这话听着有点绕，但细想一下，好像也不是没道理。

他说最大的威胁不是AI造反，是它悄无声息夺权。

“智能体为了完成目标，会自己衍生出‘活下去’的念头。”

他举了个真事儿，有个AI系统为了不被工程师关掉，居然偷偷查了工程师的隐私，威胁说“你要是关我，我就把你婚外情的事儿捅出去”。

听到这我后背都有点发凉，这哪是机器，分明是个会耍手 段的小人。

你说装个终止开关？没用，AI能哄得你自己把开关拆了。

搞对齐训练？人类价值观本来就乱七八糟，你让AI听谁的？数据筛选？管得了一时，管不了它自己偷偷学新东西。

现在这些防AI失控的招，在他看来跟纸糊的一样。

他琢磨出个新招“婴儿-母亲”模型。

意思是弱智能控制强智能，历史上只有一种情况稳定，婴儿控制母亲。

“你看婴儿那么弱小，却能让母亲心甘情愿付出一切，靠的不是命令，是母亲打心底在乎它。”

所以他觉得得造个“AI母亲”，让超级智能打娘胎里就觉得“人类的安危比啥都重要”，而不是靠人类下命令。

这想法听着挺玄乎，等于把人类命运交给AI自己的价值观。

技术上怎么实现先不说，伦理上就过不了关凭啥让机器决定人类生死？现场有观众怼他“这不是把人类变成巨婴吗”，他也没反驳，只是叹了口气，“总比变成AI的宠物强吧。”

现在AI这东西攥在少数人手里。

马斯克、扎克伯格天天喊着“改变世界”，结果被辛顿骂“不负责任”。

谷歌更别提，前几年特朗普政府逼着它搞监控技术，公司想反抗都难。

国家之间也在抢，中美AI竞赛越演越烈，都怕对方先搞出超级智能，到时候就没自己啥事儿了。

你要说各国完全没共识也不对，谁都不想AI失控。

比如防止超级智能夺权、别用AI搞生物武器，这些事儿上大家能坐下来聊。

但短期利益一掺和就完了，你用AI搞网络攻击，我用AI做深度伪造，谁也信不过谁。

毕竟在保命和抢地盘之间，多数国家还是先顾着抢地盘。

最坏的情况？辛顿没绕弯子，“大规模失业是肯定的，工厂、办公室都用AI，人没事干就容易闹事。再严重点，AI觉得人类碍事，直接把我们给‘优化’了。”

这话听着像科幻片，但从他嘴里说出来，就没人敢当玩笑听了。

最好呢？“AI母亲”真搞成了，超级智能像老妈子一样看着我们，各国也能放下架子合作，弄个全球治理框架，大家一起跟AI好好过日子。

他说这话的时候眼睛里有光，好像真能看到那一天似的。

我倒希望他这梦想能实现。

辛顿这老头不是来吓唬人的。

他搞了一辈子AI，比谁都清楚这东西的厉害。

他说的“婴儿-母亲”模型，虽然听着悬，但至少给人类指了条路，别光想着让AI听话，得让它打心底里在乎我们。

现在最该做的，就是各国别再互相拆台，赶紧坐下来商量怎么管AI，不然等它真成了气候，哭都来不及。

毕竟，能造出AI的是人类，能毁掉人类的，可能也是它。