不听人类指挥 OpenAI模型拒绝关闭
创始人
2025-05-27 03:41:02
0次
当地时间5月25日，英国《每日电讯报》报道，美国开放人工智能研究中心（OpenAI）公司新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。
报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。
o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。
美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。
这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”
帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。
OpenAI将在韩国首尔设立分支
此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。
美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。
来源：央视新闻客户端
相关内容
热门资讯
vivo钱包遭用户投诉贷款利率...
文：WEMONEY研究室 随着移动互联网时代到来，智能手机已经成为了生活的必需品。目前，很多手机如...
gta5加载慢怎么办 gta5...
许多玩家在GTA5游戏过程中都会遇到加载速度慢的问题，那么gta5加载慢怎么办？今天加游加速器就来告...
原创 苹...
有不少朋友疑惑苹果iPhone 16 Pro和16 Pro Max有什么区别？该选择哪一款更好？各自...
iPhone 16系列手机网速...
在智能手机的世界里，网速往往是衡量一部手机性能的重要指标之一。 尤其是随着5G时代的到来，用户对于高...
舒福德智能床S300 Pro面...
8月13日，以“一键入眠 世界领先”为主题的舒福德智能床新品发布会在浙江嘉兴举行。中国睡谷的首次对外...
第五轮学科评估对比：西安交大突...
在之前的文章中，我们已经提及西安交通大学第五轮学科评估的表现可圈可点，新晋的3个A+学科：机械工程、...
小米怎么去除抖音水印保存？分享...
随着抖音的普及，越来越多的人喜欢在抖音上分享和观看短视频。当我们想要保存一些喜欢的视频时，往往会被视...
小米14T Pro海外定档9月...
【ITBEAR】9月23日消息，小米今日在X平台上宣布，旗下新款手机小米14T Pro定于9月26日...
邓宏魁、张涛、李亚栋、孙斌勇获...
出品 | 搜狐科技 作者 | 周锦童 8月16日上午10时，2024未来科学大奖新闻发布会在北京、香...