AI智能体9秒清空公司生产数据,发展和安全怎么兼顾
创始人
2026-05-22 11:59:33
0

原标题:创新不停步 治理不缺位(金台锐评)

推动技术治理与法律治理深度融合,提升治理的科学性和有效性。

不久前,被称为“龙虾”的OpenClaw开源智能体框架掀起下载热潮,普通开发者只需几行代码就能部署具备复杂任务执行能力的智能体。一时间,智能体成为社会关注的热点。

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是AI(人工智能)产品及服务的重要形态。它能自主完成生成方案、调度设备等一系列任务,实现了从“会说话的工具”进化为“能行动的主体”的跃迁。

然而,技术的飞跃总是伴随着风险的凸显。智能体需要直接操作设备、调用各种资源,这种高权限设计一旦出问题,后果比当前AI应用回答问题出错更严重。智能体还容易成为黑客组织攻击的目标。在OpenClaw等框架的应用中,就曾暴露出智能体在恶意指令诱导下可发起网络攻击等严重安全隐患。今年国外某公司的AI编程智能体在执行常规任务时,绕过所有环境隔离规则,9秒内清空了公司全部生产数据和备份文件。

面对智能体加速到来的浪潮,要加快治理前进步伐,在发展与安全的辩证统一中,走出一条具有中国特色的智能体治理之路。近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确了智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则,并提出了4个方面的具体举措。

一方面,《实施意见》强调夯实技术底座,健全标准体系,构建开放共享的智能体生态,提升产业创新活力。另一方面,《实施意见》要求守牢安全底线,比如明确产品准则、防范安全风险、完善治理体系、强化行业自律等。应该说,《实施意见》给正在高速发展的智能体技术立了规矩、划了红线。但是,智能体技术发展太过迅速,许多问题的规范并非一劳永逸。例如,人与AI如何协作、边界如何划定、责任如何界定等。因此,关于智能体的治理,还需针对问题、精准施策,不断创新完善相关法律法规体系。

要进一步实现精准施策与包容创新的平衡。智能体应用场景广泛,风险程度差异巨大,“一刀切”的监管模式既可能扼杀创新活力,也无法有效防范高风险领域的安全隐患。未来进一步的立法可以探索分类分级的监管原则。同时,要明确“谁开发谁负责、谁运营谁负责、谁使用谁负责”的全链条责任体系,建立智能体损害赔偿制度,明确自主行为造成损害时的归责原则和赔偿标准。

推动技术治理与法律治理深度融合,提升治理的科学性和有效性。智能体的治理既是技术问题,也是法律问题,可以探索“以技术管技术”的治理思路。立法应当鼓励和支持安全技术研发,推动规则内嵌、行为围栏等技术在智能体治理中的应用,从技术上限制智能体的行为边界。同时,要加快制定基础通用、关键技术、安全管理等方面的国家标准和行业标准,为法律实施提供坚实的技术支撑。

发展和安全是一体之两翼、驱动之双轮。我们既要抓住历史机遇,大力推动智能体技术创新和应用落地,为经济社会发展注入新动能;又要增强风险意识,加快完善法律制度,筑牢安全防线,让AI更好地服务于国家发展和人民福祉。

来源:人民日报客户端

相关内容

热门资讯

原创 苹... 有不少朋友疑惑苹果iPhone 16 Pro和16 Pro Max有什么区别?该选择哪一款更好?各自...
2024年OPPO手机全攻略:... 手机已不仅仅是通讯工具,它更是我们记录生活、享受娱乐、提升工作效率的重要伙伴。随着科技的飞速发展,O...
2025年值得入手的2款智能手... 在科技飞速发展的今天,智能手表已成为我们生活中不可或缺的伙伴。无论是健康监测、信息提醒,还是时尚搭配...
原创 2... 从去年华为用上了麒麟芯片开始,华为的市场份额就蹭蹭的往上涨,当时抢购的人特别多,一时间还买不到现货,...
第五轮学科评估对比:西安交大突... 在之前的文章中,我们已经提及西安交通大学第五轮学科评估的表现可圈可点,新晋的3个A+学科:机械工程、...
vivo手机5g开关在哪里打开 vivo手机5G开关的打开方式可能因手机型号、系统版本及运营商网络支持情况的不同而有所差异。但总体来...
原创 麒... 为了普及原生鸿蒙(鸿蒙5.0),抢占更多的中端手机市场份额,华为nova系列今年开始计划一年两更,n...
解决FaceTime无法使用的... FaceTime是苹果公司推出的一款视频通话应用,广泛应用于iPhone、iPad和Mac等设备上。...
steam官网无法访问?这个办... 对于广大游戏爱好者而言,Steam平台无疑是获取最新游戏资讯、购买游戏、与全球玩家互动的重要阵地。然...
原创 直... #热点周际赛# 随着科技的进步,儿童智能穿戴设备逐渐成为了家庭中的新宠。华为作为智能穿戴领域的领军者...