在今年全国两会上，全国政协委员靳东表示，一些喜欢其影视作品的观众，被“AI换脸”视频骗得很惨；全国人大代表雷军也提到，网上诸多“AI雷军”的视频使他本人深受困扰。如何避免AI技术被滥用，引发社会关注。

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》)，自2025年9月1日起施行。

《标识办法》明确，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式。该办法强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

民盟北京市委创新委副秘书长、海淀区律师协会参政议政促进工作委员会副秘书长常文娟介绍，显式标识就像生成式人工智能的“身份证”，会清晰标注在AI合成内容的固定位置，一看便知；而隐式标识是“DNA”，往往要通过专业工具，才可识别。

长期以来，我国虽有《网络安全法》《互联网信息服务深度合成管理规定》等法律法规，但针对人工智能生成内容的专门法规仍嫌不足，监管部门在执法过程中可能面临法律依据不足的问题。常文娟表示：“《标识办法》的出台，填补了这一空白，并在现有法律框架的基础上进一步细化了具体执行细则。”

在她看来，当下实行显式标识与隐式标识并行的双重标识方式，保障了公众知情权，强化了监管效能，还为监管部门提供了技术抓手，对虚假信息传播可以起到一定的遏制作用。

此外，《标识办法》中，进一步细化了生成服务提供者、传播平台、用户的义务，也使各方在AI生成内容的生产、传播和使用过程中都有章可循。

人工智能技术的应用需要创新，也需要被监管。全国政协委员、九三学社中央科技专委会副主任、中国科学院计算技术研究所研究员张云泉表示，人工智能发展到今天，分阶段进行动态监管是“刚需”。

“发布《标识办法》，标志着我国对AI的内容监管进入新阶段。”他认为，AI监管的方向在于，寻求技术发展和合规要求之间的平衡。当下的监管，能有效防范潜在风险，且暂时不会对生成式人工智能的创新造成太多影响。

张云泉建议，监管初期，应鼓励创新，避免过早施加严格限制，允许技术创新发展。随着技术成熟，逐步引入监管框架，确保其应用符合社会伦理和法律要求。在进行动态监管的过程中，政策应具备灵活性，能够根据技术进步和应用反馈及时调整，避免僵化呆板，影响技术创新。同时，鼓励创新，确保AI生成技术的合规应用，实现技术进步与社会责任的平衡。(完)(《中国新闻》报刘益伶报道)

【编辑:李岩】