“国庆假期7天，被‘雷军’骂了8天”“刘晓庆回应‘画面是我、声音像我、但不是我’”。自AI生成技术普及以来，一批AI在声音、视频领域的技术滥用、侵权问题引发大众关注。去年4月，北京互联网法院对全国首例“AI声音侵权案”做出了一审判决，判决提到，利用人工智能合成的声音，如果能使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。可以看出，目前针对AI换脸拟声领域方面仍无单行法。

今年全国两会期间，人工智能生成内容方面的规范、预防和治理成为了多个代表委员关注的话题。小米CEO雷军、TCL创始人兼董事长李东生、科大讯飞董事长刘庆峰等多位代表提出，要加快针对AI生成合成内容单行法的立法、厘清人工智能生成合成全链条上各方责任，同时要求对生成内容强制标识、对传播中“易感”人群加大普法，以及要研发AIGC幻觉治理技术、开展AIGC深度鉴伪。

加快AI生成、合成内容单独立法

据了解，截至目前，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规已颁布实施，《人工智能生成合成内容标识办法(征求意见稿)》完成社会意见征集对人工智能立法进行了有益探索。但目前“AI换脸拟声”的有关规定，尚存在效力位阶偏低、内容偏原则且分散、多个部门职责交叉或职权定位有待明晰等不足，导致现阶段针对“AI换脸拟声”造成的侵害，只能依靠基础法律中关于隐私权、肖像权、名誉权等的零散法条来规制。

雷军提议，加快单行法立法进程，在安全与发展并重的基础上提升立法位阶。建议针对“AI换脸拟声”等某一代表性问题，探索推出人工智能单行法，提高立法位阶及其效力分级分类的基础上进行务实治理，明确“AI换脸拟声”应用边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。与时俱进探索新议题的细化监管措施，凝聚人工智能伦理规范共识。

近期，“AI制作被埋废墟的小孩”等传播虚假信息事件曾引发广泛关注，损害涉及众多不特定个体或经营者，通过传统的私益诉讼难以实现有效的救济，针对人工智能损害的救济问题，《人工智能法（学者建议稿）》第92条专门提出了人工智能公益诉讼条款，或将实现对AI伪造现象的有效治理。

最高人民检察院公益诉讼检察厅厅长徐向春在接受南都记者采访时表示，人工智能技术的广泛应用虽然带来了诸多便利，但若不当使用也可能对公共利益造成多方面的损害，特别是损害诚信体系和核心价值观，破坏正常的交易秩序、社会秩序。这些损害往往都会涉及众多不特定个体或经营者，仅仅通过传统的私益诉讼难以实现有效的救济和治理。截至目前，检察公益诉讼办案领域已经拓展至15个领域，检察机关也在探索大数据法律监督模型构建，发挥新技术在公益诉讼办案中的应用，积极应对人工智能滥用可能引发的公益损害，开展更精准有效的监督。

厘清人工智能生成合成全链条上各方责任

人工智能生成合成全链条涉及的软件服务方、内容制作者、网络平台、传播用户以及金融服务商、电信运营商等等，都是治理责任传导链的重要主体。雷军在今年的提案中提到，考虑到涉及的相关方多、区域分布广散，通过技术和法律手段并重、监督管理和自律自治两手抓，以及加强跨区域、跨部门的协调联动有助于实现“事前预防、事中阻断、事后打击”的治理效果最大化。

全国人大代表雷军接受媒体采访。 新华社图

针对上述情况，雷军还提到，治理“AI换脸拟声”，应强化行业自律共治，压实平台企业等各方的责任和义务。他还再进一步建议，应支持平台企业开发可精准识别人工智能深度合成内容的技术能力，创新直接有效的治理工具供给；同时加大人力物力投入，优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制，确保及时阻断问题内容传播；再有，应鼓励通过行业自律公约、先进治理平台奖励表彰、拓展跨境合作机制等举措，培育行业自治动力和共治价值，推动形成可复制推广的有益经验。

针对人工智能生成合成全链条涉及的各方，全国人大代表、TCL创始人兼董事长李东生也提到，应明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善对深度合成内容服务提供商未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。

昆仑万维董事长兼CEO方汉在接受南都记者采访时提到，AI企业应强化AI生成内容的审核与溯源能力，严格实施实名认证、使用场景分级管理，对高风险内容（如换脸拟声）设置显著风险提示与用户授权验证。另外，我国从2023年8月15日起施行《生成式人工智能服务管理暂行办法》，仍需加快完善实施细则，明确AI侵权行为的法律责任认定标准，探索“技术提供方-平台方-用户”三方责任边界，并加大对恶意黑产的打击力度。

生成内容强制标识，对“易感”人群加大普法

在传播时，AI深度合成的标识常会起到一定程度的提醒作用。李东生在此次两会提交的建议中提到，要规范深度伪造技术的不当利用行为，有必要要求深度合成服务提供商对人工智能生成的内容进行强制标识，减少恶意滥用，并厘清责任、对违法犯罪行为追责。

同时李东生也观察到，近年来，我国相关立法虽有关注这一议题，但已出台的规章制度尚不成体系，还不具备可操作的细则和明确的处罚标准。对此，李东生建议加快人工智能深度合成内容标识管理规章制度的出台，同时加强深度合成内容标识技术标准和发布的管理，出台深度合成内容标识的技术标准，保证标识的有效性。

在传播链条上，雷军在今年的两会提案中还提到，要加大普法宣传的广度力度，增强民众特别是青少年与老年人的警惕性和鉴别力。为此他建议，一是要加强人工智能方面的法制宣传教育，引导公众对“AI换脸拟声”的侵权内容通过正规渠道进行举报；二是要加强公众对个人人脸、声音、指纹等生物信息的保护，避免给犯罪分子提供便利素材；三是要在社交媒体、短视频平台等“AI换脸拟声”侵权行为的多发地以用户能广泛接触、乐于接受的方式开展“破绽识别”技巧宣传，提升用户多渠道辨别内容真实性的数字素养；四是要聚焦重点人群，在中小学人工智能教材中加入伦理规范内容，针对老年群体开展相关知识普及活动，在全社会夯实“以人为本、智能向善”的人工智能发展生态。

研发AI幻觉治理技术，开展AIGC深度鉴伪

全国人大代表、科大讯飞董事长刘庆峰提到，中国互联网络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》显示：我国生成式人工智能产品的用户规模已达2.49亿人。生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成恶性循环，影响公众信任和社会稳定。

全国人大代表、科大讯飞董事长刘庆峰（央视采访画面）

刘庆峰认为，从技术层面上要研发AIGC幻觉治理技术和平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源。同时也应定期清理幻觉数据，他提议由中央网信办、国家数据局等部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。