▲和过去造谣不同，如今利用AI批量制造虚假信息，危害更甚。图/IC photo

“自媒体”发布不实信息，歪曲事实、误导公众等乱象，将被集中整治。

据报道，中央网信办决定自7月24日起，在全国范围内启动为期2个月的“清朗·整治’自媒体’发布不实信息”专项行动，集中整治“自媒体”发布不实信息乱象，从严打击恶意蹭炒误导公众、多种手段歪曲事实等突出问题，进一步规范“自媒体”运营行为，持续营造清朗网络空间。

其中，一项重要内容是整治利用人工智能（AI）生成合成技术，仿冒他人，或编造社会民生等领域虚假信息，欺骗公众。

近年来，AI技术的蓬勃发展深刻改变了信息传播方式，但也催生了利用其炮制虚假信息的新问题。不夸张地说，有效整治AI虚假信息已到了刻不容缓的地步。当前，从合成以假乱真的明星绯闻视频，到捏造耸人听闻的社会突发事件谣言，再到传播专业领域的伪科学内容，AI虚假信息的身影已然无处不在。

如日前就有媒体报道，7月20日，一条关于“湖北宜昌游船侧翻多人落水”的新闻引发关注，后经核实，正是利用AI技术炮制的假新闻，甚至配以AI处理的虚假图片以增强迷惑性。

相对于过去传播生态下的虚假信息，AI虚假信息的危害性更值得警惕。AI生成内容逼真度极高，普通民众仅凭肉眼和常识往往难辨真伪，误导性更强；尤其在公共安全、民生保障等关键领域，极易引发社会恐慌，冲击正常生产生活秩序。

加之，AI炮制虚假信息成本低、效率高，海量虚假信息的快速传播不仅严重侵蚀网络诚信基础，而且挤压优质内容生存空间，导致“劣币驱逐良币”，阻碍互联网行业健康发展。

而治理AI虚假信息，又面临着诸多现实挑战。随着技术进步，AI虚假信息在形式和内容上也不断迭代升级，与真实信息的界限愈发模糊。这使得传统的信息甄别手段往往力不从心。此外，溯源追责也更具难度，无法给予及时、有效的惩处。

因此，面对AI虚假信息的严峻挑战，必须注重源头治理，并多管齐下、协同共治。此次专项整治行动明确，健全标注机制，切实优化信息来源标注、人工智能生成合成内容标识等功能设置，在信息发布流程的显著位置提供标注选项，为用户开展相应标注标识提供便利。这算是源头之治的基础性一环。

应该看到，“自媒体”作为当前一个重要的信息发布主体，在杜绝AI虚假信息上，理应守土有责。而明确AI生成合成内容必须标注，不仅是对发布程序的一种规范，也利于提高用户的警惕性。

但要注意的是，相关标注要求其实之前就有之，当前最重要的是要敦促平台强化执行力度。此次整治行动还专门要求，应标未标的信息，不得进入算法推荐内容池。这一点若能得到严格执行，必将释放更强的约束力。

此外，AI炮制虚假信息的“能力”更强了，也要求平台应加强相应的技术研发，切实提升识别和拦截AI虚假信息的“技防”能力，从源头压缩其传播空间，并打消发布者的侥幸心理。同时，相关部门也有必要更加重视对公众关于识别AI生成信息的常识教育，提升社会的防范意识和能力。

根除AI虚假信息，贵在持之以恒。除了规范“自媒体”运营，长远来看，让AI虚假信息失去兴风作浪的空间，必须久久为功，充分凝聚监管部门、平台、行业协会等各方合力。以此次专项行动为契机，加快推动AI虚假信息治理从“雷霆打击”到常态化防范、制度防御的进阶，值得期待。

编辑 / 徐秋颖

校对 / 吴兴发