□江德斌

11月24日，胖东来商贸集团发布声明，称在第三方网络平台发现多个账号，未经授权擅自利用AI技术手段生成于东来的声音，并对于东来或胖东来享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。胖东来称，此类未经授权，擅自利用AI技术手段和生成画面，实为博取流量而采取的违法侵权行为，对公众造成了误导，破坏了网络生态健康和秩序。胖东来严正警告，存在上述行为的账号，立即停止侵权行为。（11月25日上观新闻）

这些AI技术生成的视频，均采用文案编排的形式，用AI生成于东来的声音，再配以胖东来的素材画面，内容拟合度极高，看起来惟妙惟肖，普通网友很难分辨出是AI伪造的视频。由于这些并非于东来的真实声音和观点，视频内容存在一定的误导性，容易让网友产生误解，且涉嫌侵犯人格权及著作权，损害于东来及胖东来的名誉、形象，平台应采取措施将其删除，司法部门也可介入调查，追究造假者的法律责任。

此前，小米创始人雷军也曾受到AI配音的困扰，有网友用AI生成的“雷军语音包”制造恶搞视频并进行传播，引起了不小的网络效应，有不少网友信以为真。雷军对此公开回应称，对于此类行为感到困扰和不舒服，并希望大家不要继续这样做。随后，各个平台删除了相关恶搞视频。由此可见，AI生成技术虽然能够给网友带来便利，创作出丰富的创意作品，但如果滥用的话，也会产生社会负面效应。

近年来，AI技术飞速发展，降低了深度伪造和低价量产的门槛，AI生成影像、换声及换脸视频大量出现，一些制作水平高的作品，更是令人真假难辨。然而，这些视频虽吸引眼球，并获得了广泛的传播和关注，但背后隐藏的风险却不容忽视，一旦被不法分子利用，容易误导网络舆论，制造社会恐慌情绪，甚至诱发网络欺诈等。《2024年人工智能安全报告》显示，基于AI的深度伪造欺诈在2023年激增30倍，对网络安全和社会安全构成了较为严重的威胁。

网络空间的健康发展，离不开有效监管和强力治理。于东来和雷军遭遇的AI侵权案例，敲响了警钟，名人尚且被轻易侵权，普通人恐怕更加难以防范。对于AI生成技术的滥用和侵权行为，监管部门应采取措施加强监管，规范技术的使用标准和界限，遏制打击违法AI侵权行为。平台需加强AI生成内容的审核和管理，探索建立声音、肖像保护机制，确保用户合法权益不受侵犯。

需要看到的是，AI生成作品的传播效果良好，充分表明该技术的市场潜力和价值巨大，未来，随着技术的不断发展和完善，AI生成将在更多领域发挥重要作用。因此，在打击非法侵权行为之际，也要保护AI生成技术的正常合理使用，鼓励创作者通过正规渠道，获得合法授权，生成具有版权保护的创意作品，光明正大地传播、赚钱，以实现良性循环，让技术产生促进社会发展的正面效应。