微信公众号 计算机与网络安全

加入知识星球人工智能、算力算网 下载文件

通用大模型合规管理体系指南

通用大模型作为人工智能应用发展的核心引擎，凭借其优秀的通用性、泛化性及技术赋能特性，正渐进成为人工智能行业的新型基础设施，为经济发展与产业转型注入新动能。然而，随着通用大模型驱动的人工智能对社会结构、产业生态以及人类生活方式的影响逐步扩大，其在数据安全、可解释性、隐私保护、知识产权归属、内容安全、责任归属等方面的治理风险也在逐渐显露。

本文件规定了在组织内开展、支持和持续改进人工智能通用大模型合规管理工作的要求并提供指导，组织应将其合规管理的重点放在通用大模型的某些特征之上，例如数据质量、隐私保护、模型可解释性和可扩展性等。如果通用大模型与传统的人工智能技术相比引发了额外的安全风险，组织可在本文件的基础之上采取不同的保护措施。

AIGC服务安全应急响应指南

为贯彻落实《生成式人工智能服务管理暂行办法》要求，指导生成式人工智能服务提供者等有关单位做好安全应急响应工作，本文件围绕生成式人工智能服务安全事件给出了安全事件的分类和分级建议，并给出了生成式人工智能服务安全事件应急响应过程，包括应急准备、监测预警、应急处置、总结改进阶段的管理措施和技术方法，可用于指导生成式人工智能服务提供者提高安全应急响应能力。

|来源：中国互联网协会，全国网络安全标准化技术委员会秘书处