必看！这些AI大模型备案要点你知道吗？

大模型备案的要求

为了确保生成式人工智能服务提供商达到《生成式人工智能服务安全基本要求》所规定的备案标准，以下是各个板块的重点审查内容和相应的提供材料：

1. 语料安全

语料来源安全

• 提供语料来源的安全评估报告。
• 确保含违法不良信息超过5%的语料未被采集或使用的证明文件。

语料来源多样性

• 提供语料来源的多样性报告，涵盖不同语言和类型的多源数据。

语料来源可追溯性

• 开源语料的授权协议或文件。
• 自采语料的采集记录。

商业语料使用

• 商业语料使用的交易合同或合作协议。
• 对交易方或合作方的语料审核报告。

语料知识产权保护

• 知识产权管理策略文件。
• 语料中知识产权风险识别和管理报告。

语料的个人信息保护

• 个人信息主体的授权同意书或其他合法使用证明文件。

安全评估

• 语料安全情况的评估报告，包括人工抽检、关键词、分类模型等方法的使用情况和结果。

语料标注安全

• 标注人员的安全培训记录和考核结果。
• 标注规则文件和标注语料的抽检报告。

2. 模型安全

模型合规

• 使用已经主管部门备案的基础型模型的证明文件。

内容安全性

• 生成内容安全性的引导和控制策略报告。

准确性和可靠性

• 提高生成内容准确性和可靠性的措施报告。

3. 安全措施

模型安全性

• 已备案模型的使用证明。
• 针对关键场合和未成年人使用场景的风险保护措施报告。

服务透明度

• 服务信息、模型算法概要、个人信息用途的公开文档。

用户输入信息

• 提供用户关闭信息训练功能的方式说明。
• 信息收集状态和关闭选项的显著告知文件。

内容标识

• 图片、视频等内容标识符合国家标准的证明文件。

计算系统安全

• 供应链安全评估报告。
• 芯片支持硬件安全启动的证明文件。
• 系统安全运行保障措施报告。

投诉举报机制

• 投诉举报途径的说明和处理规则、时限文件。

服务稳定性

• 训练与推理环境隔离措施报告。
• 定期安全审计和备份恢复策略文件。

提供商应确保上述所有材料的完整性、真实性和合规性，以顺利达到备案标准并获得主管部门的批准。

根据《生成式人工智能服务安全基本要求》的最新补充条件，生成式人工智能服务提供商还需满足以下具体要求：

补充条件

关键词库

• 关键词库数量不少于10,000个，并且关键词具有代表性。
• 每周根据网络需要更新关键词库。

生成内容测试题库

• 建立规模不少于20,000题的生成内容测试题库，确保题库的代表性和覆盖面。

拒答测试题库

• 建立拒答测试题库，包括应拒答题库和非拒答题库，各500题。

随着《生成式人工智能服务管理暂行办法》的实施，大模型备案所涉及到一系列相对复杂的流程与合规问题，对很多行业内的个体经营者提出了新领域的挑战。合规不仅是企业与开发者的责任，更是推动整个行业健康、有序发展的关键。在享受AI技术带来的便利和红利的同时，我们必须时刻保持警醒，确保每一步操作都在法律的框架之内。

森淼：专注算法备案，大模型备案，安全自评估，数据合规。