摘要：今年五月，网信办发布了新一轮的“清朗行动”，其中第一阶段头条就指出：利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序的AI产品重点整治。截至2024年，首批通过备案的大模型不足申报总量的30%，多数企业因踩中合规“雷区”被驳回。
今年五月，网信办发布了新一轮的“清朗行动”，其中第一阶段头条就指出：利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序的AI产品重点整治。截至2024年，首批通过备案的大模型不足申报总量的30%，多数企业因踩中合规“雷区”被驳回。
Part1：备案材料不全或信息有误
未提供完整的技术文档，如模型架构图、训练数据集清单等，导致监管部门无法全面了解模型情况。备案主体信息与营业执照不一致，如公司名称、法定代表人有误，或未明确服务类型，使备案信息的真实性和准确性受到质疑。
Part2：内容安全管理机制的缺失
未建立有效的内容审核规则、应急预案或投诉举报渠道，无法及时发现和处理违法违规内容。同时，未对生成内容添加明显且不可绕过的标识，如 “本内容由 AI 生成”，导致用户难以区分内容来源，易引发虚假信息传播等问题。
Part3：安全评估报告不达标
对大模型的 “可控性”“可解释性” 验证不充分，无法保证模型不会生成违法有害内容。同时，缺少漏洞扫描报告、渗透测试结果等技术安全证明材料，难以证明模型在面对网络攻击等情况时的安全性。
Part4：算法透明度不足
未详细说明模型训练数据的来源、合法性及授权情况，可能存在使用未经授权数据的风险，如盗版书籍内容、未授权公开数据等。同时，未披露算法原理、训练框架或核心技术机制，使监管部门难以了解模型的工作原理和潜在风险，如同 “黑箱” 一般。
Part5：数据合规性问题
训练数据中包含敏感信息，如国家机密、个人身份信息、民族宗教数据等，一旦泄露将造成严重后果。数据采集过程未取得用户同意，例如违反网站 robots 协议爬取公开网络数据，或未经授权使用受版权保护的内容，存在侵犯他人权益的法律风险。
Part6：数据安全措施薄弱
未对数据存储、传输进行加密，如明文存储用户对话记录，容易导致数据在存储或传输过程中被窃取或篡改。缺乏数据访问权限管理机制，内部人员可随意导出核心训练数据，存在数据泄露的风险。
Part7：未建立伦理审查机制
未对模型可能引发的社会风险，如偏见歧视、舆论操纵等进行伦理评估，无法提前发现和解决潜在的社会问题。模型输出存在性别、种族、地域等维度的偏见，如生成含有性别歧视的回答，可能对特定群体造成伤害，影响社会公平和和谐。
Part8：未成年人保护机制缺失
未设置未成年人使用限制，如未验证用户年龄、未屏蔽不适宜内容，未成年人可能接触到不适合其年龄阶段的信息。生成内容可能诱导未成年人沉迷或接触不良信息，如暴力、色情暗示等，对未成年人的身心健康造成不良影响。
当然，大模型备案的驳回原因远远不止以上几条，不同地区不同行业的备案要求不同，还是需要具体情况具体分析的。有其他备案问题欢迎后台交流~
来源：Ai产品备案嘉欣