摘要：8月1日下午，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部四部门联合发布了一项针对面向公众的大模型的新规，旨在进一步规范人工智能技术的应用，保障公众权益和社会安全。新规要求，所有面向公众的大模型在上线前必须通过“三级等保+红队+水印”三道

8月1日下午，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部四部门联合发布了一项针对面向公众的大模型的新规，旨在进一步规范人工智能技术的应用，保障公众权益和社会安全。新规要求，所有面向公众的大模型在上线前必须通过“三级等保+红队+水印”三道严格的安全关卡。

其中，“三级等保”是指信息系统安全等级保护的第三级，要求系统能在统一安全策略下防护免受来自外部有组织的团体、拥有较为丰富资源的威胁源发起的恶意攻击，以及较为严重的自然灾难，保障系统持续运行。“红队”测试则模拟真实的网络攻击场景，由专业团队对大模型进行全方位的渗透测试，以检验其在面对各种恶意攻击时的安全性和稳定性。“水印”技术则是在大模型生成的内容中嵌入不可见的标识，以便在出现问题时能够追溯内容来源。

新规还对大模型的内容质量提出了明确量化标准，要求幻觉率、偏见率、违法内容率分别不得高于2%、1%、0.1%。幻觉率过高可能导致大模型生成虚假或误导性信息，偏见率则反映了模型在数据训练过程中可能产生的对特定群体的不公平偏向，而违法内容率的严格限制旨在确保大模型不会传播任何违反法律法规的信息。

对于未通过评估的服务，新规明确将采取强制下架措施，并对相关责任主体处以1000万元的顶格罚款。这一严厉处罚旨在促使企业高度重视大模型的安全和质量问题，切实履行社会责任。

该新规将于10月1日正式开始执行，留给相关企业和机构一定的时间进行自查和整改，以确保符合新的监管要求。随着人工智能技术在日常生活和工作中的广泛应用，此次新规的发布被视为对行业健康发展的重要引导，有助于提升公众对大模型技术的信任度，同时也为行业树立了清晰的规范和标准。

来源：93913虚拟现实