摘要：近两年来，人工智能生成内容（AIGC）技术以前所未有的速度融入了我们的数字生活。从令人惊艳的AI画作，到可以模仿任何声音的AI音频，再到以假乱真的AI视频，这项技术在提升效率、激发创意的同时，也为内容生态的健康带来了新的挑战。

近两年来，人工智能生成内容（AIGC）技术以前所未有的速度融入了我们的数字生活。从令人惊艳的AI画作，到可以模仿任何声音的AI音频，再到以假乱真的AI视频，这项技术在提升效率、激发创意的同时，也为内容生态的健康带来了新的挑战。

为了确保人工智能的负责任发展，一场深刻的行业变革正在拉开序幕。近日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》引发了广泛关注，该办法已明确于2025年9月1日起正式施行。

这项新规的核心要求十分明确：所有由AI生成的文字、图片、音频、视频等内容，都必须“亮明身份”，进行显著标识。那么，这究竟意味着什么？它又将如何影响我们每天浏览和分享的内容？

新规之下平台与创作者面临的新责任

这项新规并非一份简单的倡议，而是一项具有强制性的规定，它为内容平台和创作者划定了一条清晰的责任红线。

平台责任是关键

根据规定，各大内容平台，无论是短视频、社交媒体还是图文社区，都必须承担起内容审核的主体责任。平台在内容上架或上线时，需要核验其是否为AIGC内容，并对未进行标识或疑似AIGC的内容添加风险提示。这意味着，平台需要建立一套行之有效的技术和管理流程，来确保内容的合规性。

目前，国内主要平台已经开始行动，纷纷出台了细化规则，要求内容发布者主动标识AIGC内容，并对未标识的内容采取限流、下架甚至封号等处罚措施。

创作者需主动申报

对于广大AIGC创作者而言，“主动申报”将成为未来内容发布时的必要步骤。在上传作品时，平台会提供相应的功能选项，让创作者明确告知该内容是由AI生成。这不仅是一项合规义务，也是对内容消费者知情权的尊重。

平台治理的永恒挑战

AIGC内容的标识与治理，为平台的内容管理带来了新的维度。但这并非一个孤立的问题，而是叠加在平台长期面临的、更为基础和严峻的内容安全挑战之上。

无论内容由谁生成，是人类还是AI，平台首先必须确保其不包含色情、暴恐、违禁、广告等违法违规信息。随着UGC（用户生成内容）和AIGC内容的爆炸式增长，平台审核团队正面临着前所未有的压力。

● 审核效率的瓶颈

海量的内容涌入，单纯依靠人工审核早已不现实。一个中大型内容平台，每日新增的内容可能达到百万甚至千万级别，审核团队的规模和效率都难以跟上。

● 审核标准的一致性

不同审核员对标准的理解可能存在偏差，导致审核结果不一致，影响用户体验和平台公信力。

● 新兴违规形式的对抗

违规内容的形式也在不断变化，例如通过图片、视频中的微信号、二维码进行引流的垃圾广告，或是各种经过伪装的暴恐、涉政信息，这些都对审核能力提出了极高的要求。

自动化内容审核的价值

面对这些挑战，采用AI技术进行自动化的内容审核，已成为所有平台的必然选择。内容审核系统，是保障平台健康运营、规避法律风险的生命线。七牛云推出的内容审核服务致力于通过成熟的AI能力，为平台提供覆盖图片、视频、音频、文本、直播流等多媒体类型的、精准高效的自动化审核解决方案。

多维度的精准识别能力

我们的内容审核服务，能够精准识别并过滤各类违规内容，为平台构建坚实的安全防线。

● 色情内容审核： 能够精准识别图片、视频、直播中的涉黄内容，准确率高达98%。

● 暴恐内容审核： 支持识别血腥、爆炸、枪支等10余种贴合真实场景的暴恐类型。

● 政治敏感审核： 支持识别各类敏感人物，包括国内国际政要、革命英烈、劣迹艺人等。

● 垃圾广告审核： 可实时过滤图片、视频中利用微信号、手机号、QQ等方式开展的违法垃圾广告内容。

● 不良场景识别： 支持识别吸烟、喝酒、吸毒等不良场景，并特别支持对未成年人画面的识别。

为平台降本增效

通过引入七牛云的智能审核服务，平台可以将绝大部分的审核工作自动化，可帮助平台节约80%以上的人工审核成本。这使得审核团队可以将宝贵的精力，投入到处理更复杂、更需要人工判断的申诉和复核工作中，极大提升了整体运营效率。

“AI生成内容必须亮明身份”的新规，标志着AIGC行业正从野蛮生长，迈向一个更加规范、负责任的发展阶段。这无疑对平台的内容治理能力提出了更高的要求。

然而，无论技术如何演进，保障内容安全与合规，始终是平台生存与发展的基石。在应对AIGC带来的新挑战之前，首先要构建起一个强大、可靠的自动化内容审核体系，高效地处理海量的基础安全问题。

我们相信，通过专业的技术服务，平台可以更从容地应对法规变化，将更多精力聚焦于社区运营和业务创新，从而在激烈的市场竞争中行稳致远。

来源：七牛云行业应用