摘要：近日，人工智能领域的新闻接连上了热搜。2025年8月29日，成都市公安局金牛区分局发布警情通报，查明某教育咨询有限公司负责人为了增粉引流、提升业绩，以AI工具生成多篇虚假文章，目前此人已被依法行政拘留；8月30日，台球女运动员王思诺发布视频表示，自己遭人恶意利

近日，人工智能领域的新闻接连上了热搜。2025年8月29日，成都市公安局金牛区分局发布警情通报，查明某教育咨询有限公司负责人为了增粉引流、提升业绩，以AI工具生成多篇虚假文章，目前此人已被依法行政拘留；8月30日，台球女运动员王思诺发布视频表示，自己遭人恶意利用AI人工伪造淫秽视频并传播，目前已启动法律程序。曾遭遇类似经历的台球女裁判王钟瑶也发视频力挺王思诺。

AI“一键生成”文章、图片乃至视频早已不是新闻，而是“未来已来”的社媒现象。近年来，AI生成的虚假文章乃至虚假图片/视频，已经可以做到“凭空捏造一个平行宇宙”的地步，并且以虚拟世界持续挑战着现实世界。如果说AI工具初露峥嵘时展现的“特朗普讲中文”“霉霉唱中文歌”“AI穿越古代报新闻”还只是悦人耳目的娱乐的话，那么利用AI炮制虚假信息甚至淫秽视频，就涉嫌违法犯罪了。

从这两起AI工具假内容事件来看，涉事人出于牟利目的而“以假乱真”，其背后的驱动力是相当强大的：教育咨询公司负责人希望以“科研神童制造链”“三好学生名额成‘期货’”“家长集资千万聘私教”这样的虚假文章刺激家长与学生的焦虑情绪，进而为自己的业务带来新的增长点；而“AI造黄谣”涉事人的动机就更为明显：以AI生成的淫秽视频在境外网站吸引毒流量牟利。

发视频力挺王思诺的王钟瑶表示，自己几年前遭遇类似经历时选择了报警，但却没有得到公开回应，这无疑进一步增添了外界的担忧。如果“零成本造黄谣”之后受害人却“维权困难”的话，恐怕就会形成负向激励，让更多的有心之人铤而走险。相较于早期移动互联时代甚至是移动通信时代，强人工智能无疑给涉事人插上了新的翅膀，“动动手指”就可以增粉引流与诈骗犯罪，“效率”得以大大提升。

有鉴于此，如何斩断AI虚假内容的源头，就需要改善立法、加强执法，同时鼓励行业自律。

2025年9月1日起，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《办法》）正式施行。《办法》明确规定，所有AI生成的文字、图片、视频等内容都要“亮明身份”，腾讯、抖音、快手、B站、DeepSeek等平台均针对《办法》出台了细化规则。这是继《生成式人工智能服务管理暂行办法》之后，有关AI领域的又一部法规。

目前，抖音已上线了“AI内容标识功能”与“AI内容元数据标识读写功能”，或被动协助创作者进行AI标识，或主动识别AI内容进行内容溯源；腾讯宣布会对AI生成合成内容添加显式标识与隐式标识；B站则在投稿侧提供标识选项，要求用户不得恶意篡改、隐匿相关标识；快手也表示会添加“AI生成”显示标识以及嵌入文件元数据里的隐式标识，同时会对检测为疑似AI的内容进行显著提示。

纵观这些平台方推出的新规，共同点是增加了AI标识的强制性，减少了“半真半假”的灰色空间。所谓“宇宙的尽头是流量”。不难想象，如果没有外部监管与法律约束，自媒体创作者、平台方恐怕没有多少动力去主动标注或是明确声明自身内容为AI生成，因为“以假乱真”本身就是自媒体追逐流量的一大法门，而那些本来就意图进行诈骗侵权或是生成淫秽视频牟利的涉事人更不会这么做。

也要看到，从技术上来说，对于图片、视频等形式的AI创作内容，在“元数据”中添加AI生成标识，普通人要去掉标识有一定难度。但是文字类内容，即使AI生成时在文本中插入了标识，要删除这些标识也是很容易的，而要识别一段没有特别标识的文字是否为AI创作，是非常困难的事。不过，虽然难，平台也要尽量识别，并提醒用户，小心鉴别。

强制AI生成内容标注并非对“技术中立”的干涉，而是对“技术中立”的更好保护。AI生成的内容未尝不能是真内容，而传统方法创作的内容也可以是假内容。在前一种场景里，AI工具只不过是辅助作者创作的助手，可以让本来就是真材实料的内容增强表现力；而在后一种场景里，即便没有AI工具的辅助，炮制虚假文章/视频的人同样要接受法律法规的约束，涉嫌违法犯罪的同样难逃罪责。

总之，《办法》的出台与各大平台的落地，展现了立法监管力图追上技术迭代的决心与实践。强制AI生成内容进行信息标注的法律法规，可以倒逼平台与自媒体更好地运用AI工具诠释现实世界，而不是肆意以虚拟世界入侵现实世界，侵害其他人的合法权益。面对无孔不入的AI工具，立法与执法仍应加快步骤，打上补丁，推动技术向善而不是纵容技术作恶。

王兢

责编 辛省志

来源：南方周末