摘要：几个月大的婴儿忙着做家务，氛围感女孩分享穿搭美学，精神矍铄的老人传授养生秘诀……打开各大社交媒体，总能刷到这类AI生成视频。媒体调查发现，其中大量账号都是利用技术造假博眼球，以达到快速起号变现的目的。

几个月大的婴儿忙着做家务，氛围感女孩分享穿搭美学，精神矍铄的老人传授养生秘诀……打开各大社交媒体，总能刷到这类AI生成视频。媒体调查发现，其中大量账号都是利用技术造假博眼球，以达到快速起号变现的目的。

随着人工智能技术日益普及，AI 作品的形态愈发多元。过去，发布一个视频可能需要真人出镜、素材剪辑、特效制作等多个环节，如今在软件上输入关键词即可迅速生成画面，哪怕根本不符合常识逻辑，但粗看起来也能做到细节满满、衔接丝滑。若这种作品用于自娱自乐倒也无可非议，但一些别有用心之人显然将其作为行骗的利器。此类视频为了引流，往往走猎奇低俗、挑动对立的路子，任由这种虚假信息泛滥，将极大扰乱网络传播秩序。

针对人工智能生成合成内容，相关规定早已明确，无论文本、音频、视频还是虚拟场景，都必须“在适当位置添加显著的提示标识”。但在具体实践中，随着AI起号成为产业链，利益环节更多了，绕过规则的手段也迅速升级。调查发现，很多账号背后都有专业平台操控。这些平台不仅以“条条爆款”为噱头吸引普通人买号、买教程，还宣称，“从直播间搭建、选品策略、话术设计到违禁词规避等，我们有一套运营体系，学员照葫芦画瓢就行。”由于AI生成效率高、成本低，就算被发现造假，大不了换个“马甲”重来。

从视频带货到爆款文章，AI生成内容在网络空间的占比越来越大，人工智能治理已不仅是技术命题，更是深刻的价值课题、安全问题。目前，各大平台都已上线AI检测工具，但“先发后审”的滞后机制明显给造假留下了空子。能否将关口前移对相关内容有所过滤？能否从推广商单、购物链接入手切断AI起号的利益链条？能否对那些教人“制造爆点”的课程进行限流？这些都考验着平台营造健康内容土壤的决心。当然，随着信息来源愈发庞杂，即便日常冲浪也离不开一定的媒介素养，对于那些看似热情的推销、知心的陪聊，大家还是要擦亮双眼“多长点心”。

引导技术向善，最重要的是划定底线红线。以法治方式治理AI技术滥用之乱，才能让其成为服务于人的工具，而非坑人害人的利器。

图源：视觉中国

来源：京报网