摘要：能问出这个问题的人，多是“不易受骗体质”，反之，就需要提高警惕了——媒体日前调查发现，有人利用AI造假，无底线博眼球，作为起号变现捷径，虽然部分视频存在明显技术破绽，但浏览、点赞、评论量依旧不少。社交平台上还有不少AI造假起号教程，情感、养生、颜值类是“重灾区

“帅哥”“美女”高频率更新，分享穿搭、养生等秘籍，视频细节满满，也未设置AI生成提示，出镜者就一定是真人吗？

能问出这个问题的人，多是“不易受骗体质”，反之，就需要提高警惕了——媒体日前调查发现，有人利用AI造假，无底线博眼球，作为起号变现捷径，虽然部分视频存在明显技术破绽，但浏览、点赞、评论量依旧不少。社交平台上还有不少AI造假起号教程，情感、养生、颜值类是“重灾区”，也有不少网友求购和出售账号，“百万粉丝的号要十几万元”。

AI造假起号，重点是造假。最浅显的假，是画面以假乱真：《人工智能生成合成内容标识办法》要求对AI生成合成内容进行显示标识和隐式标识，主流网络平台也普遍升级AI内容识别系统，一些人依然通过各种手段避开审核，甚至传授绕过平台“AI打标”的经验，存的是什么心思？

所谓“教育专家”“养生专家”输出的观点中，不乏违背科学原则、极端绝对的说法，暗藏误导风险，当用户互动咨询时，账号背后的运营者还会借机推送“三无”产品。起号成功后，大多账号会隐藏AI引流内容，开始挂橱窗带货、引流卖课；有的顺势打出“AI起号实战”噱头，将自身包装成“成功案例”售卖起号课程；还有一部分账号被明码标价进行售卖。如此糊弄用户，无视消费者知情权，无异于“深度造假”。

在“百万粉丝网红疑遭勒索后自杀”等网络谣言背后，也有AI造假起号的身影。或生成数字人，或通过“文生图、图生图、图生视频”流程生成视频，一些人传播低俗猎奇信息，加速虚假新闻、谣言传播，扰乱网络空间秩序。这一层面的造假，影响更为广泛。

从技术层面看，AI造假起号黑灰产业链是技术异化的结果。在别有用心之人与平台的技术攻防战中，平台需不断提高对深度伪造内容的检测精度，打击和防范滥用AI行为。需要进一步思考的是，有商家提到“现在平台风控很严，账号会升值”，有其现实逻辑。AI加持下，批量起号的成本和门槛大大降低，只要平台不能百分百识别出违规内容，就会有账号依旧能多手段变现，甚至成为大号。而“变脸”带货涉嫌侵犯消费者权益，直接售卖账号违背反电信网络诈骗法“任何单位和个人不得非法买卖、出租、出借互联网账号”，这不是平台单方面可以解决的。

其实，在AI普及之前，就有人通过造谣等手段起号。技术治理能减少滥用AI带来的破坏力，但斩断违规账号流量变现的利益链条，才是从根源打击黑灰产业链的关键。AI造假起号怎么罚，买卖账号如何处理，如何完善公众参与乱象治理机制……唯有进一步完善相关规则，方能更好净化内容生态。（维辰）

来源：中工网一点号