假的！假的！AI主播卖假货，央视曝光！谁来管这信任崩塌？

摘要：2025年秋天，网上好多直播在卖樟树港辣椒种子，主播说一亩能收六千斤，植株长得跟人一样高，看着像真事儿，可细看就不对了，农户的腿跟辣椒丛叠在一起，无人机喷的雾像画出来的三角形，根本不是自然飘开的，湖南湘阴的农艺师黄源看了直摇头，真辣椒没那么高，也就半人高，叶子

2025年秋天，网上好多直播在卖樟树港辣椒种子，主播说一亩能收六千斤，植株长得跟人一样高，看着像真事儿，可细看就不对了，农户的腿跟辣椒丛叠在一起，无人机喷的雾像画出来的三角形，根本不是自然飘开的，湖南湘阴的农艺师黄源看了直摇头，真辣椒没那么高，也就半人高，叶子也不是那样，一亩地最多收三千斤。

记者去了一家做AI视频的公司，拿自己的照片，三分钟就生成了一条带货视频，衣服从T恤换成西装，矿泉水变成红酒，英文口播也说得自然，不用配音训练，也不用真人出镜，这不是谁故意骗人，是AI工具太好用了，造假几乎不用花钱，普通人根本看不出来，连表情和语气都跟真的一样。

不止农民被骗，名人也中了招，北大李玲教授被人用AI合成的视频推销什么神药书籍，她马上出来说明，我没卖过药，也没写过这种书，奥运冠军、院士、明星，全被AI偷了脸去代言产品，中国政法大学的朱巍说，这不是模仿，是造假，人脸和声音都被偷了，侵犯的是人自己的权利，到2025年9月，全国有两亿三千万人用过生成式AI，可新出的AI生成内容标识办法才一个月，骗子就已经学会躲过去，改编码、调帧率、盖水印，平台根本拦不住。

法律没跟上，平台也反应慢，规定说AI内容得打标签，可没讲清楚该谁来管，是拍视频的人，是发视频的平台，还是卖AI工具的公司，平台现在靠算法找假内容，可都是先放出来再查，等发现是假的，视频早就传了几千万次，普通用户更分不清，看见“专家推荐”“明星同款”就信了，脑子一热就下单，以前是东西假，现在连人都是假的。

有人觉得消费者得自己留点神，可这根本做不到，AI现在能一模一样模仿人的表情、语气、手势，你靠眼睛还能信什么，这不是谁不够小心的问题，是整个系统出了问题，平台得在技术上动真格的，比如给所有AI生成的内容加数字水印，用区块链把来源记清楚，工具开发商也不能装没看见，要是软件默认就能合成名人视频，那就别想躲开责任。