摘要：在短视频平台的海量内容中，一种特殊账号正越来越活跃。这些账号里，由AI生成的数字人，要么扮演成西装笔挺的“投资大师”，要么化身温柔体贴的“健康顾问”，看似情感真挚却是暗藏玄机。还有一些主播花式打造人设，编撰家长里短、跌宕起伏的剧情，吸引中老年人关注，但最后，瞄

在短视频平台的海量内容中，一种特殊账号正越来越活跃。这些账号里，由AI生成的数字人，要么扮演成西装笔挺的“投资大师”，要么化身温柔体贴的“健康顾问”，看似情感真挚却是暗藏玄机。还有一些主播花式打造人设，编撰家长里短、跌宕起伏的剧情，吸引中老年人关注，但最后，瞄准的还是大家的钱包。

在一个名为“建国弟弟”的账号中，几条视频都是相同的形象，男子动作表情生硬，语调单一，有时口型甚至对不上台词，人物形象边缘也出现明显的抠图印记。但评论区里，还是有不少阿姨给他送上爱心和玫瑰花。

记者在某社交平台搜了下“建国”，就发现包括“李明哥”、“海阔天空”等账号名的18个“建国”，每个账号的粉丝数从几千到几万不等，在部分作品不明显的位置，有用小字标记的“通过AI数字人打造”字样，其中10个账号开通了橱窗，售卖所谓的“健康食品”等商品。

这类账号通常拥有高度相似的背景、人物形象乃至动作神态，唯一不同的是播报的内容，涵盖情感交流、国学文化、中医养生等多个领域，旨在精准击中中老年用户的兴趣点，从而迅速积累粉丝和流量。

一些老年消费者表示，这些账号发布的视频，乍一看很难分辨出是AI制作的。视频中的人物形象亲切、说话好听，很具有迷惑性。

不过，从熟悉视频制作的人看来，大部分AI数字人神态、语气都有不自然的地方，为什么部分老年人仍然会投入情感，沉迷其中，甚至心甘情愿掏腰包呢？特约评论员沈彬指出，尤其中老年女性，对网络内容的辨别能力不强，又渴望精神满足，就容易被一些别有用心的人重重围猎。之前有假靳东，有“秀才”摆拍，还有这一次的“建国弟弟”AI假人。AI人一张嘴就是“宝贝姐姐，建国弟弟想你了，岁月是一首诗”，一些内心比较空虚的老年妇女可能就被假象所迷惑。而且中老年人不一定能马上识别AI生成内容。网信部门几年前就明确规定，对于AI生成内容要做强制标注。但是我们看到一些AI骗局中，标注字体非常小、非常淡，很容易被受害者所忽视。

事实上，养生、情感内容一直是“收割”老年消费者的重灾区，被骗通常与受教育程度无关，而是沉迷视频带来的情绪价值。

有媒体报道，市面上已经涌现出制作数字人的外包公司，帮助客户搭建数字人形象，指导运营账号，服务价格在5000-10000元不等，相关AI账号目的就是利用老年人的同理心卖货。

根据宣传，在AI工具的辅助下，理论上一天可以创作出100条视频，最少3天就可以起号，从而轻松实现月入过万。变现方式包括创作分成、短视频或直播带货、广告变现等。

且不说AI账号带货的商品真假、质量如何，这些账号首先就触及了平台规则红线，有被封禁的风险。例如，腾讯视频号就有《细则》明确禁止使用AI工具生成的虚拟形象直播带货。

而随着技术快速迭代，针对中老年的AI换脸诈骗案也开始频繁出现。去年，江西就有一位老人被换脸视频蒙蔽，要贷款200万元给网恋男友“靳东”拍戏。此外，还有用AI换脸真人制作色情影片、盗刷医保的违法案例。

今年两会期间，除了政协委员靳东再次提到AI换脸的危害，小米创始人 雷军也抱怨自己的形象被做成了“AI人”。

AI技术的普及，不仅让带货骗局大行其道，还大幅降低了诈骗门槛，为“个人独狼式”的电诈提供滋生土壤，现在，甚至一两个诈骗分子就可以完成作案。

散发小广告的、编写钓鱼代码的、物色目标猎物的、利用话术引人上钩的、受害人上当后分散转移赃款的，甚至还有囚禁虐待电诈人员的“打手”。在电影里，成百上千人分工明确，流水式作业展开诈骗。

而现在在AI技术辅助下，一两名诈骗分子就可以作案，AI承担了从目标筛选到身份伪装，再到实施诈骗和逃避打击等以往诈骗中的关键任务，而这种情形在最新的案例中已经超过六成。

新型诈骗中，AI技术被“武器化”的程度令人咋舌。分析103篇诈骗案新闻报道可见，AI换脸技术使用率近一半。犯罪分子通过非法获取的人脸照片和语音样本，利用开源AI工具生成逼真的虚拟形象。

AI技术的普及使得诈骗手段更加多样化和难以防范，没有深厚技术背景的人也能轻松获取和使用相关技术实施诈骗，诈骗场景的多样性超出想象，冒充公检法机关、伪造亲友求助、虚拟投资平台等套路层出不穷。

数据显示，在所有AI诈骗案例中，冒充类诈骗占比高达62%，其次是金融类和交易类诈骗。还有诈骗分子把AI技术应用到了交友“赛道”。

随着AI技术的不断升级，甚至逐渐形成了一条分工明确、相互协作的完整化黑色产业链。上游技术提供者通过暗网兜售“AI换脸套餐”，价格从几百元到数万元不等。中游推广者利用非法获取的个人信息库，通过短信、社交软件精准投放诈骗信息。下游洗钱者则通过虚拟货币、跑分平台等渠道转移资金。整个过程中，技术、数据、资金形成了完整闭环，而随着AI技术不断发展，黑色产业链也在不断升级和演变，打击AI诈骗面临着更大的挑战。

AI技术一日千里，老年人成了最容易上当的群体之一，怎样帮助老年人反诈？如何识别AI皮套下的骗术？我们还能做些什么？特约评论员沈彬介绍，这个月我国网信部门发布了《人工智能生成合成内容标识办法》，今后，相关标识一定要非常明确、必须强化AI的显著标识，不能再打“擦边球”，要让用户能够辨别出是真人还是假人，不允许在网上以假乱真。另一方面，也要强化司法的有所作为，对这样的AI假人能够及时“亮剑”，坚决斩断黑灰色产业链。而互联网平台也要守土有责，履行社会责任，决不允许大量劣质的“AI人”在互联网上打“擦边球”。另外，还要加强针对中老年人的互联网知识普及，让他们明白网上什么是真的，什么是假的，帮助他们提升AI的鉴别能力。

来源：看看新闻Knews