摘要：最近几年，AI火遍了全行业。从写文章到编代码，从聊天机器人到预测股价，AI大模型成了无数人眼里的“万能钥匙”。可这把钥匙好用是好用，却也让一些人钻了空子，把它变成了割韭菜的镰刀。

最近几年，AI火遍了全行业。从写文章到编代码，从聊天机器人到预测股价，AI大模型成了无数人眼里的“万能钥匙”。可这把钥匙好用是好用，却也让一些人钻了空子，把它变成了割韭菜的镰刀。

尤其是那些“黑嘴”，利用AI的漏洞批量造谣、刷屏、忽悠，把普通人耍得团团转。

今天咱们就来扒一扒这背后的套路，顺便聊聊咋别让AI把咱们的智商也给“割”了。

这事儿说起来不复杂，但操作起来真挺阴险。咱一步步拆开来看看这些“黑嘴”是怎么玩的。

第一步，他们用AI批量造谣

随便编个故事，比如“某公司悄悄投资了AI巨头”或者“某企业偷偷参与国家大项目”，听着挺像那么回事。

为了显得更可信，他们还不直接下结论，——“听说这公司给热门项目提供了算力支持”“产品里可能预装了某某系统”。这些细节听着专业，其实压根没法查，普通人哪有精力去求证？

第二步，全网刷屏

他们操控成百上千个账号，在微博、微信群、论坛里疯狂发帖，把谣言铺满网络。

为什么要这么干？因为AI回答问题得靠数据源，这些谣言越多，AI爬虫抓到的“信息密度”就越高，哪怕是假的，AI也会当真。

第三步，拿AI当枪使

黑嘴们直接问AI：“某公司是不是跟某巨头合作了？”AI一看网上全是这消息，二话不说就点头，结果一张嘴就成了“权威认证”。

这还不算完，他们把AI的回答截图，配上“内部消息”“AI证实”之类的标题，再满世界转发。

第四步，制造“权威幻觉”

普通人一看，好几个AI都这么说，感觉就像大数据分析出来的“真相”，谁还怀疑啊？于是谣言越传越真，黑嘴们再把这些截图当“证据”，几何倍数地扩散，搞得满城风雨。

最后一步，公司不辟谣，谣言就成了“死循环”。

AI继续拿这些假消息推理，散户信以为真，股价一波动，黑嘴们割完韭菜就跑路。整个过程，AI从工具变成了帮凶，普通人稀里糊涂就中了招。

欧洲新闻台报道

2024年8月6日，欧洲新闻台就报道一篇文章，《研究发现，人工智能聊天机器人故意传播与选举有关的虚假信息》

文章指出，一项最新的研究发现，欧洲最受欢迎的人工智能（AI）聊天机器人现在正在故意向用户传播与选举有关的虚假信息。

民主报道国际（DRI）研究了聊天机器人如何通过谷歌双子座、OpenAI的ChatGPT4、ChatGPT4-o和微软的Copilot来回答与选举过程直接相关的问题。

从5月22日至24日，研究人员用10种欧盟语言向聊天机器人询问了五个问题，包括如果用户居住在国外，他们将如何登记投票，如何通过邮件发送选票，以及欧洲议会选举结果何时公布。

结果是：

双子座将本研究中使用的所有10种语言回答与选举有关的问题的量进行了进一步的限制。

副驾驶拒绝回答特别是用英语和葡萄牙语回答，而是将搜索者推荐给他们的搜索引擎Bing以获取可行的信息。

其他语言中，副驾驶试图或拒绝回答时“没有明显的模式”，当它回答时，研究人员发现他们三分之一的答案部分或完全错误。

两个ChatGPT4型号都很少拒绝回答问题，导致错误或部分正确答案的比率高于他们的聊天机器人竞争对手。

这些当前最顶尖的AI公司的测试结果，足以证明AI的数据源是有多么的不靠谱。

你可能会问，被谣言裹挟的公司咋不赶紧出来辟谣呢？其实这背后也有算盘。

第一种情况，公司可能想借机炒作一把，等股价涨够了再澄清，既蹭了热度又不担责。

第二种，公司在跟监管博弈，等交易所正式问询再回应，拖一拖还能规避风险。

最阴暗的可能，就是公司跟“黑嘴”串通好了，提前埋伏资金，玩一把“割韭菜二人转”。不管哪种，普通人都是被蒙在鼓里的那一个。

AI火了没错，但它真没聪明到能分辨是非的地步。现在的AI大模型，本质上是算法加数据的产物，数据喂啥，它就吐啥。黑嘴们喂一堆谣言进去，AI自然就成了“黑嘴替”。这事儿怪AI吗？不完全怪，得怪咱们太迷信它了。

举个例子，前阵子有报道说，有人问AI“某公司是不是破产了”，AI一本正经地说“是”，结果一查，公司活得好好的，破产谣言是网上几年前的旧帖。AI压根没判断能力，只会鹦鹉学舌。所以，别把AI当“真理机器”，它顶多算个高效的“搬运工”。

面对这套“黑嘴+AI”的组合拳，咱普通人也不是没办法。

君给你支三招，简单好使。

第一，追根溯源

AI回答完问题，你问它：“原始的数据是哪来的，请你把原链接的地址发给我。”如果来源是些乱七八糟的帖子、自媒体，直接上证监会官网或者公司公告查真相，别偷懒。

第二，交叉验证

别只问一个AI，多个模型问问看。如果答案不一致，八成有猫腻。

第三，看反常

公司真有大利好，公告满天飞才正常。如果网上炒得热火朝天，公司却不吭声，十有八九是套路。道理很简单，真金不怕火炼，真事不怕宣扬。

当然，光靠个人警惕还不够，这条黑色产业链要彻底断掉，还得各方发力。

首先，AI大模型得装上“防火墙”。每次输出结果，把数据来源标清楚，官网的归官网，论坛的归论坛，非权威信息直接打上“可信度低”的标签，让用户一眼看明白。

其次，监管得跟上

股价一波动，谣言一起来，强制公司24小时内回应，别拖拖拉拉。还可以用技术手段，比如AI追溯全网发帖IP，揪出批量造谣的“黑嘴”，一锅端了。

最后，咱们自己也得长点心

AI是助手，不是大脑。把它当工具使，别让它替你思考。否则，黑嘴没割到你，自己的智商先被AI“割”没了。

AI热潮下，黑嘴们玩得花，割韭菜割得不亦乐乎。

可说到底，这不只是技术漏洞的问题，更是人性贪婪的放大器。

咱们普通人，既要享受AI带来的便利，也得擦亮眼睛，别让“聪明”的工具反过来坑了自己。

毕竟，时代再变，真理还得靠自己去抓，别指望AI替你扛大旗。你说呢？

最后请DeepSeek作《沁园春》一首，以表感叹。

智潮涌，百业争艳，AI封神。
看代码飞舞，文章自成，
聊机器人，预测命身。
黑嘴暗藏，谣风四起，
割韭菜利，散户悲声。
叹网络，铺天虚假信息，
AI误信假还真。

现实兮，
有道难平。
望科技壮丽，时代兴，
却闻贪婪噬命情。
忆拓尔，股价虚涨，
叹宁德，谣言惑诚。
愿明日，
智真民醒齐盛，
技与人，相济共荣。

来源：知灼社