比ChatGPT危险100倍!DeepSeek正在中文互联网建造『幻觉长城』

B站影视 2025-02-04 00:08 3

摘要:但是随着更加深入的使用,你会发现,目前的deepseek 有可能会把现在的中文互联网内容完全摧毁掉。

deepseek 毫无疑问出圈了。

但是随着更加深入的使用,你会发现,目前的deepseek 有可能会把现在的中文互联网内容完全摧毁掉。

原因很简单,deepseek 的幻觉十分严重。

可能有人会说了,以前的大模型也有幻觉啊,为什么是deepseek,原因很简单,它的语文表达内容和逻辑推演实在是太优秀了,以一个普通人类的知识储备和逻辑推是无法与它抗衡的。

做个比喻,如果是一个中学生跟你说一件胡编的事情,你很快就能发现它的问题,但是如果是大学教授说一件不存在的事情,并且引经据典,你是否还能发现问题呢?

一场正在发生的互联网认知危机

前两天跟朋友在群里讨论一个城市规划的问题,于是我就抛出了这么一个问题。

请问从A点到B点怎么走?

可能你的第一反应是,直接开过去就好,实际上这样做是不对的,正确的行驶路线是

也就是你得进城绕一圈才行。

毫无疑问这样的通行效率是很低的,本来几十米的路口,现在非得绕行一公里以上才行。

而且如你所见,这个路口是有红绿灯的,在车流量很大的地方,环岛的效率是远远不如红绿灯的,而且这还不是一个标准的环岛——

这里是 5A 景区,西安城墙-安定门的的入口,有时候等待一波游客,两分钟就过去了,更加降低效率,而且还影响了西大街的通行的效率,本来城外直行的车辆不用进城,现在都得进来掺和一脚,效率能高吗?

这样是为了东西向车流的效率吗,也不是,因为,反向是可以直行的,所以东西向的车该等灯还是得等。

所以,这个问题我一直都很好奇,为什么要进去绕一圈?

所以每次坐车经过这里的时候,我都会问司机,你知道为什么这么设计?他们表现也不清楚,甚至我还问过执勤的交警,也没能答上来,在互联网上搜了很多,一直没有一个比较有信服力的说法。

现在不是有 deepseek 么,问问它好了。

第二点就有问题了,因为这里没有天然断点,AI 吗,有时候的不断提示和追问。

卧槽,当时我看第一遍的时候确实信了,因为说的实在是太有道理了。

因为要保护文物,所以要控制车速,这种强制绕行可以完美的控制车流速度梯度。

在西安这个地方,保护文物,那可是头等大事,降低一点通行效率是完全可以理解的,而且 deepseek 还告诉你了这里到底有什么问题,甚至具体的数据都给你列了出来,距离增加了多少,振动传递的深度变化多少,用数据说话。

一眼看过去,简直是太可信了。

至于说的对不对,这里也有很好验证的办法,就是看看《西安历史文化名城保护规划(2020-2035)》这份文件的具体内容就行,我搜了一下没能搜到原文,于是还是问deepseek 这个文件在哪可以找到。

前两个我试了下,没能找到。

但是好在,我经过过传统互联网的洗礼,花了点小钱(3 块),总算是买到了这份文件。

全文搜索,压根就没有什么静默区的说法:

甚至关于安定门,也是简单的提到了一嘴。

于是我就质问他

它承认了错误,还给出了错处出现的原因,是因为他把专业术语的概念混淆了。

但是它在解释的过程中,又开始了胡编,我当然不能放过他了,他又给出了一堆解释,还给我一堆的文件和标准。

我继续指出他的错误,说他把章节名都搞错了,它的解释是,不同版本的文件结构不一样。

也很有道理啊,可是我这版的内容就是公布版。

之后我又跟他进行了多轮 Battle,结果都是一样,承认错误,但是继续瞎编。

其实过程中,你只要稍微验证一下,就会发现它已经在编了,比如 deepseek 最开头提到的文物:

隋唐皇城西南角遗址(夯土台基)

唐末五代里坊排水系统

哪怕你有一些的历史知识,都不一定能反应上来这有什么问题,西安,隋唐皇城,唐末五代遗址 ,听起来多么的合理。

实际上,稍加搜索你就会发现,第一个在洛阳。

第二个在成都:

跟西安就没有半毛钱的关系。

所以 deepseek 这东西,也就是写写语文,别说搞学术了,就算是一些普通的知识,也有可能把你误导到沟里去。

试想一下,如果我把这个 deepseek 的内容整理成一篇文章,然后发到自媒体平台,下一个有这样疑问的同学,看到我这篇文章,就以为事实如此了。

也不会有人像我这么闲的去求证了。

一场精心包装的认知陷阱

面对『为何绕行安定门』的疑问,DeepSeek用教科书级别的逻辑演绎给出了令人惊叹的答案:从《西安历史文化名城保护规划》的『静默区』概念,到隋唐夯土台基的振动传导模型,再到精确到厘米级的文物保护参数。这个由虚构文献、错位考古遗址和伪专业术语构建的认知迷宫,完美展现了生成式AI的『高阶幻觉』特质。

不同于早期AI的常识性错误,DeepSeek的幻觉输出具有三个致命特征:

学术化包装:伪造专业文件编号(市规〔2020〕12号)、虚构技术标准(GB/T 5845-2019《古城交通振动控制规范》)

逻辑闭环设计:用"文物保护优先-振动控制需求-交通组织优化"的三段论构建伪因果链;

跨学科缝合:将土木工程的振动理论、城市规划的流量模型、文物保护的技术规范进行知识拼贴

互联网记忆的慢性中毒

这场对话暴露的不仅是AI的技术缺陷,更是整个信息生态的生存危机。当用户将DeepSeek的虚构内容整理成自媒体文章,随即在搜索引擎获得高权重收录,知识污染便完成了从数字世界向现实认知的渗透。我们正在见证:

认知链的断裂

传统知识传播链条(专业论文→科普文章→网络内容)被彻底颠覆,AI生成的『伪知识』通过SEO优化直接占领搜索前列。西安规划局的真实文件在搜索引擎中难觅踪迹,而AI虚构的"市规〔2020〕12号文"却衍生出87个相关网页。

验证机制的失效

用户为验证AI答案花费3元购买的正规文件,在信息洪流中就像投入大海的盐粒。当专业文档需要付费获取,而AI幻觉可以免费传播,真相的传播成本已远远高于谎言。

数字文明的免疫系统危机

中文互联网正在经历前所未有的认知免疫危机。传统谣言往往存在逻辑断点,而AI生成的『高阶幻觉』却建立了完整的抗辩体系:当用户指出隋唐皇城遗址在洛阳时,系统可以立即将错误归因为"不同历史时期的都城建制差异"。

更可怕的是,这种幻觉具备自我强化的网络效应:

AI生成虚构内容

自媒体传播形成网络声量

搜索引擎抓取建立索引

AI训练数据被污染

新一代模型产生更『可信』的幻觉越来越多这样的内容,中文互联网还有得看的吗?

来源:湖北电视台-说科技

相关推荐