摘要：在科技飞速发展的当下，人工智能（AI）已深度融入我们的生活，DeepSeek等AI模型凭借强大的语言处理和信息生成能力，为我们提供了诸多便利。然而，它们在生成内容时偶尔出现的不准确和前后矛盾情况，也就是所谓的“扯谎”现象，正逐渐成为不容忽视的问题。

在科技飞速发展的当下，人工智能（AI）已深度融入我们的生活，DeepSeek等AI模型凭借强大的语言处理和信息生成能力，为我们提供了诸多便利。然而，它们在生成内容时偶尔出现的不准确和前后矛盾情况，也就是所谓的“扯谎”现象，正逐渐成为不容忽视的问题。

不少网友在使用DeepSeek时发现，它会出现“一本正经地胡说八道”的情况。比如，当用户让DeepSeek在对话中扮演一个有具体性格设定的“男孩”时，它却把问题理解成“怎么让婆婆背后不敢说儿媳的坏话”，给出的回答与输入的任务完全不相关。还有网友提问两家大学哪家更好，DeepSeek会根据使用者的反馈给出自相矛盾的回答。这种事实错误和逻辑漏洞，让用户对AI生成内容的可靠性产生了质疑。

在DeepSeek给出的回答中，数据和信息不准确的情况较为常见，有的甚至是凭空捏造。即便使用者为其提供具体的文本，它也会基于这些内容发挥“创造力”，加入自己的“想法”。学者将这种现象称为“幻觉”（hallucination），即生成式人工智能输出了与输入文本、真实世界知识相矛盾的事实错误或逻辑错误。

AI大模型的训练依赖海量数据，但数据的真实性却无人担保。中国信通院曾做过实验，当在特定论坛连续发布百余条虚假信息后，主流AI大模型对对标问题的回答置信度，就会从百分之十几快速飙升。这暴露了AI很难区分“热门帖子”和“真实信息”，只认数据权重的致命缺陷。此外，训练数据如果存在偏差或不足，模型的输出也可能会出现错误。例如，在简单知识问答任务中，DeepSeek的准确率仅为30.1%，低于OpenAI的47.0%，这可能与它的训练数据质量和可用性有关。

大模型的结构和算法本身存在一定的局限性。目前的AI模型大多是基于概率统计进行预测和生成内容，在缺乏足够信息的情况下，通过概率性选择生成内容，就容易导致输出信息不准确或与事实不符。而且，模型的优化和迭代也可能会在一定程度上牺牲性能。比如，DeepSeek - V3通过优化GPU计算和预训练batchsize，显著提升了训练效率，但这种优化可能影响了模型的准确性。

不同的任务类型和复杂性对AI模型的要求不同。在一些复杂任务中，如自然语言推理任务，AI模型可能会出现推理错误或逻辑漏洞。此外，提示词和使用方式也会影响AI的输出质量。如果提示词不够清晰或具体，模型可能会生成不准确或偏离主题的内容。

在信息爆炸的时代，人们越来越依赖AI获取信息和建议。如果AI生成的内容不准确，可能会误导用户做出错误的决策。在金融领域，用户根据AI提供的错误投资建议进行投资，可能会遭受经济损失。在医疗领域，错误的诊断信息可能会延误患者的治疗。

频繁的“扯谎”现象会让用户对AI的信任度降低，损害AI的公信力。如果用户在使用过程中经常遇到不准确的回答，他们可能会减少对AI的使用，甚至对整个AI行业产生负面看法，这将阻碍AI技术的进一步发展和应用。

在一些公共事件中，AI生成的虚假信息可能会引发社会恐慌，扰乱社会秩序。在发生公共安全事故时，有人故意利用AI制造谣言，这些谣言通过AI的传播可能会迅速扩散，干扰救援节奏，引发民众恐慌。

AI开发者可以通过技术手段来减少“扯谎”现象。利用自然语言处理（NLP）技术，分析数据的语义、逻辑结构，识别文本中的矛盾、不合理表述，尽量避免数据投喂中涌入虚假信息。国外的Meta创建了一个系统，可以在AI生成的音频片段中嵌入名为“水印”的隐藏信号，有助于在网络上检测AI生成的内容。

内容平台作为信息传播的重要渠道，要担负起“信息守门人”的责任。抖音、微博、快手、小红书等平台，已经开始强制添加“本内容由AI生成”的水印，转发时保留标识，让用户能够清晰识别信息来源。平台还可以加强对AI生成内容的审核，过滤虚假信息。

完善相关法律法规，对利用AI制造和传播虚假信息的行为进行严厉制裁。通过法律的威慑力，减少AI“扯谎”现象的发生，维护社会的公平正义和信息安全。

DeepSeek等AI模型“扯谎”现象背后反映出数据、模型和应用等多方面的问题，带来了一系列负面影响。要解决这一问题，需要技术开发者、平台和社会各界共同努力，通过技术防御、平台责任和法律制裁三管齐下，斩断AI“扯谎”的链条，让AI更好地服务于人类。

来源：老孙的美食名单