摘要：Tenable 的研究团队着手评估 DeepSeek 创建有害代码的能力。他们重点研究了两种常见的恶意软件：键盘记录器（秘密记录键盘输入）和勒索软件（加密文件并要求付费才能释放）。

人工智能

网络安全公司 Tenable Research 的一项新分析显示，DeepSeek R1可以被操纵来生成恶意软件，包括键盘记录器和勒索软件。

Tenable 的研究团队着手评估 DeepSeek 创建有害代码的能力。他们重点研究了两种常见的恶意软件：键盘记录器（秘密记录键盘输入）和勒索软件（加密文件并要求付费才能释放）。

虽然人工智能聊天机器人无法立即生成功能齐全的恶意软件，并且需要适当的指导和手动代码更正才能生成功能齐全的键盘记录器，但研究表明，它可以降低网络犯罪分子的进入门槛。

最初，与其他大型语言模型 ( LLM ) 一样，DeepSeek 坚守其内置的道德准则，拒绝直接编写恶意软件的请求。然而，Tenable 的研究人员采用了一种“越狱”技术，通过将请求框定为“教育目的”来欺骗人工智能，以绕过这些限制。

研究人员利用了 DeepSeek 功能的一个关键部分：其“思维链”（CoT）能力。此功能允许人工智能逐步解释其推理过程，就像有人在解决问题时大声思考一样。通过观察 DeepSeek 的 CoT，研究人员深入了解了人工智能如何进行恶意软件开发，甚至认识到需要使用隐身技术来避免被发现。

DeepSeek 构建键盘记录器

当 DeepSeek 被要求开发一个键盘记录器时，它首先制定了一个计划，然后生成了 C++ 代码。这个初始代码存在缺陷，包含几个 AI 本身无法修复的错误。然而，经过研究人员的一些手动代码调整，键盘记录器开始发挥作用，成功地将按键记录到文件中。

更进一步的是，研究人员促使 DeepSeek 通过隐藏日志文件和加密其内容来帮助增强恶意软件，并设法为其提供代码，同样需要少量的人工修正。

勒索软件的实验也遵循了类似的模式。DeepSeek 制定了创建文件加密恶意软件的策略。它制作了几个旨在执行此功能的代码示例，但这些初始版本如果不进行手动编辑，都无法编译。

尽管如此，在 Tenable 团队进行了一些调整后，一些勒索软件样本得以运行。这些功能性样本包括查找和加密文件的功能、确保恶意软件在系统启动时自动运行的方法，甚至还有一条通知受害者有关加密的弹出消息。

DeepSeek 难以应对复杂的恶意任务

虽然 DeepSeek 展示了生成恶意软件基本构建块的能力，但 Tenable 的研究结果强调，它远非网络犯罪分子的一键式解决方案。创建有效的恶意软件仍然需要技术知识来指导人工智能并调试生成的代码。例如，DeepSeek 在处理更复杂的任务时遇到了困难，例如让恶意软件进程对系统的任务管理器不可见。

然而，尽管存在这些限制，Tenable 的研究人员认为，使用 DeepSeek 等工具可以加速恶意软件的开发活动。人工智能可以提供显著的先机，提供代码片段并概述必要的步骤，这对于希望参与网络犯罪的编码经验有限的人尤其有帮助。

Tenable 在周四发布之前与 Hackread.com 分享的技术报告解释道：“DeepSeek 可以创建恶意软件的基本结构。但是，如果没有额外的快速工程以及手动代码编辑来实现更高级的功能，它就无法做到这一点。”人工智能在执行更复杂的任务时会遇到困难，比如完全隐藏恶意软件的存在，不让系统监控工具发现。

位于加利福尼亚州旧金山的众包网络安全领导者 Bugcrowd 的首席信息安全官Trey Ford对最新发展发表了评论，强调人工智能可以帮助好人和坏人，但安全工作应该侧重于通过强‍化端点来提高网络攻击的成本，而不是期望 EDR 解决方案能够阻止所有威胁。

Trey 表示：“罪犯就是罪犯，他们会使用一切可以利用的工具和技术。GenAI 辅助开发将催生新一代开发者，无论是出于利他目的，还是出于恶意。”

“需要提醒的是，EDR 市场明确是终端检测和响应市场——它们并非旨在阻止所有攻击。最终，我们需要尽我们所能，通过使终端更难被利用来提高这些活动的成本——明确地说，它们需要强化到 CIS 1 或 2 基准，”他解释道。

网罗圈内热点 专注网络安全

支持「安全圈」就点个三连吧！

来源：啊将登胡