摘要：在本次Help Net Security的采访中，X-PHY首席执行官Camellia Chan探讨了深度伪造（Deepfake）在现实事件中的危害，包括其在金融欺诈和政治造假中的应用。她解释了AI驱动的防御策略，并建议更新事件响应计划和内部政策，集成检测工具

摘要：本文探讨Deepfake的防御策略、事件响应计划及合规风险，揭示企业如何构建多层防护体系。

在本次Help Net Security的采访中，X-PHY首席执行官Camellia Chan探讨了深度伪造（Deepfake）在现实事件中的危害，包括其在金融欺诈和政治造假中的应用。她解释了AI驱动的防御策略，并建议更新事件响应计划和内部政策，集成检测工具，并确保遵守欧盟《数据保护条例》(DORA) 等法规，以减轻责任。

攻击者如何在现实事件中使用深度伪造？这些手段的可行性如何？

深度伪造技术被广泛应用于从金融欺诈到政治造假等各种领域。其中一个令人担忧的趋势是冒充诈骗，攻击者使用合成音频或视频冒充首席执行官或政客。

2020年，香港发生了一起引人注目的案件。一名银行经理接到一通他误认为是公司董事的电话后，被骗转账3500万美元。诈骗者利用基于人工智能的语音克隆技术，完美模仿了这位高管的声音，并用令人信服的电子邮件和文件佐证了这一要求。这起案件是金融领域最早、最引人关注的深度伪造语音诈骗案例之一。

但这只是其中的一个例子，最近越来越多的报告称，公司被骗通过深度伪造的视频通话转移了大笔资金。显然，冒充诈骗的案件正在发生，而且制造它们的工具也越来越容易获得。

而这些诈骗之所以行之有效，是因为它们利用了我们对视觉和听觉信息的信任。俗话说“眼见为实”，如今我们甚至不能再这么说了。只要人们仍然依赖所见所闻作为证据，这些攻击就会既有效又难以在没有正确工具的情况下被察觉。

AI 在防御深度伪造中扮演什么角色？是否有专门设计的潜力模型或架构？

AI既是深度伪造的根源，也是解决方案。一方面，它推动了合成媒体的创作；另一方面，它也是人类最强大的防线。先进的机器学习模型，尤其是多模态人工智能，在识别细微复杂的操纵迹象方面正变得越来越有效：从不自然的眨眼、面部表情的不一致，到不匹配的视听线索。

AI的价值在于它能够提供实时保护，提供更好的隐私保护和更快的响应时间，这一点在威胁变得更具针对性和动态性的情况下，这一点至关重要。一些颇具前景的AI模型有：

卷积神经网络 (CNN)：分析视觉数据中的细微细节；

长短期记忆网络 (LSTM) 和门控循环单元 (GRU)：作为基于记忆的人工智能模型，用于追踪视听同步。

深度伪造检测也正日益融入更广泛的安全生态系统，其中从硬件到数据再到内容的每一层都有着真实性的检查点，从而增加了至关重要的信任层。通过将深度伪造检测与强大的终端安全相结合，组织可以确保每台设备都具备快速、私密地验证数字通信完整性的功能，而无需将敏感内容传输到云端。

企业应如何更新其事件响应计划以涵盖深度伪造场景？

将深度伪造视为常规网络威胁，采用零信任思维，切勿因内容看似可信就假定其真实性。

事件响应计划应包含如下步骤：

1、验证音视频内容（特别是涉及敏感操作请求时）；

3、建立风险评估模型，分析深度伪造攻击关键业务流程（如高管通讯、财务审批、客户交互）的可能性；

3、确保团队掌握预警信号识别、上报流程和事件记录方法；

建议部署实时媒体扫描检测工具，保存可疑内容备查。在当下环境中，"先质疑后验证再信任"才是安全准则。识别和采取行动的速度越快，就能避免越多的损失。

企业应制定哪些内部政策来降低深度伪造攻击风险？

企业和机构应制定明确的验证、检测和升级政策：

最终，质疑异常沟通必须成为常态，而非例外。

企业若成深度伪造受害者会面临责任或合规风险吗？应如何纳入规划？

是的，如果企业成为深度伪造（Deepfake）攻击的受害者，确实存在责任或合规风险，尤其是在涉及数据泄露或资金损失的情况下。监管机构要求企业采取合理措施防范此类欺诈行为。根据《欧盟数字运营弹性法案》（DORA）等法规，企业有义务保护个人数据并确保对网络威胁的运营弹性。未能预见或防范深度伪造攻击可能导致更高的法律责任、罚款及声誉损害风险。

因此，将深度伪造风险纳入网络安全与风险应对规划至关重要。

针对于日渐严重的深度伪造，防御需融合AI检测技术与合规框架（如DORA），通过跨部门协作、强化验证流程及主动预案，平衡技术防御与人为警觉，以应对不断升级的数字信任危机。

来源：安全419