摘要：近期，安全牛发布了《AI时代深度伪造和合成媒体的安全威胁与对策（2024版）》报告（以下简称“报告”），通过广泛的调研与案例分析，报告系统梳理了该领域的最新发展动态和核心问题，旨在为应对深度伪造和合成媒体的安全威胁提供全面洞见，并助力产业界和社会各界在AI技术

近期，安全牛发布了《AI时代深度伪造和合成媒体的安全威胁与对策（2024版）》报告（以下简称“报告”），通过广泛的调研与案例分析，报告系统梳理了该领域的最新发展动态和核心问题，旨在为应对深度伪造和合成媒体的安全威胁提供全面洞见，并助力产业界和社会各界在AI技术的新时代构建更加安全、可信的信息生态。东方通受邀参与该报告编写，分享了深度伪造合成领域产品服务与典型实践案例。

深度伪造“侵入日常” 敲响安全警钟

由于AI合成技术的门槛不断降低，自制AI合成内容已屡见不鲜，然而，技术的广泛应用却引发了一系列令人担忧的乱象。从早期的粗制滥造、一眼即可识破的虚假内容，到如今以假乱真、令人难以分辨真伪的“深度伪造”作品，AI的发展无疑让虚假信息的制造传播进入了一个全新的时代。

近期，日喀则抗震救灾期间，一张 “戴着帽子的小男孩被压在废墟下” 的图片，被多个账号与日喀则地震关联发布，部分账号收获数万转评赞，众多网友在留言区关切孩子安危。这一情况引起了各级部门的高度重视。随后，公安机关网安部门迅速展开核查，发现该图片是别有用心之人利用灾情炮制的虚假信息，严重误导公众。

此类事件表明，AI 伪造技术已悄然侵入日常生活，这无疑为大众与相关部门敲响了警钟：随着人工智能技术的飞速发展，其被滥用的风险急剧上升。虚假信息不仅极易误导公众的判断，更有可能触碰法律红线，给社会的稳定与安全带来严重威胁 。

东方通在积极探索AI等新技术应用的过程中，提前布局安全内容检测领域的研究。在报告中，东方通详尽分析了当前深度伪造内容特点，并展示了相关研究成果，通过融合AI技术手段，东方通推出了深度伪造内容检测系统，能够对音视图文内容进行深度分析，提取特征并进行比对，从而准确判断内容是否经过篡改或伪造，为打击网络虚假信息提供了有力支持，此外，东方通分享了在媒体、教育及公共安全等数字生活众多场景中的应用探索，致力于守护信息安全。

洞察深度伪造内容危害 技术升级精准“狙击”

东方通安全团队调研总结发现，深度伪造内容仿真度高，普通用户肉眼难辨真伪，在社交媒体等平台极易快速传播，引发公众信任危机，并且潜在威胁巨大，不法分子借此实施欺诈、干扰司法，严重侵害公众权益。此外，深度伪造技术门槛低，应用范围广且真假界限模糊，法律界定与责任追究困难，给打击此类违法犯罪行为加大了难度。与此同时，随着深度伪造技术不断发展，伪造者为让伪造内容更逼真、更隐蔽，持续试图绕过现有检测识别技术。

面对这些复杂挑战，东方通积极开展关键技术研究，包括多模态深度伪造样本集构建及半自动标注技术、基于新型特征提取策略的伪造图像检测技术，以及基于时空联合物理线索的伪造视频检测技术等。通过这些技术研究，东方通力求为深度伪造内容检测筑牢数据基础、突破传统检测单一内容局限、提升内容检测精准性。

经过实践探索验证，东方通深度伪造合成检测系统凭借明显的技术优势，实现了显著的应用效果。在内容安全检测方面，借助大数据、语义及深度学习等 AI 技术，支持22大类、2000小类的应用识别以及41类主流互联网协议识别，对违法违规内容进行高效精准检测，全方位守护互联网内容安全；同时，系统配备专用深伪检测设备，具备PS合成检测、通用深度伪造检测、特定人物伪造检测和伪造溯源等功能，能全面检测识别各类深度伪造合成内容，为用户提供可靠服务。

网络信息安全领域，守护的防线绝非一劳永逸，需要凭借持续的钻研与探索来稳固。随着技术的不断进步和应用场景的日益丰富，东方通安全团队，将加强对技术、对抗手段的研究分析，不断推出更加先进、更加智能的解决方案，共同应对网络安全的挑战，共建共享清朗网络空间。

来源：刘刘看车