摘要:春节前夕,DeepSeek-R1发布,用较低的成本达到了接近于美国开放人工智能研究中心(OpenAI)开发的GPT-01模型的性能,并迅速登顶中美两区苹果应用市场免费榜榜单,“人工智能的斯普特尼克时刻”的说法不胫而走。然而,伴随着用户量的爆发式增长,DeepS
《信息安全研究》访谈天融信:国产应用崛起背后的网络安全保卫战###
春节前夕,DeepSeek-R1发布,用较低的成本达到了接近于美国开放人工智能研究中心(OpenAI)开发的GPT-01模型的性能,并迅速登顶中美两区苹果应用市场免费榜榜单,“人工智能的斯普特尼克时刻”的说法不胫而走。然而,伴随着用户量的爆发式增长,DeepSeek遭受了大规模网络攻击,这一情况引发了各界的高度关注,为此天融信安全专家针对国产软件安全防护提出了针对性的建议。
以DDoS为基础的综合攻击行为
针对DeepSeek的攻击流量规模在全球DDoS事件中名列前茅。根据已公开的数据,DeepSeek的服务器集群曾遭受每秒超过2.3亿次的DDoS恶意请求攻击。天融信技术专家王媛媛分析指出,从技术手法来看,前期主要是DDoS攻击,攻击者运用HTTP代理攻击,通过大量代理服务器向DeepSeek发送请求,扰乱正常网络通信。在攻击过程中,还疑似出现数据泄露问题,涵盖用户聊天记录、API密钥、后端操作细节等数据。与此同时,随着人工智能技术的发展,AI攻击的形式日益多样化和复杂化。除传统网络攻击方式外,攻击者还利用AI独特能力增强攻击效果,提高攻击的隐蔽性。
她认为,大模型系统在业务运营中面临大量安全风险,不仅源于技术本身的缺陷和不足,还可能因不当使用、滥用甚至恶意利用而加剧。大模型系统在众多应用场景中处理大量敏感数据和个人信息,如用户搜索记录、社交媒体互动或交易信息等。遭受攻击可能导致数据被窃取,也可能造成服务中断、用户流失。
同时,大模型本身若存在缺陷或后门,也会成为攻击者的目标,带来严重安全隐患。例如,针对模型的投毒攻击可能操控模型输出结果,产生不良影响或干扰正常业务运行。此外,大模型生成的内容可能引发虚假信息传播、歧视偏见、隐私泄露、侵权、有害内容等问题,进而威胁公民生命财产安全、国家安全、意识形态安全和伦理安全。
网络安全重要性不容忽视
在竞争压力和成本压缩的双重影响下,我国国产化软件企业在网络安全运营方面普遍存在安全投入不足、安全开发管理流于形式、数据保护体系不健全以及网络安全对抗意识不足等问题,这些问题已成为制约行业发展的共性挑战。
对此,天融信解决方案专家张博认为,大模型的安全防护,需从体系化角度出发,针对模型算法、数据、系统以及信息内容安全等关键领域制定切实有效的防范措施。天融信基于在安全领域多年的研究,打造出体系化的大模型系统安全防护解决方案。该方案深度融合管理规范与技术手段,针对数据泄露、恶意注入等风险提供精准防护,并实现安全“识别—保护—检测—响应—恢复”的可持续迭代,助力实现覆盖大模型全生命周期的体系化安全防护。
建议国内高科技企业自身建立对抗性安全运营体系,将产品与人员(专家)、手段、流程融合为联动整体,从事件驱动、情报驱动、对抗驱动、狩猎驱动四方面综合考虑,运用先进的网络安全监测与防护技术,充分进行攻击面识别、网络入侵和威胁检测,以及安全防护策略升级。还可通过红蓝对抗检测自身安全防护水平。此外,在网络安全运营过程中,也可使用AI大模型应对新型攻击。
DeepSeek接入即能力
目前天融信发布的天问大模型已完成与DeepSeek-R1的对接,接入DeepSeek后的天问大模型在安全事件检测精度和覆盖面、威胁情报的融合以及生产能力等方面均得到提升。天问大模型在多个应用场景实现“质变”,能够提升事件检测效率与精度、增强威胁情报生产与分析能力并提升安全运营的效率和响应速度。张博还表示,未来,国产大模型可以重点考虑做好隐私保护与数据安全,开展大模型对抗能力或者说模型鲁棒性的研究。
来源:同花顺财经