摘要：AI大模型创新与应用风起云涌，有机构预测2025年将涌现5亿个TO B和TO C的AI应用，加速渗透到金融、制造、政务等千行百业，推动生产效率与业务模式的深刻变革。但大模型的规模化应用也给企业带来了包括数据安全、内容合规、系统稳定性在内的复杂风险。
AI大模型创新与应用风起云涌，有机构预测2025年将涌现5亿个TO B和TO C的AI应用，加速渗透到金融、制造、政务等千行百业，推动生产效率与业务模式的深刻变革。但大模型的规模化应用也给企业带来了包括数据安全、内容合规、系统稳定性在内的复杂风险。
基于此，本期《安全记》栏目围绕“大模型应用安全防护”主题展开探讨，首次邀请到了阿里云智能集团研究院院长穆飞担任主持人，特邀阿里云通义大模型业务总经理徐栋、阿里云安全产品负责人祝建跃作为嘉宾，共同就大模型应用面临的风险、防护方案等方面展开探讨，结合阿里云和客户的供需双方实践经验，深入浅出地解构大模型应用安全挑战的应对路径与技术趋势。
本文基于访谈嘉宾观点进行提炼，完整版内容请点击下方视频。
AI大模型应用存在大量安全风险访谈中徐栋表示，在大模型应用场景下的安全问题主要有三类：
以数据安全为代表的传统安全问题依旧存在。
部分大模型在线服务类企业更加关注内容安全问题。
对系统稳定性提出了更高要求，面对海量流量时确保平稳可靠。
祝建跃则进一步从技术角度阐述了上述安全风险出现的原因。他表示传统的经典安全问题，比如DDoS攻击等，在大模型场景下依然存在。但同时大模型应用场景下，其独特的服务形态还带来了新兴安全风险，例如算力环境安全、大模型API安全等，需要企业额外关注。
大模型应用“全栈防御”实践面对日益严峻的安全风险，祝建跃表示，大模型应用场景下存在安全木桶理论，任何一块短板的出现都可能带来严重安全事故。
安全防护流程上
要建立起事前治理、事中防护和事后响应的安全闭环。
安全防护路径上
针对边界层、系统层和应用环境建立起多层次防护体系。
阿里云安全团队也在基于大模型应用场景更新迭代防护方案，例如阿里云安全中心可对PAI、灵骏等Severless高性能GPU计算实例提供运行时的威胁检测，阻断工作负载中的恶意进程，特别是对于挖矿类的进程能快速识别并自动隔离，保障大模型应用的稳定性。
徐栋则从企业的视角分享了大模型应用安全的实践。他表示，大模型应用相比于传统互联网应用有一定的区别，其知识库可能更加简洁直白，为此阿里云针对性推出“本地知识库+云端模型”的安全架构来满足用户诉求：既可以享受在云上调用最好、最领先的模型，又兼顾安全可控的体验。
阿里云AI大模型应用安全的优势祝建跃表示阿里云作为同时提供云计算与大模型服务的领先厂商，在云安全和大模型安全领域有着深厚的技术积累，以及丰富的安全实战经验，深刻理解企业业务效率和安全的平衡。例如推出了基于大模型的AI助手，帮助用户更好地了解和处置告警。
同时将安全能力深度融入云原生架构之中，具备云的天然优势，将包括弹性、高可用、规模化等赋予安全。最终为用户打造一个统一的云计算与大模型应用的安全防护体系，通过统一运营平台实现“构建-部署-运行”全生命周期安全管理，减少人为配置错误。
徐栋认为，阿里云通义大模型依托于“百炼”模型服务平台，已经有大量用户使用，积累了丰富且成熟的经验。因为采取开源策略，所以阿里云在模型原生安全方面投入了大量的资源进行强化，并且未来还会持续提升。此外在模型对外提供服务时，阿里云自带安全围栏，帮助用户及时调整内容策略，让用户有更多的时间对业务进行优化，无需担心安全问题。
针对大模型应用是否会有全新的安全产品形态出现？祝建跃表示，未来阿里云将进一步强化安全与AI的“双向赋能”。在大模型应用安全防护方面：
让用户更加方便、一体化地使用阿里云的安全能力；
对云安全中心AI-SPM的能力进行升级，给予用户更全面的安全态势管理；
针对企业高需求防护场景，包括防爬虫、防DDoS攻击、安全隔离等产品功能进行升级（Security for AI）。
同时阿里云也将利用大模型全面提升安全能力（AI for Security），例如在内容安全领域实现“用模型打败模型”；在威胁检测及自动化响应方面去做更多的能力提升。
徐栋也表示，AI时代大量的风险来源于文本，因此通义大模型将在不久之后，针对非IT层面的内容安全进行一次大的升级，围绕业务安全让传统小模型升级为大模型或大的风控智能体。
来源：小胡看科技