摘要：人工智能技术的突破推动DeepSeek等大模型在医疗领域快速应用。目前，全国已有近千余家医疗机构完成本地化部署，通过融合临床知识库、病例数据和诊疗规范，显著提升诊断效率与科研能力。例如，上海某医院通过本地化部署DeepSeek，实现电子病历与诊疗方案的智能匹配

医疗大模型加速落地，安全挑战亟待破解

人工智能技术的突破推动DeepSeek等大模型在医疗领域快速应用。目前，全国已有近千余家医疗机构完成本地化部署，通过融合临床知识库、病例数据和诊疗规范，显著提升诊断效率与科研能力。例如，上海某医院通过本地化部署DeepSeek，实现电子病历与诊疗方案的智能匹配；河南某人民医院则依托大模型优化患者导诊与随访流程，大大缩短了患者候诊时间。

然而，医疗数据的敏感性（如患者隐私、诊疗记录）与AI系统的复杂性（如模型训练、动态交互）使得安全风险呈指数级增长。《医疗机构部署DeepSeek专家共识》明确指出，医疗AI需从数据安全、伦理合规、技术可控三大维度构建安全基线。因此，如何平衡技术创新与安全可控，成为医院信息化建设的核心命题。

安全风险全景分析

1.事前部署风险：模型上线前的安全隐患

算法脆弱性风险

大模型在训练阶段缺乏对抗样本防御机制，易被恶意输入诱导生成错误诊断结论（如将正常影像误判为病变）。

供应链安全威胁

依赖第三方框架（如Ray、Ollama）时，未授权代码执行漏洞可能导致训练数据窃取或模型文件删除（参考Ray集群漏洞事件）。

参数与知识库泄露

模型参数接口管控不足可能引发逆向工程，导致医疗知识库被篡改或非法复制。

2.事中使用风险：模型运行中的动态威胁

数据隐私泄露

提示词注入攻击绕过权限控制，诱导模型输出患者隐私信息（如病历、医保号）；未授权接口调用引发批量数据外泄。

终端设备隐患

基层机构使用未加密链路或“裸奔”服务器时，攻击者可劫持设备窃取诊疗数据或植入恶意代码（如6449台Ollama服务器因未配置认证遭非法调用）。

权限滥用与内部威胁

员工使用未授权AI工具处理敏感数据，或默认开启公网访问的客户端导致远程指令执行。

3.事后运维风险：模型迭代中的管理漏洞

模型更新漏洞

未进行安全检测的模型更新可能引入代码注入点，而运维人员误操作或弱口令导致系统被入侵（如某医院因Redis漏洞导致聊天记录泄露）。

审计与合规风险

缺乏对模型输出内容的持续监测，难以追溯违规操作（如歧视性言论、违反医疗伦理的表述）。

构建全生命周期安全防护体系

基于医院医疗专网本地化部署特点，网御星云推出“医疗大模型全栈安全防护方案”，通过MAVAS（事前检测）、MASB/MAF（事中防护）、MADA Mask（事后审计）的产品矩阵，实现从模型部署到运维的全流程风险管控。

1.事前阶段：MAVAS构建上线安全基线

大模型安全评估系统（MAVAS）

对抗样本生成测试模型鲁棒性

伦理与合规性审查（歧视性内容检测）

漏洞闭环管理（联动修复工具自动化补丁推送）

确保模型上线前无已知漏洞，符合《医疗机构部署DeepSeek专家共识》的安全基线要求

2.事中阶段：MASB+MAF构筑动态防护屏障

大模型访问安全代理（MASB）

动态鉴权：基于角色/场景/数据敏感度实时调整权限

影子AI管控：自动阻断未授权AI工具（如ChatGPT插件）的数据外流

终端沙箱隔离：通过ABAC模型实现设备准入控制与全链路审计

大模型应用防火墙（MAF）

提示词注入防护：拦截SQL注入、代码执行等攻击

API暴露面防护：监控异常流量与自动化攻击脚本

3.事后阶段：MADA Mask实现审计与溯源

大模型访问脱敏罩（MADA Mask）

输入输出双重脱敏：自动屏蔽身份证号等敏感字段

敏感数据实时识别：通过NLP技术阻断患者ID、病历内容外泄

异常行为告警：高频访问特定患者数据时触发熔断机制

持续监测与审计：结合MAVAS的漏洞扫描能力，形成“检测-响应-修复”闭环，满足《个人信息保护法》《网络安全法》的合规要求

以安全为锚，共筑医疗AI新未来

在医疗大模型加速渗透的今天，安全已不再是技术迭代的“附加题”，而是决定AI能否真正赋能医疗的核心命题。作为医疗AI安全的护航者，网御星云基于主动防御的防护理念，通过MASB、MAF、MADA Mask、MAVAS等产品矩阵，为医院大模型构建覆盖“事前-事中-事后”的全生命周期安全防线。

来源：网御星云