摘要:DeepSeek是中国自主研发的通用大语言模型。该模型采用混合专家(MoE)架构和数据蒸馏技术,具有训练和推理成本低、效率高的特点。DeepSeek在自然语言处理、代码生成、数据分析等方面表现出色,广泛应用于智能客服、教育辅助、金融分析等垂直领域。
高承实,程元骏
本文发表于《元宇宙医学》2025年第1期。在头条发布时对格式略有调整,删掉了论文摘要和参考文献。文后附有原始出处及引用格式。
DeepSeek是中国自主研发的通用大语言模型。该模型采用混合专家(MoE)架构和数据蒸馏技术,具有训练和推理成本低、效率高的特点。DeepSeek在自然语言处理、代码生成、数据分析等方面表现出色,广泛应用于智能客服、教育辅助、金融分析等垂直领域。
自2025年春节前发布具有推理功能的R1版以来,DeepSeek在各行各业开始得到广泛应用。在金融行业,DeepSeek被用于智能投顾和市场分析,比如TigerBrokers(老虎证券)采用DeepSeek提升了投资决策的精准度。一些银行和券商也通过本地化部署DeepSeek,提升智能合同质检和资产对账的自动化能力。DeepSeek还能够进行高质量的文本分析、翻译、摘要生成等任务,这为教育工作者和学生提供了非常大的帮助。在智能制造方面,DeepSeek帮助中小制造企业实现了工艺优化与知识管理,如宁德时代(CATL)在电解液注液工序中,基于DeepSeek的时序预测模型实现工艺参数动态调整,良品率提升1.2%,年节省成本约1.5亿元。DeepSeek还被引入政务系统,加速了政府的智能化转型。如深圳市福田区引入DeepSeek-R1技术,打造了70名AI数智员工,覆盖政务服务全链条的11大类、240个业务场景。DeepSeek也用于智能客服、文档处理等通用型应用,还延伸至专业领域深耕。还在是深圳福田区,通过引入AI智能员工,公文格式修正准确率超95%,审核时间缩短90%,错误率控制在5%以内;执法文书生成助手可秒级生成执法文书初稿;民生诉求分拨准确率从70%提升至95%,民情周报日报实现初稿一键生成等。
1. DeepSeek在医学及相关领域应用的必要性
在医学及相关领域使用DeepSeek,首先是医学数字化转型的需要。其次,因为DeepSeek是国产大语言模型且允许本地化部署,在使用环节不涉及数据跨境,能够带来更大的安全性。最后,医学及相关领域数字化程度相对较高,这也是DeepSeek适宜在医学及相关领域率先应用的原因。
1.1 医学数字化转型的需要
DeepSeek不仅是人工智能技术和应用的进步,更代表着以人工智能为代表的一系列数字技术及其应用的进步。当前,数字技术越来越成熟,影响越来越广泛,应用也越来越深入。数字技术对各行各业的影响,也从一开始工具层面的赋能,到开始成为各行各业实现数字化转型的工具。
在医学及相关领域,DeepSeek更成为其进行数字化转型的急先锋。一方面,DeepSeek能够带来诊疗效率与质量的提升。医学数字化转型过程中,医疗机构需要更高效、更精准的诊疗工具。DeepSeek能够快速处理海量医学数据,为医生提供诊断建议和治疗方案参考,从而提高诊疗效率和质量。另一方面,DeepSeek还能够帮助优化医疗资源配置。通过智能化的分诊和诊断辅助,DeepSeek可以帮助医疗资源更加合理地分配。在各级医疗机构,DeepSeek都可以作为医生的智能助手,提升基层医疗服务水平,缩小城乡医疗服务差距,缓解医疗资源紧张的问题。再一方面,DeepSeek还能够加速医学科研创新。数字化转型推动医学研究向数据驱动的方向发展。DeepSeek能够帮助科研人员更高效地分析医学文献、探索疾病机制、预测药物疗效,加速医学知识的积累和创新,推动医学科学的进步。实际上,DeepSeek可以在医学及相关领域的多个层次、多个环节发挥巨大作用,从而成为医学数字化转型的重要推手。
1.2 DeepSeek具有更强安全保障
人工智能的安全涉及方方面面内容。DeepSeek虽然不可能完全解决其自身可能存在或面临的安全问题,但其国产和自主研发的特点,还是为其在医学及相关领域的应用提供了更多可能。
DeepSeek相对而言能够更好地保护患者隐私。人工智能时代,数据的重要性与日俱增。在成为人工智能“燃料”的同时,数据在微观层面还会表达或隐含个人方方面面的隐私信息,医疗数据就更涉及到患者的个人隐私和敏感信息。DeepSeek支持本地化部署,避免了数据跨境传输可能带来的泄露风险;数据在内网处理,也避免了数据在公网中更大范围的传播。这些设置可以使DeepSeek的应用更加符合信创安全要求,也能够更好保护患者隐私。
DeepSeek在使用上具有加大的自主可控性。使用DeepSeek可以减少对国外技术的依赖,增强医疗机构在数据管理和应用方面的自主可控能力。这有助于保障医疗行业的信息安全和稳定运行,符合国家对关键信息基础设施保护的要求,也有助于确保医院数据安全。
1.3 医学及相关领域数字化程度高
一方面,医学及相关领域的数字化基础好。医学及相关领域积累了大量数据,类型也非常丰富,如电子病历、医学影像、基因数据等。这些数据为DeepSeek的应用提供了丰富的资源。如果这些数据能够被充分挖掘和利用,再发挥DeepSeek在数据分析和处理方面的优势,医疗系统将能够实现更加精准的医疗服务。另一方面,医学及相关领域应用场景丰富。医学及相关领域涉及多个环节和场景,如疾病诊断、治疗方案制定、患者管理、医学科研等,DeepSeek可以在这些场景中发挥重要作用。例如,在临床决策支持方面,DeepSeek能够整合患者的电子病历、实验室数据与影像结果,提供动态决策建议,优化诊疗全流程。
因此,医学及相关领域的数字化程度较高,具备率先开展DeepSeek应用的基础和条件。通过引入DeepSeek,可以推动医学及相关领域从“经验驱动”迈向“数据智能驱动”的新阶段,促进医疗服务的智能化、精准化发展,为患者提供更加优质、高效的医疗体验。
2. DeepSeek在医学及相关领域的可能应用
DeepSeek在医学及相关领域众多场景不仅有着广泛的应用可能,而且在很多场景下,DeepSeek的应用已经在大范围展开过程中。
2.1 诊断环节
诊断在医学及相关领域的作用至关重要,它贯穿于医疗过程的始终,并对医疗质量、患者管理、医疗资源分配以及医学发展等方面产生深远影响。DeepSeek在诊断环节最直接的应用,可能莫过于辅助诊断和医学影像分析。
2.1.1 辅助诊断
(1)医学影像诊断。DeepSeek能够快速、准确地分析X光、CT、MRI等各类医学影像,自动识别出影像中的异常区域,如肺部的结节、肿瘤,脑部的病变等,为医生提供关键的诊断信息。杭州市第一人民医院借助DeepSeek的算力和模型,推出了“云影像+AI报告解读”服务。患者通过手机即可查看AI生成的初步报告。一位患者在体检中发现肺部小阴影,通过该服务在检查完成后1min内就收到了AI生成的初步报告。报告显示“高危肺结节,恶性概率70%”,并建议尽快就医。经医生复核,这位患者被确诊为早期肺癌并立即安排手术。该服务不仅缩短了患者等待报告的时间,还提高了病灶检出率,使更多早期病变能够被及时发现。
(2)症状分析与初步分诊。患者输入症状描述后,DeepSeek结合医学知识库生成可能的疾病列表,并建议优先检查项目,减少患者因挂错号而导致的时间浪费,还能使医院更合理地分配医疗资源,提高门诊的诊疗效率。
2.1.2 医学影像分析
DeepSeek在医学影像分析方面表现出色,能够帮助医生更准确地识别病灶和异常,提高诊断的准确性。广西科技大学第一附属医院与广西科技大学电子工程学院携手,结合DeepSeek的人工智能技术和YOLO目标检测算法,成功实现了医学影像的快速、精准检测。通过在PC端部署YOLO模型,实现了对医学影像的高效分析,提高了诊断的准确性和效率。
2.2 治疗环节
在医学及相关领域,对于患者来说,治疗可能是最为核心的环节了。DeepSeek在治疗的多个层面,都可以得到全面的应用。
2.2.1 个性化治疗建议
DeepSeek能够根据患者的个体情况,结合医学数据和研究成果,为医生提供个性化的治疗建议,帮助医生制定更精准的治疗方案。在北京西城区德胜社区卫生服务中心,国内首个基于DeepSeek推理大模型的肾脏共病临床决策支持系统正式投入使用。该系统可自动分析患者电子病历数据及检验检查结果,实时为社区医生提供诊疗决策支持,为每一位患者生成个性化诊疗方案。
个性化治疗建议可以在以下环节发挥作用:(1)用药方案优化。结合患者基因数据、身体个性化指标和药物相互作用数据库,推荐剂量调整或替代药物。(2)慢性病管理,如为糖尿病患者提供动态饮食建议,或为高血压患者预警服药时间。(3)治疗方案推荐。DeepSeek能够结合患者的个体情况、临床经验以及最新的医学知识,为医生提供科学、精准的治疗方案推荐。对于癌症患者,它通过对大量癌症病例数据的学习和分析,建立精准的治疗模型,综合考虑多方面因素后为患者推荐最适合的治疗方案。(4)手术辅助。在术前规划阶段,DeepSeek可以对患者的医学影像数据进行三维重建和分析,帮助医生全面了解患者的病变部位、周围组织和器官的结构以及血管、神经的分布情况,为医生制定手术方案提供详细、准确的信息,选择最佳的手术入路,避开重要的神经和血管,帮助减少手术风险。(5)个性化健康管理。DeepSeek通过对体检数据的深度分析,可生成个性化健康评估报告,并为用户定制预防性干预方案,帮助用户直观理解健康状况,为慢性病管理提供技术支持。
2.2.2 临床决策支持
DeepSeek可以为医生提供全面的临床决策支持,包括治疗方案的推荐、药物选择的建议等,帮助医生做出更科学的决策。DeepSeek可以整合患者电子病历、实验室数据与影像结果,提供动态决策建议,如在麻醉管理中生成个性化风险评分与药物推荐,降低术后并发症发生率。DeepSeek还可以通过知识图谱平台整合最新临床指南与病例数据,帮助医生快速调取相关研究,支持多学科会诊支持。例如青岛市第三人民医院的疑难罕见病诊疗中心引入DeepSeek,结合多学科专家团队,为复杂病例制定个性化诊疗方案。在接诊一位系统性红斑狼疮患者时,医生们借助DeepSeek对患者病史资料进行快速梳理和分析,结合多学科前沿资料,与北京协和医院专家远程会诊,达成最佳会诊意见。
2.3 数据管理与知识发现场景
数据管理与知识发现贯穿于医疗过程的各个环节,对提高医疗质量、促进医学研究、优化医疗资源配置发挥着关键的支撑和推动作用。
2.3.1 医疗数据处理与知识管理
DeepSeek能够高效地处理和分析大量的医疗数据,帮助医疗机构进行数据管理、知识发现和知识共享。例如,DeepSeek可以帮助医院优化病历管理系统,提高病历的检索和分析效率。通过将非结构化的电子病历(EMR)文本自动转换为标准化字段进行结构化处理,可以提升病历数据利用率和医保审核效率。科研人员输入临床问题,DeepSeek也会进行文献研究与证据整合,自动筛选最新论文、提取关键数据并生成证据总结,缩短新药临床试验方案设计周期。
青岛大学附属医院(青大附院)是一所大型三甲医院,每天产生大量的医疗数据,包括电子病历、检查报告、影像资料等。为了更好地管理和利用这些数据,提升医疗服务质量和效率,医院引入了DeepSeek大模型,并与电子病历系统实现高度集成,推出了临床智能助手Copilot与“青医爱问”两大应用实例。
2.3.2 医学科研与论文写作
DeepSeek能够帮助科研人员更高效地分析医学文献、探索疾病机制、预测药物疗效,加速医学知识的积累和创新,推动医学科学的进步。在文献研究与证据整合方面,DeepSeek能够帮助科研人员快速检索最新论文、提取关键数据并生成证据总结,缩短新药临床试验方案设计周期,推动医学知识的积累和创新。在相关数据收集与分析方面,DeepSeek能实时收集分析数据,结合最新医学研究成果和临床经验,为医生提供客观、科学的决策建议。如在肿瘤治疗决策中,能依据患者的肿瘤类型、分期、基因特征等,制定个性化治疗方案,提高治疗的精准性和有效性。
梅斯医学科研平台最初部署了Llama3-8B模型,用于数据治理和洞察,但为了进一步提升科研平台的能力,该平台成功切换至DeepSeek模型。DeepSeek在处理医疗文本数据方面展现出更高的准确率和更强的语义理解能力,优化了数据处理和分析的效率。通过脚本与正确数据的比对校验,最终将准确率成功提升至95%以上,该成果得到了专科医生的验证与认可,为后续的科研分析提供了可靠的数据支持。至今,该团队已成功为100余家医院提供服务,涉及50个专病数据库的建设与科室研究能力的评估,支持百万级临床医生开展临床研究。
2.3.3 药物研发
DeepSeek在药物研发过程中能够提供数据支持和分析,帮助研究人员更快地发现和开发新的药物,提高药物研发的效率。比如在靶点发现与化合物筛选方面,DeepSeek通过分析基因组与蛋白质组数据,缩短了传统靶点验证周期,生成数百万虚拟分子结构并预测其生物活性,缩短新药开发周期。
针对新冠病毒主蛋白酶(3CLpro),DeepSeek在两周内生成了237个候选分子,其中5个在体外实验显示IC50<100nM,而传统高通量筛选方法需要6~8个月。这些案例充分展示了DeepSeek在靶点发现与化合物筛选方面的强大能力,通过分析海量数据、生成虚拟分子结构并预测其生物活性,显著缩短了传统靶点验证和化合物筛选的周期,加速了新药开发的进程。
2.4 患者服务与教育环节
好的患者服务与教育,能够提高患者满意度、增强患者依从性、促进患者自我管理、减轻患者心理负担等作用,同时对优化医疗资源配置、提高医疗效率、降低医疗纠纷发生率也有着直接的影响。对医学研究而言,好的患者服务与教育,还能够提高患者参与度、促进研究成果的转化。在公共卫生领域,患者服务与教育还能够起到疾病预防与健康促进和提高公共卫生政策的知晓度和执行率的作用。
在患者沟通与健康教育方面,DeepSeek可以为医生提供患者沟通的辅助工具,帮助医生更好地与患者沟通,提高患者的满意度。同时,DeepSeek还可以为患者提供健康教育服务,帮助患者更好地了解自己的病情和治疗方案。具体而言,DeepSeek可以更好地将医学术语通俗化,通过将专业医学术语转化为患者容易理解的语言,帮助医生更好地与患者沟通。针对不同患者群体需求,生成个性化健康科普内容,提高患者依从性。同时,DeepSeek还能够进行智能随访系统。如徐州医科大学附属医院通过DeepSeek的AI智能随访系统,将原本需要7h的工作压缩至10min,效率提升了40倍,减轻了医护人员的工作负担,提升了患者的随访体验。
在远程医疗支持方面,DeepSeek能够支持远程医疗的应用,为远程医疗提供智能化的辅助,提高远程医疗的效率和质量。DeepSeek可以实现患者与医生之间的远程沟通和诊断,打破医疗服务的时空限制,使患者能够随时随地获得专业的医疗服务。对于一些行动不便的患者、偏远地区的患者以及患有慢性疾病需要长期随访的患者,远程医疗提供了极大的便利。成都市中西医结合医院(成都市第一人民医院)成功将DeepSeek人工智能大模型应用于远程医疗服务,提升了医疗服务的连续性、便捷性与安全性。通过互联网医院入口试点患者端口,在随访中接入DeepSeek技术,方便医患交流,实现医疗服务的连续性、便捷性与安全性,为远程医疗随访开辟新路径。
2.5 资源优化与管理资源
优化与管理在医学及相关领域能够起到提高医疗服务效率和质量、降低医疗成本、促进医疗资源均衡发展、提升医疗资源利用效率等作用。就优化医疗资源方面,DeepSeek能够通过智能化的分诊和诊断辅助,帮助医疗资源更加合理地分配,提高医疗资源的利用效率。比如通过对医院历史医疗数据的分析,DeepSeek可以预测不同科室、不同时间段的患者流量和医疗需求,帮助医院合理安排床位、设备和医护人员,提高医疗资源的利用率。通过综合考虑手术的复杂程度、手术时间、医生的工作负荷等因素,制定最优的手术排期方案。
2025年,武汉同济医院部署了DeepSeek-Hospital系统。该系统通过实时分析14个科室的132个诊间就诊数据,动态调整号源分配,并基于症状自述的语义理解实现精准分诊。应用后,门诊候诊时间中位数从127min降至49min。在测试期间,儿科发热患者的首诊准确率从78%提升至94%,避免了32%的无效转诊,有效优化了医疗资源的配置,提高了医院的诊疗效率和患者的满意度。
2.6 基因与生物技术领域
基因与生物技术在疾病诊断、疾病治疗、药物开发、疫苗研发、医疗保健等多个领域都有着重要的地位。DeepSeek在基因与生物技术研究与应用的诸多方面发挥着重要作用。
DeepSeek在生物信息学中的应用主要集中在基因数据分析和预测上。通过处理和分析大量的基因数据,DeepSeek能够帮助研究人员发现新的生物标志物和疾病相关基因。DeepSeek在疾病诊断和治疗方案优化方面也展现了强大的能力。基于第二代测序结果,DeepSeek可自动生成包含突变注释、致病性评估和治疗建议的结构化报告。DeepSeek通过模拟药物与靶点的相互作用,加速新药筛选过程,降低研发成本。DeepSeek还能够预测蛋白质的三维结构,为药物设计和疾病机制研究提供重要参考。在细胞治疗领域,DeepSeek的AI模型分析数万例T细胞受体数据,可以设计出更高效的嵌合抗元受体(CAR)结构。此外,通过模拟转录因子调控网络,AI预测诱导多能干细胞分化为特定细胞类型的最佳因子组合,可以大幅提高分化效率。
思路迪科技(上海)有限公司(思路迪诊断)将DeepSeek的推理模型DeepSeek-R1接入其自主研发的肿瘤临床知识库(CKB),显著提升了基因变异临床解读的效率与准确性。采用“AI智能提取+专家审核”模式,实时更新药物获批文件、临床指南和公共数据库,深度解析超过40万篇专业文献,已收录超过13000条专家审核证据,覆盖600余种肿瘤类型和1900多种抗肿瘤药物。通过接入DeepSeek-R1,CKB在处理医学文献的深度挖掘方面表现出色,特别擅长识别和提取变异-肿瘤-药物(Variant-Tumor-Drug,VTD)关系,帮助发现潜在的临床证据和新的研究趋势。
此外,DeepSeek在甲基化检测试剂盒开发中也有应用。例如,在结直肠癌研究中,DeepSeek通过分析TCGA和GEO数据,识别出15个新型差异甲基化区域(DMRs),包括SYNE1和THBD基因。基于这些发现,研究团队构建了早期筛查模型,具有较高的灵敏度和特异性。
以上仅是DeepSeek在医学及相关领域的一些典型应用。在医学及相关领域的其他场景下,DeepSeek也有着更多的可能应用空间有待拓展。
3 DeepSeek在医学及相关领域应用的4个层次
尽管DeepSeek在医学及相关领域有着巨大的应用前景,但由于DeepSeek刚刚面世,因此,对DeepSeek的应用也存在用户教育、本地部署、领域知识预训练和微调等一系列问题。不同医学机构限于其自身的技术能力和应用需求,在DeepSeek的使用和部署上也会存在巨大的差异。
DeepSeek在医学及相关领域的应用存在以下4个不同的层次。第1个层次,医学及相关领域中的个体由于工作需要,直接访问DeepSeek。但这种方式可能受限于机构内部信息泄露、服务器不稳定、DeepSeek缺少医学专有领域知识等缺陷。第2个层次,医学及相关领域的机构本地或边缘侧部署DeepSeek,但缺少医学专有领域知识训练。这种方式一是解决了服务器服务不稳定的问题,二是在受保护的情况下可以就一些可能涉及机构内部信息的问题访问本地DeepSeek服务器。第3个层次是在本地部署的基础上对DeepSeek服务器进行了医学专有领域知识训练。这种方式下,DeepSeek就成为医学及相关领域的专有领域大语言模型。第4个层次是在第3个层次基础上,将本地所有内容,包括业务流程、客户信息等内部信息,全部上传到本地DeepSeek服务器。在这种情况下,DeepSeek服务器不但具有人类建立在语言基础上的通用知识,还具有医学及相关领域的专有领域知识,而且还具备机构内部的知识,成为机构独有的大语言模型。在这个基础上,只需要略加封装,就可以生成相应的医学智能体Agent。
前面涉及到的诊断、治疗两个环节,都不仅涉及到医学领域知识,而且涉及到患者的个性化数据,因此,就需要第4个层次上的DeepSeek服务。数据管理与知识发现、患者服务与教育、基因与生物技术,至少需要第3个层次的DeepSeek服务。资源优化与管理因为涉及到医学及相关领域机构内部数据作为工作对象,因此也需要第4个层次上的DeepSeek服务。
4 DeepSeek在医学及相关领域面临的问题及应对
尽管各行各业都在快速推进DeepSeek的本地化部署和应用,但由于DeepSeek刚刚出现,因此目前几乎所有行业对DeepSeek的应用相对来说还处于比较浅的层面。尽管DeepSeek是中国国产的大语言模型,但也仍然存在用户隐私泄露的可能。此外,大语言模型所固有的幻觉问题,以及可解释性和可靠性等问题,也仍然是影响DeepSeek在医学及相关领域大面积应用并深入落地的重要因素。
4.1 应用层面较浅问题及解决路径
应用层次浅主要表现在以下两个方面。一是核心业务渗透不足。目前DeepSeek在医疗领域的应用多集中在辅助诊断、文献检索等外围环节,尚未深入到医疗核心业务流程中。在临床决策支持方面,其应用也较有限,难以直接为医生提供精准诊疗建议,无法满足医疗行业对AI技术在核心业务中的深度需求。二是专业领域适配性不足。DeepSeek作为通用大模型,在处理医学专业术语、复杂诊疗流程等方面存在理解偏差和适应性不足。与医疗垂直领域专业模型相比,其在专业深度和场景穿透能力上存在差距,限制了其在医学及相关领域的广泛应用。
DeepSeek是建立在通用语料库基础上的语言大模型。相当多的医学及相关领域专业知识并没有形成数据,也没有投喂给DeepSeek。这也是目前DeepSeek应用层次浅的最主要原因。因此,在DeepSeek本地化部署以后,最重要的工作是将更多的医学知识数字化,然后将这些数据投喂给DeepSeek,并利用这些数据进一步对DeepSeek进行训练和调优,使其具备更多医学及相关领域知识。在此基础之上,DeepSeek在医学及相关领域的应用才能进一步深化。我们给DeepSeek越多的医学专业数据,DeepSeek就能够实现越精准的疾病诊断,也将能帮助科学家更高效地预测药物的药效、副作用以及与其他药物的相互作用,从而缩短药物研发周期,降低研发成本。随着更多患者信息的录入,DeepSeek就能够根据患者的基因组信息、生活方式和临床数据,为患者量身定制个性化的治疗方案,提高治疗效果,减少副作用。
4.2 用户隐私泄露可能及应对
一是存在数据收集与处理风险。在医疗领域,DeepSeek需要处理大量包含患者个人隐私的医疗数据,如病历、影像等。如果数据收集和处理过程中存在漏洞,可能导致患者隐私数据泄露,给患者带来不必要的麻烦和损失。二是仍然面临数据共享与合规挑战。医疗数据的共享和使用需要严格遵守相关法律法规,如HIPAA、GDPR等。在实际应用中,如何在数据共享与隐私保护之间找到平衡,并确保数据使用的合法合规性,是DeepSeek面临的一大挑战。
当前很多单位本地化部署了DeepSeek,但这些部署基本都处于“裸奔”状态,没有做任何安全方面的防护。因此,基于等级保护和关键基础设施建设要求,对本地化部署的DeepSeek也需要对其安全防护作出相应的部署。同时,引入更多数据安全和隐私保护技术,保护用户和患者的相应信息免于泄露。
此外,对上传到DeepSeek的数据也需要分组分类对待。比如,通用的甚至专用的医学知识和经验,应该可以作为训练数据以实现对DeepSeek模型的进一步训练和调优。但涉及到用户和患者的数据,如何处理其隐私内容,处理之后的数据哪些内容可以用于模型训练和调优,哪些内容仍然还必须作为用户和患者隐私对待,而不能作为模型训练和调优的“燃料”,都需要在技术和伦理层面做出更详细的探讨和安排。
4.3模型幻觉和安全问题及应对DeepSeek作为生成式大语言模型,“幻觉”现象是其固有属性。即在数据不充分的领域,出于泛化要求,模型又必须要给出对应解答。那么这个时候,大概率“幻觉”现象就出现了。在医学领域,大语言模型也会生成看似合理但实际错误或虚构的诊断信息。这可能导致医生和患者对AI生成的诊断结果产生误解,从而做出错误的医疗决策,甚至可能危及患者生命。
DeepSeek还存在网络攻击与数据安全威胁。随着AI技术的发展,针对DeepSeek的网络攻击呈上升趋势。攻击者可能利用僵尸网络等手段对DeepSeek发起攻击,干扰其正常运行,甚至篡改训练数据,导致模型输出不可信的结果。
此外,DeepSeek也存在模型可靠性与可解释性不足的问题。与其他大语言模型一样,DeepSeek的决策过程复杂且难以完全透明化,像一个“黑匣子”,这使得医生和患者对其信任度较低。在医疗领域,AI系统的可靠性、可解释性和稳定性至关重要,否则难以获得医疗专业人士和患者的接受。
幻觉是生成式大语言模型的固有问题,采取技术手段可能无法杜绝和根除“幻觉”现象的出现,因此,一方面是通过大模型的对抗训练和鲁棒性优化,尽可能减少“幻觉”现象的出现。但另一方面,我们必须将DeepSeek这一类大语言模型的使用严格限定在“助手”这一角色定位上。凡是重要一点的决策和内容,必须以人为主导,而不能完全托付给DeepSeek这一类大语言模型。再一方面,基于可靠数据,可解释逻辑推理,构建可信任的医学人工智能,仍然是当前医学人工智能发展不可或缺的一个路径。
持续监测与更新也是必要的安全机制。建立持续监测和更新机制,及时发现和修复模型中的漏洞和问题,确保模型的安全性和可靠性。例如,定期对模型进行安全评估和更新,以应对不断变化的威胁环境。
5 DeepSeek在医学及相关领域应用的展望
人工智能在医学及相关领域的应用是发展趋势。人工智能应用的深度,在某种程度上既是数字化转型的深度,也是医学新质生产力形成的标志。
DeepSeek在医学及相关领域的应用虽然具有巨大潜力,但也面临着应用层面浅、用户隐私保护难度大、模型幻觉及安全风险高等诸多问题。要推动其在医学及相关领域的深入应用,需要从技术优化、数据管理、安全防护、伦理规范等多方面入手,不断完善和解决这些问题,以确保AI技术在医疗领域的安全、可靠和有效应用。
DeepSeek在医学及相关领域的应用前景广阔,未来有望在更精准的诊断、更有效的药物研发、更个性化的治疗和更便捷的医疗服务等方面发挥更大的作用。同时,通过数据加密、安全硬件设计、数据与模型分离和分层权限管理等措施,用户隐私泄露问题有望得到有效抑制。此外,通过对抗训练、模型可解释性研究、安全硬件与软件协同防护以及持续监测与更新等手段,模型幻觉及安全问题也有望得到解决。这些技术的发展和应用将推动DeepSeek在医疗行业的深入应用,为患者和医疗专业人士提供更优质、更安全的医疗服务。
本文原始出处:
引用本文
高承实,程元骏 . DeepSeek在医学及相关领域的应用[J]. 元宇宙医学,2025,2(1):36-43.
GAO C S,CHENG Y J. Applications of deepseek in the medical field and related areas[J]. Metaverse Med,2025,2(1):36-43.
来源:高博士数字科技观察一点号