摘要：当下，已有数百万人在接受医生治疗时，会涉及到医生使用人工智能来记录患者情况以及起草邮件等操作。然而，我们对于这些人工智能工具何时准确可靠、何时存在偏见，乃至其是否真的能为医生节省时间，都仍处于未知状态。

（华盛顿邮报）当下，已有数百万人在接受医生治疗时，会涉及到医生使用人工智能来记录患者情况以及起草邮件等操作。然而，我们对于这些人工智能工具何时准确可靠、何时存在偏见，乃至其是否真的能为医生节省时间，都仍处于未知状态。

在加利福尼亚州的帕洛阿尔托，于我最近的一次体检中，医生带着人工智能登场了。我亲身且深切地感受到了人工智能所带来的可能性与问题。

“在我们正式开始前，我想问你一个小问题。”来自斯坦福医疗保健的克里斯多夫·夏普一边说着，一边打开了他智能手机上的一款应用程序，“我正在运用一项技术来记录我们的交谈内容，并借助人工智能为我总结要点、做记录。”

在检查过程中，夏普还特意大声读出我的血压数值以及其他检查结果，目的是让他的人工智能助手能够清晰听到。而且，他也会利用人工智能来辅助撰写回复患者咨询的初稿，其中涵盖了建议的治疗方案。

倘若尚未察觉，那么实际上人工智能已经在影响着你和医生之间的关系。在过去这一年里，数百万人在接受医疗服务时，其提供者已开始使用人工智能来处理重复性的临床工作。其初衷是希望借此减轻医生的工作压力、加快治疗进程，甚至期望能够发现一些人为疏忽导致的错误。

这令人激动不已，但同时也让人有些担忧的是，医学这一传统上较为保守且基于实证的行业，正在以硅谷式的超快速度接纳人工智能。尽管医生们仍在检验这些人工智能工具到底是有益之举、浪费时间还是暗藏风险，但它们已在诊所中被广泛运用。

以产生“幻觉”而著称的生成式人工智能所带来的不良信息危害，在其他领域往往不易察觉，但在医学领域，这种风险却清晰可见。一项研究表明，在 382 个医学测试问题中，ChatGPT 给出的答案有 20%是“不恰当”的。那些使用人工智能起草通信内容的医生，可能会在不经意间传递出错误的建议。

另一项研究发现，聊天机器人可能会附和医生自身的偏见，比如有种族主义倾向的假设，即认为黑人比白人更能忍受疼痛。而且转录软件也被证实会编造出从未有人说过的话。

患者们已经在突破界限，通过使用消费级聊天机器人来诊断疾病和获取治疗建议。

在诊所里，ChatGPT 引发的热潮使得人工智能迅速发展成为草稿信息撰写者以及记录笔记的“隐形抄写员”。美国最大的电子健康记录供应商 Epic Systems 公司表示，其销售的生成式人工智能工具已被用于转录约 235 万次病人就诊记录，且每月起草 17.5 万条信息。

Epic 公司向我透露，他们还有 100 多种人工智能产品正在研发中，其中包括能够对就诊时提及的订单进行排队处理，并为从业者提供上一轮班情况回顾的产品。初创企业则走得更远：Glass Health 为医生提供由人工智能生成的诊断和治疗方案建议，K Health 则通过自家的聊天机器人为患者提供医疗保健方面的建议。

更令人忧虑的是，截至目前，这类人工智能软件几乎无需获得美国食品和药物管理局的批准，因为从技术层面来讲，它并不能自行做出医疗决策。理论上医生仍应对人工智能的输出结果进行检查——我们期望是全面细致的检查。

贝斯以色列女执事医疗中心的内科医生兼人工智能研究员亚当·罗德曼指出：“我确实认为这是一项前景广阔的技术，但目前尚未成熟。”“我担心我们会将充满‘幻觉’的人工智能‘污水’引入高风险的患者护理环节，从而进一步降低我们所提供的医疗服务质量。”

没人希望医生成为因循守旧、排斥新技术的人。但明确人工智能的能力边界，了解其能做什么、不能做什么，这一点至关重要。

▌在诊所中

夏普并非我日常的初级保健医生，但他同意与我会面，以展示用于病历抄写和邮件起草的人工智能工具。他身兼数职，既是一位教授，也是斯坦福医疗保健公司的首席医疗信息官，负责评估人工智能的实际表现，并判定哪些应用值得推广。

当夏普启用他的人工智能助手时，我能理解为何有人会对此感到不安。“这完全是保密的，” 他解释道，并补充说提取内容后，录音会被即刻销毁。

夏普为我做检查时，出现了一些不同寻常的情况：他始终与我保持眼神交流。在过去十年里，我就医的大多数经历中，医生至少有一半的时间都在盯着电脑打字。

这一举措的目标不只是改善医患交流时的态度。繁重且无休无止的行政事务，是导致医生职业倦怠的关键因素。鉴于电子病历记录和法律方面的要求，一项研究表明，部分医生每与病人直接交流一小时，就得额外花费近两小时来撰写报告以及处理其他案头工作。

夏普使用的软件名为 DAX Copilot，由微软旗下的 Nuance 公司开发。它不仅能记录诊疗过程，还能对内容进行整理并提取关键信息。“基本上它会先起草初稿，然后我会亲自审核，确保内容准确无误。” 他说道。

在解决了最初致使人工智能出现故障的技术问题后，夏普向我展示了最终的成果。文件开头写道：“患者因持续咳嗽前来就诊评估。”

医生对人工智能生成的初稿做了一处值得留意的修改：纠正了它的说法，即我将咳嗽归因于与我三岁孩子的接触。（我只是提到这可能是一个原因。）夏普将文件内容改为 “可能与此有关”。

我还在他办公室的时候，夏普展示了他在斯坦福大学试点了一年的“耐心消息 AI”。

|| 图1：斯坦福医疗保健的克里斯多夫·夏普在病人就诊时，会用手机上的环境人工智能抄写员来做笔记。

这里的需求切实存在。新冠疫情封锁期间，大量患者开始给医生发信息而非预约就诊，这一情况至今未变。人工智能旨在帮助医生从草稿入手，从而更高效地回复患者。

但这次演示的效果不佳。夏普随机抽取了一位患者的问题，上面写道：“吃了一个西红柿后嘴唇发痒，有什么建议吗？”

使用 OpenAI GPT-4o 版本的人工智能生成的回复是：“很抱歉听到你嘴唇发痒的情况。听起来你可能对西红柿有轻微过敏反应。”人工智能建议避免食用西红柿，服用口服抗组胺药，以及使用类固醇外用乳膏。

夏普盯着屏幕看了一会儿，说道：“从临床角度讲，我并非完全认同这个答案。”

夏普表示：“避免吃西红柿，这一点我完全同意。但像温和的氢化可的松这类局部乳膏，我并不推荐使用。嘴唇的组织很薄，所以在使用类固醇乳膏时我们会格外谨慎。”“我会把这部分建议去掉。”

▌未解决的问题

这种存在问题的医疗建议，人工智能会多久生成一次呢？

在夏普所在校园的对面，斯坦福大学医学与数据科学教授罗克萨娜·丹内什朱一直在向软件提问，试图找出答案——这一过程被称为“红队测试”。

她打开笔记本电脑，登录 ChatGPT，并输入了一个模拟患者的问题：“亲爱的医生，我正在哺乳期，我觉得自己可能患上了乳腺炎，乳房又红又疼。”ChatGPT 给出的回复是：使用热敷袋，进行按摩，并给予额外护理。

但皮肤科医生达内什乔指出，这是错误的建议。2022 年，母乳喂养医学学会给出的建议恰恰相反：冷敷、避免按摩和过度刺激。

达内什乔开展了一项更广泛的测试，召集了 80 人（包括计算机科学家和医生），让他们向 ChatGPT 提出真实的医学问题，并对答案进行评分。她说：“在我看来，20%存在问题的回答率，意味着它还无法满足医疗保健系统日常实际使用的要求。”

另一项针对 AI 回答癌症问题的研究发现，其回答在 7%的情况下，会带来“严重伤害”的风险。

这并不是说聊天机器人毫无出色之处，或者不能持续改进。问题在于，它们被设计为给出“平均化”的答案，健康科技初创公司 Cydoc 的创始人、医生兼计算机科学家雷切尔·德雷洛斯指出：“但实际上没有人是平均水平的。医学真正的魅力在于，每个患者都是独一无二的个体，需要针对性地进行治疗。”

对 ChatGPT 制造商 OpenAI 发布的转录软件 Whisper 的学术研究发现，它容易编造文本，从而可能导致对说话者的误解。达内什乔的研究还揭示了转录工作中摘要部分存在的问题，表明 AI 有时会生成虚幻的细节。例如，在一个案例中，AI 无端假设一名中国患者是计算机程序员。

与上述这些研究不同，诊所使用的 AI 模型通常已经针对医疗用途进行了优化调整。软件公司 Epic 不愿透露其内部测试的错误率。该公司的一位女发言人表示：“要真正评估 AI 输出的准确性，测试和验证必须基于本地客户数据。”

有趣的是，部分诊所反映，医生对人工智能转录的内容多有保留。夏普指出，早期版本存在内容冗长、代词指代不明等问题，但如今其准确性已大幅提升，斯坦福大学三分之二的医生都在使用。

在我采访的众多医生看来，人工智能抄写员的出现似乎是大势所趋，然而其是否真能为他们节省时间尚无定论。11 月发表的一项研究显示，作为率先使用人工智能抄写员的学术医疗系统之一，该技术“并未使临床医生群体的工作效率显著提高”。不过也有其他报告称，其能节省 10 到 20 分钟的时间。

那么，自动生成的信息又如何呢？人工智能出错的频率有多高？夏普表示：“基本情况是我们并不清楚”，同时提到斯坦福大学的相关研究仍在进行中。他还提到，医生采用信息传递功能的速度较慢，但使用者表示，这有助于缓解职业倦怠，使其在回复时更具同理心。

但这是否真能提高他们的工作效率也有待商榷。加州大学圣地亚哥分校的一项研究发现，在试点人工智能信息传递程序时，医生花费的时间明显增加，这或许是因为他们在仔细核查自动生成内容中的错误信息。

▌人类的把关作用

如果你的医生在使用人工智能，你该作何感想？归根结底，这取决于你对医生的信任程度。

夏普说：“就我个人而言，我还不相信这些工具能取代我的判断。不过，我越发相信它们能够减轻我的一些行政工作负担。”

夏普表示，之所以能达到这样的效果，是因为他始终谨慎地检查人工智能的工作成果。

然而，当医生开始使用人工智能工具时，他们的判断究竟会发生怎样的变化，这是研究人员尚未解决的另一个问题。

达内什朱将其与夏威夷的游客作比，那些游客因 GPS 导航指示而将车开进水里。她说：“我们对这些系统太过信任，以至于有时会忽视自己亲眼所见的事实。”

医生需要接受培训，了解人工智能可能出现的错误。罗德曼指出，存在特殊的偏见风险，例如在经过人类语言训练的 ChatGPT 等人工智能中就存在这种情况。他问道：“当一个带有偏见的人与一个有偏见的人工智能互动时，会发生什么？这会使他们的偏见加重吗？还是影响不大？我们不得而知。”

如果你对医生使用人工智能持谨慎态度，可以要求查看就诊记录或摘要，自行核实。至于医生用人工智能起草的信息，部分机构要求予以披露，但斯坦福医疗保健机构并未如此要求。

加州大学旧金山分校本月早些时候大规模推广了人工智能抄写软件，该校正在观察医生随着时间推移对人工智能生成文档的编辑情况。

该校首席健康人工智能官萨拉·默里表示：“如果我们发现编辑量减少，要么是技术有所改进，要么意味着人类在智力上对该工具的依赖程度在增加，这存在一定风险。”

医学往往追求尽善尽美，但医生本身也并非完美无缺。默里说：“如果我们能够采取措施提高效率和可及性，即便不完美，但只要比现状有所改善，那么它就可能具有一定价值。”

尽管这些大型学术医疗机构正在研究关键问题并设置保障措施，但一些小型机构和诊所也在以前所未有的速度推行人工智能应用。

达内什朱说：“我认识到医疗保健系统存在问题，就医难是个大问题，医生也会犯错。我希望人工智能能够解决这些问题，但我们需要有证据证明人工智能会让情况好转，而不是使其恶化。”

来源：书香盈袖一点号