摘要：肿瘤医生在癌症患者决策中扮演重要角色，但他们常常未能参与关键对话。宾夕法尼亚大学健康系统引入了一种人工智能算法，旨在通过预测患者死亡几率来促进治疗和临终偏好的讨论。然而，该算法在COVID-19大流行期间有效性下降7个百分点，未能促使医生与患者展开必要讨论，可

肿瘤医生在癌症患者决策中扮演重要角色，但他们常常未能参与关键对话。宾夕法尼亚大学健康系统引入了一种人工智能算法，旨在通过预测患者死亡几率来促进治疗和临终偏好的讨论。然而，该算法在COVID-19大流行期间有效性下降7个百分点，未能促使医生与患者展开必要讨论，可能导致患者接受不必要的化疗。算法性能监测的挑战引起医院高管和研究者关注，指出需要持续监控和充足资源以维护这些技术。尽管人工智能在医疗领域的应用日益广泛，FDA也批准了众多相关产品，但评估其有效性和持续运行的标准仍缺乏，给医院选择合适工具带来困难。耶鲁医学中心的研究显示，算法性能差异显著，强调了这一问题的紧迫性。

为癌症患者准备应对艰难决策的能力是肿瘤医生的重要职责。然而，不幸的是，这些医疗专业人员并不总是记得参与这些关键对话。在宾夕法尼亚大学健康系统中，已实施了一种人工智能算法，旨在通过预测患者的死亡几率来鼓励关于治疗和临终偏好的讨论。该工具旨在帮助肿瘤医生与患者共同做出明智的决策。

然而，这种算法并非简单的一次性解决方案。一次常规的技术评估显示，在COVID-19大流行期间，其有效性有所下降，导致其预测死亡率的能力下降了7个百分点，这在2022年的一项研究中得到了报告。这一下降的后果十分严重。来自埃默里大学的肿瘤医生、该研究的首席作者拉维·帕里克博士指出，算法在许多情况下未能促使医生发起关键讨论，这可能导致那些真正需要的患者未能避免不必要的化疗。

算法性能的下降只是计算机科学家和医疗服务提供者长期以来所认识的更广泛问题的一个方面。这一困境现在引起了医院高管和研究人员的关注：人工智能系统需要持续监测和充足的人员配置，以确保其有效性。本质上，为了维护这些新工具，需要额外的人员和资源，以防止潜在错误的发生。

斯坦福健康护理的首席数据科学家尼甘·沙博士指出，尽管普遍认为人工智能将提升访问、能力和整体护理，但现实可能截然不同。如果人工智能的实施使护理成本增加20%，其可行性便值得怀疑。此外，政府官员也表达了担忧，认为医院可能缺乏必要的资源来全面评估这些技术。FDA专员罗伯特·卡利夫表示，据他所知，美国目前没有任何健康系统能够在临床护理环境中验证人工智能算法。

人工智能在医疗领域已经取得了相当大的立足点，算法被用于预测患者恶化、建议诊断和简化行政任务。如果技术支持者的观点正确，那么其普及和盈利能力只会不断增加。投资公司Bessemer Venture Partners已识别出约20家预计在一年内每家产生1000万美元收入的健康相关人工智能初创企业。FDA也已批准近千种人工智能产品。

评估这些产品的有效性本身就十分复杂，但判断它们是否继续正常运行则更具挑战性。耶鲁医学中心最近的一项研究评估了六个“早期预警系统”，旨在提醒临床医生有关快速恶化患者的风险。研究显示，测试算法之间的性能差异显著，突显出医院在选择最合适工具时所面临的困难。美国医学会前会长杰西·埃伦费尔德博士对此表示遗憾，指出在部署后缺乏评估人工智能算法性能的标准。

来源：老孙科技前沿一点号