算法分诊伤害患者:心理健康工作者揭示人工智能医疗的隐患与争议

区块链技术

近年来,人工智能技术在医疗领域的应用呈爆发式增长,然而在心理健康护理领域,这一技术的引入却引发了广泛争议。Capital & Main的深度调查报告揭示了一个令人担忧的现象:算法分诊系统正在损害患者获得及时、适当护理的机会,心理健康工作者们正在通过工会谈判和立法途径,力图为此类技术应用划定明确边界。 加州 Permanente 医疗集团心理健康分诊临床医生哈里曼迪尔·哈尔萨回忆道,她最初在精神科部门工作时,团队共有九名成员。如今,仅仅三年多过去,她所在团队只剩下三名分诊临床医生。部分原本由员工完成的工作已经转移到自动化和算法工具上。这种变化恰好与患者在与她通话时表现出沮丧情绪的比例大幅上升相吻合。

在典型的工作日中,她近二十四通分诊电话中,多达三分之一涉及难以获得适当护理的患者。 "增加的是挫败感。有时候人们会说,'我被到处踢皮球'。"哈尔萨描述道。多个 Kaiser 心理健康护理工作者表示,分诊人员配置的减少以及人工智能驱动系统的日益使用,已导致危险的延误、漏诊和不适当的治疗决策。 为了解人工智能如何影响心理健康护理,Capital & Main 采访了该领域的十多名治疗师、临床医生、学术专家和倡导者。

他们表示,这项技术仓促整合正在侵蚀患者获得及时和适当心理健康护理的机会。虽然人工智能正在改变许多专业领域的工作,但工作者们指出,在心理健康领域使用时其风险尤其高,因为它为那些已经在与严重抑郁症、双相情感障碍和其他严重疾病作斗争的患者创造了获得护理的障碍。 奥克兰 Kaiser 治疗师伊拉娜·马库西-莫里斯大约在两年前注意到,通往心理健康护理的路径正日益被技术所主导。患者不再是由初级保健医生直接转介并被联系安排预约,而是通过应用程序、非临床呼叫中心工作人员或简单地被给予一个电话号码来联系。"现在 onus 落在了患者身上,让他们成为自己的护理协调员。"她解释道。

这种动态对某些患者来说尤其具有挑战性。"缺乏动力和缺乏跟进是地球上最常见的抑郁症症状。"马库西-莫里斯说。"我们不会告诉截瘫患者,'嘿,为了获得轮椅,你得自己走到大厅去。'" 哈尔萨和马库西-莫里斯现在花费更多时间做所谓的"服务恢复"工作,即修复那些护理期望未得到满足的患者的信任。即使更广泛地使用自动化和算法系统并没有消除人类工作岗位,它也会改变工作的性质,增加安抚因这些系统而受到不公正待遇的患者的情感劳动。

"更多时候,我在让一位不满的患者冷静下来,因为他们被送到了错误的路径上,正在受苦,所以他们对我们的感到沮丧。"马库西-莫里斯表示。 北加州 Kaiser 临床心理学家梅丽莎·史蒂文斯在慢性疼痛项目工作,当患者需要为严重抑郁症或妄想症寻求精神科护理时,她经常会在 Kaiser 内部进行转介。然而,她说,在过去一年里,Kaiser 依赖人工智能驱动分诊系统使这些转介变得更加困难。她有时会听到从未被联系过的患者,或者被安排参加焦虑或抑郁症团体课程的患者,即使他们需要更高水平的护理。 "任何筛选系统都会 dismiss 他们,直到我真正拿起电话给真人打电话。

"她说,并补充道:"我想,'这里发生了什么?'" 哈尔萨表示,这种延误不仅令人沮丧,而且可能很危险。"我确实看到过这样的案例,有时在新的分诊系统下延误了数周,或者自杀自残或既往自杀未遂被遗漏。" Kaiser 现在通过 Calm 和 Meru Health 等第三方应用程序和数字程序连接患者,这些程序提供引导冥想和包含最多四次远程医疗治疗师会话的十二周心理健康课程。哈尔萨说:"Kaiser 说,'嘿,这太棒了;你可以立即获得一些关于睡眠的认知行为技巧。'""但如果这个人正处于躁狂发作期,因为他们躁狂所以睡不着呢?一个小应用程序不会有什么帮助。" Kaiser 工作者表示,这些应用程序和程序在某些情况下可以提供有价值的信息和见解,但他们告诉 Capital & Main,在其他情况下,它们对患者几乎不起作用,患者在没有得到适当治疗的情况下情况会恶化。

"这不是每周治疗,所以我的很多患者从那个项目回来后,三四个星期后,他们的情况比开始时更糟。"马库西-莫里斯说。"最让我困扰的是那些完成整个十二周课程的患者,然后他们再次去看医生,抑郁症反而更严重了。" 威斯康星州罗杰斯行为健康中心也面临着类似的问题。该中心在十个州设有设施,于2024年底宣布与提供人工智能产品帮助心理健康护理提供者的公司 Limbic 建立合作伙伴关系。根据罗杰斯新闻稿,该合作伙伴关系的目标是"为任何做出寻求心理健康支持勇敢决定的人创造更轻松的护理途径"。

到2025年8月,Limbic 发布了关于罗杰斯使用其产品的案例研究,包括人工智能 intake 聊天机器人和人工智能语音代理。该报告声称 Limbic 使用"基于人工智能生成的临床智能的实时路由和优先级排序"。 然而,对于接受 Capital & Main 采访的罗杰斯工作者来说,Limbic 的整合并不是该报告所暗示的巨大成功。艾琳·奎兰是威斯康星州麦迪逊市罗杰斯设施的行为专家,她注意到自从罗杰斯开始使用 Limbic 以来,许多患者被安排在不适当级别或类型的护理中。 奎兰说,最近一名"非常高危自杀风险"需要住院护理的患者,反而被接纳为她所在建筑提供的最低级别护理:强化门诊护理。她估计,在她的行为健康小组课程中,通常至少有八名参与者,但通常至少有一人不应该被安排在这个课程中。

"如果患者没有能力通过技巧调节情绪,他们会非常快速地变得不知所措,我们将让他们陷入危机。"她说,并注意到此类危机涉及患者哭泣、尖叫和试图离开设施。 前罗杰斯治疗师凯特·佐兰兹也看到了在引入 Limbic 后不适当安排增加的情况。在该公司威斯康星州西艾利斯设施工作四年后,她特别震惊于在采用 Limbic 后似乎缺乏对过去攻击性行为的筛查。"当他们哭泣时,他们失去调节,情绪失控,尖叫,扔东西,这会扰乱患者护理,但也会让员工更加疲惫,因为他们需要处理这种即时危机。"她说。

尽管人工智能技术存在这些问题,但专家和临床医生提醒,有些问题只能通过确保持照人类护理人员在心理健康和其他医疗保健中发挥核心作用才能解决。工会和立法者目前正提议在工会合同和州法律中为人工智能的使用设置护栏。 美国心理学会数字健康与创新主任、临床心理学家莱安娜·福尔图纳托表示:"归根结底,人工智能工具只是工具。提供者是有执照的专业人员,所以他们的判断才是重要的。" 加州议会第2575号法案的关键条款旨在通过保护医护人员免受报复(如果他们否决人工智能的建议)来捍卫专业人员的判断。该法案还要求医疗机构更加透明地告知工人人工智能系统的风险和使用情况,并将对患者造成的任何伤害的责任转移给人工智能开发者和医疗机构。

该法案以较大优势通过了议会,并已通过多个参议院委员会的审议,正在等待全体投票。 加州医院协会和 Kaiser 是反对该法案的三月份联名信签署方之一。加州医院协会通讯高级副总裁大卫·西蒙在致 Capital & Main 的信中写道:"我们关注的核心是,这项法案将破坏临床医生通过临床决策支持系统使用人工智能改善医疗保健几乎所有方面的多种方式 - - 从质量、患者体验和可负担性到临床医生效率。" 加州大学旧金山分校医学系主任、《巨人飞跃:人工智能如何改变医疗保健及对我们的未来意味着什么》一书的作者罗伯特·瓦赫特也对该法案提出了批评。"我们需要一些安全实验的空间和监督,而不是锁定现状。"他说。

法案作者、众议员利兹·奥尔特加告诉 Capital & Main,她承认人工智能在改善医疗保健方面的重要性,并称赞它"拯救了生命并能够识别严重的健康状况"。然而,她说,人工智能"也可能出错",患者和工作者应该从医疗保健提供者那里获得保护和透明度。另一项待决法案第1979号法案由众议员米娅·邦塔起草,将禁止仅基于人工智能输出做出临床决策,并加强数据隐私保护。全国医疗工作者工会、全国护士工会和加州护士协会支持这两项法案。 在北加州,Kaiser 医疗工作者已将人工智能的适当部署作为合同谈判中的一个重要议题。然而,据全国医疗工作者工会称,Kaiser 目前拒绝同意一项条款,即人工智能"不会取代,而是协助"员工"提供安全的治疗和有效的患者护理和支持"。

Kaiser 发言人钱伯斯没有回应有关该提案条款的问题,但在一份声明中告诉 Capital & Main:"作为与全国医疗工作者工会持续谈判的一部分,我们的提案专注于确保我们的会员能够及时获得高质量的心理健康护理,支持我们的临床医生提供优质护理,并满足日益增长的服务的需求。" 代表北加州约2400名 Kaiser 心理健康工作者的全国医疗工作者工会,自去年九月以来一直没有合同,医疗巨头使用人工智能已成为主要分歧点。 这一分歧还促使全国医疗工作者工会于去年四月向加州管理医疗保健部提出投诉,指称 Kaiser 使用人工智能对患者进行分诊违反了加州法律。该工会还于七月二十日提出第二项投诉,指称 Kaiser 基于网络的"电子就诊"工具也违反了州法律。在工会引用的书面材料中,Kaiser 表示其 intake 系统使用"内置逻辑和算法"来识别患者的痛苦程度,然后指示呼叫中心代理安排护理。 工会认为,根据法律,分诊必须由持照临床医生执行,这一观点得到了加州法律大学法学教授、创新中心主任罗宾·费尔德曼的认同。

"加州法律要求持照医疗专业人员必须做出关于特定患者需要何种护理水平的决定。"费尔德曼在一封电子邮件中写道。 今年二月,Kaiser 与美国劳工部达成协议,支付超过2800万美元给在2021年至2024年期间不得不在网络外寻求心理健康护理的患者。公告称,Kaiser "使用患者对问卷的回答不当阻止患者获得护理"。钱伯斯表示,此事不涉及人工智能。 Kaiser 声称,心理健康护理工作者的短缺部分导致了其提供足够护理的困难。

其一些工作者引用 Kaiser 约670亿美元的未受限现金储备来质疑这一说法。 与此同时,在威斯康星州西艾利斯,罗杰斯的心理健康护理工作者在四月以54票对4票的结果投票加入全国医疗工作者工会,但罗杰斯尚未同意与他们会面和谈判。在接受 Capital & Main 采访的几位工作者指出,透明度 - - 准确了解人工智能的使用方式 - - 是一个关键问题。 即使有更好的人工智能系统以及如何使用它们更加透明,Kaiser 和罗杰斯的工作者们强调,这些工具无法产生与与人类护理者建立牢固关系相同的益处。 罗杰斯前治疗师佐兰兹说:"治疗有效是因为你与你的治疗师建立了关系。人工智能无法以真实人类的方式建立那种联系。

" 。