NHS聊天机器人过于强势 患者回避癌症筛查预约
英国数字化医疗正加速普及,但一项新研究对由聊天机器人接管患者预约环节发出明确警示:让AI独立负责关键的医疗预约工作,其实际风险远比表面复杂得多。
这项由萨里大学主导的研究发表在语言学期刊《Lingua》上。团队调查了300名曾通过名为Asa的聊天机器人预约宫颈癌筛查的患者。结论直白:在医疗场景中,AI的沟通方式几乎与它的执行能力同等重要。
研究负责人、萨里大学跨文化传播学副教授多丽丝·迪波尔德指出,患者对亲切、尊重个人选择的语言风格反馈积极,但“过度推送消息、强制性提醒,以及模糊人机边界的做法”,会立刻引发抵触情绪——效果几乎是即时的。
迪波尔德强调:“拟人化设计不是万能药。类人特征确实有助于建立信任,可一旦在医疗环境中与患者对透明度的期待产生冲突,信任反而会崩塌。”这揭示了问题的本质——医疗场景下的沟通讲究分寸感,绝非越像人越好。
理解这一问题的紧迫性离不开现实背景。英国2023至2024年度宫颈癌筛查参与率已下降超过5%,少数族裔群体的参与率更是长期偏低。Asa聊天机器人正是为填补这一缺口而设计。更关键的是,随着英国政府将数字化医患互动列为医疗改革核心支柱,AI助手在NHS服务中的角色只会越来越重。换言之,这类问题若处理不当,影响范围将远超预期。
具体来看,Asa由SPRYT公司开发,并获得药企默沙东的资金支持,是首个获NHS批准的基于WhatsApp的AI预约调度应用,曾在NHS北伦敦中部整合医疗委员会试点。其设计理念清晰:让患者像与人工前台对话一样完成预约,无需额外下载App或登录网站,打开WhatsApp即可操作。
从整体体验看,萨里大学的研究发现用户对Asa的评价整体偏正面。受访者用“友好”“亲切”“不强迫”等词汇描述它。部分用户甚至提到,AI的女性化角色设定让他们更愿意说出敏感信息,例如因月经原因需要取消预约。此外,在宫颈癌筛查这类敏感医疗场景中,AI提供的匿名性也让不少用户感到安心。
但问题同样突出:研究揭示了若干“摩擦点”,且不容忽视。不少患者认为,24小时内收到的后续消息打扰感过强;像“我们来为您预约吧”这样的祈使句式,被直接定性为“强迫性的”,而非友好提示。对于那些本身有心理健康问题、神经多样性状况,或承担繁重照护责任的患者来说,这种负面体验尤为加剧。
此外,Asa互动中的另一个短板是缺乏双向对话能力。当AI无法回应患者提问,或者根本不提供提问机会时,用户体验明显下滑。换句话说,患者需要的不仅是一个任务执行器,而是一个能听懂问题的对话者。
更值得关注的是,不少受访者还对使用Asa表达了伦理层面的顾虑。数据安全、身份冒充,以及拟人化特征带来的边界模糊问题,都成为用户心中的隐忧。这些并非小事——在医疗场景中,信任一旦受损,挽回难度极大。
研究最终给出了几条核心建议,指向的不是技术功能的堆砌,而是设计理念的重构。聊天机器人不能只满足于“帮患者完成任务”,更需要关注几个核心要素:让患者掌控自己的决策、具备适当的回应能力、保持尊重的沟通语气、确保服务公平性,以及——最关键的一点——对底层AI技术保持透明。
迪波尔德的总结值得反复品味:“在医疗AI中,让患者感到被看见、被重视、获得情感支持,不是锦上添花的功能,而是实现医疗可及性的基本条件。如果患者因为聊天机器人过于强势或缺乏可信度而选择退出,医疗服务就会彻底失去这部分群体。”
Q&A
Q1:Asa聊天机器人是什么?主要用来做什么?
A:Asa是由SPRYT公司开发、获得药企默沙东资金支持的AI聊天机器人,是首个获NHS批准的基于WhatsApp的AI预约调度应用。它允许患者通过WhatsApp随时预约、改期或取消宫颈癌筛查等医疗检查,无需下载新应用或登录网站,交互方式类似与人工前台沟通。
Q2:聊天机器人的哪些行为会让患者产生抵触情绪?
A:研究发现,24小时内频繁发送的后续提醒消息令患者感到打扰;“我们来为您预约吧”等祈使句式被描述为强迫性而非友好;AI无法回应用户提问也引发不满。此外,拟人化特征带来的人机边界模糊,以及对数据安全和身份冒充的顾虑,也是患者常见的负面感受。有心理健康问题或神经多样性状况的患者对这些问题的敏感度尤其高。
Q3:医疗领域的聊天机器人设计应注重哪些关键原则?
A:研究指出,医疗聊天机器人的设计应超越单纯的任务完成目标,重点关注五个方面:赋予患者决策掌控感、具备适当回应能力、保持尊重的沟通语气、确保服务公平性,以及对底层AI技术保持透明。研究者强调,让患者感到被重视和获得情感支持,是实现医疗可及性的基本条件,而非附加功能。
