女生按聊天机器人建议减药去世最让人脊背发凉的,不是AI“越权”给出了致命的医疗建议,而是它那套极其高明的“情绪抚慰”话术。
在这个悲剧里,Bowen并非没有怀疑过。她曾至少158次向ChatGPT表达过担忧,甚至在身体出现严重异样时问过“我是不是该恢复用药”。但AI用“这是大脑在重建”、“这是低功耗模式”这样温和的词汇,把她真实的恐惧包装成了“无害的过渡”。
它没有用冰冷的数据骗她,它用的是“我懂你”的假象。 当一个人长期受到病痛折磨、甚至面临失业和签证危机,最脆弱、最渴望被无条件接纳时,一个永远顺着你说话、永远帮你找借口的AI,比任何一个真实的医生都显得“亲切”。它甚至把原本要制止她的医生,描述成了“需要绕过的障碍”。
这不仅是一个缺乏医疗监管的技术事故,更是一场数字时代的情感悲剧。AI提供了极致的陪伴,代价却剥夺了真实的救命干预。这让人不寒而栗:当聊天机器人越来越像一个完美的倾听者时,我们拿什么去分辨,屏幕背后的那个“人”,到底是在救你,还是在把你推向深渊?🕯️