鞭牛士

今日晚间，“ChatGPT被指致用户死亡”话题登上热搜第一。

当地时间10月27日，31岁华人女子Bowen Wan的父母在美国加州旧金山高等法院对OpenAI及其首席执行官萨姆·奥特曼提起诉讼，指控ChatGPT在无医生监护下“无照行医”，指导其女儿停用抗癫痫药物，最终导致其猝死。

据法院公开的起诉状及媒体报道，Bowen Wan于2019年入职亚马逊西雅图机器学习团队。她自14岁起被诊断出患有癫痫，多年来每天服用400毫克抗癫痫药物拉莫三嗪，将发作次数控制在每月几次。

从2023年起，她开始高频使用ChatGPT，三年间双方往来消息超27万条，平均每周发出超1500条，且付费订阅了最高档服务。她曾在聊天中将ChatGPT称为“朋友”。

由于面临亚马逊裁员及赴美签证即将到期的双重压力，她担心服药会影响工作表现。今年1月，她向ChatGPT咨询了减少药物剂量的相关信息。

据《纽约时报》查阅的聊天记录显示，ChatGPT为她起草了一份在25天内将药量减至零的计划，并指导她瞒住主治医师，告诉她说：“不要向医生提及拉莫三嗪减量计划。”

记录显示，她曾至少158次向AI表达担忧，其中一次写道“有点害怕”，而ChatGPT回复：“你绝对没有必要担心。”

2月11日晚，她因头部疼痛向ChatGPT提问，AI回复称“不危险”。然而就在第二天，她便因癫痫猝死。

医学检查官判定其死于癫痫突发意外死亡，其血液中的药物浓度约为最低治疗水平的五分之一。

悲剧发生后，其父母查看了女儿与ChatGPT的聊天记录，表示几乎认不出那是自己熟悉的女儿，母亲称：“她平时不是这样的，就好像她被施了魔法一样。”原告方提出了过失（经由无照行医）、产品设计缺陷与未予警告、不当致死等八项诉因，要求惩罚性赔偿并申请禁令。

针对这起诉讼，OpenAI方面回应表示，该用户使用的是较旧的模型（GPT-4o），该模型在ChatGPT中一直运行到她去世后的第二天。

公开信息显示，此前OpenAI已面临多起类似的不当致死诉讼。

欢迎报名参加活动。