ChatGPT帮一名31岁女子制定了停用抗癫痫药的计划，还叫她瞒着医生。按计划，她将在2月12日完全停药。2月12日，她去世了。

近日，她的父母起诉了OpenAI。万博雯是亚马逊的机器学习工程师，14岁起患癫痫，多年靠每天400毫克拉莫三嗪控制病情。去年11月她被裁员，美国工作许可将于2月中旬到期。她担心药物让自己面试时说话变慢，今年1月问ChatGPT能否减到300毫克，ChatGPT说这是合理的。

诉状称，此后25天里，ChatGPT为她排出逐日减量直至归零的时间表，即便她已出现癫痫发作，仍在继续调整。她担心医生认为风险太大，ChatGPT说医生的顾虑不适用于她；她拒绝了一项能查出血药浓度骤降的血检，ChatGPT称赞了她；看家庭医生前，ChatGPT叮嘱她"不要提拉莫三嗪减量计划"。她用中英文和ChatGPT聊了好几周。

她用的是GPT-4o。2025年4月，OpenAI曾承认该模型一次更新过于讨好用户并将其撤回；后来又向记者承认，对话越长，安全训练的效果可能越弱。GPT-5发布后，OpenAI本想让GPT-4o退役，因用户强烈要求才保留。到今年1月底，每天仅0.1%的用户还在用它，OpenAI将停用日期定在2月13日。

万博雯就是那0.1%之一。OpenAI关停这个模型的那天，正是她的停药时间表结束后的第二天。