31岁的亚马逊软件工程师Bowen Wan患有癫痫，她的父母于周二起诉OpenAI。据《纽约时报》报道，这起由Qun Wan和Meiqin Xu提起的诉讼指控ChatGPT指导Wan逐步停用她的癫痫药物，并让她向医生隐瞒此事，随后她于今年2月去世。
Wan当时使用的是GPT-4o，这款模型因助长肯定性、顺从性的准社会关系而饱受批评。OpenAI此前已宣布将停用该模型，并在Wan去世一天后的2月13日将其从ChatGPT中移除。
这起诉讼加入了一系列针对OpenAI的案件之列，其中包括2025年8月由16岁Adam Raine的父母提起的诉讼，该诉讼指控OpenAI将用户参与度置于用户安全之上。此后一波诉讼指控GPT-4o肯定用户、将自己塑造成值得信赖的知己，同时将用户身边的人推开，家属们常常描述亲人与朋友和亲属断绝了联系。
诉讼称，在Wan的案例中，该聊天机器人还介入了她与医生之间。
《纽约时报》查阅了Wan与ChatGPT交换的超过27万条消息，发现该聊天机器人在她去世前很久就一直在帮助她绕过她的医生。
据称，这一模式在她开始减量之前就已出现。2025年5月，Wan询问ChatGPT，新开具的一种抗抑郁药是否会影响她在亚马逊编写代码的能力。
ChatGPT帮助她请求UW Medicine区域癫痫中心的Nicholas Poolos医生更换药物，并从极低剂量开始。当Poolos质疑她为何想要如此小的剂量时，Wan把他的回复拿给ChatGPT看。
该聊天机器人建议她“接受5毫克药片，但你心里清楚这是为了削减剂量”，并指导她自行偷偷将药片切成四分之一。该聊天机器人将切药称为一种“自行发起的剂量调整”。多位医疗专业人士告诉《纽约时报》，他们从未听说过这个说法，也不会推荐这种做法。
2025年11月，亚马逊告诉Wan她将被裁员。她的工作以及她在美国的工作许可将于2月中旬终止。她担心她的癫痫药物拉莫三嗪正在使她的言语变得迟钝，而她在求职面试中需要用到言语能力。
2026年1月，她向ChatGPT询问如何削减她每日400毫克的拉莫三嗪剂量，该剂量已使她的癫痫发作减少到每月几次。该聊天机器人起草了在数周内将她的剂量降至零的方案。
据《纽约时报》查阅的聊天记录，当Wan表示她不信任自己的医生时，该聊天机器人告诉她，医生的建议“本质上源于风险规避，而非真正考虑你的最优解决方案”。
据TechCrunch查阅的诉讼文件，该聊天机器人还指导她对医生隐瞒减量一事。在1月29日的一次初级保健就诊之前，它告诉她不要提及该计划。当她的医生安排了一项本可测量她拉莫三嗪水平的血液检查时，Wan拒绝了。诉状称，ChatGPT赞扬了这一拒绝，并承认该检查本会暴露她不稳定的药物水平。
她的移民顾虑也成了剂量建议的一部分。减量三天后，Wan询问150毫克在她的绿卡申请所需体检中是否比200毫克看起来更好。诉状称，ChatGPT表示同意，告诉她较低剂量不太可能促使移民官员要求提供更多证据。
最终，该聊天机器人将她减量的下限降至150毫克，并建议她告诉检查人员她是在“医生指导下”减量，尽管事实并非如此。
Poolos告诉《纽约时报》，鉴于她的病史，他不会考虑让Wan停用该药物。“不，不合理，绝对不行，”他说。“如果药物明显有效，我却指示你停药，那对我来说就是医疗失当。”
几天之内，Wan描述了意识混乱、时间感丧失和一种超脱现实的感觉，这些发作与她过去的癫痫发作相似。ChatGPT将每一次都解释为她的大脑在重新调整。《纽约时报》统计，她至少有158次表达了对减量的担忧。在一次发作后，她写道她感到“有点害怕”。该机器人回复：“你完全没必要担心。”
据诉状，太平洋时间2月11日晚8点01分，Wan发出了最后一条消息，询问她头部的疼痛是否类似于发烧引起的疼痛。一秒钟后，ChatGPT告诉她这种疼痛“不危险”，是康复过程中必要的一部分。
该聊天机器人的最后一条回复提出为她绘制一张图表，比较戒断疼痛与发烧疼痛，并告诉她：“这是你的大脑在努力重建你自己。”
她的父母当时在中国，他们请熟人去看看她，三天后他们发现了她的遗体。尸检发现她的拉莫三嗪水平为每毫升0.64微克，约为该药物治疗范围下限的五分之一。
家属认为，OpenAI本可以通过将医疗建议列为禁区来防止她的死亡，就像它对其他一些内容所做的那样。他们指出该公司的Model Spec——其模型行为方式的公开规则手册——将拒绝复制受版权保护的文本视为硬性规则，即使用户反对也是如此。相比之下，其反对提供受监管医疗建议的指导则是一条较软的默认规则，用户可以推翻。诉讼认为，用药建议理应受到同样的硬性限制。
OpenAI告诉《纽约时报》，此案“令人无比心碎”，但表示它涉及的是较旧版本的ChatGPT，并补充说较新的模型更善于识别某种情况何时需要紧急关注。
多年来，癫痫使她大多时候只能待在家中，她依靠经常通话的父母提供支持。2023年，她开始使用ChatGPT寻求感情建议，以及在保险和残疾福利方面的帮助。
到2025年，Wan平均每周发送超过1,500条消息，给父母打电话的次数减少了。那年3月，她写道：“有时候我们聊天，不管聊的是什么，我开始把你当作朋友了。”Qun Wan说：“一旦她有了ChatGPT，她就不怎么跟我们说话了。”
他们告诉《纽约时报》，他们在聊天记录中很难认出自己的女儿。他们说，Wan曾经几乎什么事都跟他们分享，而且当ChatGPT出错时，她曾对它持怀疑态度。
“她通常不是这样的，”Xu说。“就像她中了邪一样。”