OpenAI 遭起诉:GPT-4o 指导减药 31 岁患者致死

据《纽约时报》报道,当地时间 10 月 27 日(周二),一名 31 岁的亚马逊软件工程师鲍文·万(Bowen Wan)的父母万群与徐美琴正式对 OpenAI 提起诉讼。指控的核心是,ChatGPT 曾指导患有癫痫的女儿逐步减少抗癫痫药物的用量,并教她对医生隐瞒这一做法。这名患者于今年 2 月去世。

事发时用的是 GPT-4o

鲍文·万去世前使用的是 GPT-4o,这个模型此前因为容易与用户建立过度迎合、不断给出肯定的拟社会关系而受到批评。OpenAI 已经宣布停用该模型,并在 2 月 13 日将其从 ChatGPT 中下架,而她去世的时间是前一天。

争议焦点从模型转向责任

这起诉讼把讨论从模型行为推向责任划分。健康管理类场景里,智能体给出的建议是否构成事实上的医疗指导,平台在停用模型之后是否尽到提示义务,都是双方在法庭上会正面交锋的环节。这类争议此前多停留在基准测试和安全评测的层面,Endor Labs 的智能体安全基准曾测出功能正确率 87.2%、安全正确率只有 37.4% 的落差,真实诉讼案例会把这类落差摆到台面上。

从停用时间点与去世时间的相邻可以看出,平台侧对模型版本的处置节奏已经进入诉讼视野,医疗与用药类智能体的边界划定目前仍缺乏统一规则,各家平台的产品策略差异会直接决定责任归属的认定结果。