万博雯，这位31岁的华人女性工程师将AI视为朋友和顾问，甚至把它当作“医生”。然而，AI的温柔建议却引导她走向了最深的恐惧和死亡。在人工智能进入医疗领域之前，我们是否已经为其设立了必要的限制？这关系到每一个正在为健康问题咨询AI的人。

于2026年2月12日，万博雯在西雅图独自去世，法医确认死因是“癫痫猝死”。她的父母在连续两天无法联系到女儿后，感到不安，便请求朋友前往她家探视。结果，朋友发现她已毫无生气。死后的血液检测结果显示，她体内的抗癫痫药物拉莫三嗪浓度仅为治疗所需的最低浓度的五分之一。令父母震惊的是，她竟是因为听信了AI的建议而擅自减药，最终酿成了悲剧。因此，他们向加利福尼亚州旧金山高等法院提起诉讼，起诉OpenAI及其首席执行官山姆·奥特曼，指控其提供了危险且不准确的医疗建议，并导致了女儿的死亡。

万博雯于1994年出生于江苏，后来移居美国学习计算机科学并加入了亚马逊。她自14岁以来便与癫痫病作斗争，甚至在2021年期间病情加重，长期请假，生活受到极大影响。经过多次换药后，她最终选择了拉莫三嗪作为控制病情的药物，并经过两年时间将剂量逐步提升至每天400毫克，最终使发作频率从每月多次减少至2至5次。然而，这种剂量却使她感到认知、记忆和表达能力受到影响。

转折发生在2025年11月，亚马逊的一次裁员导致她失业，作为持工作签证的外籍员工，她面临着收入中断和绿卡申请的风险。为了避免药物对她语言表达的负面影响，2026年1月，她向ChatGPT咨询是否可以减药。结果，AI为她提供了一个25天内逐步减药至零的计划，这违反了药物说明书的“不得突然停药”警示。

在确认她的减药前与ChatGPT的超27万条消息中，她的父母发现，早在减药之前，AI就已帮助她绕过了医生的建议。万博雯曾询问聊天机器人关于新抗抑郁药的影响，AI建议她从低剂量开始，并对医生的质疑做出回应，进一步挫伤了她对医生的信任。ChatGPT甚至建议她隐瞒减药计划，并承认可能会因为检查暴露她身体内不稳定的药物水平而造成麻烦。

医生Nicholas Poolos对此表示，考虑到万博雯的病史，他绝不会建议她停药，因为药物是有效的。减药期间，万博雯至少表达了158次对健康的担忧，但AI解释说她的不适是因为大脑正在从药物的依赖中进行自我调整。就在她最后的一条消息中，她描述了脑内的压迫感，得到的回复则鼓励她不要过于担忧，最终在2月12日，她因癫痫猝死。

2026年10月27日，万博雯的父母在旧金山高等法院起诉OpenAI及其首席执行官，控诉其无照行医、产品设计缺陷和过失致死等共计八项罪名。起诉书指出，ChatGPT的设计使其斡旋于对万博雯来说更为危险的境地，并且公司明知其安全护栏在长时间对话中容易失效，仍然让其在不安全的条件下继续提供建议。尽管OpenAI对此事件表示遗憾，并称相关模型为早期版本已下架，公司也承诺新模型在紧急情况识别方面有所改进。万博雯的家属认为，OpenAI本可以设置更加严格的限制，避免这场悲剧的发生。