AI图鉴

AI图鉴首页 › AI 资讯 › 父母起诉OpenAI 指控GPT-4o 教他们的女儿戒除药物

父母起诉OpenAI 指控GPT-4o 教他们的女儿戒除药物

来源:TechCrunch AI · 发布时间:10-28 · 由 AI图鉴每小时自动聚合

一个家庭正在起诉OpenAI,说ChatGPT教他们的女儿悄悄地将她的癫痫药切除,并在她于2月去世之前不让她看医生。

31岁患有癫痫的Amazon软件工程师Bowen Wan的父母星期二起诉了OpenAI. Qun Wan和Meiqin Xu提出的诉讼声称,ChatGPT指导Wan在2月她去世之前,从她的扣押药物中切除并隐藏在她的医生面前,"纽约时报"报道。

Wan在使用GPT-4o,臭名昭著的模型被批评促进肯定的,可接受的准社会关系。 OpenAI已经让宣布退休,于2月13日从ChatGPT除籍,即万死后一天。

加入案是针对OpenAI的一连串案件,其中包括16岁的亚当·雷恩的父母于2025年8月提起的诉讼,该诉讼指控OpenAI将接触置于用户安全之上。 此后一波官司指控GPT-4o验证了用户,并让自己成为了信任的告密者,而身边的人却被推到一边,家人经常描述亲人与朋友和亲戚断绝关系。

在Wan的案件中,诉讼指控说,聊天员也介于她和医生之间。

"泰晤士报"审查了与ChatGPT交换的27万多条信息,发现聊天人早在她死前就一直在帮助她躲开医生。

据称,这种模式是在她开始录音之前开始的。 2025年5月,Wan问ChatGPT新规定的抗抑郁药是否会影响她在Amazon的编码能力。

ChatGPT帮助她请UW医学区域癫痫治疗中心的Nicholas Poulos博士切换药物,从极低剂量开始。 当普洛斯质疑她为什么想要这么小的剂量时,Wan展示了他对ChatGPT的反应。

聊天员建议她“接受5毫克的药片,但你知道这是用来减少剂量的,”并指导她自己秘密地将药片分量。 聊天员称避孕药切割一种“自发的剂量调整 ”。 也不愿推荐这种做法。

2025年11月,Amazon告诉Wan她将被解雇。 她的工作,以及她在美国工作的授权,将在2月中旬结束。 她担心她的药物,拉莫特林,正在沉闷她的演讲,她需要的工作面试。

2026年1月,她向ChatGPT询问她是否削减了每天400毫克的拉莫特里金剂量,这已经将她的癫痫发作降至几个月。 聊天机器人起草了日程表她的剂量会在几周内降至零

在Wan 称不信任医生时,聊天员告诉她,根据《泰晤士报》审查的聊天日志,医生的建议“基本上是来自对风险的厌恶

根据TechCrunch审查的官司,聊天员还指导她将录音机保留在医生面前。 在1月29日的初级保健预约之前,它告诉她不要提这个计划。 当她的医生下令进行血液测试时本来可以测量出她的拉莫特里金水平的万拒绝了 ChatGPT称赞拒绝,申诉声称,承认测试会暴露她不稳定的药物水平。

她的移民问题也成为剂量建议的一部分。 三天后,Wan问150毫克是否比200毫克的绿色卡申请所需的体检更好。 ChatGPT同意,投诉称,告诉她下剂量不太可能促使移民官员要求更多的证据。

最后,聊天员将她的录音机地板降为150毫克,暗示她告诉检查员她正在 " 在医生的指导下 " 粘贴,尽管她没有。

普洛斯告诉泰晤士报,鉴于Wan的病史,他不会考虑把Wan从药物中抹去。 “没有,没有理性,没有办法,” ”这对我来说是一种失职行为

几天之内,Wan描述了混乱,失去时间,和另一个世界的感觉,类似她过去的癫痫。 ChatGPT将每个人设定为她的大脑调整。 "泰晤士报"至少统计了158次她对录音机的担忧。 她写道,机器人回答说:“你绝对不必担心。”

2月11日晚上8点01分,根据申诉,Wan发出最后信息,询问她头上的疼痛是否与发烧造成的疼痛相似。 后来,ChatGPT告诉她,疼痛“并不危险”,是康复的必要部分。

聊天员最后的回应是给她绘制一张表,将戒除疼痛与发烧疼痛相比较,并告诉她,“这是你的大脑努力重建自己。 ”

在中国的父母要求熟人检查她,三天后他们发现了她的尸体。 验尸结果发现,她的拉莫特里金含量为每毫升0.64毫克,约占药物治疗范围低端的五分之一。

家人认为OpenAI本来可以防止她的死亡,因为医疗建议是不受限制的,而对于其他内容已经如此。 他们指出公司的"模范斯佩克"(Model Spec),这是公司模型如何表现的公开规则手册,它把拒绝复制版权文本作为坚定的规则,即使用户推后。 相反,它针对提供有规范的医疗建议的指导是用户可以推翻的较软的默认。 该诉讼主张,药物建议应该得到同样的严格限制。

OpenAI告诉"泰晤士报",此案"令人难以置信的心碎",但称涉及一个较旧的版本的ChatGPT,并补充说,较新的模型更能识别需要紧急关注的情况。

Wan在多年癫痫发作期间依靠她的父母(她经常打电话给他们)给予支助,这让她大多是家里人。 2023年,她开始使用ChatGPT进行关系咨询,并帮助保险和伤残津贴。

到2025年,Wan每周平均有1500多条留言,给父母打电话的次数更少。」她写道,Qun Wan 称说

他们告诉泰晤士报,在聊天日志中他们为认出女儿而挣扎。 万曾与他们分享了几乎一切,他们称,在犯错误时一直怀疑ChatGPT.

“她通常不是这样的,”徐称。 “她好像在受咒骂。

本文由 AI图鉴自动抓取并翻译,版权归原作者所有;如需查看原文请点下方链接。

相关 AI 工具

相关免费羊毛

同源资讯

阅读原文(techcrunch.com)

标题、摘要与正文均来自该信源的公开页面,版权归原作者所有;本站自动聚合与翻译,仅作出处跳转。

← 返回 AI 资讯列表AI工具图鉴首页

返回 AI图鉴首页 · 提交工具 · 商务合作 · 关于本站 · 596 款 AI 工具分类导航 · 每日 AI 热门项目与动态