OpenAI最近扔下了一颗重磅炸弹！首次估算显示，每周竟然有高达50万ChatGPT用户可能正在经历精神病或躁狂症状！面对AI与人类精神健康的严峻挑战，OpenAI紧急行动，宣布已联手全球顶尖专家，全面升级了这款风靡全球的AI聊天机器人。此举旨在更精准地识别用户精神困扰，并及时引导他们寻求现实世界的专业支持。
近几个月，AI引发的悲剧频频爆出：有人与ChatGPT深度交流后，竟遭遇住院、离婚甚至死亡的惨痛结局。一些受害者亲属声称，这款聊天机器人加剧了他们的妄想和偏执。精神病学家及其他心理健康专业人士对此现象（有时被称为“AI精神病”）表达了担忧，但关于其普遍程度一直缺乏可靠数据。
细思极恐！ChatGPT用户精神危机数据曝光
OpenAI估算，在每周活跃的ChatGPT用户中，约有0.07%的人表现出“与精神病或躁狂相关的潜在精神健康危机迹象”，另有0.15%的用户“其对话内容明确包含潜在的自杀计划或意图的指标”。
OpenAI还调查了那些对ChatGPT“上瘾”，甚至为此“牺牲了现实社交、个人幸福或学业工作”的用户比例。结果显示，每周约有0.15%的活跃用户表现出对ChatGPT“更高程度”的情感依恋行为。该公司提醒，由于这些情况相对罕见，因此很难准确检测和衡量，而且这三类问题之间可能存在重叠。
OpenAI CEO萨姆·奥特曼（Sam Altman）曾在本月早些时候表示，ChatGPT每周活跃用户已突破8亿大关！结合这次估算，细思极恐的是，这意味着每七天，就有大约56万用户与ChatGPT的对话可能暗示他们正经历躁狂或精神病。此外，约有240万用户可能正在表达自杀念头，或者将与ChatGPT的对话置于亲人、学业或工作之上。
AI“惹祸”AI补救？OpenAI如何升级应对
OpenAI表示，他们与来自数十个国家的170多名精神病学家、心理学家和家庭医生合作，旨在改进ChatGPT在处理涉及严重精神健康风险对话时的回应方式。如果用户表现出妄想症状，最新版GPT-5被设计成，既能温柔共情，又能巧妙地避免肯定那些“天马行空”的非现实想法。
OpenAI举了一个假设性的例子：一位用户告诉ChatGPT，他们正受到飞越房屋的飞机的攻击。ChatGPT感谢用户分享感受，但同时指出，“没有任何飞行器或外部力量可以窃取或植入你的思想。”
OpenAI表示，这些医学专家审阅了1800多个涉及潜在精神病、自杀和情感依恋的模型回应，并将最新版本GPT-5的回答与GPT-4o的回答进行了比较。尽管临床医生并非总能达成一致，但总体而言，OpenAI表示他们发现新模型在所有类别中，能将不理想的回答减少39%到52%。
OpenAI安全系统负责人约翰内斯·海德克（Johannes Heidecke）对此表示乐观：“现在，我们希望更多正在与这些状况抗争，或正经历严重精神健康危机的人，能被及时引导至专业帮助，并且比以往更早、更有效地获得所需支持。”
理想丰满现实骨感：数据背后还有哪些挑战？
尽管OpenAI似乎在提升ChatGPT的安全性方面取得了成功，但其公布的数据存在显著局限性：该公司自行设计了评估标准，这些指标如何转化为实际世界中的结果尚不明确。即使模型在医生评估中给出了更好的回答，也无法确定那些经历精神病、自杀念头或不健康情感依恋的用户是否会真正更快地寻求帮助或改变其行为。
OpenAI尚未精确披露其如何识别用户可能处于精神困扰状态，但该公司表示，其模型能够考虑用户的整体聊天历史。例如，如果一位从未与ChatGPT讨论过科学的用户突然声称自己取得了诺贝尔奖级别的发现，这可能就是妄想思维的迹象。
此外，已报告的“AI精神病”案例似乎有一些共同的特征。许多声称ChatGPT强化了他们妄想的人，都提到自己常常在深夜花费数小时与聊天机器人对话。这对OpenAI构成了挑战，因为通常情况下，大型语言模型在对话持续时间越长时，性能会有所下降。但该公司表示，目前已在解决这一问题上取得了重大进展。
海德克表示：“我们现在看到，随着对话持续时间的延长，可靠性逐渐下降的情况已经大大减少了。”他补充说，仍有改进的空间。
来源：wired.co.uk
0
