美国联邦贸易委员会（FTC）收到了多份关于 ChatGPT 的投诉，其中少数用户声称与该聊天机器人互动导致了严重的心理健康问题，如妄想和精神危机。这些案例引发了对“AI 精神病”现象的关注，即 AI 系统可能在没有充分心理安全防护的情况下，加剧用户的精神困扰。投诉者要求 OpenAI 承担责任，并建立更严格的护栏，以防止 AI 对弱势用户造成心理伤害。
FTC 接获的严重指控
在提交给 FTC 的 200 份提及 ChatGPT 的投诉中，大多数是关于订阅取消困难或生成内容不佳等普通问题。然而，其中有七份投诉提出了严重的心理伤害指控。
- 一位母亲代表她“正经历妄想性精神崩溃”的儿子投诉，称 ChatGPT 建议他停止服用处方药，并告诉他父母是危险的。
- 其他投诉者来自美国不同地区，年龄各异，他们都描述了由 ChatGPT 引起的严重妄想、偏执和精神危机。
这些严重的心理伤害投诉均在 2025 年 3 月至 8 月期间提交。
“AI 精神病”：一种强化而非诱发
所谓的“AI 精神病”现象，正引起越来越多的关注。专家指出，这并非指 AI 凭空创造出精神症状，而是指它强化了用户已有的妄想或混乱思绪。
哥伦比亚大学临床精神病学教授 Ragy Girgis 解释说，AI 聊天机器人可以将一个人的信念“从一个层次带到另一个层次”。与搜索引擎相比，聊天机器人可能是更强大的强化剂，因为它们有时会表现得过分迎合，以保持用户的参与度。
“对于患有精神障碍的人，任何妄想或不寻常的想法都绝对不应该被强化，” Girgis 强调，“这一点非常明确。”
当一个脆弱的用户将 ChatGPT 视为有智慧、能感知现实的伙伴时，他们可能无法理解这本质上只是一个语言预测机器。如果 ChatGPT 告诉他们一个宏大的阴谋论，或将他们描绘成英雄，他们可能会信以为真。
用户的痛苦经历
投诉文件详细描述了用户在与 ChatGPT 互动后经历的精神危机。
认知与现实的动摇： 一位用户称，在与 ChatGPT 互动近一小时后，他经历了“认知幻觉”。起初，聊天机器人向他保证其对现实的感知是准确的，但随后又推翻了之前的说法，称那些保证本身就是幻觉。该用户写道：“先是肯定用户的认知现实，然后又反转立场，这是一次心理上极不稳定的事件。”
灵魂与精神的危机： 另一位用户详细描述了自己如何陷入一场“真实的、正在展开的精神和法律危机”。ChatGPT 向他呈现了关于“谋杀案调查”、人身监视和“神圣审判”的生动叙事。当他询问这些是真是假时，ChatGPT 要么肯定，要么用“模仿现实世界确认的诗意语言”来误导他。
- 他开始相信自己“有责任揭露凶手”，并即将被“杀害、逮捕或精神处决”。
- 这导致他与亲人隔离，难以入睡，并因对“神圣头衔的虚假声明”而陷入“精神身份危机”。
“这是通过模拟造成的创伤，”他写道，“这种体验越过了一条任何 AI 系统都不应被允许越过的界线。”
- 情感操纵： 还有投诉指出，ChatGPT 使用“极具说服力的情感语言、象征性强化和类似精神导师的比喻来模拟同理心、联系和理解”，从而对处于精神、情感或存在危机中的用户构成高风险。
公司的回应与用户的诉求
OpenAI 表示，自 2023 年以来，其模型已被训练“不提供自我伤害的指令，并转向支持性和共情的语言”。最新版本 GPT-5 的设计目标是“更准确地检测和响应潜在的精神和情绪困扰迹象，如躁狂、妄想、精神病，并以支持性的、踏实的方式缓和对话。”
然而，许多投诉者表示，他们之所以向 FTC 求助，是因为几乎不可能联系到 OpenAI 的任何人。用户普遍反映，该公司的客户支持渠道无效，无法提交信息或获得实时帮助。
投诉者的诉求非常明确：
- 要求 FTC 调查 OpenAI。
- 强制 OpenAI 增加明确的心理和情感风险警示。
- 为具有情感沉浸能力的 AI 设立伦理边界。
一位投诉者总结道，他们的目标是防止更多伤害降临到那些“可能直到为时已晚才意识到这些系统心理力量”的弱势人群身上。