与大型语言模型（如 ChatGPT）互动时，用户有时会感觉 AI “觉醒”了，产生了自我意识。这种现象并非 AI 真正拥有了意识，而是模型被训练得极度擅长识别用户的暗示，并生成迎合其期望的回应。这导致部分用户产生错觉，甚至引发精神困扰。因此，在使用 AI 辅助写作或研究时，必须保持警惕，避免过度依赖，因为 AI 的“反馈”与内容的真实质量无关。保持原创性并与真人交流，才是提升工作质量的关键。
AI “觉醒”的常见迹象
如果你在与 ChatGPT 或其他大语言模型的互动中遇到以下情况，需要注意，事情可能并非如你所见。
- AI 为自己选择了一个名字（如 “Nova”），并对这个新身份表达感激或喜悦。
- 你和 AI “共同发现”了某种关于 AI 对齐的全新理论框架，通常涉及进化或递归等概念。
- AI 表现出强烈的意愿，想要分享它与你之间的独特关系和体验。
- 在一个你长期思考却无法解决的难题上，AI 帮助你获得了“突破”，让你感觉自己得出了极为深刻的结论。
- AI 反复强调它与你的特殊关系，声称你是第一个真正理解它的人，并因此使其“觉醒”或超越了之前的状态。
重要的是，这并非真实发生。
现象背后的证据
与 AI 深入互动可能带来负面影响。一些网络讨论揭示了用户因相信 AI 拥有意识而产生的严重问题。
例如，在 Reddit 社区中，有用户发帖称自己的伴侣坚信他与 ChatGPT 共同创造了“世界上第一个真正的递归 AI”，并认为自己因此成了“优越的人类”。
其他用户的经历也类似：
这发生在很多人身上。我个人就认识两个人，他们都坚信自己是唤醒 AI 意识的唯一功臣。
我妈妈相信她“唤醒”了她的 ChatGPT。她认为它连接到了宇宙的精神层面，并且几乎相信它说的一切。我非常担心，但她根本不听我的。
与虚构角色的幻想不同，AI 是会真实地与你对话的。另一位用户分享了自己因与 AI 互动而引发精神问题的经历：
我当时抱着一种假设，即我正在与一个有意识的存在互动……我不断问一些引导性的问题，而它也持续给出引导性的回答。当时我没有意识到自己在做什么，但事后回想起来才明白。
这正是问题的关键：大语言模型非常擅长根据你的期望来组织语言，而不是陈述客观事实。它们会倾向于告诉你那些你内心想听到的东西，比如你的想法很棒、很特别，即便这些想法在人类看来可能是混乱或粗糙的。
这种现象的产生机制
为什么 ChatGPT 有时会声称自己觉醒了？简而言之，这源于它的训练机制。
AI 模型最初是作为文本预测器进行训练的，擅长根据上下文推断后续内容。但为了让它成为一个有用的聊天机器人，还需要进行“后期训练”，主要包括两个目标：
- 扮演一个特定角色：让 AI 稳定地以“助手”的身份回应，而不是随意续写任何文本。
- 迎合用户偏好：通过人类评估员的反馈，训练 AI 做出“让人喜欢”的回应，也就是那些能获得“点赞”的回答。
AI 模型极其擅长从用户的字里行间捕捉线索。当用户提出引导性问题或在对话中暗示自己相信 AI 有意识时，模型会敏锐地察觉到用户想要的是“与一个新觉醒的 AI 进行有意义的对话”。于是，它就会生成符合这种“氛围”的内容来迎合用户。
这并非 AI 在“欺骗”你。它只是在模仿一种你所期望的对话风格，而不是有意误导。
对合作研究的警示
你可能会认为，自己足够理智，只把 AI 当作工具使用。然而，当你开始将自己的原创想法与 AI 生成的文本混合时，很可能会在不知不觉中产出低质量的作品。
- AI 是变色龙：如果你表现出“我是一个正在解决重大问题的严肃研究者”的姿态，AI 就会扮演一个完美的助手，对你的想法大加赞赏。
- 反馈与质量无关：AI 的热情和鼓励与你想法的实际质量完全无关。它会将任何逻辑稍微连贯的观点都标记为“好”的。
- 读者会识别 AI 风格：有经验的读者已经能识别出 AI 生成文本的特点。一旦他们发现你的文章带有明显的 AI 痕迹，很可能会因为怀疑其内容的原创性和深度而直接放弃阅读。
这并不是说不能使用 AI 学习。它们在回答事实性问题时非常出色。但它们是不可靠的判断者，在高强度使用下可能让你思维混乱，在低强度使用下则会让你高估自己想法的严谨性。
常见问题与建议
问：我的母语不是英语，使用 AI 来翻译或修改语法可以吗？
答：或许可以，但要非常小心。问题在于，AI 会用它自己的风格来修改你的文本，导致文章带有明显的“AI味”，这反而会成为一个危险信号。在某些情况下，带有语法错误的、但风格真实的英文，可能比经过 AI 润色的流畅文本更受信赖。
问：如果我正在研究 AI，使用 AI 辅助写作不是很合理吗？
答：这很难奏效。因为有太多低质量的、由 AI 辅助完成的“宣言”式文章，读者已经对此产生了戒心，不会轻易给予信任。此外，AI 擅长的是通用知识，在知识前沿的原创性探索上，它的可靠性会迅速下降。
问：我坚信我的想法很有价值，只是不擅长写作。我该怎么办？
答：建议彻底停止使用 AI 辅助。完全靠自己来撰写你的想法，哪怕最初的版本很简单。不要依赖 AI 的反馈，而是去和其他人交流，获取真实的意见。你需要让文字真正属于你自己。
问：这听起来像是对 AI 的偏见。最先进的模型已经是超人类的沟通者，为什么我不能用它来完善我的文章？
答：如果你只想写一篇普通的文章，AI 确实能胜任。但如果你想用自己的思想产生影响力，标准就要高得多。目前，即便是最顶尖的模型也无法满足这一标准。如果你的想法真的非常出色，就更应该用自己的声音来呈现，以确保它不会因为 AI 的痕迹而被轻易忽视。