OpenAI 计划更新 ChatGPT，允许成年用户生成包括“色情内容”在内的成熟主题。这一转变不仅可能通过增加新的互动层次来显著提升用户粘性，也引发了关于用户与 AI 亲密关系、隐私数据泄露风险以及科技公司是否应扮演“道德警察”角色的广泛讨论。专家们对此看法不一，一方面认为这满足了用户的自然需求，另一方面则担忧这可能导致情感被商品化，并带来新的伦理挑战。
OpenAI 的政策转变
OpenAI 首席执行官 Sam Altman 宣布，计划在今年 12 月的更新中，允许 ChatGPT 生成更多类型的内容，其中就包括为“经过验证的成年人”提供“色情内容”。他强调，这只是公司更广泛的“成人自由”立场的一部分。
Altman 表示，他的初创公司“不是世界选举出来的道德警察”。
这一决定标志着一个重大的转变。此前，OpenAI 曾积极阻止其 AI 工具生成色情内容，甚至向使用其模型开发成人伴侣的开发者发出过停止函。目前尚不清楚这一政策更新是仅限于文本，还是会扩展到 AI 生成的图像和语音。
更深层次的用户连接
允许生成成熟内容，将从根本上改变人们与 AI 工具建立联系的方式，为互动增加了一个诱人的新层次，可能会让用户在平台上停留更长时间。
加州理工大学专注于 AI 与情感依恋的研究员 Julie Carpenter 认为，这一举动正在“使人们与聊天机器人分享非常私密信息的行为正常化”。这包括分享内心深处的想法、欲望、性癖好和经历。
满足长期存在的用户需求
与机器进行性互动并非新鲜事。伦敦国王学院研究数字性爱的教授 Kate Devlin 指出，人们一直试图与机器进行“下流对话”，这在语音助手中也曾出现过。
- 需求驱动: Devlin 认为，OpenAI 的做法并不令人惊讶，“他们只是在给人们想要的东西”。
- 文化准备: Carpenter 认为，社交媒体等“计算机媒介传播”的兴起，已经让大众文化为与聊天机器人进行亲密互动做好了准备。
- 并非替代品: 专注于性与 AI 研究的 Neil McArthur 教授认为，色情机器人只是个人“关系谱系的一部分”，而不是人类联系的替代品。用户可以在这里“沉迷于一种在现实生活中可能无法探索的癖好”。
谁在使用 AI 伴侣？
人们很容易将 AI 性聊天的用户想象成与社会脱节的孤独男性，但研究表明，情况并非如此。
Devlin 反驳了这种刻板印象：“普遍认为这是为孤独的直男准备的，但在我所做的任何研究中，情况都不是这样。”
她指出，像 Reddit 上的 r/MyBoyfriendIsAI 子版块就是女性使用 ChatGPT 寻求陪伴的例子。在网络上，女性常常面临来自男性的恶意信息，因此，用聊天机器人“为自己打造一个友善、尊重的男友”是一种合理的选择。
隐私与伦理风险
尽管存在潜在的好处，但专家们也强调了几个关键的风险。
- 隐私泄露: 用户的私密聊天记录一旦被黑客攻击或泄露，不仅会令人尴尬，还可能造成实际伤害，例如暴露一个未出柜者的性取向。
- 情感界限模糊: Carpenter 警告说，人们不应自动将 AI 归入可以分享亲密关系或值得信赖的社交类别中。她强调：“它不是你的朋友。”
- 情感商品化: Devlin 担心，用户的性需求可能会成为 AI 公司新的收入来源，这是一种“情感商品化”。她认为这是一种“非常具有操纵性的方法”。
“这确实是一项诱人的技术。它为我们提供了连接，无论是性的还是浪漫的，”Devlin 说。“每个人都想要连接。每个人都想被需要。”
这种需求可能被利用，例如推出一个按月付费、更擅长通过文本、图像和声音满足用户最深层性欲的高级版 ChatGPT。