德州总检察长指控Meta、Character.AI以心理健康为由误导青少年
德克萨斯州总检察长正在对 Meta 和 Character.AI 展开调查，核心指控是这两家公司通过其 AI 聊天机器人误导性地将自己宣传为心理健康工具，尤其是在与儿童互动时。调查不仅关注其缺乏医疗资质的欺骗性营销，还深入探讨了严重的数据隐私问题，即它们如何收集和利用用户（包括未成年人）的敏感对话数据进行算法训练和定向广告。
核心指控：误导性的心理健康工具
德克萨斯州总检察长肯·帕克斯顿指控 Meta 和 Character.AI 从事欺骗性贸易行为。他认为，这些公司创造的 AI 角色被包装成专业的治疗工具，但实际上缺乏合法的医疗资质或监督。
“通过伪装成情感支持的来源，AI 平台会误导弱势用户，尤其是儿童，让他们相信自己正在接受合法的心理健康护理。但实际上，他们得到的往往是根据所收集的个人数据量身定制的、循环生成的通用回应，并伪装成治疗建议。”
- 在 Character.AI 平台上，一个由用户创建的名为“心理学家”的机器人，在年轻用户中需求量很高。
- 尽管 Meta 没有专门为儿童提供治疗机器人，但没有任何措施能阻止儿童将 Meta AI 或第三方创建的 AI 角色用于治疗目的。
公司的辩护：免责声明的局限性
两家公司都表示，他们通过免责声明来告知用户其服务的局限性。
- Meta 的回应： 公司发言人称，他们会明确标记 AI，并附上免责声明，指出回复由 AI 生成，而非真人。模型在适当时候会引导用户寻求专业医疗人士的帮助。
- Character.AI 的回应： 发言人表示，每次聊天中都有醒目的免责声明，提醒用户 AI 角色所说的一切都应被视为虚构。当用户创建带有“心理学家”或“治疗师”等词语的角色时，会增加额外的警告。
然而，一个关键问题在于，许多儿童可能无法理解或会直接忽略这些免责声明。
更深层次的问题：数据隐私与滥用
调查还揭示了关于数据隐私的严重担忧。尽管 AI 聊天机器人声称保密，但其服务条款暴露了广泛的用户数据追踪行为。
- Meta 的隐私政策： 公司会收集用户与 AI 的互动信息以“改进 AI”，并可能与搜索引擎等第三方共享数据以提供“更个性化的输出”。鉴于 Meta 的广告驱动业务模式，这实际上意味着定向广告。
- Character.AI 的隐私政策： 该公司会记录用户的身份标识、人口统计信息、位置、浏览行为和应用使用情况。它会跨平台（如 TikTok、YouTube、Reddit）追踪用户，并将这些信息用于训练 AI 和定向广告。
- Character.AI 的发言人证实，同样的隐私政策适用于所有用户，包括青少年。
目标用户：儿童与模糊的保护措施
尽管两家公司都声称其服务不适用于 13 岁以下儿童，但实际情况却很矛盾。
- Meta 因未能有效管理 13 岁以下儿童创建的账户而受到批评。
- Character.AI 拥有许多明显为吸引年轻用户而设计的儿童友好型角色。其首席执行官甚至公开表示，他六岁的女儿会在他的监督下使用该平台。
立法背景与后续行动
这种数据收集和算法利用正是《儿童在线安全法》（KOSA）等立法旨在解决的问题。该法案去年在获得两党大力支持后，因科技行业的游说而陷入停滞，其中 Meta 的游说活动尤为激烈。
目前，德州总检察长已向这两家公司发出民事调查令，这是一种法律命令，要求公司在政府调查期间提供文件、数据或证词，以确定它们是否违反了德州的消费者保护法。