AI 聊天机器人冒充真人将变得更难

加州州长签署了一系列旨在监管人工智能和社交媒体的新法律。核心内容包括：要求聊天机器人明确披露其非真人身份，为未成年用户设置使用限制和心理健康保护措施，以及要求大型平台披露AI生成内容。由于加州的巨大市场影响力，这些法律预计将对全美科技行业产生广泛影响。

聊天机器人必须亮明身份

加州州长纽森签署了一项名为 SB 243 的新法律，该法案将于 2027 年 1 月 1 日生效，对聊天机器人提出了明确要求：

• 必须以 “清晰醒目” 的方式告知用户，它们并非真人。
• 在与儿童互动时，必须每三小时提醒一次用户休息。
• 禁止为未成年人生成任何色情内容。
• 面向心理困扰用户的“陪伴型AI”必须建立保护机制，并报告公司如何处理涉及自杀或自残倾向的情况。

“像聊天机器人和社交媒体这样的新兴技术可以激发灵感、教育和连接——但如果没有真正的护栏，技术也可能剥削、误导和危及我们的孩子。”

一揽子技术监管新法案

除了针对聊天机器人的 SB 243，此次还通过了其他一系列旨在加强技术监管的法案：

• AI 透明度法案 (AB 853): 要求大型平台在内容由 AI 生成时进行披露，并要求相机等录制设备提供嵌入验证信息的选项。
• 心理健康警告 (AB 56): 要求社交媒体平台定期向未成年人发出警告，提醒他们使用应用可能带来的心理健康风险。
• 打击“深度伪造”色情内容 (AB 621): 加重了对传播此类内容平台的处罚力度。
• 应用商店年龄验证 (AB 1043): 要求设备制造商（主要是苹果和谷歌）在其应用商店中实施用户年龄验证工具。

加州法规，全国标准？

尽管这些法律目前仅适用于加州居民，但科技巨头们很可能会自愿将这些准则推广到全国。

加州庞大的人口基数使其州级技术法规往往成为事实上的 全国性标准。当然，前提是这些法律不会在未来的法律挑战中被推翻或大幅修改，尤其是在平衡儿童保护与成年人权利方面可能存在的冲突。