Synth Daily

因使用侵权数据训练 AI 和人脸识别系统,Meta 惨遭起诉

一些来自伊利诺伊州和加利福尼亚州的家长及其子女对 Meta 提起诉讼,指控该公司未经许可,非法使用他们发布在 Facebook 和 Instagram 上的照片来训练其 AI 模型和一款名为 NameTag 的人脸识别系统。该诉讼认为,Meta 通过从用户照片中提取生物识别信息,违反了两州的隐私法。Meta 方面则回应称该诉讼“毫无根据”,并否认公司正在建立一个通用的人脸数据库。

诉讼的核心指控

这起在芝加哥联邦法院提起的集体诉讼,核心指控是 Meta 在用户不知情或未同意的情况下,从他们的照片中提取了生物识别信息

  • 指控内容: 非法使用 Facebook 和 Instagram 的用户照片来构建其产品。
  • 涉及产品: 一是为智能眼镜设计的 NameTag 人脸识别系统,二是以 EmuMuse Image 为代表的生成式 AI 模型。
  • 法律依据: 诉讼称 Meta 的行为违反了伊利诺伊州和加利福尼亚州的隐私保护法。

备受争议的技术

诉讼主要针对 Meta 的两类技术:人脸识别和生成式 AI。

NameTag 人脸识别系统

NameTag 是一款尚未发布的人脸识别功能,其代码被发现秘密植入在一款下载量超过 5000 万次的 Meta 智能眼镜配套应用中。

  • 工作原理: 该系统能将眼镜捕捉到的人脸转换成生物识别签名,并与手机数据库中的“面纹”进行比对。
  • 数据来源疑点: 诉讼引用报道称,这些面纹数据可能来源于用户在 Facebook 和 Instagram 上的个人照片。

Meta 曾向媒体表示,公司“没有在建立一个中央人脸数据库”,但拒绝回答 NameTag 是否会让用户选择加入,以及系统将如何保存面纹数据。

AI 图像生成模型

Meta 的 AI 模型训练数据也成为焦点。公司高管曾将 Facebook 和 Instagram 平台称为其 AI 系统的“数据优势”。

  • Emu 模型: Meta 承认使用了大量的 Facebook 和 Instagram 图片及文本来训练该模型。诉讼认为这一过程非法获取了照片中人物的生物识别信息。
  • Muse Image 模型: 该模型曾因允许用户基于他人的公开 Instagram 账户生成图片而引发批评,Meta 在几天后移除了该功能。

Meta 的回应与辩护

Meta 对这些指控予以否认,并认为诉讼歪曲了其工作。

“这起诉讼毫无根据,并错误地描述了我们的工作。我们对于如何使用人们的信息来构建和改进我们的 AI 产品一直保持透明。” — Meta 发言人声明

公司强调,NameTag 从未向消费者发布,也没有做出任何最终决定。Meta 承诺,如果未来推出相关功能,会采取深思熟虑的方式并保持完全透明。

尽管 Meta 的首席技术官称关于 NameTag 的报道“极具误导性”,但他后来也在播客中将其描述为一个“很棒的功能”,可以帮助佩戴者识别曾见过的人。

法律风险与过往案例

这并非 Meta 首次因处理生物识别数据而面临法律纠纷。

  • 2020 年: 公司同意支付 6.5 亿美元,以和解在伊利诺伊州关于早期人脸识别系统的集体诉讼。
  • 2021 年: Meta 宣布关闭该系统,并删除了超过十亿份面纹数据。
  • 2024 年: 公司同意向得克萨斯州支付 14 亿美元,以解决其非法收集生物识别数据的指控。

根据伊利诺伊州的《生物识别信息隐私法》,原告要求对每项故意或鲁莽的侵权行为赔偿 5000 美元,对每项过失侵权行为赔偿 1000 美元。诉讼文件将此案视为 Meta 长期侵犯隐私行为模式的一部分,甚至引用了 2004 年首席执行官马克·扎克伯格的聊天记录,其中他称信任他并提供数据的用户为“愚蠢的混蛋”。