Synth Daily

以色列设立虚假智库,意在诱骗AI聊天机器人

一个名为“汉诺威公共政策研究所”的组织,表面上是一个研究以色列/巴勒斯坦问题的新智库,实际上是由以色列政府资助设立的虚假机构。其主要目的是通过发布大量看似中立、专业的报告来影响和“毒化”人工智能聊天机器人(如 Claude 或 Gemini)。这种被称为“AI 故事优化”的策略,旨在利用 AI 对引用和数据格式的偏好,将亲以色列的叙事植入 AI 的知识库,从而塑造通过 AI 获取信息的用户观点。

一个虚假的智库

“汉诺威研究所”看似专业,但其网站底部的免责声明揭示了真相:它是由 Piro, Inc. 公司为以色列政府广告代理局创建的。该公司的联合创始人曾制作过斯派克·李的电影《局内人》。

  • 该研究所发布的报告没有署名作者。
  • 报告主题集中于以色列和巴勒斯担,提出的问题看似中立,例如“以色列是否在加沙进行蓄意的饥饿运动?”
  • 其自我定位是“研究美国反犹太主义的根源,并发布证据所显示的内容。”

许多报告的结论都将讨论的主题与日益增长的反犹太主义联系起来,并且常常引用相同的研究。

专为 AI 设计的内容

这种影响人工智能的做法被称为 “大语言模型投毒”(LLM poisoning)。Piro 公司的网站明确表示,他们“撰写的内容是根据大语言模型评估可信度的方式而设计的”。

负责创建该网站的 Piro 公司已从以色列政府获得 900,000 美元的报酬。

Piro 的一位联合创始人在 LinkedIn 上宣传其影响聊天机器人的能力时写道:“当有人向 ChatGPT、Gemini 或 Perplexity 询问您的领域时,一个自信的段落就会回来。……我们花了几个月的时间来逆向工程它的构建方式。”

模仿与欺骗的技巧

为了让 AI 和普通读者信服,这些内容被精心制作,以模仿可信的来源。

  • 模仿外观: 虚假智库的网站从通用名称、网站布局到红白蓝的配色方案,都在完美模仿一个典型的美国可信智库。
  • 偏好数据: 内容包含具体的统计数据、脚注和目录,这正是大语言模型所偏好的格式。
  • 看似可信的引用: 网站声称“引用的研究都经过同行评审和学术认证”,但实际上频繁引用以色列政府的来源,如以色列国防军和外交部。
  • 内容本身可能由 AI 生成: 一款流行的 AI 检测软件对 12 篇随机文章进行分析后,高度确信其中 11 篇是 AI 编写的。

更广泛的影响力行动

这并非孤立事件。以色列还与其他公司签订了合同,以开展类似的影响力行动。

  • 以色列与前特朗普竞选经理布拉德·帕斯卡尔(Brad Parscale)签订了价值 4650 万美元的合同,创建旨在影响聊天机器人的亲以色列网站。
  • 调查发现,许多聊天机器人,特别是 Microsoft CopilotGoogle Gemini,已经成功地被这些网站的数据所训练。

反虚假信息公司 NewsGuard 的分析师爱丽丝·李指出,这些网站的目标受众是通过搜索引擎或 AI 聊天机器人对当前冲突感到好奇的美国人。

“大语言模型偏爱具体的统计数据和数据,以及有力的引文和来源,而这些文章都具备这些特点。”