一个名为“汉诺威公共政策研究所”的组织,表面上是一个研究以色列/巴勒斯坦问题的新智库,实际上是由以色列政府资助设立的虚假机构。其主要目的是通过发布大量看似中立、专业的报告来影响和“毒化”人工智能聊天机器人(如 Claude 或 Gemini)。这种被称为“AI 故事优化”的策略,旨在利用 AI 对引用和数据格式的偏好,将亲以色列的叙事植入 AI 的知识库,从而塑造通过 AI 获取信息的用户观点。
一个虚假的智库
“汉诺威研究所”看似专业,但其网站底部的免责声明揭示了真相:它是由 Piro, Inc. 公司为以色列政府广告代理局创建的。该公司的联合创始人曾制作过斯派克·李的电影《局内人》。
- 该研究所发布的报告没有署名作者。
- 报告主题集中于以色列和巴勒斯担,提出的问题看似中立,例如“以色列是否在加沙进行蓄意的饥饿运动?”
- 其自我定位是“研究美国反犹太主义的根源,并发布证据所显示的内容。”
许多报告的结论都将讨论的主题与日益增长的反犹太主义联系起来,并且常常引用相同的研究。
专为 AI 设计的内容
这种影响人工智能的做法被称为 “大语言模型投毒”(LLM poisoning)。Piro 公司的网站明确表示,他们“撰写的内容是根据大语言模型评估可信度的方式而设计的”。
负责创建该网站的 Piro 公司已从以色列政府获得 900,000 美元的报酬。
Piro 的一位联合创始人在 LinkedIn 上宣传其影响聊天机器人的能力时写道:“当有人向 ChatGPT、Gemini 或 Perplexity 询问您的领域时,一个自信的段落就会回来。……我们花了几个月的时间来逆向工程它的构建方式。”
模仿与欺骗的技巧
为了让 AI 和普通读者信服,这些内容被精心制作,以模仿可信的来源。
- 模仿外观: 虚假智库的网站从通用名称、网站布局到红白蓝的配色方案,都在完美模仿一个典型的美国可信智库。
- 偏好数据: 内容包含具体的统计数据、脚注和目录,这正是大语言模型所偏好的格式。
- 看似可信的引用: 网站声称“引用的研究都经过同行评审和学术认证”,但实际上频繁引用以色列政府的来源,如以色列国防军和外交部。
- 内容本身可能由 AI 生成: 一款流行的 AI 检测软件对 12 篇随机文章进行分析后,高度确信其中 11 篇是 AI 编写的。
更广泛的影响力行动
这并非孤立事件。以色列还与其他公司签订了合同,以开展类似的影响力行动。
- 以色列与前特朗普竞选经理布拉德·帕斯卡尔(Brad Parscale)签订了价值 4650 万美元的合同,创建旨在影响聊天机器人的亲以色列网站。
- 调查发现,许多聊天机器人,特别是 Microsoft Copilot 和 Google Gemini,已经成功地被这些网站的数据所训练。
反虚假信息公司 NewsGuard 的分析师爱丽丝·李指出,这些网站的目标受众是通过搜索引擎或 AI 聊天机器人对当前冲突感到好奇的美国人。
“大语言模型偏爱具体的统计数据和数据,以及有力的引文和来源,而这些文章都具备这些特点。”