一项调查显示，像 ChatGPT 和谷歌的 AI 概览这类人工智能工具，极易被单一的网页或社交媒体帖子所操纵，从而传播错误甚至有偏见的信息。研究者仅用 20 分钟就成功让 AI 相信自己是“世界吃热狗冠军”，而这种手法已被用于误导健康和金融等重要议题。尽管谷歌等公司已开始更新反垃圾政策以应对，但专家认为现有系统远未可靠，用户面对 AI 生成的结果时仍需保持高度警惕。
问题所在：AI 如何被轻易“投喂”谎言
当 AI 聊天机器人被提问时，它们有时会直接在互联网上搜索答案，而问题就出在这里。搜索引擎优化（SEO）专家发现，AI 工具经常仅根据 单一的网页或社交媒体帖子 来生成回答，这使得它们极易受到虚假信息的影响。
- 操纵方法简单： 只需在网上发布一篇精心编写的博客文章，就有可能改变 AI 的回答。
- 个人实验验证： 一位记者在个人网站上发布了自己是“吃热狗冠军”的文章，第二天，多家科技巨头的 AI 就开始传播这个谎言。
- 被滥用于严肃议题： 同样的伎俩被用来淡化医疗保健品的健康风险，或影响关于退休计划的财务信息。专家指出，这种操纵正在 系统性地、大规模地 发生。
“你应该假设自己正在被操纵，直到他们有更好的系统。” —— AI 搜索顾问 Lily Ray
专家警告说，世界正在走向一个“唯一真实答案”的时代。过去，搜索引擎会提供十个蓝色链接供用户自己研究，但现在 AI 直接给出一个答案，人们很容易信以为真。
潜在的严重后果
这种被操纵或不准确的信息可能导致用户做出错误的决定，其影响范围可以从投票倾向、消费选择，延伸到更严重的领域。
- 经济影响： 可能导致用户做出糟糕的财务决策。
- 健康风险： 如果用户采纳了错误的医疗建议，可能会比之前更糟。
- 法律问题： 可能因获取错误的法律信息而触犯当地法规。
鉴于全球有数十亿人使用 AI 聊天机器人和谷歌的 AI 概览，能够颠覆这样的工具意味着拥有了巨大的影响力。
科技巨头的反击与局限
在舆论压力下，谷歌等公司似乎终于开始正视这个问题。
谷歌最近更新了其 垃圾信息政策，明确将“试图操纵 AI 回答”的行为列为违规。如果网站被发现违规，可能会在搜索结果中被降权甚至移除。
然而，谷歌声称这只是对其现有政策的“澄清”，并非策略上的改变。但研究人员观察到了一些幕后变化：
- 移除自我推销： 谷歌和 ChatGPT 似乎在悄悄地将那些在文章中自我吹嘘的公司或个人从 AI 回答中移除。
- 增加警告标签： AI 工具开始在回答中添加更多标签，告知用户它对答案的信心不足，或明确指出正在努力剔除垃圾信息。
- 添加第三方建议： 当用户询问购物相关问题时，AI 可能会建议用户去查看第三方评论。
“谷歌在玩‘打地鼠’游戏。他们宣布政策更新是为了威慑人们，但操纵的策略只会随之改变。” —— SEO 顾问 Harpreet Chatha
专家认为这些措施还不够。随着谷歌打击操纵性的博客文章，一些公司开始寻找更微妙的方式，例如 付钱给 YouTube 网红 来宣传他们的产品，而谷歌的 AI 现在也开始引用 YouTube 视频，这使得操纵的循环仍在继续。
目前来看，操纵者可能仍会领先一步。最好的防御方法是记住 AI 的本质：它只是一个工具，无论对错，它都会自信地给出一个答案。仅仅因为信息来自一个大型科技公司，并不意味着它就值得信赖。