一家名为 Conduit 的公司正在开发一种心灵感应或“读心”技术。这是一个极其糟糕的想法，因为它一旦成功，将成为有史以来最强大的极权主义工具。这项技术的核心危险在于，它被滥用的潜力远远超过其微不足道的便利性，它不仅会助长威权统治，还会扼杀个人思想自由，最终将人类引向一条被奴役的道路。
一项危险的技术
从概念上讲，这项技术旨在通过检测大脑内部的脉冲并将其转化为可理解的输出来实现“读心”。尽管目前的技术可能尚不完美，充满了各种“噪音”，但只要有持续的资金投入，它的精度和能力就会不断提升。我们不应因其目前的不完美而低估其长期的威胁。
开发者似乎只关注人们自愿使用它能带来什么好处，却完全忽略了一个更重要的问题：
在非自愿的情况下，它会被如何滥用？
为威权主义量身打造的工具
这项技术最可怕的用途，并非监控普通大众，而是确保权力核心内部的绝对忠诚。威权国家的崩溃，往往不是因为民众抗议，而是因为安全部队等暴力机关不再愿意执行镇压命令。
- 忠诚度筛选: 有了读心术，当权者不再需要复杂的内部监控网络来防止政变。他们可以直接筛选出那些绝对忠于他个人，而非忠于宪法或国家的人。
- 瓦解反抗: 当掌握武力的人能被确保绝对忠诚时，任何民众反抗都将变得徒劳。一个愿意无限制对平民开枪的武装力量将永远获胜。
- 失效的保障: 过去，我们之所以安全，恰恰是因为测谎仪这类忠诚度测试工具并不可靠。我们为什么要努力让一个可靠的、能真正“测谎”的工具变为现实呢？
你希望当权者拥有一种能够准确检测你是否会在政变中支持他的技术吗？你希望世界上每个政府都能拥有这种能力吗？
思想的牢笼
即使我们幸运地避免了最坏的威权场景，这项技术也会在社会层面上造成巨大的破坏，极大地压缩可被接受的思想范围。
任何能够解读你对午餐想法的人工智能，也同样能够解读你对政府的潜在不满，或任何与社会主流相悖的观点。社会很可能会因为“侵入性想法”（intrusive thoughts）——那些仅仅在脑中闪现、从未打算付诸行动的念头——而陷入相互攻讦的境地。
- 法律的滥用: 在英国，每年有数千人因可能对他人造成“烦扰”或“焦虑”的在线言论而被捕。如果执法者能够窥探每个人的思想，你真的相信社会能克制住自己，不去惩罚那些脑海中闪过禁忌念头的人吗？
- 禁忌的审判: 拥有这项技术，意味着任何形式的权威都能对思想进行审判。
- 神权领袖可以检测出信徒心中一丝一毫的叛教痕迹。
- 反叛乱行动可以轻易识别出谁是真正的支持者。
- 纳粹将能确切地知道犹太人藏在哪里。
微不足道的所谓“好处”
面对如此巨大的风险，我们换来的好处是什么？答案是：可能只是为了让我们能更快地与电脑交互。
这完全不成比例。我们的打字速度已经很快，语音转录软件也足够成熟。随着人工智能变得越来越智能，人类实时输入的价值反而会越来越低。我们只需要下达一个任务指令，然后让人工智能自主执行即可。
这项技术的最佳用途，也许是让我们用思想控制外部设备，但这更像是科幻电影的情节，而非解决现实世界的迫切需求。
立即停止
这项技术的开发者应该立刻停止他们正在做的事情。
我宁愿你们去开发一个可能意外杀死所有人的通用人工智能，也不愿你们开发一个必将奴役我们所有人的工具。