这篇文章提出，我们应该开发名为“守护天使”（Guardian Angels）的个人化大语言模型。这种模型是一个用户的数字分身，深度模仿其性格、价值观和偏好。其核心目标是让用户从繁琐的“怎么做”中解放出来，专注于“做什么”的战略决策，从而大幅提升生产力。同时，这种模型也能作为个人安全屏障，有效抵御日益复杂的网络攻击。要实现这一目标，不能依赖传统的模型和提示词工程，而需要结合在线学习、主动纠错和本地化交互等新方法。
现有大模型的局限
未来几年，强大的大语言模型将普及到互联网和日常生活的方方面面。然而，截至目前，对于知识工作者或普通人如何利用这些模型来大幅提高生产力，以及如何应对网络安全和认知安全威胁，我们尚未形成一个清晰有效的方案。
“守护天使”：一个解决方案
“守护天使”（GA）是一种数字分身大语言模型，其目标不是成为一个通用的“助理聊天机器人”，而是尽可能地模仿特定用户的个性、价值观和偏好。
通过让模型（代理）和用户（委托人）的特质高度统一，这在一定程度上解决了“委托-代理”问题。
在一个拥有“守护天使”的未来，用户的关注点将从“如何执行任务”转变为“定义哪些任务值得去做”，就像一个“人工智能公司”的 CEO 或董事会。
用户可以部署多个这样的“分身”去完成任务或处理安全问题，例如：
- 筛选所有信息，以防御高级网络攻击。
- 识别和拦截用于宣传或鱼叉式网络钓鱼的合成媒体。
虽然“守护天使”无法解决更大范围的 AI 对齐问题，但它可以作为社会整体深度防御策略的一部分，为每个个体提供保护。
“守护天使”的优势
- 高生产力: 模型学习模仿用户的产出风格，但能实现更高的质量。
- 高可信度: 模型的设计初衷就是与用户结盟，共享其价值观和目标，因此是值得信赖的。
- 高安全性: 模型与单一、独特的本地用户深度绑定，这使得“提示词攻击”对它来说显得荒谬。同时，通过对底层模型的定期升级，它能持续跟上攻击者的步伐。
为什么现有技术不够用
当前主流的技术，如对“冻结”模型进行提示词编程，无法创造出真正有用的“守护天使”。这主要受限于以下几点：
- 模型在训练后就被固化，难以适应新情况。
- 上下文窗口大小的限制。
- 被动的、离线的、低效的数据收集方式。
这些因素共同导致了现有聊天机器人在提升知识工作者效率、进行创意写作以及在执行代理任务时表现不佳，甚至会出现致命错误。
如何构建“守护天使”
我们可以通过结合多种技术来尝试构建“守护天使”：
- 在线学习: 通过动态评估实时更新模型，使其既能避免知识陈旧，又能保持竞争力。
- 主动学习: 当模型不确定时，主动向用户提问，请求纠正或获取偏好数据，从而高效学习。
- 本地化交互: 采用一种以日志记录为导向、命令行优先的交互方式，以实现更高效、更安全的互动。
商业化路径
尽管“守护天使”可以作为一个开源社区项目来开发，但考虑到部署时的高安全要求以及来自专业攻击者的挑战，将其作为一个商业化的创业项目可能更为合理。
这个项目可以首先服务于对生产力和安全有极高需求的高级用户，例如公司的 CEO 或顶尖研究人员，之后随着技术的成熟再逐步推广到更广泛的用户群体。