Synth Daily

奥巴马敦促民主党人就 AI 安全保障制定“清晰计划”

前总统贝拉克·奥巴马敦促民主党人将人工智能(AI)作为核心议题,并制定一个清晰的计划来应对其经济影响和安全风险。这一呼吁反映出政界与科技行业对 AI 迅速发展的普遍关切,并引发了国会领袖、行业高管乃至前总统唐纳德·特朗普等各方的回应,讨论的焦点集中在设立安全标准和进行独立监督的必要性上。

奥巴马对民主党的敦促

在一场民主党筹款活动中,奥巴马向众议院少数党领袖哈基姆·杰弗里斯表示,民主党需要将人工智能列为他们的“核心议程之一”。他强调,一旦民主党重掌众议院,就应立即着手为一场非常公开的对话建立框架。

  • 制定清晰计划: 必须有一个“非常清晰的计划”来应对 AI 技术带来的经济和安全问题。
  • 抓住主导权: 奥巴马警告说,这项技术正在私营企业手中飞速发展,政府必须及时介入并加以引导。
  • 双重潜力: 他认为,如果监管得当,AI 将带来巨大益处,例如加速药物研发以帮助治愈疾病;但如果失控,则可能变得“危险”

这件事在私人手中发展得非常快,如果我们不加以控制,我认为可能会很危险。如果我们能控制好,我确实认为它是有益的。

各方反应与行业动态

奥巴马的言论是在 AI 安全问题日益引发关注的背景下发表的。此前,一名 AI 研究员从 Anthropic 公司辞职,声称领先的 AI 公司正“直接冲向自我完善的超级智能,并拿我们的生命赌博”。

  • 国会领袖的回应:

    • 哈基姆·杰弗里斯对此表示赞同,认为“必须就人工智能采取果断行动”,并指责共和党人“放弃了为美国人民执政的责任”。
    • 唐纳德·特朗普则在另一场合表示,他希望美国“赢得”AI 竞赛,并可以设置“护栏”,但他同时认为,许多提出担忧的人是“不该提出这些问题的负面力量”。
  • 科技行业的行动:

    • 奥巴马本人已成为 AI 高管的“顾问”,并与 AnthropicOpenAI 的首席执行官进行了交谈。
    • Anthropic 的首席执行官 Dario Amodei 提出了一项安全方案,建议允许独立的评估员接触领先的 AI 模型,并制定行业内的“共同安全标准”
    • OpenAI 的首席执行官 Sam Altman 对此计划表示支持,并承诺会让独立评估员获得“类似员工的访问权限”。