本文提出了 AI 安全战略的六项基础信念，认为有效的计划必须考虑到短时间线、地缘政治的复杂性、高方差的未来，以及 2026 年严峻的博弈论现实。
📝 详细摘要
作者认为，许多当前的 AI 安全战略之所以失败，是因为它们依赖于理想化的假设，而非 2026 年混乱的现实。通过将战略锚定在六个核心信念上——短时间线、已解决的开放性问题、高方差的未来、对多种方法组合的需求、博弈论激励机制，以及选择“两害相权取其轻”的必要性——作者为更务实的 AI 治理提供了一个框架。文章强调，我们已不再处于抽象理论化的时代；相反，我们必须在一个由特定政治行为体、激烈的国际不信任以及对 AGI 的紧迫且高风险竞争所定义的现实世界中前行。
💡 主要观点
- 战略必须超越抽象的理想主义，与当前的地缘政治现实接轨。 有效的 AI 安全规划需要承认特定的政治行为体（例如当前的美国和中国政府），而不是依赖于假设中运作良好的政府结构。
💬 文章金句
- 太多人沉溺于构想他们想要的理想政府，而不是我们 2026 年实际拥有的政府。
- 因此，不可能制定出一个在所有可能的未来世界中都能良好运作的单一、固定的计划。
- 任何有用的战略都需要充分应对这一充满挑战的现实。仅仅拥有一个如果每个人都采纳就能保证人类生存的计划是不够的：你需要一个强有力的战略，确保关键行为体有动力去执行你的计划。
- 任何会导致人类灭绝重大风险的计划都是糟糕的计划。目前不存在不涉及人类灭绝重大风险的可行计划。因此，我们被赋予的任务是从现有选项中挑选出最不坏的计划。
📊 文章信息
AI 评分：88
来源：LessWrong
作者：Against Moloch
分类：人工智能
语言：英文
阅读时间：5 分钟
字数：1052
标签： AI 安全, AI 治理, 博弈论, AGI, 地缘政治