ControlAI 的 2025 年度影响力报告详细介绍了该组织在英国、加拿大和美国向数百名立法者简要介绍超智能灭绝风险方面的成功努力，旨在建立国际政策联盟。
📝 详细摘要
ControlAI 2025 年度影响力报告概述了该组织在倡导监管超智能 AI 系统方面取得的进展。在过去的一年中，该非营利组织向近 300 名立法者进行了简报，建立了由 110 多名英国议员组成的联盟，并引发了关于 AI 相关国家安全威胁的议会辩论。报告阐述了一种“变革理论”，强调在决策者和公众中建立广泛的认知是国际政策行动的先决条件，类似于核不扩散框架。该组织计划将其业务扩展到 G7 国家，以将这种认知转化为具体的立法措施。
💡 主要观点
- 直接与民主机构接触对于 AI 政策是有效的。 ControlAI 证明，主动联络和对立法者的系统性简报可以成功地将超智能风险纳入立法议程，从而引发议会辩论并建立联盟。
💬 文章金句
- 我们经常遇到在会面前从未听说过超智能风险的立法者，而会面结束后，他们转而支持我们的运动。
- 在决策者和公众中大规模建立这种认知，是针对超智能采取任何有意义行动的必要第一步。
- 这些措施可以通过一个强大的国家联盟来实现，该联盟将超智能理解为对其国家安全的重大威胁，并像对待其他任何严重安全威胁一样对待其发展。
📊 文章信息
AI 评分：80
来源：LessWrong
作者：Andrea_Miotti
分类：人工智能
语言：英文
阅读时间：5 分钟
字数：1189
标签： AI 安全, AI 政策, 超智能, 倡导, AI 治理