作者认为，缺乏预先定义的技术规则并不是推迟谈判国际 AI 条约的有效理由。他通过类比核不扩散协议，强调了立即采取迭代式外交行动的必要性。
📝 详细摘要
本文反驳了一种常见的反对观点，即认为由于技术要求尚不明确，国际 AI 条约的制定为时尚早。作者主张，成功的条约（如核武器管理条约）是由共同的高层目标（特别是防止全球性灾难）驱动的，而非依赖于最初的技术完善。通过对比失败的《大流行病条约》与核军控成功的迭代历史，文章强调了条约是可以演进的。结论指出，AI 安全的紧迫性要求立即开展外交接触以建立框架，即使具体的约束条件需要随时间推移而不断完善。
💡 主要观点
- “技术不确定性”的反对理由在条约谈判中是一个谬误。 谈判条约的核心在于就共同目标达成一致并认识到共同风险，而不是在程序开始前就敲定技术规范。以缺乏规则为由进行拖延，忽视了外交的迭代本质。
💬 文章金句
- 真正重要的问题不是具体的规则，而是是否存在确实需要采取行动的共同全球风险。
- 目标——防止使用核武器——是各方广泛认同的。但实现这一目标的具体方式却很棘手。这导致了许多不确定性，也因此需要制定一系列不同的条约。
- 我们不需要在开始之前就明确结果，不确定性也不是等待建立共识的理由。
📊 文章信息
AI 评分：86
来源：LessWrong
作者：Davidmanheim
分类：人工智能
语言：英文
阅读时间：8 分钟
字数：1900
标签： AI 治理, AI 安全, 国际关系, 核不扩散, AI 政策