帮助我发布《Obsolete》：一本旨在建立 AI 改革新运动的书 — LessWrong

作者介绍了他们的新书《Obsolete》，该书批判了 AI 行业的“淘汰计划”（Obsoleting Project），并提出了一项超越传统技术安全辩论的 AI 改革运动。

在这篇文章中，作者宣布了他们的新书《Obsolete: The AI Industry's Trillion-Dollar Race to Replace You—and How to Stop It》的发布。该书挑战了当前的 AI 发展轨迹，作者将其定义为“淘汰计划”——即一场旨在用机器智能取代人类劳动的巨大努力。作者超越了传统 AI 安全的狭隘范畴，引入了“对齐多重危机”（Alignment Polycrisis）框架，将经济和地缘政治维度纳入风险评估。书中认为，阻止这一轨迹是一个可以实现的目标，并类比了诸如“核冻结”（Nuclear Freeze）等历史运动。通过综合众多行业专家的见解，作者旨在提供一个既能吸引技术内行又能吸引怀疑论者的全面视角，最终倡导一种民主的 AI 改革方法。

- “淘汰计划”将 AI 重新定义为一种生产劳动的机器，而不仅仅是一种新型思维。 作者认为，主要 AI 实验室的首要目标是创造在经济价值工作上超越人类的系统，从而有效地消除生产中的人类约束，并制造出一台“不平等引擎”。

- 最好将 OpenAI、Anthropic 和 Google 等公司试图构建的东西理解为一种新型机器，而不是一种新型大脑；它不生产产品或服务，而是直接生产劳动本身。

• “淘汰计划”本质上是一台不平等引擎，它渴望将难以想象的巨额资本转化为他人的失业，这一切都是为了实现股东价值最大化。
• 解决对齐问题的“方案”对于解决“淘汰计划”所带来的问题既非必要，也非充分。

AI 评分：85

来源：LessWrong

作者：garrison

分类：人工智能

语言：英文

阅读时间：9 分钟

字数：2039

标签： AI 改革, AI 安全, 劳动经济学, 淘汰计划, 对齐多重危机

阅读完整文章