致命现实假说 — LessWrong

📌 一句话摘要

致命现实假说认为，灭绝是文明的结构性默认状态，因为在非遍历、肥尾的宇宙中，优化压力倾向于即时的竞争收益，而非长期的生存。

📝 详细摘要

本文介绍了“致命现实假说”，认为灭绝不仅是一种风险，更是一种主动的结构性压力。作者主张，文明受制于优化过程（如市场竞争或政治权力），这些过程优先考虑局部的、短期的适应度，而非全局的、长期的生存。由于投资于缓解生存风险成本高昂且无法提供即时的竞争优势，忽视此类风险的智能体往往能胜过应对风险的智能体。借鉴人择原理和哥白尼原理，作者建议我们生活在一个“最低限度友好”的宇宙中，自然地处于生存能力的边缘。此外，文章应用了非遍历性和肥尾乘法过程的数学框架，表明如果没有强大且特定的纠正机制，由于累积的波动性以及缺乏针对稀有灾难性事件的紧密反馈回路，文明在时间轴上的单一路径将不可避免地漂向灭绝这一吸收态。

💡 主要观点

- 灭绝压力是一种结构性力量，导向生存的行为会降低即时的竞争适应度。 在任何竞争格局中，用于长期生存安全的资源就是未用于即时增长或防御的资源。因此，忽视遥远威胁的智能体比为此做准备的智能体更具竞争优势，从而导致系统性地滑向灭绝。

哥白尼原理和人择原理表明，我们居住在一个对生命仅表现出最低限度友好的宇宙中。 既然宇宙勉强支持观察者的可能性远大于其完美安全的可能性，我们应该假设自己处于生存能力的边缘。因此，技术或环境参数的任何重大转变都可能是致命的。

生存威胁缺乏系统开发纠正机制所需的紧密反馈回路。 与允许通过频繁、非致命接触来进化免疫系统的常见病原体不同，生存风险是罕见且灾难性的。这阻碍了文明在最终崩溃发生前学习和适应所需的“训练信号”。

文明生存是一个非遍历过程，即使是微小的单期风险也会收敛于必然的灭绝。 因为灭绝是一个吸收态，文明无法从平行世界的“平均”结果中获益。在单一路径的时间线中，任何非零的灾难概率最终都会实现，这要求生存概率必须驱动至接近 1 才能持续。

肥尾乘法动力学必然会将系统驱动至零，除非存在强大、特定的纠正力量。 在一个由极端、不可预测的冲击（肥尾）主导的世界中，单一路径上的波动性惩罚随时间增长。这一数学现实意味着，除非有专门的机制积极抵消累积的负面漂移，否则系统会自然衰减至零。

💬 文章金句

- 灭绝是任何文明的默认结果，而且是一个强力的默认选项。

• 在竞争的每一个层面上，认真对待克苏鲁的人相对于不认真对待的人都处于劣势。
• 典型的观察者处于生存能力的边缘，而非舒适的中心。
• 从长远来看，在大多数竞争环境中，导向生存的行为具有负适应度。
• 任何非极小的单期灭绝概率，在足够长的时间跨度内都会收敛于必然性。

📊 文章信息

AI 评分：84

来源：LessWrong

作者：Ihor Kendiukhov

分类：人工智能

语言：英文

阅读时间：26 分钟

字数：6260

标签： 生存风险, 优化压力, 博弈论, 人择原理, 非遍历性

阅读完整文章