本文介绍了 LIMBO，这是一个将重要性采样（importance sampling）和模拟理论应用于生存风险的研究小组，他们认为最大化全球不确定性是持续存在的关键。
📝 详细摘要
LIMBO（重要性采样测量与贝叶斯观测实验室）假设我们生活在一个模拟中，计算资源通过重要性采样分配给高方差、“有趣”的事件。作者认为，为了确保我们作为观察者的持续存在，我们必须对生存风险（特别是 P(doom)）保持高度的不确定性。该组织结合了 AI 推理优化、半导体供应链倡导和预测市场套利来影响这些结果。这篇文章既是一份理论宣言，也是一份融资推介，详细介绍了他们的争议性策略以及在预测市场中的近期财务损失。
💡 主要观点
- 模拟假说意味着计算资源被分配给高方差、有趣的事件。 作者认为，如果我们身处模拟之中，模拟器会优先渲染高不确定性的场景，这解释了为什么我们生活在一个技术和地缘政治快速变动的时期。
💬 文章金句
- 如果我们身处模拟之中，假设模拟器拥有有限的计算资源是合理的。因此，大多数观察者应该会发现自己处于对模拟器而言有趣的时间和地点。
- 对于一个珍视自身持续存在的智能体而言，道德行为是保持结果变量的高方差。
- 我们是唯一一个每一美元无论如何花费都能增加方差的组织。
📊 文章信息
AI 评分：78
来源：LessWrong
作者：faul_sname
分类：人工智能
语言：英文
阅读时间：14 分钟
字数：3477
标签： 模拟假说, 生存风险, 重要性采样, AI 安全, 预测市场