● “我们依然注定失败”并不是放弃任何特定既往避险方案的有力证据 — LessWrong

📌 一句话摘要 本文批判了一种逻辑谬误：仅仅因为现有的 AI 安全策略尚未消除生存风险，就将其全盘否定。作者警告称，这种“非-也许-是”的启发式思维会导致人们非理性地转向未经证实的高风险替代方案。 📝 详细摘要 本文探讨了 AI 安全讨论中反复出现的一种倾向：仅仅因为生存风险依然存在，就将现有的

● 伊朗与功能决策理论 (FDT) — LessWrong

📌 一句话摘要 本文批判性地探讨了功能决策理论 (FDT) 在现实地缘政治中的应用，以伊朗“绝不妥协”的立场为例，阐明了为何反勒索的理论逻辑在复杂、非单一且利益驱动的环境中往往会失效。 📝 详细摘要 作者审视了功能决策理论 (FDT) 与地缘政治战略的交叉点，特别质疑了“绝不向勒索屈服”这一启发

● 对冲与生存加权规划 — LessWrong

📌 一句话摘要 本文探讨了将金融对冲概念应用于现实决策与生存风险，主张即使在前景黯淡的情况下，也应采取“生存加权规划”。 📝 详细摘要 作者讨论了从理论决策分析向计算约束下的实践智慧的转变。通过类比金融对冲（通过抵消性押注平衡风险）与物理世界决策，文章认为个人应采用启发式方法来减轻灾难性后果。核

● 我的伦理观 — LessWrong

📌 一句话摘要 这是一篇基于功利主义、政策层面结果论和理性决策理论构建的个人伦理框架综述，并将其应用于纯素食主义和慈善捐赠等实际生活选择中。 📝 详细摘要 作者概述了其经过十年发展形成的个人伦理框架，摒弃了道德实在论，转而支持基于“痛苦是不好的”和“快乐是好的”等公理构建的道德推理。文章提倡政策

● 预承诺 — LessWrong

📌 一句话摘要 本文探讨了预承诺作为一种战略工具，用于克服诱惑、减少认知负荷并促进合作，这对未来的人机对齐具有关键意义。 📝 详细摘要 本文审视了预承诺的机制——即限制未来的选择以确保坚持长期价值观。作者借用奥德修斯与海妖的隐喻，对比了不断重新评估决策的“计算型”智能体与使用启发式方法或约束条件

● 关于“做大蛋糕”的思考 — LessWrong

📌 一句话摘要 本文探讨了优先考虑“做大蛋糕”（增加社会总效用）而非“增加个人份额”（追求权力）的战略和伦理依据，并借鉴了决策理论、实用主义和认知谦逊等观点。 📝 详细摘要 本文综合了理性主义者的观点，阐述了为什么个人和群体应该优先考虑扩大未来的总价值，而不是争夺现有资源的更大份额。文章利用决策

● 别再问“这个有多好”来决定我推荐的捐赠机会了 —— LessWrong

📌 一句话摘要 作者认为，捐赠者不应试图对推荐的捐赠机会进行边际效用排名，因为推荐方已经对其进行了优化，使其具有同等价值；捐赠者应转而关注法律上限和个人税务优势等约束条件。 📝 详细摘要 本文探讨了捐赠者中存在的一个常见误区，即试图对各种推荐的捐赠机会进行成本效益排名。作者解释说，专业的捐赠顾问

● 直接相乘点估计值即可（如果你只关心期望值 EV）—— LessWrong

📌 一句话摘要 作者认为，在变量相互独立且满足期望线性性质的前提下，对于期望值（EV）计算，使用点估计值通常就足够了，而且比完整的概率分布更具可审查性。 📝 详细摘要 本文挑战了一个常见的假设，即在计算期望值（EV）时，复杂的概率分布总是必要的。作者认为，在变量独立和满足期望线性性质的条件下，将

● 谁在害怕非因果交易？—— LessWrong

📌 一句话摘要 本文将“非因果交易”重新定义为“基于信息的交易”，从而揭开了其神秘面纱，并指出它们是不确定性决策理论的自然延伸，对未来的 AI 系统和数字思维具有重要意义。 📝 详细摘要 作者认为“非因果交易”这一术语容易引起混淆，建议将其替换为“基于信息的交易”。通过区分基于交互的交易（双方会

● 脑洞大开的模型对话：ASI 宪法与宇宙宿主 — LessWrong

📌 一句话摘要 这项研究调查了使用宪法提示（constitutional prompting）对前沿 LLM 的可引导性，发现与 Anthropic 和 OpenAI 模型僵化且受吸引子（attractor）偏见影响的行为相比，Gemini 模型对决策理论结构具有独特的响应能力。 📝 详细摘要

● 所有主流 LLM 都是“单箱吸烟三分派”—— LessWrong

📌 一句话摘要 对主流 LLM 的决策理论倾向进行的一项实证研究，发现它们一致倾向于“单箱”选择，并与功能决策理论（FDT）保持一致，这对 AI 对齐和协作行为具有重要意义。 📝 详细摘要 作者通过在纽科姆悖论（Newcomb's Problem）、睡美人问题（Sleeping Beauty P

● 凯利准则是留给懦夫的 —— LessWrong

📌 一句话摘要 这篇文章挑战了凯利准则传统的保守应用方式，认为个人往往低估了自己的真实财富（包括未来收入和安全网），从而导致了次优的、过于谨慎的投注策略。 📝 详细摘要 作者批评了凯利准则的标准应用方式，该准则建议在有利的赔率下投注一小部分财富。通过分析对数效用函数，文章指出，大多数人在直觉上过

● 如何避免倒推决策理论 — LessWrong

📌 一句话摘要 文章认为，决策理论应基于独立且令人信服的理由，而非源于对特定结果的原始直觉所产生的‘倒推’论证。 📝 详细摘要 作者批判了决策理论中一种常见的‘倒推’方法，即研究人员从期望的结果（判决层面的直觉）出发，然后构建理论来为其辩护。DiGiovanni 提出，判决仅仅是关于理由存在的断

● 资源分配的统一公式：广度与深度的权衡

📌 一句话摘要 推文分享了一篇关于资源分配策略的论文，探讨了如何通过公式统一“钱多探索（广度优先）”与“钱少集中（深度优先）”的选择问题。 📝 详细摘要 李继刚分享了一篇来自 arXiv 的学术论文（2603.12634），核心观点在于通过数学公式统一了搜索策略中的广度优先与深度优先问题。推文将

● 直觉何时需要可靠？— LessWrong

📌 一句话摘要 文章区分了作为经验预测器的直觉（需要可靠性）和作为规范性表达的直觉（在这种情况下，可靠性是一个范畴错误）。 📝 详细摘要 Anthony DiGiovanni 探讨了哲学和理性主义辩论中一个常见的混淆来源：直觉的双重性质。他将直觉分为两类：预测器和规范性表达。预测性直觉，例如社交

● 投入、产出与有价值的结果 — LessWrong

📌 一句话摘要 本文探讨了复杂工作中投入、产出与有价值结果之间的解耦现象，分析了激励错位和古德哈特定律如何导致心理压力和系统性低效。 📝 详细摘要 本文探讨了我们投入工作（投入）、立即产生的产品（产出）以及最终创造的价值（结果）之间的结构关系。在体力劳动中，例如挖掘隧道，这三个组成部分紧密耦合；

● 操作化 FDT — LessWrong

📌 一句话摘要 本文通过定义一个逻辑 do-算子，并探索通过算法互信息和世界模型回溯来奠定逻辑因果关系的方法，为功能决策理论 (FDT) 提供了一个形式化框架。 📝 详细摘要 本文旨在通过解决功能决策理论 (FDT) 的形式机制和哲学基础来将其操作化。它引入了一个用于干预逻辑事实的“逻辑 do-

● 关于宇宙宿主，我们能说什么？— LessWrong

📌 一句话摘要 本文批判性地解构了尼克·博斯特罗姆的“宇宙宿主”假说，评估了文明间规范形成的可行性及其潜在理性主义假设的有效性。 📝 详细摘要 本文探讨了“宇宙宿主”概念——该理论认为，技术成熟文明的偏好可能会建立起人类和未来人工智能（ASI）应遵循的规范。作者将这一思想解构为由理性、存在、协调