本文通过重复个体、克隆与概率世界等思想实验，质疑功利主义中「道德价值线性累加」这一常见前提。
📝 详细摘要
文章以一组直觉泵讨论功利主义中的核心张力：如果道德价值与「独特性」相关，我们是否还能在线性地跨个体、跨复制体、跨概率分支做总和计算。作者从「重放十分钟痛苦」与「传送克隆」等情境出发，延展到跨物种道德权重与神经元代理指标，最终提出一个三难：要么放弃线性期望效用，要么放弃概率与数量可互换的直觉，要么坚持不论相似度都线性累加道德权重。全文问题意识强、思辨密度高，但仍处于探索阶段，形式化推导与可检验结论有限。
💡 主要观点
- 文章通过身份与独特性边界案例挑战线性效用累加。 作者认为在高度相似或重复体验的情境下，道德价值未必按数量严格线性增长。
💬 文章金句
- 但这真的说得通吗？
- 我看不出如何同时保留这三者：功利主义、概率，以及作为独特性函数的道德权重。
- 所以，选一个吧。
📊 文章信息
AI 评分：79
来源：LessWrong
作者：core
分类：人工智能
语言：英文
阅读时间：5 分钟
字数：1176
标签： 功利主义, AI 对齐, 道德权重, 期望效用, 思想实验