本文探讨了个人内部冲突的博弈论动态，认为智能体可能会陷入次优的自我不信任均衡状态，并提出连贯的身份认同可以作为一种谢林围栏（Schelling fence），以促进跨时间维度的协作。
📝 详细摘要
作者研究了智能体中动态不一致的问题，即同一实体的不同时间实例（Temporal Instances， TIs）因互不信任而无法协作。通过将这些交互建模为个人内部的合作博弈，文章展示了智能体如何陷入自我惩罚的次优模式。作者认为，身份认同充当了一种计算捷径——即谢林围栏——使得 TIs 能够在无需复杂递归信念建模开销的情况下进行协作。该框架被应用于 AI 安全领域，表明理解自我模型如何产生对于对齐未来的超智能系统至关重要。
💡 主要观点
- 个人内部冲突源于动态不一致。 智能体常受困于动态不一致，即未来的自我与过去的计划不符，导致时间实例无法协作，从而产生次优结果。
💬 文章金句
- 展现出一定行为一致性的智能体，可以被视为遵循了一种身份认同，这种认同取代了博弈参与者之间的理性共识（Common Knowledge of Rationality， CKR）。
- 在 TIs 之间缺乏信任的情况下，沟通的概念变得难以定义或依赖。
- 因此，维护一个自我模型（例如作为一名正在康复的酗酒者）扮演了谢林围栏的角色，使得 TIs 在缺乏沟通时可以默认采用该模型。
📊 文章信息
AI 评分：86
来源：LessWrong
作者：Ashe Vazquez Nuñez
分类：人工智能
语言：英文
阅读时间：15 分钟
字数：3541
标签： AI 对齐, 博弈论, 个人内部冲突, 时间实例, 自我模型