174. 我们还能给算法当多久的品味老师？｜对谈亚马逊 AGI 查晟

📌 一句话摘要

亚马逊 AGI 基础研究团队负责人查晟深度剖析，在 AI 自我迭代加速的当下，人类的核心价值正从效率生产转向定义问题的品味、创造力以及构建人际连接，并探讨了主权 AI 与文化同质化的未来。

📝 详细摘要

本期节目为「算法纪」专题第四集，从纯人文社科的讨论转向业内人士视角，对谈亚马逊 AGI 部门基础研究团队负责人查晟。查晟以兼具技术深度与人文关怀的视角，剖析了生成式大模型的本质与局限。他系统性地解释了开源模型因缺乏「数据飞轮」而面临的结构性劣势，但同时也对中国团队如 DeepSeek 通过架构创新实现推理成本十倍下降的突破表达了钦佩。对话核心聚焦于 AI 时代人类角色的重塑：从「模型塌缩」的技术挑战，延伸至人类正面临的「认知负债」与「知识塌缩」风险。查晟指出，目前 AI 仍需依赖人类的「品味」来定义问题与优化方向，但这一需求最终也将被 AI 本身替代，使得通识教育、第一性原理思维和定义问题的能力成为个体最后的壁垒。节目后半段，两人深度探讨了「主权 AI」的战略意义，认为 AI 是价值观的最大放大器，各国及企业为了避免文化同化，必将寻求符合自身价值观的定制化模型，这不过是商业成本考量与权力分散逻辑的最终走向。

💡 主要观点

- 开源模型的「数据飞轮」缺失是结构性的壁垒 闭源模型通过直接获取 C 端用户数据实现指数级进化，而开源模型用户通常在应用层建立自己的闭环，导致底层基础模型无法有效收集反馈数据进行代际优化。

人类的「品味」是当前 AI 自我迭代的最后瓶颈 AI 仍高度依赖人类来定义「什么是更好的方向」以及如何衡量优化结果。但这种品味需求正逐渐被数据化，最终 AI 将能通过量化环境进行自我评估和迭代。

面对「认知负债」，人类需强迫自己进行低效的独立深度思考 长期依赖 AI 会导致注意力、工作记忆等认知能力退化（用进废退）。为了能提出高质量问题以驾驭 AI，人类需要刻意练习那些 AI 所不擅长的、定义问题框架的第一性原理思维。

主权 AI 是抵抗文化同质化的必然产物 大语言模型是价值观的放大器。未来国家与企业会极力寻求训练符合自身文化、宗教和商业价值观的 AI，以防止被主流大模型的价值观覆盖，这在技术上是通过低成本的后续训练实现的。

💬 文章金句

- 大家都愿意这么做，是因为以丧失自己一部分思考能力为代价，得到的短期收益特别大。你可以同时让 AI 去思考很多不同的问题，然后可以让他快速的帮你有深度的去挖掘跟这些问题相关的信息。

• 讲到底最重要的是使用这个 AI 的人，他能提出什么样的问题，他能够帮 AI 怎么样搭起这样一个解决问题的框架，这个其实是最重要的。
• 价值观就体现在这个模型所见过的数据，所得到过的 reward。它所代表的那个价值观... model 作为一个放大任何你给他的价值观的放大器。
• 因为大家对于模型的预期还是通用模型，希望这个模型能够做很多不同的任务... 现在的这个淘金热还没过，大家更关注的还是 utility... 大家对人文的这些方面的价值观的考虑，我觉得现在是非常欠缺的。

📊 文章信息

AI 初评：89

来源：起朱楼宴宾客

作者：大卫翁

分类：商业科技

语言：中文

阅读时间：110 分钟

字数：27427

标签： 人工智能, 社会影响, 认知科学, AI伦理, 大模型

收听完整播客