本文是对 MIT 博士生邓明扬的深度访谈,探讨了他从数学与信息学竞赛冠军到生成模型研究者的成长路径,并分享了他对 AI 研究范式、技能树学习、生成模型未来以及人类与 AI 差异的独到见解。
📝 详细摘要
本文是一篇对 MIT 博士生邓明扬的深度人物访谈。邓明扬师从何恺明,研究方向为生成模型。访谈回顾了他从 IMO 金牌、IOI 金牌得主到理论计算机科学(TCS)研究者,最终转向 AI 研究的独特历程。他对比了 TCS、数学和 AI 研究的不同思维模式,并分享了他从竞赛中获得的“世界是草台班子”的观察方法论。文章深入探讨了多个技术议题,包括他对生成模型范式(如一步生成与多步生成)、训练目标设计(如“点满技能树”)、优化瓶颈、以及人类与 AI 在 few-shot 泛化能力上差异的思考。他还介绍了其参与的 Mean Flow 和 Drifting Models 等研究工作,并表达了对未来研究方向的看法,如通过更丰富的特征空间(feature space)来提升模型上限。整篇访谈内容丰富,既有个人成长故事的启发,也包含了对前沿 AI 研究的技术性探讨。
💡 主要观点
- 从竞赛到研究的核心收获是“观察与拼接”的方法论,认为世界是“草台班子”,不存在神秘解法。 邓明扬认为竞赛训练了他在 few-shot 场景下进行观察和归纳的能力,即从有限信息中找出关键性质并将其拼接成解法。这种‘representation learning’能力可以泛化到研究中,帮助他吸收不同观点形成自己的理解。
💬 文章金句
- 我最大的体会是世界其实是一个草台班子。也就是说,并不存在某种特别神秘、只有少数人才能想到的解法。
- AI 给我一种创造东西的感觉......你写一些代码,然后它真的变成一个可以运行的系统,这种感觉会让我很开心。
- 在长期来看,很多结果其实是由噪声主导的,而不是你一开始看到的信号......很多重大进展,其实也是由这种黑天鹅事件推动的,而不是线性、可预测的演进。
- 相比辩论,更重要的是去试。你需要真的去做实验,然后认真观察结果,而不是靠讨论得出结论。
- 我更倾向于把 machine learning 看成是在点技能树......每一步是在点一个新的技能,最后这些技能会融合在一起,让模型变得非常强大。
- 我有一个比较暴论的看法是,很多问题的瓶颈,其实不在于模型的 capacity,而在于 optimization。
📊 文章信息
AI 初评:87
来源:Z Potentials
作者:Z Potentials
分类:商业科技
语言:中文
阅读时间:88 分钟
字数:21866
标签: 人物访谈, 生成模型, MIT, 何恺明, 竞赛经历