148. 对游凯超 3 小时访谈：开源 Infra、和模型 Co-design 、“如果 vLLM 失败，我们会后悔一辈子”

📌 一句话摘要

vLLM 核心维护者游凯超深度分享从算法研究者到 AI 系统创业者的心路历程，揭秘开源项目如何演变为 1.5 亿美元种子轮公司的抉择与思考，并前瞻模型与推理引擎协同设计的时代方向。

📝 详细摘要

本期节目是商业访谈录对 Inferact 联合创始人兼首席科学家游凯超的长篇深度访谈。游凯超完整回顾了他从清华学霸、算法研究者，因对学术界“礼崩乐坏”的失望和对确定性的追求，转向机器学习系统工程，并最终投身伯克利开源项目 vLLM 的心路历程。访谈核心围绕 vLLM 这个从学术论文起步的项目，在不到三年时间里，如何由一个原型系统重构为生产级推理引擎 V1，并在开源精神驱动下，经由核心维护者“用爱发电”式的坚守，克服资源与人员挑战，最终成立公司实现商业化运营的关键抉择。游凯超还深入阐述了在模型、硬件与基础设施 (Infra) 三方联合设计（Co-design）时代背景下的技术哲学，以“发电系统”做比，讨论了推理引擎如何屏蔽底层复杂性、算法与硬件协同进化的“硬件彩票理论”，以及团队对开源生态与商业模式的未来规划。

💡 主要观点

- 从算法到系统的转型源于对“确定性”和“真实影响”的追求 游凯超亲历了 AI 学术界论文评审的“礼崩乐坏”，发现算法研究的不确定性太高；相比之下，系统工程的每一次优化都能量化加速效果，获得用户的正反馈，这种确定性让他找到了新的职业方向。

成立公司是为了让开源项目获得“健康的发展” 当开源项目发展到一定阶段，会面临资源（机器、人力）、法务（签 NDA）等无法由松散社区解决的难题。成立公司是为了突破这些瓶颈，为项目提供长久支持，这其实是对开源精神的保护和延续。

模型与 Infra 的协同设计是提升推理效率的关键 在摩尔定律放缓的“专用计算”时代，模型结构必须与底层硬件和推理引擎相适配。游凯超以“水流与发电机”为喻，指出算法与系统工程师必须互相靠近、共同设计，才能避免“硬件彩票”式的失败。

开源社区的治理需要“仁慈的独裁者” 一个庞大的开源社区如同一家公司，必须有所为有所不为。核心维护者需要像“仁慈的独裁者”一样，敢于在社区压力下做出删除过时功能、聚焦核心方向的艰难决策，以引导项目健康发展。

💬 文章金句

- 你如果不跟我们一起创业，你赚到了很多钱，但是十年之后我们项目失败了，你是开心还是不开心？

• 我觉得追求的就是意义，就是我做的事情是不是有意义。然后我当时觉得 VOM 有很重要的历史意义，值得我的投入。
• 对仁慈的独裁者就意味着有些时候你需要对方向进行一些取舍，就是不能够做一个老好人。
• 我做的贡献是什么，而且可以很明确的量化。你可以说我的东西不 novel，但是你不可以说我的东西没有用。
• 当我把手头上的实验规模扩大的时候，这个显而易见的事实就是支撑实验的这个机器学习系统以及对应的数据，它其实才是决定成败的关键。

📊 文章信息

AI 初评：92

精选文章：是

来源：张小珺Jùn｜商业访谈录

作者：张小珺

分类：人工智能

语言：中文

阅读时间：3 分钟

字数：579

标签： 开源商业模式, AI Infra, 大模型推理, vLLM, 创业故事

收听完整播客