#609.挑战英伟达：Etched AI 推理芯片如何让 token 成本暴跌

📌 一句话摘要

对话 Etched 联合创始人 Gavin 与 Robert，深度拆解其挑战英伟达的低电压推理芯片与整机柜方案，揭示从哈佛退学到融资 8 亿美金的创业实战与核心技术赌注。

📝 详细摘要

本期深度访谈 AI 芯片公司 Etched 的两位联合创始人 Gavin Uberti 和 Robert Wachen，复盘了从被全行业质疑到成功流片、融资 8 亿美元的完整创业历程。技术层面，他们详细拆解了专为 Transformer 推理打造的 Sohu 芯片，重点分享了两个核心赌注：一是基于登纳德缩放定律的「低电压推理」技术，通过大幅降低工作电压来突破散热瓶颈，实现极致吞吐量；二是自研互联协议构建的「集群级内存」系统，将芯片间延迟从数千纳秒降至数纳秒。在商业和建队哲学上，他们强调极致的垂直整合（同时自研芯片和整机柜）、疯狂的「预取」并行开发策略（将业界标杆 10 个月的 bring-up 时间压缩至 40 天），以及寻找「传奇人物」与「偏执天才」相结合的人才筛选机制。节目还触及了融资至暗时刻、跨时钟域难题等幕后故事。

💡 主要观点

- 低电压推理是打破算力瓶颈的关键 基于电压与功耗的平方关系，Etched 开发的低电压推理技术（运行电压不到其他 AI 芯片的一半）解决了高吞吐量下的热降频问题，是未来所有 AI 芯片的设计方向。

专用架构优于通用 GPU，需抛弃历史包袱 现有的 GPU 架构是在 ChatGPT 出现前设计的，充满了无用的缓冲设计。仅为现代 Transformer 负载定制架构，能实现数量级的能效和成本优势。

极端并行与「预取」策略是初创公司战胜巨头的利器 Etched 在芯片未回片前就完成了机柜部署、软件栈适配和 FPGA 全量验证，将芯片点亮到跑通推理的时间从 10 个月压缩到 40 天，用极致的速度换取市场窗口。

垂直整合是追求极致性能与速度的必然选择 他们坚持「最好的供应商就是没有供应商」，成为唯一一家既造芯片又造整机柜的创业公司，从芯片到冷板全部自研，以减少性能损耗和供应链依赖。

人才筛选依赖「自我筛选」机制 通过设定极其疯狂的目标（性能好十倍、挑战全球最大公司），自然过滤掉机会主义者，只吸引那些愿意押注信仰、带有偏执特质的顶级人才。

💬 文章金句

- 谁生产的 token 最多，谁就会成为世界上最有价值的公司。

• 最好的零件就是没有零件。我觉得对我们来说，最好的供应商就是没有供应商。
• 最大的风险就是不承担风险。这个领域每天有超过 10 亿美元的收入，其中很大一部分来自 inference。所以我们每推迟一天出货，就等于把大量机会白白扔在桌上。
• 要认为自己能造出比以往所有 AI chip 都更好的 chip，并且用比以往快得多的速度建起一家公司来做这件事，是需要一定程度的天真的。
• 你得有点疯才愿意加入我们公司...我们做的设计不是号称好 10%，是好十倍。

📊 文章信息

AI 初评：89

来源：跨国串门儿计划

作者：跨国串门儿计划

分类：商业科技

语言：中文

阅读时间：120 分钟

字数：29883

标签： AI芯片, 创业, 推理硬件, 半导体, 低电压推理

收听完整播客