老黄垒 20 年的 CUDA 护城河，AI 刚刚用 10 小时凿开了

📌 一句话摘要

本文以「AI Agent 10 小时搭建类 CUDA 软件」事件为引，分析英伟达 CUDA 护城河的真实结构，并指出推理市场正在成为竞争者切入的缺口，但短期内 CUDA 生态仍难以被颠覆。

📝 详细摘要

文章从一家初创公司 Infinity 用 AI Agent 在 10 小时内为推理芯片公司 d-Matrix 搭建类 CUDA 软件的事件切入，系统拆解了英伟达 CUDA 护城河的三个层次：底层 Kernel 与编译器、中间层优化库与工具链、上层开发框架与开发者生态。作者指出，该事件主要攻入的是底层 Kernel 适配层，远未触及 CUDA 近 20 年积累的完整生态。文章进一步分析，在训练侧 CUDA 仍近乎无解，但在推理侧，由于推理任务对极致性能的依赖降低、对成本更敏感，且推理软件可跨芯片运行，CUDA 的锁定效应正在削弱。文章引用了多位行业人士的观点，包括对 AI Agent 生成代码后验证瓶颈的讨论、英伟达自身也在使用 AI 加速 CUDA 开发等，最终得出判断：短期内 CUDA 护城河安然无恙，但长期竞争焦点正从「代码存量」迁移到「验证与优化生态」。

💡 主要观点

- AI Agent 10 小时搭建的类 CUDA 软件仅触及底层 Kernel 适配层，远未复制完整生态。 Infinity 的 Ignition Agent 主要生成和优化推理 Kernel，而 CUDA 的护城河还包括中间层优化库、调试工具链、上层开发框架与数百万开发者生态，这些无法在短时间内被复刻。

推理市场是 CUDA 护城河最可能被突破的缺口。 推理任务对极致性能的依赖低于训练，更关注成本与灵活性，且推理软件可跨芯片运行，降低了 CUDA 的锁定效应，为专用推理芯片提供了切入机会。

AI Agent 生成代码的验证瓶颈是当前最大挑战。 前英伟达工程师 Bing Xu 指出，Agent 能快速生成大量代码，但证明代码在各种边界情况下正确且稳定运行极慢，验证生态可能成为 CUDA 的下一道护城河。

英伟达自身也在使用 AI 加速 CUDA 开发，削弱了进攻方的相对优势。 英伟达开发者生态副总裁表示，公司也在用 AI Agent 更快地开发 CUDA 并进行更大规模验证，这意味着竞争双方都在利用同一技术，进攻方难以获得不对称优势。

💬 文章金句

- Agent 能在短时间内生成大量代码，但验证才是最大瓶颈。

• 在推理侧，CUDA 不再是决定因素。这将是一场开源软件的竞争。
• 这场仗的胜负，取决于竞争对手追赶英伟达的速度，能否快过英伟达自我迭代的速度。

📊 文章信息

AI 初评：86

来源：量子位

作者：听雨

分类：人工智能

语言：中文

阅读时间：14 分钟

字数：3333

标签： AI Agent, CUDA, AI 芯片, AI 编程, AI 推理

阅读完整文章