京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？

📌 一句话摘要

京东广告团队公开了 GRAM 架构，通过意图与商品的直接语义对齐、快慢双链路、知识工程及工程优化，在 50ms 内实现生成式推荐，并有效抑制幻觉。

📝 详细摘要

本文是京东集团算法总监张泽华在 AICon 2025 上的演讲实录，系统阐述了京东在广告推荐领域从传统 CTR 模型向生成式大模型转型的实践方案。核心是 GRAM 架构，它通过深度推理机制实现用户意图与 SKU 的直接语义对齐，并采用快慢双链路分别处理快速点击与复杂决策。在工程层面，文章详细介绍了如何通过 PD 分离、概率空间裁剪、多级缓存等技术将推理时延稳定控制在 50ms 以内。此外，文章重点提出了从特征工程向知识工程的演进，将零售经验系统化为十二大类知识，构建深层级联知识图谱，在 5ms 内完成实时查询并有效抑制幻觉。文章还讨论了生成式模型在广告场景中的挑战，包括幻觉问题、可控性不足、ROI 验证困难，并提出了以规则体系兜底、人机协同的解决路径。最后，文章建议采用阶梯式推进策略，从通用模型逐步过渡到垂直领域知识增强模型。

💡 主要观点

- GRAM 架构通过深度推理实现意图与商品的直接语义对齐，替代传统级联的召回-排序流程。 GRAM 将用户意图与最终输出的 SKU 进行直接对齐，通过引入深度推理机制，将传统的召回、排序、机制等复杂级联过程整合进统一模型作用域，实现端到端的生成式推荐。

采用快慢双链路分别应对快速点击与复杂决策场景。 传统实时链路快速响应用户浏览行为，但处理跨品类适配、多维度性价比比对等复杂查询时力不从心；深度思考链路通过强化逻辑推理，为用户提供更具深度的决策支持。

从特征工程转向知识工程，将零售经验系统化为十二大类知识，在 5ms 内完成实时查询。 传统特征库维度有限且高频更新对大模型有负面效果，而知识层面的注入增益显著。京东构建了包含内隐知识与显性知识的深层级联知识图谱，通过非参数化更新实现千万级数据的毫秒级查询。

通过 PD 分离、概率空间裁剪等工程优化，将端到端推理时延稳定控制在 50ms 以内。 广告场景对时延要求极高，京东通过引入 PD 分离、多级缓存、智能调度及概率空间裁剪等技术，大幅削减推理计算量，在保障低延迟的基础上实现了高吞吐。

生成式模型落地广告场景需以规则体系兜底，并通过人机协同实现稳健运行。 模型幻觉无法完全消除，且广告主、合作伙伴具备行业专属知识，需预留人工干预入口。京东正培养 AI 产品经理，通过产品设计实现人机协同，以规则体系作为最终保障。

💬 文章金句

- 在生成式大模型时代，传统的以'曝光'为核心的广告售卖逻辑已逐渐式微。广告主的需求已从单纯的商品展现，演进为将品牌深度植入大模型的推理与决策链条中。

• 相比过去十年占据主流的传统特征工程，我们认为 2025 年算法演进的关键支点已转向'知识工程'。
• 在现有知识增强能力的基础上，以规则体系兜底，并通过人机协同实现更稳健的运行。
• 生成式模型在创新场景中具备独特优势，能够带来全新思路；而判别式模型经过十余年迭代，在精准点值预估与规则化预估方面已形成成熟可靠的能力。
• 我们更建议从通用模型入手，先通过业务场景验证其适用性，明确短板与不足后，再逐步构建垂直领域模型，最终落地垂直领域知识增强模型。

📊 文章信息

AI 初评：90

来源：InfoQ 中文

作者：InfoQ 中文

分类：人工智能

语言：中文

阅读时间：29 分钟

字数：7233

标签： 生成式推荐, GRAM 架构, 知识工程, 广告算法, 低延迟推理

阅读完整文章