万级实时推理的商品领域 Agent 实践思考和总结

📌 一句话摘要

本文详细介绍了淘宝商品中心团队构建的万级实时推理商品领域 Agent 架构，采用事件驱动的 Function-Centric 设计，通过 AIFunction 标准化封装、三层知识库体系、在离线统一工作流和事务型领域事件，实现了亿级商品的智能化理解和实时推理，显著提升了信息完整性和研发效能。

📝 详细摘要

本文是淘天集团商品中心技术团队关于商品领域 Agent 实践的系统性总结。文章首先分析了 Prompt Engineering、RAG、Fine-tuning 等现有范式的局限性，论证了选择 Agent 作为商品域 AI 化主路径的根本原因。核心部分详细阐述了事件驱动的 Function-Centric Agent 架构：上层为业务场景 workflow 编排层，下层为统一能力供给层，通过 AIFunction 标准化封装工具和领域知识。文章重点介绍了三层商品知识库（显性事实、关联情景、隐性经验）的定义、生产与服务，以及基于 Spring AI Alibaba 的轻量 SDK 实现。在工程实践上，实现了在离线业务流程统一，通过事务型商品领域事件驱动实时推理，并构建了基于大模型的数据质量评测体系。目前该架构已在商品属性、卖点等核心场景落地，覆盖亿级商品，新需求开发周期缩短至 1 周/人。

💡 主要观点

- 事件驱动的 Function-Centric Agent 架构是商品域 AI 化的核心工程路径。 该架构采用两层设计：上层 workflow 编排层负责业务场景，下层通过 AIFunction 标准化封装工具和领域知识，实现能力复用与灵活编排，解决了传统范式能力碎片化和工程不可持续的问题。

构建了显性事实、关联情景、隐性经验三层商品知识库体系。 显性知识（如 GPU 品牌）通过多源数据整合和 LLM 理解生成；情景知识（如主配件规则）从 bad case 中总结；隐性经验（如 SKU 场景化描述）通过专家经验沉淀，为 Agent 提供结构化、可检索的领域知识支撑。

通过事务型商品领域事件实现从离线到实时推理的关键跃迁。 将 SKU 变更降维到商品事务维度，基于商品 ID+事务 ID 进行数据聚合，将事务量级降低一个数量级，消除了多表 JOIN 计算，为实时 Agent 推理提供了低成本、高性能的驱动源。

实现了在离线业务流程的统一，一套代码支撑批量跑批和实时请求。 通过将业务流程封装为统一的 Workflow，向上屏蔽触发源差异（定时调度 vs 实时事件），向下屏蔽计算资源差异，实现了代码、部署、推理资源和存储层面的真正统一。

💬 文章金句

- Agent 正是在这些基础能力之上构建的更高阶抽象：它内嵌了 Function Calling，实现与现有系统的安全集成；它天然融合 RAG 机制；它可结合微调模型作为子能力；它超越 Prompt Engineering 的静态交互，具备目标驱动的动态推理与回溯能力。

• 选择 Agent 并非否定其他范式，而是以 Agent 为'操作系统级'容器，将 Prompt、RAG、Function Calling、Fine-tuned 模型等能力有机整合为可工程化交付的智能单元。
• 我们希望底层通过 AIFunction 对各类工具和领域知识进行标准化封装，向上提供结构清晰、语义明确、调用稳定的函数接口，从而支撑上层灵活、高效地构建智能流程。
• 同一套代码既能支撑批量跑批，也能处理实时请求，显著提升了复用性与一致性。

📊 文章信息

AI 初评：92

来源：大淘宝技术

作者：大淘宝技术

分类：人工智能

语言：中文

阅读时间：50 分钟

字数：12498

标签： Agent, 商品领域, 实时推理, AIFunction, 知识库

阅读完整文章