Vercel 为其 AI Gateway 推出了自定义报告 API,允许开发者通过自定义标签,以编程方式跨多个提供商跟踪和归因 AI 成本及 Token 使用量。
📝 详细摘要
Vercel 为 AI Gateway 推出的全新自定义报告 API 解决了 AI 使用数据碎片化的问题。该功能适用于 Pro 和 Enterprise 计划,提供了一个统一的端点,用于监控跨不同模型和提供商的成本、Token 消耗量和请求量。其核心功能是能够为请求添加用户 ID 和自定义元数据标签,从而实现按客户或功能进行精细化的成本归因。该 API 同时支持系统托管凭证和自带密钥(BYOK)设置,帮助团队管理单位经济效益,并将 AI 支出视为标准的生产指标,从而避免账单意外。
💡 主要观点
- 统一的 AI 支出数据编程访问。 将来自不同提供商的使用指标整合到一个 API 中,无需在多个仪表板之间手动核对 CSV 文件。
💬 文章金句
- 问题在于数据分散在各个提供商、密钥和仪表板中,因此在账单出现之前,很难回答基本的问题。
- 你可以按模型、提供商、用户 ID、自定义标签或凭证类型来细分支出。
- 一旦你的流量通过单一的报告端点,你就可以像对待其他生产指标一样对待 AI 支出。
📊 文章信息
AI 评分:86
来源:Vercel News
作者:Jerilyn Zheng, Dan Fein
分类:人工智能
语言:英文
阅读时间:3 分钟
字数:670
标签: Vercel, AI Gateway, 成本优化, LLMOps, 云计算