datasette-llm-usage 0.2a0 发布说明,引入了完整的提示词日志记录功能,并将定价功能重构至独立的插件中。
📝 详细摘要
datasette-llm-usage 插件(v0.2a0)的本次发布专注于增强 Datasette 生态系统中的 LLM 可观测性。主要更新包括通过新的配置设置,将完整的提示词、响应和工具调用记录到内部 SQLite 表中的功能。为了保持模块化,定价和配额功能已迁移至新的 datasette-llm-accountant 插件。此外,简易提示词界面经过重新设计,并实施了更严格的权限控制。
💡 主要观点
-
引入全面的提示词日志记录。
用户现在可以通过启用 log_prompts 设置,将完整的提示词、响应和工具调用记录到 llm_usage_prompt_log 表中。
datasette-llm-accountant,以保持使用量跟踪器的专注性。
/-/llm-usage-simple-prompt 页面经过重新设计,现在强制要求特定的权限 (llm-usage-simple-prompt)。
💬 文章金句
- 在 SQLite 表中跟踪 LLM 的 Token 使用量
- 完整的提示词、响应和工具调用现在可以记录到内部数据库的 llm_usage_prompt_log 表中
- 移除了与配额和预估定价相关的功能。这些功能现在归 datasette-llm-accountant 管理。
📊 文章信息
AI 评分:82
来源:Simon Willison's Weblog
作者:Simon Willison
分类:人工智能
语言:英文
阅读时间:1 分钟
字数:76
标签: Datasette, LLM, SQLite, 可观测性, Token 使用量