OpenAI 宣布收购开源 AI 评测工具 Promptfoo，旨在通过工程化手段解决智能体（Agent）时代日益严峻的安全与合规挑战。
📝 详细摘要
本文报道了 OpenAI 收购初创公司 Promptfoo 的深度背景。Promptfoo 是一家专注于 AI 安全与评测的 23 人团队，其开源框架在开发者社区拥有极高知名度。文章指出，随着 OpenAI 推进其智能体（内部代号“龙虾”）战略，智能体因具备高权限（如访问邮箱、数据库等）而带来的安全风险远超传统对话模型。Promptfoo 的核心价值在于将“玄学”般的提示词调试转变为标准化、可量化的工程流程，提供自动化评测、红队演练及 CI/CD 集成能力。收购后，Promptfoo 将整合进 OpenAI Frontier 平台并保持开源，助力构建智能体时代的安全基础设施。
💡 主要观点
- 智能体时代的安全性挑战从“信息准确性”转向“操作风险性”。 传统模型风险多为幻觉或言论不当，而智能体因具备调用 API 和访问核心资产的权限，其误判或被诱导可能导致真实的数字资产损失。
💬 文章金句
- 人工智能系统日益复杂，而安全工具却未能跟上步伐。
- Promptfoo 试图把原本充满玄学的“调 prompt 和测模型过程”，变成一套像软件测试一样可重复、可量化的工程体系。
- 问题并不在于模型本身，而在于龙虾这样的智能体拥有的权限实在太高。
- 每次引入新模型、更改提示词或集成新工具时，系统都会自动对其进行评估与红队测试。
- 从一个提示词评测工具，进化为智能体时代的安全基础设施。
📊 文章信息
AI 评分：85
来源：量子位
作者：一水
分类：人工智能
语言：中文
阅读时间：12 分钟
字数：2758
标签： OpenAI, Promptfoo, 智能体安全, AI 评测框架, 开源技术