Promptfoo 是一款开源工具，用于对大语言模型 (LLM) 应用进行自动化红队测试、渗透测试和漏洞扫描。
📝 详细摘要
这篇推文介绍了被 OpenAI 收购的开源安全工具 Promptfoo。它支持自动化红队测试、漏洞扫描以及 CI/CD 集成，能够检测 AI 应用中的提示词注入、数据泄露和越狱风险。该工具已被多家大型 AI 公司广泛采用，并支持多种 LLM。
📊 文章信息
AI 评分：82
来源：Nav Toor(@heynavtoor)
作者：Nav Toor
分类：人工智能
语言：英文
阅读时间：7 分钟
字数：1567
标签： Promptfoo, AI 安全, 红队测试, LLM, DevOps