本文系统梳理了 AI 工程从提示工程、上下文工程到框架工程的演进路径,详细阐述了框架工程的五层安全架构,帮助开发者判断自身所处阶段并规划下一步方向。
📝 详细摘要
文章以 AI 工程两年来的演进为主线,将开发者实践归纳为三个递进阶段:提示工程、上下文工程和框架工程。提示工程关注如何通过措辞技巧(零样本、少样本、思维链、思维树)获得更好的模型输出,但无法解决可复用性和团队一致性问题。上下文工程通过系统提示词、对话历史、检索文档(RAG)和工具调用为模型提供更丰富的信息,MCP 协议进一步标准化了数据连接。框架工程则是当前最前沿的实践,借鉴 Mitchell Hashimoto 和 Martin Fowler 等人的思想,提出五层安全架构:边界限制(沙箱、只读访问、网络规则)、指令(AGENTS.md 文件)、检查验证(Lint、类型检查、测试、安全扫描)、恢复(重试、回滚、缩小范围、升级给人类)和审查(独立 AI 或人工审查)。文章强调这三者并非相互竞争,而是同一事物的三个层面,并给出了基于风险大小的实践建议。
💡 主要观点
- AI 工程经历了从提示工程到上下文工程再到框架工程的演进。 提示工程关注措辞技巧,上下文工程关注模型能获取的信息,框架工程则通过系统化的规则和检查机制确保可靠性,三者层层递进、相互补充。
💬 文章金句
- 更大的上下文窗口并不能神奇地把一个不靠谱的智能体变成一个可靠的系统。
- 当 AI 犯了一个错误时,你的任务是构建某种机制,确保这个特定的错误永远不会再次发生。不是仅仅修正这次的输出,而是改变整个系统,让模型下次不可能再犯同样的错。
- 框架的每一层都是一个检查点。你每增加一个检查点,就多了一个理由可以说:'我信任这个输出,因为我知道它通过了这些特定的测试,经过了第二个工具的审查,并且它能尝试做的事情本身就被严格限定了。'
- 信任是你逐步建立的,一层一层来。
- 框架工程不光鲜亮丽,不是出现在演示中的那部分。但它是区分'有时能用的工具'和'你真正能依赖的系统'的关键所在。
📊 文章信息
AI 初评:87
来源:前端早读课
作者:前端早读课
分类:人工智能
语言:中文
阅读时间:30 分钟
字数:7387
标签: AI 工程, 提示工程, 上下文工程, 框架工程, MCP