上下文工程：AI新时代的核心竞争力

摘要

在AI时代，“提示工程”正在让位于更强大的“上下文工程”。上下文工程不仅是写一个提示词，而是为模型设计、收集、组织所有必要的信息与工具，使其能在恰当的时间以最优的方式完成任务。这一理念正成为打造高效AI智能体的关键。

1. 从提示工程到上下文工程

在过去，AI应用的核心技能是编写精确的提示词（Prompt Engineering）。然而，随着大型语言模型（LLM）和自主智能体（Agents）的普及，我们发现，影响智能体成败的最大因素不再是模型的性能，而是提供给它的“上下文”质量。

Tobi Lutke 将上下文工程（Context Engineering）定义为：

“为任务提供所有使其在LLM中可被合理解决的上下文艺术。”

2. 什么是上下文？

上下文不仅仅是你输入给LLM的一段问题，而是模型在生成回答前看到的所有信息合集，包括但不限于：

• 指令 / 系统提示：设定模型行为的初始规则和示例。
• 用户提示：用户的即时提问或任务。
• 对话状态 / 历史记录（短期记忆）：当前对话的来龙去脉。
• 长期记忆：跨会话保存的知识库、用户偏好、过往项目摘要。
• 检索信息（RAG）：来自外部数据库、文档、API的最新资料。
• 可用工具：模型能调用的功能列表（如发送邮件、查库存）。
• 结构化输出定义：输出内容的格式要求（如JSON对象）。

3. 为什么上下文工程是关键？

“便宜的演示”与“神奇的产品”差别，并不在于代码的复杂度，而在于提供给模型的上下文是否充足。

示例对比：

廉价Demo

• 上下文：仅包含用户问“明天能不能开个短会？”
• 输出：

明天可以，请问您方便的时间是？

神奇Agent

• 上下文额外包含：你的日程（显示明天已满）、与对方的历史邮件（确定使用轻松语气）、联系人信息（识别对方为重要合作伙伴）、可用工具（发送邀请、发邮件）。
• 输出：

嘿 Jim！明天我全天排满，周四上午有空，方便吗？我已发了邀请，等你确认。

这里的差异不来自“更智能的模型”，而是上下文质量的差异。

4. 上下文工程的本质

上下文工程不仅是提示词的扩展，而是一套系统化的工作流：

核心原则

1. 系统，而非字符串：上下文是调用LLM前运行的系统产出，而非静态模板。
2. 动态生成：根据任务需求实时构建上下文，比如调取日程、搜索网络等。
3. 信息与工具匹配：在合适的时间提供合适的知识与可用工具，避免遗漏关键信息。
4. 格式优化：信息呈现方式影响效果——简要摘要比冗长原文更有效，工具Schema需清晰明确。

5. 落地实施建议

• 明确业务场景：要解决的任务类型与目标。
• 定义输出格式：确定模型回答的结构与风格。
• 将必要信息结构化：避免无序数据输入模型。
• 建立自动化上下文构建流程：整合记忆、检索、外部API调用。

6. 结论

未来构建强大智能体的关键，不是“凑一个提示词”或等待模型升级，而是在合适的时间，以合适的格式，为模型提供合适的上下文。这是一项跨业务、技术、产品的协作挑战，需要精确理解任务、明确目标输出，并高效组织信息。

本文转载自​​​​知识图谱科技​​​​，作者：Wolfgang