为什么Context Engineering比Prompt Engineering更重要
TL;DR
本文核心观点:
- Prompt Engineering有天花板 — 边际收益递减,无法解决”AI知道什么”的问题
- Context Engineering是80%的工作 — 企业AI项目的真正瓶颈
- 五层Context架构 — 从任务到组织的系统化上下文管理
- 数据飞轮效应 — Context是企业的护城河
📋 本文结构
- Prompt Engineering的局限 — 一个真实的失败案例
- Context Engineering定义 — 什么是Context Engineering
- 核心挑战 — 信息分散、动态、权限、过载
- 五层技术架构 — 从数据源到交付的完整方案
- 实战对比 — 效果数据说话
- 行业实践 — Shopify、Salesforce、OpenClaw
- 结论 — 范式转移的核心洞察
一、Prompt Engineering的局限
💡 Key Insight
Prompt Engineering解决”怎么说”的问题,Context Engineering解决”知道什么”的问题。后者才是AI工程真正的瓶颈。
一个真实的失败案例
2024年初,某零售企业投入百万预算,搭建AI客服系统。
他们聘请了顶尖的Prompt Engineering专家,精心设计了数百个Prompt模板。每个Prompt都写得非常专业:
你是一位专业的客服代表,语气友好、耐心。
请根据用户的订单信息,回答他们的问题。
如果用户要求退货,请检查退货政策:
- 购买7天内可退
- 电子产品需未拆封
- 特价商品不支持退货
但上线后,系统表现糟糕:
| 问题场景 | AI表现 |
|---|---|
| 用户询问”上周买的iPhone能退吗” | 回答”请提供订单号”——用户已提供 |
| 询问”保修期多久” | 给出通用答案,不知企业延保政策 |
| 询问”订单为何未发货” | 无法查询真实物流状态 |
问题出在哪里?
不是Prompt写得不好,是AI不知道上下文。
它不知道用户是谁、订单状态如何、企业特殊规则、实时库存信息…
二、Context Engineering的定义
🔥 核心定义
Context Engineering = 系统化地构建、管理、提供给AI的上下文信息基础设施
与Prompt Engineering的对比
| 维度 | Prompt Engineering | Context Engineering |
|---|---|---|
| 关注点 | 如何表达指令 | 提供什么背景信息 |
| 解决问题 | AI”怎么回答” | AI”基于什么回答” |
| 技术栈 | 文本工程、模板设计 | 数据架构、知识图谱、RAG |
| 复杂度 | 低到中等 | 高 |
| 投入占比 | 20% | 80% |
Context的五层金字塔
┌─────────────────────────────┐
│ L5: Organizational Context │
│ 企业文化、战略目标 │
├─────────────────────────────┤
│ L4: Domain Context │
│ 行业知识、业务规则 │
├─────────────────────────────┤
│ L3: System Context │
│ 数据Schema、API接口 │
├─────────────────────────────┤
│ L2: Session Context │
│ 对话历史、用户意图 │
├─────────────────────────────┤
│ L1: Task Context │
│ 当前任务要求 │
└─────────────────────────────┘
Prompt Engineering → 主要处理 L1
Context Engineering → 需要处理 L2-L5
三、Context Engineering的核心挑战
挑战1:信息的分散性
企业上下文散落在:
- 数据库(订单、用户、产品)
- 文档(需求、设计、API文档)
- 代码(业务逻辑、规则引擎)
- 知识库(FAQ、最佳实践)
- 人的大脑(老员工经验)
💡 Key Insight
如何整合分散信息为AI可用的Context?
挑战2:信息的动态性
上下文在不断变化:
- 价格实时变动
- 库存实时变化
- 用户状态更新
- 业务规则调整
挑战3:信息的权限性
不同用户看到的信息不同:
- 普通用户 vs VIP用户
- 客服人员 vs 管理人员
- 内部系统 vs 外部系统
挑战4:信息的过载性
Context太多,超出LLM窗口:
- 10万条FAQ
- 1000万条记录
- 1000轮历史对话
💡 Key Insight
如何在有限窗口中选择最相关的Context?
四、Context Engineering的技术架构
🏗️ 五层技术架构
┌─────────────────────────────────────────────┐
│ Layer 5: Context Delivery 上下文交付层 │
│ → 将筛选后的上下文注入Prompt │
├─────────────────────────────────────────────┤
│ Layer 4: Context Retrieval 上下文检索层 │
│ → 基于语义和规则检索相关上下文 │
├─────────────────────────────────────────────┤
│ Layer 3: Context Indexing 上下文索引层 │
│ → 构建可检索的上下文索引 │
├─────────────────────────────────────────────┤
│ Layer 2: Context Integration 上下文整合层 │
│ → 从多源系统整合上下文数据 │
├─────────────────────────────────────────────┤
│ Layer 1: Context Sources 上下文源层 │
│ → 连接企业数据源(DB、文档、知识库) │
└─────────────────────────────────────────────┘
Layer 1-2: 数据整合
数据源类型:
- 结构化数据(数据库)
- 非结构化文档(Markdown、PDF)
- 知识图谱(实体关系)
- 实时系统(库存、物流)
Layer 3-4: 索引与检索
核心技术:
- 向量数据库 → 语义搜索
- 图数据库 → 关系查询
- 缓存层 → 热点数据加速
- 多策略检索 → 语义+关键词+图遍历
Layer 5: 格式化交付
格式化策略:
## 用户信息
- 姓名、等级、历史订单
## 相关政策
- 退货政策、保修政策
## 实时信息
- 库存状态、物流进度
## 知识上下文
- 相关产品、FAQ
五、Context Engineering vs Prompt Engineering:实战对比
场景:AI客服系统
只使用Prompt Engineering:
你是一位专业的客服代表。
用户问题:{user_question}
请根据以下政策回答问题:
- 退货政策:7天内可退
- 保修政策:1年质保
❌ 问题:AI不知道用户的具体信息、订单状态
使用Context Engineering:
## 用户信息
{context.user_info}
## 用户当前订单
{context.current_order}
## 相关政策
{context.relevant_policies}
## 实时信息
{context.realtime_status}
用户问题:{user_question}
✅ 结果:AI基于完整上下文给出准确回答
📊 效果对比数据
| 指标 | Prompt Only | Context Engineering |
|---|---|---|
| 准确率 | 60% | 90%+ |
| 用户满意度 | 3.5/5 | 4.5/5 |
| 人工介入率 | 40% | 10% |
| 长期可扩展性 | 差 | 好 |
六、Context Engineering的行业实践
案例1:Shopify的AI助手
挑战:数百万商家,每个商家的产品、政策、客户不同
解决方案:商家级Context系统
- 产品目录和库存
- 商店政策和设置
- 客户数据和历史
效果:准确率从50%提升到85%
案例2:Salesforce Einstein
挑战:企业客户有复杂的CRM数据和业务流程
解决方案:深度集成CRM数据
- 实时同步客户数据
- 交易记录、沟通历史
效果:销售团队效率提升30%
案例3:OpenClaw的Context系统
挑战:AI Agent需理解用户本地环境、工具、偏好
解决方案:个人级Context系统
- 本地文件系统结构
- 常用工具和配置
- 个人编码习惯
效果:高度个性化的辅助体验
七、写在最后:从Prompt到Context的范式转移
🎯 Takeaway
| 维度 | Prompt Engineering | Context Engineering |
|---|---|---|
| 定位 | 战术 | 战略 |
| 解决问题 | “怎么表达” | “知道什么” |
| 投入占比 | 20% | 80% |
| 边际收益 | 递减 | 复利效应 |
| 竞争壁垒 | 低 | 高(数据护城河) |
数据飞轮效应
用户使用AI
↓
产生交互数据
↓
优化Context理解
↓
AI表现更好
↓
更多用户使用
↓
(循环)
核心洞察
💡 Key Insight
Context = 数据 + 知识 + 架构 = 护城河
在Prompt层面,大家都可以用GPT-4,技巧可以快速复制。
但在Context层面:
- 你的业务数据是独有的
- 你的知识图谱是独有的
- 你的Context基础设施是护城河
📚 延伸阅读
技术实现
- RAG (Retrieval-Augmented Generation)
- Knowledge Graphs - 知识图谱构建
- Vector Databases - 向量数据库技术
- Memory Systems for LLM
行业实践
- Shopify’s AI Assistant
- Salesforce Einstein
- OpenClaw Context System
理论基础
- Context-Aware Computing
- Knowledge Representation
- Semantic Web
AI-Native软件工程系列 #01 深度阅读时间:约 18 分钟
💬 评论
💡 使用 GitHub 账号登录 即可参与讨论