TL;DR

本文核心观点:

  1. Prompt Engineering有天花板 — 边际收益递减,无法解决”AI知道什么”的问题
  2. Context Engineering是80%的工作 — 企业AI项目的真正瓶颈
  3. 五层Context架构 — 从任务到组织的系统化上下文管理
  4. 数据飞轮效应 — Context是企业的护城河

📋 本文结构

  1. Prompt Engineering的局限 — 一个真实的失败案例
  2. Context Engineering定义 — 什么是Context Engineering
  3. 核心挑战 — 信息分散、动态、权限、过载
  4. 五层技术架构 — 从数据源到交付的完整方案
  5. 实战对比 — 效果数据说话
  6. 行业实践 — Shopify、Salesforce、OpenClaw
  7. 结论 — 范式转移的核心洞察

一、Prompt Engineering的局限

💡 Key Insight

Prompt Engineering解决”怎么说”的问题,Context Engineering解决”知道什么”的问题。后者才是AI工程真正的瓶颈。

一个真实的失败案例

2024年初,某零售企业投入百万预算,搭建AI客服系统。

他们聘请了顶尖的Prompt Engineering专家,精心设计了数百个Prompt模板。每个Prompt都写得非常专业:

你是一位专业的客服代表,语气友好、耐心。
请根据用户的订单信息,回答他们的问题。
如果用户要求退货,请检查退货政策:
- 购买7天内可退
- 电子产品需未拆封
- 特价商品不支持退货

但上线后,系统表现糟糕:

问题场景 AI表现
用户询问”上周买的iPhone能退吗” 回答”请提供订单号”——用户已提供
询问”保修期多久” 给出通用答案,不知企业延保政策
询问”订单为何未发货” 无法查询真实物流状态

问题出在哪里?

不是Prompt写得不好,是AI不知道上下文

它不知道用户是谁、订单状态如何、企业特殊规则、实时库存信息…


二、Context Engineering的定义

🔥 核心定义

Context Engineering = 系统化地构建、管理、提供给AI的上下文信息基础设施

与Prompt Engineering的对比

维度 Prompt Engineering Context Engineering
关注点 如何表达指令 提供什么背景信息
解决问题 AI”怎么回答” AI”基于什么回答”
技术栈 文本工程、模板设计 数据架构、知识图谱、RAG
复杂度 低到中等
投入占比 20% 80%

Context的五层金字塔

        ┌─────────────────────────────┐
        │  L5: Organizational Context │
        │     企业文化、战略目标       │
        ├─────────────────────────────┤
        │  L4: Domain Context         │
        │     行业知识、业务规则       │
        ├─────────────────────────────┤
        │  L3: System Context         │
        │     数据Schema、API接口      │
        ├─────────────────────────────┤
        │  L2: Session Context        │
        │     对话历史、用户意图       │
        ├─────────────────────────────┤
        │  L1: Task Context           │
        │     当前任务要求            │
        └─────────────────────────────┘

Prompt Engineering → 主要处理 L1

Context Engineering → 需要处理 L2-L5


三、Context Engineering的核心挑战

挑战1:信息的分散性

企业上下文散落在:

  • 数据库(订单、用户、产品)
  • 文档(需求、设计、API文档)
  • 代码(业务逻辑、规则引擎)
  • 知识库(FAQ、最佳实践)
  • 人的大脑(老员工经验)

💡 Key Insight

如何整合分散信息为AI可用的Context?

挑战2:信息的动态性

上下文在不断变化:

  • 价格实时变动
  • 库存实时变化
  • 用户状态更新
  • 业务规则调整

挑战3:信息的权限性

不同用户看到的信息不同:

  • 普通用户 vs VIP用户
  • 客服人员 vs 管理人员
  • 内部系统 vs 外部系统

挑战4:信息的过载性

Context太多,超出LLM窗口:

  • 10万条FAQ
  • 1000万条记录
  • 1000轮历史对话

💡 Key Insight

如何在有限窗口中选择最相关的Context?


四、Context Engineering的技术架构

🏗️ 五层技术架构

┌─────────────────────────────────────────────┐
│  Layer 5: Context Delivery 上下文交付层      │
│  → 将筛选后的上下文注入Prompt                 │
├─────────────────────────────────────────────┤
│  Layer 4: Context Retrieval 上下文检索层     │
│  → 基于语义和规则检索相关上下文               │
├─────────────────────────────────────────────┤
│  Layer 3: Context Indexing 上下文索引层      │
│  → 构建可检索的上下文索引                     │
├─────────────────────────────────────────────┤
│  Layer 2: Context Integration 上下文整合层   │
│  → 从多源系统整合上下文数据                   │
├─────────────────────────────────────────────┤
│  Layer 1: Context Sources 上下文源层         │
│  → 连接企业数据源(DB、文档、知识库)         │
└─────────────────────────────────────────────┘

Layer 1-2: 数据整合

数据源类型:

  • 结构化数据(数据库)
  • 非结构化文档(Markdown、PDF)
  • 知识图谱(实体关系)
  • 实时系统(库存、物流)

Layer 3-4: 索引与检索

核心技术:

  • 向量数据库 → 语义搜索
  • 图数据库 → 关系查询
  • 缓存层 → 热点数据加速
  • 多策略检索 → 语义+关键词+图遍历

Layer 5: 格式化交付

格式化策略:

## 用户信息
- 姓名、等级、历史订单

## 相关政策
- 退货政策、保修政策

## 实时信息
- 库存状态、物流进度

## 知识上下文
- 相关产品、FAQ

五、Context Engineering vs Prompt Engineering:实战对比

场景:AI客服系统

只使用Prompt Engineering:

你是一位专业的客服代表。
用户问题:{user_question}
请根据以下政策回答问题:
- 退货政策:7天内可退
- 保修政策:1年质保

❌ 问题:AI不知道用户的具体信息、订单状态

使用Context Engineering:

## 用户信息
{context.user_info}

## 用户当前订单
{context.current_order}

## 相关政策
{context.relevant_policies}

## 实时信息
{context.realtime_status}

用户问题:{user_question}

✅ 结果:AI基于完整上下文给出准确回答

📊 效果对比数据

指标 Prompt Only Context Engineering
准确率 60% 90%+
用户满意度 3.5/5 4.5/5
人工介入率 40% 10%
长期可扩展性

六、Context Engineering的行业实践

案例1:Shopify的AI助手

挑战:数百万商家,每个商家的产品、政策、客户不同

解决方案:商家级Context系统

  • 产品目录和库存
  • 商店政策和设置
  • 客户数据和历史

效果:准确率从50%提升到85%

案例2:Salesforce Einstein

挑战:企业客户有复杂的CRM数据和业务流程

解决方案:深度集成CRM数据

  • 实时同步客户数据
  • 交易记录、沟通历史

效果:销售团队效率提升30%

案例3:OpenClaw的Context系统

挑战:AI Agent需理解用户本地环境、工具、偏好

解决方案:个人级Context系统

  • 本地文件系统结构
  • 常用工具和配置
  • 个人编码习惯

效果:高度个性化的辅助体验


七、写在最后:从Prompt到Context的范式转移

🎯 Takeaway

维度 Prompt Engineering Context Engineering
定位 战术 战略
解决问题 “怎么表达” “知道什么”
投入占比 20% 80%
边际收益 递减 复利效应
竞争壁垒 高(数据护城河)

数据飞轮效应

    用户使用AI
        ↓
    产生交互数据
        ↓
    优化Context理解
        ↓
    AI表现更好
        ↓
    更多用户使用
        ↓
    (循环)

核心洞察

💡 Key Insight

Context = 数据 + 知识 + 架构 = 护城河

在Prompt层面,大家都可以用GPT-4,技巧可以快速复制。

但在Context层面:

  • 你的业务数据是独有的
  • 你的知识图谱是独有的
  • 你的Context基础设施是护城河

📚 延伸阅读

技术实现

  • RAG (Retrieval-Augmented Generation)
  • Knowledge Graphs - 知识图谱构建
  • Vector Databases - 向量数据库技术
  • Memory Systems for LLM

行业实践

  • Shopify’s AI Assistant
  • Salesforce Einstein
  • OpenClaw Context System

理论基础

  • Context-Aware Computing
  • Knowledge Representation
  • Semantic Web

AI-Native软件工程系列 #01 深度阅读时间:约 18 分钟