上下文工程 101
上下文工程（Context Engineering）正迅速成为AI开发领域的下一个重大突破。
如果说提示工程是关于编写完美的输入，那么上下文工程就是设计你的代理所处的世界——它所看到的数据、它可以使用的工具以及它所记住的状态。
如果你听说过这个术语，并且想知道它为何如此受欢迎，那么本文就是你的指南。
1、什么是上下文工程？
上下文工程是指管理和优化影响 AI 代理输出的所有内容——从系统提示和对话历史记录到用户偏好、检索到的知识以及长期记忆。
对于大多数 AI 工程师来说，这并不是一个全新的概念。它实际上是提示工程之后的下一步——但采用了一种更结构化的方法。
当你正确处理上下文时，你的AI代理会更准确地响应，在交互过程中保持一致，并根据所有可用信息做出更好的决策。
2、上下文工程 vs. 提示工程：有什么区别？
你可能会想：“这不就是换个名字的提示工程吗？” 并非如此！主要区别如下：
- 提示工程主要侧重于设计正确的输入文本，以便从 LLM 获得所需的输出。
- 上下文工程涵盖影响 AI 行为、提示、记忆、检索数据、用户状态、工具等的整个信息生态系统。
可以这样理解：提示工程是关于完善你提出的问题，而上下文工程是关于创建提出和回答该问题的整个环境。
简而言之，提示工程是上下文工程的一个子集。
你可以点击这里观看 Chroma 首席技术官 Hammad Bashir 的演讲，了解更多关于上下文工程的信息！
3、上下文工程为何重要？
上下文工程对于构建能够实现以下功能的 AI 代理至关重要：
- 根据个人用户历史记录和偏好做出更智能、个性化的决策
- 在对话和会话中保持一致性
- 学习并适应过去的交互，无需每次都从头开始
通过了解整体情况（而不仅仅是当前查询）提供相关响应
随着用户群和用例的增长而有效扩展
如果没有适当的情境和记忆，AI 代理每次都会将每个用户视为陌生人。想象一下，每天都要向人类助手重新介绍自己并解释自己的偏好；这就是无情境 AI 的现状。
4、现代代理系统中的上下文类型
了解不同类型的情境对于实际的上下文工程至关重要。
以下是七个关键类别：
- 指令/系统提示：这些是代理的核心个性和行为准则。它定义了 AI 应该如何行动，包括使用的语气、其能力和局限性以及其主要目标。
- 用户提示：用户的即时输入，即触发当前交互的问题、请求或命令。
- 检索上下文/RAG：从外部来源（例如矢量数据库、API、知识库或与当前查询相关的搜索结果）提取信息。
- 状态（短期记忆）：近期对话历史记录和临时上下文，有助于在会话或近期交互中保持连贯性。
- 长期记忆：关于用户的持久信息，包括用户的偏好、过去的决策以及会影响未来交互的习得行为。
- 工具：代理可用于完成任务或收集信息的可用函数、API 或外部服务。
- 结构化输出：预定义的格式或模式，用于指导代理如何构建其响应以保持一致性并与其他系统集成。
5、如何有效地管理上下文
随着上下文工程的不断发展，一个重要的问题变成了：我们如何正确地为AI代理提供合适的上下文，并确保它们记住重要的内容？
一个名为Memori的新框架已经开发出来，旨在解决AI代理在记忆和上下文工程方面的挑战。Memori赋予您的AI代理类似人类的记忆，帮助它们记住重要的事情，强调关键内容，并智能地将结构化的上下文注入您的LLM对话中。
Memori使用一个多代理系统，由三个专门的AI代理协同工作。记忆代理智能地处理和构建每一次对话，Consciou代理会分析模式并推送重要信息，检索代理会智能地选择相关上下文，实现无缝注入。
它实现了四个协同工作的专用记忆系统：短期记忆，持续约 7 天，存储近期上下文和推送的要点；长期记忆，用于永久洞察、偏好和知识；规则记忆，用于用户定义的准则、策略和约束；实体记忆，用于动态跟踪人员、技术、项目和关系。
该基础架构由 GibsonAI 提供支持，并基于企业级系统构建，可根据需求扩展。零配置，即插即用。
6、工具和框架
构建上下文感知型 AI 并不总是意味着从零开始。一些框架和工具内置了功能或集成，使情境工程更加轻松：
- LangChain — 提供 RAG、记忆系统和代理编排的集成，帮助您管理短期和长期情境。
- LlamaIndex — 轻松将您的 AI 连接到结构化数据和知识库，以增强检索增强型工作流程。
- 其他代理框架 — 提供管道和内存集成，简化跨多代理设置存储和检索上下文信息的过程。
- Chroma / Weaviate / Qdrant / Pinecone — 矢量数据库，帮助维护 AI 代理的语义记忆和检索上下文。
- OpenAI 函数和 JSON 模式 — 让您可以强制执行结构化输出、跟踪交互并将外部 API 直接集成到您的 AI 工作流程中。
这些工具有助于简化许多繁重的工作，让您专注于设计智能的、上下文感知的应用程序，而不是从头开始构建一切。
7、结束语
上下文工程正在成为构建真正智能的 AI 应用程序的必备技能。简而言之，您可以：
- 超越无状态提示，为您的 AI 添加内存
- 构建上下文感知代理，减少机器人的机械感
- 使用框架管理状态、历史记录和外部知识
- 提供更智能、更人性化的 AI 体验
原文链接：Context Engineering 101 → From Dumb to Smart AI Agents
汇智网翻译整理，转载请标明出处