企业知识与记忆层工程设计
询问大多数今天构建企业代理的团队他们的代理如何"记住"事物,你会得到大致相同的答案:一个位于文档存储之上的向量数据库。嵌入文档,检索最近邻,将它们塞入提示中。
这并不是错误的;检索是任何记忆架构中真实且必要的部分。它在特定方面是不完整的,而这很重要。
检索回答的问题比记忆回答的问题更窄。检索回答"什么与这个查询在语义上相似,现在。"记忆还必须回答:这仍然有效吗?谁有权查看它?它来自哪里?新版本是否已取代它?是代理而不是人类写的这个,如果是这样,有人验证过吗?
这些都不是检索问题。它们是权限、出处和生命周期问题。检索是一种能力,它位于更大的受控架构内部,而不是与之竞争的方法,也不是这个平台所替代的。
1、代理知识与记忆平台
本文的核心架构思想是一个受控层,将企业知识与使用它的代理连接起来,在责任、契约和治理方面逻辑集中,尽管这并不需要它是一个物理系统。
在实践中,这通常意味着一组可独立部署的服务:知识准入、目录和元数据、出处、身份和访问执行、语义检索、图遍历、情景记忆、程序记忆、生命周期评估、审计/可观察性,代理通过受控接口与之交互。从架构上讲,使这成为一个平台的不是共享运行时。而是一组共享契约:所有这些服务都同意如何记录出处、如何执行访问以及如何跟踪生命周期状态,无论哪个团队构建了哪一部分。
它的工作:将权威的企业知识和代理生成的经验转化为代理可以检索、信任并在平台强制执行的约束下采取行动的东西,而不是留给恰好询问的任何代理。
2、代理知识准入管道
很容易将"知识"和"记忆"模糊成一个词,从而失去重要的东西。知识是被发布的东西,在一个系统中保持其所有者,需求在需求系统中最终确定,策略在策略系统中获得批准,缺陷在跟踪器中记录。记忆是代理用来行动的东西。两者之间是我称之为代理知识准入管道的东西,正确处理它需要数据工程已经应用于结构化数据的相同类别的纪律,在这里针对知识而不是表进行了调整。(在风格上类似于金银铜数据架构的思维方式,不是青铜/白银/黄金的文档版本,而是具有相同底层本能的自己的模式:没有任何东西在不通过渐进信任级别的情况下到达消费者。)
- 落地 — 发布时的工件,不可变地捕获:来源、发布者、时间戳、版本和原始工件本身。尚未进行任何丰富或解释;此层是审计跟踪。
- 已验证 — 工件清除治理门,并与它所取代的任何内容进行协调,而不是创建静默副本。
- 代理就绪 — 工件被转换为代理可消费的表示:分块或结构化、嵌入和索引、标记元数据、访问控制规则、出处和有效性信息。
落地和已验证之间的治理门实际上是三个独立的检查,而不是一个,混淆它们是这往往出错的地方:
- 身份验证 — 此工件是否确实来自它声称来自的系统?
- 契约 — 它是否携带代理可用性所需的元数据和结构(所有者、分类、工件类型、版本)?
- 权限 — 此系统首先是否对此类型的知识具有权威性?
第三个检查是最容易跳过的,也是最重要的。SharePoint导出可以完美地通过身份验证并完美地符合契约,一个格式良好、来源合法、需求形状的文档,如果需求的指定权威来源是需求管理系统而不是SharePoint,则仍然不属于规范代理知识。身份验证和契约合规性告诉你工件是可信的。只有权限告诉你它是重要的版本。
关于时间:并非所有内容都需要实时通过此管道移动,"实时"并不是真正的正确目标。需求发布、策略批准或代码合并可能证明事件驱动处理是合理的;那里的过时代价很高。五年缺陷记录的存档不需要同样的紧迫性;批量摄取就可以了。重要的架构概念是为每个来源定义的知识新鲜度SLA,可衡量的、适合来源的延迟,而不是对所有内容的实时承诺。
3、权威来源、规范代理知识和代理记忆
这是三件不同的事情。
三个层经常被混淆,边界重要到需要精确陈述:
权威企业来源是组织真相被正式创建并保持拥有的系统:需求系统、代码仓库、策略系统、测试和缺陷跟踪器、批准的企业数据库。这些保持记录系统。这里描述的平台不会替换它们,也不会否决它们。
规范代理知识本身不是"真相";它是从这些权威来源派生的知识的受控、代理就绪表示,由上面的准入管道产生。它在很大程度上与数据工程已经作为可靠数据产品提供的相同内容;平台的工作是为代理消费重新塑造该内容,而不是重新决定什么是真实的。这是第1部分的原则再次以架构方式重申:域所有者拥有组织真相;AME拥有该真相如何变得可靠、受控并被代理使用。
代理记忆是建立在规范代理知识之上的工作层,进一步根据代理的身份、域和任务进行调整,并通过代理自身产生的内容逐步丰富:决策、综合答案、学习的模式。
共享与特定的问题位于代理记忆内部,而不是在这三个层之间。规范代理知识主要是共享的,策略不应该有五个静默不同的副本。但并非其下游的所有内容都应该以相同的方式共享。从相同规范策略集提取的法律代理、工程代理和人力资源代理仍然应该有不同的代理记忆;按相关性过滤,并受每个代理允许查看的内容的限制。对适当记忆的一致治理,而不是每个代理的相同记忆,才是真正的目标。
在代理记忆内部,按类型拆分也很有用:
- 语义记忆 — 可用于推理的事实和结构化知识。
- 情景记忆 — 过去的交互、行动、决策和结果。
- 程序记忆 — 可重用的方法、工作流程和学习的模式。
每种类型都可以存在于任一范围,跨代理群体共享,或特定于一个域或代理。类型和范围是独立的维度,而不是相同的轴。
4、什么必须为真,任何这些才值得信赖
四个属性将这个平台转变为企业可以真正依赖的东西。它们都不是 exotic 技术;它们更接近于纪律而不是发明,但跳过任何一个,整个东西就会退化回"文档集上的向量数据库",只是品牌更好。
出处和血统。 每个知识或记忆都需要一个可追溯的答案:"这来自哪里,从那以后发生了什么?"不是为了审计剧场,因为当两个代理不同意时,出处是找出哪个代理正在使用过时或不权威来源的方法。
时间有效性。 知识有保质期,大多数都没有标记。三月为真、六月被取代的策略需要平台知道这两个事实,而不是只提供首先嵌入的版本。
身份和访问控制。 这里的访问控制主体不仅仅是最终从答案中受益的人类;它是代理本身,作为一等身份,与人类并列。有效的授权决策实际上是几个输入的函数:用户身份 × 代理身份 × 目的或任务 × 资源策略 → 有效记忆访问。 这种框架避免了两个默认错误:假设代理应该自动继承请求人类可以访问的所有内容,以及假设人类应该自动看到代理或服务身份在技术上可以访问的所有内容。平台需要直接执行此操作,而不是依赖代理可以忽略或恶意行为者可以覆盖的提示指令。
生命周期。 从未被重新审视的知识和记忆会悄然腐烂。每个片段都需要一个生命周期状态:活动、已弃用、已过期、有争议,以及它们之间的定义路径。
5、代理自己编写的记忆以及最重要的边界
上述属性涵盖了流入代理的知识和记忆。更难、讨论更少的一半是记忆流出*:* 一旦代理开始生成值得保留的经验会发生什么。
解决棘手边缘情况的代理,或综合以前没有人写下的答案的代理,可以说刚刚创造了值得记住的东西。它是否应该成为该范围内其他代理可用的受控代理记忆的一部分是一个验证问题,而不是检索问题。
循环具有一致的形状:经验或决策成为候选记忆,根据已知内容进行评估,然后提升、合并、过期或拒绝回受控代理记忆,供范围内的代理使用。合并记忆与现有条目协调,而不是重复它。过期记忆按计划老化。被拒绝的记忆,包括与更高可信度来源矛盾的代理生成的记忆,永远不会进入流通。
该循环有一个硬边界,值得作为自己的原则陈述:代理可以提升记忆。它们不能提升组织真相。 上面循环中的任何内容都不会写回规范代理知识,规范代理知识本身也只是权威来源的表示,而不是来源。如果代理生成的洞察真正值得成为企业知识——不仅仅是其他代理值得记住的东西,而是应该改变组织认为真实的东西——那是不同的、更慢的路径:候选者进入域验证,如果获得批准,则以与人类相同的方式发布到权威来源本身。从那里,它像任何其他发布的工件一样通过正常准入管道重新进入。代理的推论不能通过跳过负责该真相的人来成为企业真相。
这也是矛盾解决所在。两个代理对同一个问题产生不同的答案,一旦代理可以写回,就不仅仅是第1部分风格的所有权失败,而是平台需要定义流程的预期事件,而不是每次都被路由到人类的事件。
6、此参考架构故意不做什么
它不命名供应商、向量数据库或特定图形技术;上述属性可在多个堆栈上实现,将本文锁定到特定堆栈将在一年内使其过时。落地/已验证/代理就绪分层也是如此;它是要适应的模式,而不是要完全复制的特定产品或金银铜实现。
它不声称一种架构适合每个组织。一个十人代理内部工具团队和一个五百人代理受监管企业将合理地实现相同底层属性的不同实现,并为相同的逻辑集中契约集合理地实现不同的物理拓扑。
它也不回答谁日常运行此:哪个团队拥有哪个服务,AME最终是集中式还是联邦式,现有部门吸收哪个部分。平台在逻辑上作为一个能力进行治理;该能力在组织上如何拥有是一个单独的问题,正是下一篇文章要解决的问题。
7、这让我们处于什么位置
企业代理记忆不是更大的向量数据库。它是两个连接的受控层,位于已经持有组织真相的系统之上:一个知识层,持续从权威来源接纳已发布的企业知识,通过身份验证、契约和权限检查进行验证,并为其代理消费做准备;一个记忆层,为代理提供对该知识及其自身积累经验的受控、身份感知访问,具有定义的生命周期和代理允许和不允许提升的硬边界。
together,它们构成了代理记忆工程设计和治理的技术平台边界。
一旦该平台作为许多代理使用的共享基础设施存在,第1部分只是示意的问题就变得不可避免:谁拥有和运营它?
原文链接: Engineering the Enterprise Knowledge & Memory Layer: A Reference Architecture for Agentic AI
汇智网翻译整理,转载请标明出处