从产品到系统：Agentic AI的影响

本文是之前关于AI如何影响设计和产品的探索的延续（Vibe-code设计,* 进化角色），并基于在‘TOO MUCH的时代’展览中在Protein工作室举行的演讲，作为2025年伦敦设计周的一部分。

在我最喜欢的电影《星际穿越》中有一个场景，角色们在一个遥远的、被水覆盖的星球上。远处看起来像是一块巨大的陆地，但随着库珀，主角，看着它，他意识到他们实际上并不是山脉，而是不断积聚并高高耸立在他们之上的巨大波浪。

有了AI，感觉过去几年我们一直面临着类似的巨浪。我之前写过关于生成式AI和Vibe编码如何改变我们的设计方式。最近几个月，似乎又一场地震般的转变正在进行中，即代理式AI。那么到底什么是这股浪潮，它是如何重塑我们所知的环境的呢？

我在DataRobot领导产品设计团队，这是一个企业平台，帮助团队大规模构建、治理和操作AI模型和代理。从这个角度出发，我看到这些变化不仅改变了我们的设计方式，还改变了我们对产品是什么以及如何构建的许多长期假设。

1、实际上发生了什么变化

代理是一种与预测性和生成式AI根本不同的范式。除了多模态和能够深度推理之外，它们的自主性是其区别之处。听起来很简单，但当软件具有自主权——即能够自己做出决策和采取行动时，结果可能会非常深刻。

这为集成AI软件的公司带来了根本性的挑战，传统上这些软件是为确定性、可预测的工作流程而构建的。代理式AI本质上是概率性的——相同的输入可能产生不同的输出，代理可能采取意想不到的路径来达到目标。这种确定性基础设施与概率行为之间的不匹配，围绕治理、监控和用户信任创造了新的设计挑战。这些不仅仅是理论问题，它们已经在企业环境中显现出来。这就是为什么我们与Nvidia合作，利用他们的AI工厂设计，并直接嵌入SAP环境中，以便客户可以安全且大规模地运行这些系统。

但即使有这种加固的基础设施，从实验到影响仍然困难重重。最近的MIT研究发现，95%的企业生成式AI试点未能产生可衡量的影响，突显了行业在从原型到生产过程中面临的普遍挑战。我们的“AI专家”服务——专门的顾问直接与客户合作部署和运行代理——通过个性化支持取得了出色的结果。为了将这种指导扩展到更广泛的客户群体，我们需要开发可扩展的方法，以应对规模上的复杂性障碍。

从AI实验到生产涉及大量的技术复杂性。与其期望客户从零开始构建一切，我们决定翻转提供方式，而是首先提供一系列代理和应用模板，让客户有一个起点。

用食物类比的话，我们不再向客户提供一个装满原材料（组件和框架）的储藏室，而是提供类似于“HelloFresh”餐食套装的东西：预搭建的代理和应用模板，带有准备好的组件和现成的配方。这些模板概括了常见客户用例和框架的最佳实践。AI建造者可以克隆它们，然后通过我们的平台或在他们偏好的工具中使用API交换或修改组件。

这种方法正在改变AI从业者使用我们平台的方式。一个显著的挑战是创建消费代理和模型的前端界面——用于预测需求、生成内容、检索知识或探索数据的应用程序。

大型组织拥有专门的开发团队可以轻松处理这一点。但较小的组织通常依赖IT团队或我们的AI专家来构建这些界面，而应用开发不是他们的主要技能。

我们通过提供可定制的参考应用作为起点来缓解这一问题。如果它们接近您需要的，它们可以工作，但它们并不容易修改或扩展。从业者也使用开源框架如Streamlit，但这些的质量往往无法满足企业对规模、安全性和用户体验的要求。

为了解决这个问题，我们正在探索使用代理生成动态应用程序的解决方案——带有复杂的用户界面组件和数据可视化的仪表板，根据特定客户的需求进行定制，所有都使用DataRobot平台作为后端。结果是，用户可以在几天内生成生产级应用程序，而不是几周或几个月。

代理生成的动态应用程序示例，可根据特定用例进行定制。

这种向自主系统的转变引发了一个基本问题：我们应该将多少控制权交给代理，用户应该保留多少？在产品层面，这体现在两个层面：AI从业者用来创建和管理工作流的基础架构，以及人们用来消费它们的前端应用程序。现在，我们的客户同时构建这两层——引导代理配置平台结构，而不同的生成代理则构建位于其上的React应用程序。

这些不是原型——它们是服务于企业客户的生产应用程序。可能不是专家应用开发者的AI从业者现在可以创建面向客户的软件，处理复杂的工作流程、丰富的数据可视化和业务逻辑。代理处理React组件、布局和响应式设计，而从业者则专注于领域逻辑和用户工作流程。

我们也在其他领域看到了类似的变化。组织中的团队正在使用新的AI工具，使用像V0这样的工具来构建引人注目的演示和原型。设计师正在与前端开发者合作，贡献生产代码。但这种开发的民主化带来了新的挑战；现在任何人都可以构建生产软件，确保代码质量、可扩展性、用户体验、品牌和可访问性的机制需要演变。不再需要检查点审查，我们需要开发新的系统，以匹配新开发速度的质量。

2、从控制悖论中学习

我们从AutoML（自动化机器学习）经验中得到了一些教训，这些教训适用于这里。虽然AutoML工作流程帮助许多用户普及了访问，但一些经验丰富的数据科学家和ML工程师感到失去了控制。我们自动化了他们认为最值得的部分——选择算法和构建特征的创造性、技能性工作，而让他们处理他们真正想避免的繁琐基础设施工作。

我们将这些教训直接应用于构建代理应用程序的方式。就像AutoML在自动化特征工程时有效，但在模型解释时不一定总是有效一样，我们的客户只有在代理处理UI实现的同时，AI/ML专家保留对代理工作流设计的控制时才能成功。代理自动化从业者不想做的部分（组件连接、状态管理），同时保留他们关心的部分（业务逻辑、用户体验决策）。

现在，随着代理式AI，这种紧张关系在更大的范围内以更高的复杂性表现出来。与AutoML时代我们主要服务于数据科学家和分析师不同，我们现在针对更广泛的从业者，包括可能对AI工作流不熟悉的App开发者，以及代理本身作为最终用户。

每个群体对控制和自动化的期望都不同。开发者习惯于抽象层和黑盒系统——他们习惯了处理底层复杂性的框架，但他们仍然希望在需要时进行调试、扩展和自定义。数据科学家仍然希望可解释性和干预能力。商业用户只想要结果。

但还有另一种用户类型我们在为他们设计：代理本身。这代表了我们思考用户体验的根本性转变。代理不仅仅是人类使用的工具——它们是需要与我们的平台互动、做决策并与人类从业者一起工作的协作伙伴。

现在，当我们评估新功能时，我们会问：主要用户是人类还是代理？这会彻底改变我们如何处理信息架构、API设计，甚至视觉界面（如果需要）。代理需要不同类型反馈、不同的错误处理，以及不同的方式向人类合作者传达它们的推理过程。

展望未来，代理可能会成为企业平台的主要用户。这意味着设计人机协作系统，而不仅仅是人机交互，创建系统让代理和人类可以有效地协同工作，各自发挥自己的优势到工作流中。

3、从设计流程到架构系统

这些变化挑战了关于产品是什么的基本假设。传统上，产品是为特定用户群体解决特定问题的解决方案。它们通常代表一系列权衡：团队研究多样化的用户需求，然后创建单个解决方案，试图在多个用例之间取得最佳平衡。这通常意味着在特异性和简洁性上做出妥协，以实现更广泛的吸引力。

生成式AI已经开始颠覆这一模式，使用户能够完全绕过传统的产品设计和开发流程。团队现在几乎可以立即获得一个端到端结果的近似值，然后反向精炼和完善它。这种压缩的时间线正在重塑我们对迭代和验证的看法。

但代理式AI提供了更根本的东西：按需生成产品和功能的能力。而不是静态体验试图服务广泛的受众，我们可以创建动态系统，为特定上下文和受众生成具体解决方案。用户不仅仅得到更快的原型——他们得到根据个人需求自我调整的体验。

这种转变改变了设计和产品团队的角色。我们不再执行个别产品，而是成为能够创建产品的系统的架构师。我们筛选代理使用的约束、上下文和组件，同时保持品牌指南、产品原则和UX标准。

但这引发了关于交互设计的根本问题。当界面按需生成时，可用性如何运作？传统的可用性——视觉线索表明界面元素如何使用——依赖于用户随时间学习的一致模式。有趣的是，AI工具如Cursor、V0和Lovable通过利用已建立的UX框架如Tailwind和ShadCN解决了这个挑战。它们不创建用户需要学习的新模式，而是使用稳健且广泛采用的设计系统生成界面，提供熟悉的起点。当代理使用这些现有框架上下文生成界面时，用户即使面对全新的界面也会遇到可识别的模式。

在DataRobot，我们通过系统化我们的设计流程和标准作为代理感知的成果来应对这一挑战。我们将我们的Figma设计系统转换为机器可读的markdown文件，代理可以直接使用。使用Claude，我们将我们的视觉设计指南、组件规范和交互原则转化为结构化文本，可以直接作为上下文放入AI工具如Cursor、V0和Lovable中。

这种方法使我们能够在大规模上保持设计质量。我们不需要手动审查每一个生成的界面，而是将我们的设计标准上游编码，确保代理默认生成一致、可访问且符合品牌的体验。

我们已经在DataRobot内部看到这一点。我们的AI专家在构建代理应用程序时使用这些代理感知设计成果，通过我们系统化的指南保持设计一致性，同时专注于独特的业务逻辑和用户工作流程。

4、对产品和设计领导者意味着什么

我之前写过关于学科边界模糊的问题。产品三元组将会是什么样子，或者是否仍然保持三元组，尚不清楚。尽管设计可能会吸收许多前端开发任务（反之亦然），并且一些产品经理会承担设计任务，但我认为任何角色都不会完全消失。总会有对专业人员的需求；虽然个人确实可以比以前做更多，但每个人能保留的上下文是有限的。

因此，尽管我们可能能够执行更多，但我们仍然需要那些能够深入复杂问题并具备日益成为差异化因素的工艺水平的人。在一个任何人都可以创造任何东西的世界里，来自专业化的执行质量和理解深度将是区分好作品和卓越作品的关键。

那些将脱颖而出的公司是那些展示其工艺的公司。他们展示了对产品的真正理解，对客户的真正理解，并以有意义的方式将两者联系起来。
— Krithika Shankarraman（产品，OpenAI）

随着这些界限的模糊和新功能的出现，记住不变的东西很重要。困难的问题仍然是困难的：

• 在复杂背景下理解人及其需求。
• 我们正在解决哪些未满足的需求？
• 在相互依赖的系统和企业约束中构建。
• 这与现有的架构兼容吗？
• 将技术能力与业务价值对齐。
• 这是在解决一个重要的问题吗？

作为设计领导者，我们的角色正在从打造个别体验转变为构建生成体验的系统。我们正在从设计屏幕转变为设计能够进行上下文决策并保持设计完整性的系统。

这从根本上改变了我们的方法。我们不再为人物画像或一般情景设计，而是设计能够实时适应个体情境的系统。我们不再创建单一的用户旅程，而是构建根据用户意图和行为改变路径的适应性框架。

用户研究也演进：我们仍然需要了解人类需求，但现在我们必须将这些见解转化为代理可以解读的规则和约束。挑战不仅是知道用户想要什么，还要将这些知识编码以在无限的界面变体中保持设计质量。

这个根本真理不会改变——但我们将人类理解转化为可操作系统的手段会改变。发展深层次上下文理解的独特人类工作变得越来越有价值，而不是更少，因为我们学会了将这种智慧编码供AI系统有效使用。

5、在以代理为主的世界中设计质量

这种向代理生成体验的转变带来了新的设计挑战。如果代理按需生成界面，如何在整个组织中保持一致性？如何确保无障碍合规？如何处理训练数据没有捕捉到的边缘情况？

我们认为答案的一部分在于创建人类和代理都可以消费的基础成果。在DataRobot，我们目前正在探索：

• 使用MCP、agents.md和llms.txt等格式使文档代理感知。
• 将我们的设计系统转换为基础markdown文件，编码原则和模式，用于AI开发工具。
• 创建UI语言、无障碍标准和交互模式的自动化检查。

这种方法使我们组织中的其他人可以使用AI工具构建引人注目的应用程序，同时遵守我们的设计系统和品牌一致性。但关键的洞察是：尽管这些AI生成的应用程序可能看起来令人印象深刻，但精致的外表可能会掩盖潜在的UX挑战。正如Preston所说：

AI工具在执行方面表现出色，但它们不能取代确保你执行正确的事情所需的艰难UX工作。

这为设计团队带来了新的挑战：当每个人都是建造者时，我们如何确保我们构建正确的东西并确保符合质量标准？我们一直在努力弄清楚何时应该投入精力。例如，在创建演示或一次性原型时，设计参与度较低是可以接受的。但在关键时刻，我们的参与是重要的，否则低质量的体验可能会被部署到生产中。我们的客户并不关心他们互动的产品是如何或由谁创建的。

关键是尽可能早地发现问题。这意味着指导人们如何使用和自定义我们的模板的文档和启用材料已成为我们设计团队负责的“新产品”。通过创建详尽的代理感知指南和设计系统文档，我们可以确保大规模产出高质量的输出。

但我们仍然需要质量检查，而不会过于放慢进程。我们仍在学习如何在速度和标准之间取得平衡——什么时候信任我们建立的系统，什么时候需要人类设计判断是必须的。

6、驾驭浪潮

过去几年感觉像过山车，因为它们确实是。但我相信我们作为设计师的工作是拥抱不确定性，理解它，塑造它，并帮助他人驾驭它。

就像《星际穿越》中的库珀一样，我们认识到看似遥远的山脉实际上是朝我们袭来的巨大波浪。问题不是波浪是否会击中，它已经来了。问题是，我们是否会措手不及，还是我们已经做好准备，利用它的力量。

这是我们在DataRobot学到的一些经验，对于正在经历这一转变的人来说：

• 拥抱变化并挑战传统
  尝试超出你传统领域的工具和工作流程。随着角色的模糊，保持相关性意味着扩大你的能力
• 构建系统，而不仅仅是产品
  聚焦于创建基础、约束和上下文，使良好的体验能够涌现，而不是亲自打造每一个细节
• 专注于持久的难题
  加强独特的人类工作，理解需求、行为和上下文，这是任何算法都无法完全掌握的。
• 运用（你的）判断
  使用AI提高速度和能力，但依靠你的经验和价值观来决定什么是正确的。

AI并没有使设计变得无关紧要。它使设计中独特的人类方面比以往任何时候都更有价值。浪潮已经来临，那些学会驾驭它的人将发现自己处于一个极其强大的位置，去塑造接下来发生的事情。这不是对设计曾经如何工作的怀旧，而是采取乐观的态度，拥抱这些技术的可能性，做到我们以前从未能做到的事情。正如Andy Grove完美地说：

不要哀叹事情过去的样子，它们永远不会再次那样。把你的全部精力投入到适应你的新世界中，投入到学习在其中繁荣所需的技能，以及围绕你塑造它。

原文链接：From products to systems: The agentic AI shift

汇智网翻译整理，转载请标明出处