PorTAL：让 AI 训练廉价且可移植
自动化和可移植的训练，如今已成为可能。
AI模型价格对比 | AI工具导航 | ONNX模型库 | Vibe Coding教程 | PLC在线仿真器 | Tripo 3D | Meshy AI | ElevenLabs | KlingAI | ArtSpace | Phot.AI | InVideo
如果你问 OpenAI 或 Anthropic 的投资人，开源模型会给他们的公司带来什么风险，他们只会告诉你：进步的速度会让开源模型在产生任何影响之前就变得过时，而且这些实验室永远会提供最值得使用的模型。
但随着时光流逝，AI 实验室每发表一次"开源很危险，应该加以监管"的演讲，他们的信念就动摇一分，恐惧也随之增长。
而我今天的话题不会让他们好受多少，因为我们刚刚让开源模型变得更加诱人。
1、他们的论断并不像他们以为的那样滴水不漏
自然，我强烈不同意他们的看法。
我一直主张，企业 AI 的未来是企业用自己的数据训练开源模型，同时对 OpenAI 和 Anthropic 挥手告别——至少对绝大多数企业用例而言是这样。
有人会说："能用开源模型就用开源模型，万不得已才用 OpenAI。"
2、事后看来，这是显而易见的选择
有一句捷克谚语："Po bitvě je každý generál。"（战后人人都是将军）。听起来很深奥，对吧？开个玩笑，它的英文翻译是"After the battle, everyone is a general"（战斗结束后，人人都是将军）。
事后看来，开源模型最终占据主导地位将会显得顺理成章。但在很长一段时间里，大多数人都认为开源模型永远追不上闭源实验室——OpenAI、Anthropic、Google DeepMind 或 xAI 会一骑绝尘。
不怕显得有点自大，我一直非常坦率地说过这件事终将成真，但在相当长的一段时间里，我在这座山上颇为孤独。
这并不能说明我是天才——千万别这么想，因为你想错了——**我只是回顾了 AI 数十年的历史，意识到这是唯一可能的选项。**因为我可以告诉你，早有迹象。
比如，最近的一个例子是 Thinking Machine Labs，一个星光熠熠的 AI 研究实验室，里面挤满了前 OpenAI、Meta、DeepMind 和 Anthropic 的研究员等，他们把整个公司的未来押注在开源模型终将主宰世界上，以至于目前他们唯一的产品是让你在自己的数据上训练开源模型的 Tinker，而它已被全球最大的对冲基金 Bridgewater Associates 使用，用来训练内部模型，在其投资者看重的若干任务上大幅超越前沿模型的结果。
这就是开源模型做得好时能带给你的：以数十倍（甚至更多）更低的成本获得前沿级别的性能。
但代价是什么？除了需要你有相当的专业能力之外，这也是一个取舍：我们牺牲了通用性。
这些微调让开源模型在你专注的那一项任务上表现出色，而非所有任务。笼统地说，前沿模型在大多数任务上仍然更优，只是在你关心的那项任务上未必如此，而且微调甚至可能损害模型在未聚焦领域上的表现。
但关键在于：企业的客服 AI 智能体并不需要擅长推荐提拉米苏食谱。
所以，即使你完全可以假设我可能错了，对大多数这些实验室的晚期投资者来说，看到一群明星研究员——包括 OpenAI 和 Anthropic 的创始人——建立了一个全部赌注都押在开源模型终将获胜的 AI 实验室，至少重新审视一下自己的直觉，也是非常明智的。
而现在，世界似乎终于开始认同这一观点，几家关键的 AI 巨头对此表现得极其开放，几乎是咄咄逼人地开放。
3、开源的回归
在过去几天和几周里，闭源实验室上下游的多家公司（客户和供应商皆然），包括 Palantir 和微软，都变得越来越公开地表达支持开源模型的立场。
或者，在某些情况下，他们对开源模型没那么积极，但事实上对这些实验室非常不满，直接指责他们做了非常令人担忧的事情。
例如，Palantir 和 Mistral 的 CEO 都直接指责闭源实验室（如 Anthropic、OpenAI 或 Google DeepMind）"窃取"客户数据来构建下游的直接竞争对手。
"窃取"可能是个很重的词，但这些实验室确实能看到你用它们的模型做什么，而且对此毫不避讳，Anthropic 甚至公开发表研究报告，向全世界展示其客户如何使用它的产品。
最明显的例子是 Claude Design，它是 Figma（当时 Anthropic 的大客户，且 Anthropic 的首席产品官曾是其董事会成员）的直接竞争对手，直到 Claude Design 发布前三天，这位 CPO 辞去了 Figma 董事职务。这条信息你想怎么解读都行；我个人立场非常明确。
在这两家之外，微软和NVIDIA（后者刚刚与 Palantir 达成合作）已成为开源模型的坚定拥护者：前者推出了 Frontier Company，一项 25 亿美元的举措，以更贴近客户的方式向其推广微软产品，高度聚焦于将 AI 工作流内部化（内部化即使用开源模型的代号）；后者则是美国当前最能代表优秀开源模型、可与中国同行竞争的力量，代表是其 Nemotron 模型家族。
自然，我们不能天真；所有这些公司都在宣扬利己的叙事，因为它们处于大型 AI 实验室的上游或下游，感受到了它们的威胁——要么是这些实验室蚕食它们的业务（如 Palantir），要么是沦为它们模型的基础转售商（如微软），要么是这些实验室正在许多工作负载上力推自家芯片以摆脱对芯片设计商的依赖（如 NVIDIA）。
这些公司都需要开源获胜，以保护自己的业务免受正在形成的"AI 寡头垄断"的侵害——这对所有人（包括我们这些客户）来说都是一个特别糟糕的结果，因为那个寡头垄断只能靠监管俘获（regulatory capture）来建立，而单位经济性明显有利于开源模型。
但我跑题了。重要的是，他们的偏见并不会让他们在这件事上有丝毫错误。一旦开源模型达到值得采用的能力水平——而这恰恰是过去几个月里发生的事情——更低成本、更好治理和更严密安全性的吸引力，让企业做出选择成了顺理成章的事。
那么，为什么我们还没有看到更多实际成效呢？
4、对过时的恐惧
我跟你说实话，我走进每一次高管或董事会会议时，额头上都写着*"你应该制定一个战略，尽快把大部分 AI 工作负载迁移到开源模型上。"*
然而，我经常遭到反驳。最常被抛回给我的论据始终是"过时"，意思是：如果我花几千美元微调一个开源模型，而它下周就过时了，那我为什么还要这么做？
如果说战争老兵会因爆炸而患上严重的创伤后应激障碍，那么大多数高管则被机会成本吓破了胆——他们害怕做出最终被证明是浪费的承诺，宁愿选择不那么反常规的做法。作为企业高管，你真的、真的不想成为那个人，因为你的声望就押在上面；你最好清楚自己在做什么。
不过，首先，当你意识到有些任务保留旧模型完全没问题，因为这些任务并不需要新的智能水平时，这个论点就已经站不住脚了。
大多数用例都有"能力需求上限"，也就是说，在某个节点之后，更新的模型并不会改善你已经拥有的成果，这让"追逐智能"变得荒谬，就像要求牛仔不戴帽子一样——正如你所见，我患上了严重的《黄石》热。
例如，我在许多企业任务中仍在使用 Gemini 3 Flash，尽管它比恐龙托儿所还过时，但它便宜得多，而且对我用它做的事情来说绝不过时。
此外，我一直在大规模地将我的大部分企业工作迁移到开源模型上，目标是让我的大部分企业工作负载完全开源运行。
大多数企业工作流并不会逼你去"追逐智能"；你并不需要随着新模型的推出而不断更新你的模型。
有些人不同意，但让我们用苏格拉底的反证法来快速看看这有多不合逻辑。你会用前沿模型来写一封电子邮件吗？你需要 Anthropic 的 Mythos 来在 Salesforce 里录入一条新线索吗？
这完全是荒谬的。"追逐智能"在某些用例中确实有意义，比如编程、网络安全或药物研发等领域，但许多——我敢说大多数——企业用例并不属于这些类别。
但即便如此，在许多其他例子中，也存在着真实的机会成本，因为使用开源模型大多数时候也不是免费的。它们需要投入工作，而这份工作可能仍不足以让它们物有所值。
而今天的研究正是从这里切入的。
5、让训练变得廉价且可移植
问题在于，开源模型要求企业具备专业能力，因为让它们"物有所值"的关键在于你可以免费下载它们，并积极地在自己的数据上训练它们。
正是这个过程让你得以用 50 倍甚至 100 倍更低的成本，在特定任务上达到前沿水平的性能，就像 Bridgewater 那样，但这需要你这边具备一些专业知识和投入。
如果没有那额外的训练，性能将远逊于前沿模型，而我要说的重点是：微调一个开源模型绝非易事。
它需要手动完成一系列工作，比如收集数据（为训练准备数据）、使用其他 AI 生成额外的合成数据、评估结果、定义约束等等。
而如果你不是在使用 Tinker 或 Unsloth 等众多微调托管服务，执行起来可能会极其棘手。
训练并非免费，不仅在成本上如此，**在人力资本投入上更是如此。**但现在，Ramp 的这项新工作——偏偏是一家费用管理公司——证明了两件事：
- 你可以让训练即时完成，
- 你可以让它可移植。
通俗地说，你可以通过把一次训练的结果迁移到一个新的、更聪明的基础模型上，来摊销训练成本，而不必把这次训练一笔勾销。
换句话说，阻止企业全力投入开源模型的最后一道复杂性，可能已经被解决了（至少得到了显著改善）。
但怎么做到的？
6、即时适配器
答案是，他们采用了 Sakana AI 的 Text-to-LoRA——这是我见过的有史以来最引人入胜的研究之一，我过去曾介绍过它——并让它变得可移植。
让我解释一下。
如前所述，让开源模型以几分之一的成本成为优于闭源模型的选项的关键，在于你可以训练它们，而 OpenAI 或 Anthropic 不允许这样做，因为它们的模型是封闭的。
微调的问题在于，如果你天真地去做（全面重训模型），可能产生令人望而却步的成本，尤其是考虑到行业发展如此之快，每周都会推出新的、更优秀的模型，这进一步降低了激励，因为要从那次训练中获得回报感觉非常困难。
一个替代方案是使用 LoRA（低秩适配器）。上面的链接有更详细的介绍，尤其是那些更"数学化"的部分，但核心思想是：模型需要学习的大多数任务都是"低秩"的，这意味着只需要修改模型全局参数中非常小的一部分，就能学会该任务。因此，思路是只训练模型的一小部分，其余部分保持不变。
事实上，真正的秘诀是你根本不训练模型；这些适配器是外部的，可以添加或卸载。当模型带有适配器时，它的行为就像经过训练一样；当你卸载适配器时，它又恢复原状。
把它想象成水管工的工具。这个工具（比如一把扳手）让水管工能完成管道作业，但当水管工不使用它时，有些任务他就做不了。
虽然你需要教会水管工使用它，但你不需要重新改造水管工的整个大脑；**它只需要一个短暂、快速的学习过程来学会使用扳手。**水管工本身不变，还是同一个人，只是在握住工具时为特定工作而增强。
这正是 LoRA 极其高效、并成为当今训练标准的原因：它成本低、能完成任务，而且可以规模化，无需为每件事都造一个新模型——只需一个新的适配器。
然而，它仍然需要一次训练，而且相对于基础模型过时的时间来说，成本可能很高（也就是说，你的基础模型相对于市场上已有的模型，可能很快就会变得"愚蠢"）。
为此，Sakana AI 提出了一个绝妙的想法，叫做 Text-to-LoRA，它使用一个 AI 来生成以文本为条件的 LoRA。
但我们这么说是什么意思？
简单来说，它是一个把生成这些适配器作为输出的 AI 模型，而不是主动去训练它们。与其训练适配器，不如直接生成它，就像 ChatGPT 对"哪支球队会在世界杯四分之一决赛中输给西班牙？"回答 "比利时"一样。
致我的美国球迷们：你们的仇会报的。
例如，你可以描述任务 "用正式语言写电子邮件"，这个模型就会自动生成一个 LoRA 适配器，把它添加到模型上后，模型写电子邮件时就会总是使用正式语言。
你大概能猜到，这显然存在一个"能力上限"。你不能直接让这个模型"让我的模型解决人类最大的问题"，然后指望它成功。这只对在系统训练数据中有充分体现的任务有效。
令人难以置信，对吧？无需训练、迭代迅速，而且有效。还有什么不喜欢的呢？
嗯，还有一个问题：Text-to-LoRA 的输出不是模型无关的，因为它们是与所选基础模型一起训练的。简单来说，它们学会的是为某个特定模型生成适配器。
因此，如果你为一个模型训练了适配器，然后出现了更好的模型，那次训练就不再有用。
而 Ramp 的 PorTAL 正是从这里切入的。
7、可适配且可移植
直接切入要点：他们成功创造了一个模型无关的 Text-to-LoRA，可以在模型之间迁移适配器。
例如，假设你为你的 Qwen3.6 35B 模型训练了一个邮件过滤 LoRA……而一周后 Qwen4 发布了，聪明得多，值得切换。
与其抛弃之前的基础模型并把训练一笔勾销，你可以用 PorTAL 把 LoRA 迁移到新模型上。这仍需要一些训练，但非常少，因为 PorTAL 系统的大部分是模型无关的。
换句话说，它仍然是一个文本到适配器的模型，但通过学习"什么样的适配器是好适配器"的模式（与所用的基础模型无关），来生成模型无关的适配器。
结果非常令人振奋，表明该系统在未见过的基础模型上能恢复每个任务 LoRA 性能的 98%，而大多数其他测试至少恢复 90%。
我知道，一句话里塞了太多术语。
通俗地说，他们证明了 PorTAL 系统可以接受一个"未见过的"模型，并以极少的训练和成本生成一个 LoRA，与从头为该模型和任务训练一个 LoRA 适配器所需的工作量相当。
由此，微调不仅廉价，而且可移植。
8、你之砒霜，我之蜜糖
想想这意味着什么。如果你做微调，就很难反驳开源模型对企业来说是优于闭源模型的选择；要反对这一点，你就是在跟 AI 的本质对赌。
问题在于，微调可能棘手、昂贵，而且面临陡峭的过时时间挑战，考虑到训练需要多长时间、模型又可能多快过时，很难证明这项投资是值得的。
但整个行业，被潜在的 AI 支出吓醒——一旦订阅结束、客户被推向能更真实反映技术实际成本的 API——终于有了非常强烈的理由去构建所需的抽象工具，让微调变得廉价而简单，而 PorTAL 只是企业界对开源模型巨大渴求的一个例子，这对所有人（是的，所有人，包括超大规模云厂商）来说都是天大的好消息，唯独除了闭源 AI 实验室。
但我要更进一步：我有一个这个行业的许多人会认为非常大胆的信念：
前沿实验室今天的营收增长，很大一部分可以用客户的不专业来解释。
也就是说，我相信 Anthropic 和 OpenAI 相当大一部分收入，来自那些使用它们的模型、因为还不会构建稳健的开源模型流水线和工作流的客户。
算账已经摆在眼前：开源模型给你更强的控制力、更好的成本管理，以及一个完全自主的 AI 技术栈。问题在于企业领导者还没有意识到这一点，也没有能力在运营层面解决它。
但一旦前沿模型的 token 价格迫使企业走出舒适区、进入真正的 AI 工程，我相信 Anthropic 和 OpenAI 将陷入巨大的痛苦。
在你说"那他们降价不就得了"之前，先克制一下，因为这里的问题不是运营成本，而是资本流向。AI 实验室可能会盈利（它们现在不盈利，但可能很快会），但现金流仍可能大幅为负。
除了流动性（也就是需要更多钱）之外，正是这条专业化曲线——我坚持认为它正在加速——让这些实验室如此急于尽快上市。
一旦消息传开，说他们在企业业务上可能会陷入困境，投资者就会发现，要基于遥远且日益不确定的营收增长来为这些实验室今天的估值背书，要困难得多。
"拥有自己的 AI 技术栈"这股趋势正在以对 OpenAI 和 Anthropic 最不利的时机获得巨大势头。
原文链接: PorTAL, Making AI Training Cheap and Portable
汇智网翻译整理，转载请标明出处
