可能预示AI繁荣终结的AI指数

大型语言模型不像人类那样读写单词。

它们处理信息的单位叫做token

一个token可以是一个单词、单词的一部分、标点符号或其他文本片段。当你向AI模型发送提示时,你消耗输入token。当模型回答时,它生成输出token。

这很重要,因为AI经济的大部分最终都围绕这些单位定价。

开发者不是简单地为"使用AI"付费。

他们为token付费。

从这个意义上说,token正在成为机器智能的最小计费单位。

如果电力以千瓦时衡量,人类劳动以工作小时衡量,那么AI的商业消费越来越多地可以用token来衡量。

这就是LLM Token支出指数的由来。

1、什么是LLM Token支出指数?

LLM Token支出指数由Silicon Data发布,彭博代码为SDLLMTK,是市场为百万LLM推理token支付的有效价格的每日基准。

但这个名字有点误导性。

该指数衡量使用的token总数。

衡量在AI上花费的总金额。

它也不是模型提供商网站上列出的价格的简单平均值。

更好的名字可能是:

LLM Token支出价格指数。

简单地说,它问:

在人们实际使用的AI模型中,市场实际上为百万token支付了多少?

这种区别很重要。

想象一个只有两个模型的AI市场:

  • 模型A每百万token收费10美元。
  • 模型B每百万token收费1美元。
  • 简单平均会说平均token价格是5.50美元。

但如果90%的实际使用量流向1美元的模型呢?

那么5.50美元几乎无法告诉我们关于真实市场的任何信息。

LLM Token支出指数试图通过根据推理使用和支出实际集中的地方对市场进行加权来解决这个问题。

它更接近于衡量AI智能的有效市场价格,而不仅仅是跟踪价格列表。

2、指数实际上是如何计算的?

这是最重要的部分。

Silicon Data没有公开最终计算中使用的每个参数和专有权重。但它确实解释了方法论的结构。

该公司跟踪400多个模型,并在每日篮子中使用20多个模型,数据来自20多个价格和数量来源。

根据Silicon Data的说法,覆盖范围代表了全球可寻址LLM推理市场的90%以上。

这个过程可以理解为五个步骤

2.1 收集实际定价观察

该指数从LLM市场的多个部分收集数据,包括:

  • 前沿API提供商,
  • 开放权重推理平台,
  • 经纪专用实例,
  • 和自托管参考部署。
  • 这很重要,因为AI的实际成本无法通过查看单个API定价页面来捕获。

不同公司以不同方式购买智能。

2.2 将价格转换为通用单位

不同模型对输入和输出token有不同的价格。

假设一个模型收费:

  • 每百万输入token 2美元,
  • 每百万输出token 10美元。
  • 你不能简单地用其中一个价格与另一个模型进行比较。

成本首先需要标准化为可比较的混合价格。

从概念上讲,计算看起来像这样:

标准化Token价格 = (输入价格 × 输入权重) + (输出价格 × 输出权重)

如果代表性工作负载是80%输入和20%输出,那么:

($2 × 0.8) + ($10 × 0.2) = 每百万token $3.60

这只是一个简化的说明。Silicon Data还针对上下文窗口、批处理行为和可靠性对观察结果进行标准化。

重点很简单:

Token在不同模型和不同工作负载中并不具有经济上的等同性。

该指数试图使这些不同的观察结果具有可比性。

2.3 过滤不代表有意义市场活动的模型

并非所有400多个跟踪模型中的每一个都进入每日指数。

模型必须显示出持续的使用和市场支出。

统计异常值也会被移除。

结果是一个包含20多个模型的每日篮子,代表了实际发生有意义推理活动的市场部分。

2.4 根据市场支出和使用AI的地方对模型进行加权

这是关键。

指数的简化概念版本如下:

LLM Token支出指数 = Σ (标准化Token价格ᵢ × 市场权重ᵢ)

其中:

  • 标准化Token价格ᵢ是模型i的可比有效价格,
  • 市场权重ᵢ代表推理使用和支出集中的地方,
  • 所有市场权重总和为100%。
  • 考虑这个简化的例子:
模型 每百万Token有效价格 市场权重
前沿模型A $12 20%
前沿模型B $6 30%
高效模型C $1 50%

支出加权指数将是:

($12 × 0.20) + ($6 × 0.30) + ($1 × 0.50) = $4.70

现在想象用户开始从昂贵的前沿模型转向高效的1美元模型。

即使没有任何提供商改变其官方价格,指数也可能下降。

为什么?

因为市场正在购买更便宜的智能组合。

这就是为什么这个指数如此有趣。

它不仅跟踪价格。

它还捕获市场愿意为哪种智能付费

2.5 验证并发布结果

最终观察结果经过标准化、异常值过滤、独立验证,并以每百万token的美元每日混合费率发布。

结果是SDLLMTK指数。

一个数字。

AI市场实际为机器智能支付的价格快照。

3、什么会让指数上升?

指数上升并不一定意味着每家AI公司都提高了价格。

指数可能在以下情况下上升:

用户转向更昂贵的前沿模型。

如果公司越来越多地使用最强大的模型进行编码、研究、自主代理或复杂推理,加权市场价格就会上涨。

模型提供商获得定价权。

如果客户愿意为稀缺或优越的能力支付更多,智能的有效价格就会上涨。

基础设施限制使推理更加昂贵。

GPU成本、内存瓶颈、功率限制和低效服务都可以流入token经济学。

简而言之:

指数上升可能意味着市场愿意为更好的AI支付更多。

这是一个强大的需求信号。

4、什么会让指数下降?

这就是事情变得更加复杂的地方。

指数下降并不自动意味着AI需求正在崩溃。

它可能因为以下原因下降:

  • 提供商降价,
  • 用户转向更便宜的模型,
  • 开放权重模型获得市场份额,
  • 推理变得更加高效,
  • 工作负载路由到更小的专用模型,
  • 或昂贵的前沿模型失去集中度。

想象一家公司使用最强大的模型处理每个任务。

然后它的财务团队看到了账单。

突然间,更便宜的模型处理客户支持。小模型处理文档。开放权重模型运行重复任务。前沿模型只保留给真正需要它的问题。

AI使用量可能继续增长。

但公司每token支付的平均价格下降。

这将推动指数下降。

这就是为什么该指数不应被简单地解释为"AI需求图表"。

它衡量的是需求的价格和构成

5、为什么华尔街突然关心

AI投资论点有一个巨大的问题。

世界今天正在花费巨额资金建设AI基础设施,这是基于对明天需求的预期。

数据中心需要GPU。

GPU需要先进的内存。

数据中心需要电力、冷却、网络设备、土地和资本。

整个链条最终取决于一个问题:

客户能否从AI中产生足够的经济价值来持续支付这一切?

LLM Token支出指数与这个问题异常接近。

英伟达收入告诉我们基础设施公司正在购买多少。

超大规模资本支出告诉我们他们正在多么积极地建设。

token市场告诉我们一些不同的东西:

用户实际上愿意为消费最终产品支付多少?

这就是为什么一些投资者开始将该指数视为AI交易健康状况的实时信号。

如果公司继续转向昂贵的前沿模型,该指数可以表明先进的AI能力正在创造足够的价值来证明其成本。

但如果用户积极转向更便宜的模型,优化token消费,或减少低回报的AI实验,繁荣的经济学就变得更加复杂。

基础设施可以继续增长一段时间。

股票可以继续上涨。

标题可以保持看涨。

但在下游,市场可能已经变得更加价格敏感。

6、悖论:AI可以变得更便宜,而总账单变得更大

这是整个辩论中最重要的观点。

每token价格和总AI支出不是一回事。

基本方程式是:

总AI推理支出 = Token价格 × Token数量

假设百万token的有效价格下降50%。

这听起来是看跌的。

但如果token消费增长300%,总支出仍然增加。

这是AI版本的杰文斯悖论:当一种资源变得更便宜、更高效时,人们可能会使用更多,以至于总消费量增加而不是减少。

这就是为什么LLM Token支出指数下降并不自动意味着AI繁荣结束。

关键问题是:

token数量的增长是否足够快,足以抵消有效token价格的下降?

如果是,更便宜的智能可能会引发AI使用的爆发。

如果不是,价格下降可能告诉我们供应增长快于经济上有价值的需求。

这种差异最终可能对数据中心、半导体公司、云提供商和AI估值产生巨大影响。

7、也许这是AI版本的油价

石油投资者不仅关注正在建造多少钻井平台。

他们关注所消耗商品的价格。

AI行业可能正在发展类似的东西。

GPU是基础设施。

数据中心是炼油厂。

Token是消耗品单位。

而LLM Token支出指数是衡量这些单位市场价格的早期尝试。

当然,这个类比并不完美。Token不是物理上稀缺的桶装石油。它们的经济学可以通过软件改进、模型竞争、硬件进步和更好的推理技术迅速改变。

但这可能使该指数更加有趣。

它处于以下交叉点:

AI能力、需求、定价权、基础设施成本和效率。

很少有其他指标能同时捕获这五个方面。

8、最大的限制

该指数仍然年轻。

其详细的专有加权方法论并未完全公开。

LLM市场也在以非凡的速度变化,token化本身在不同模型之间并不完全标准化。

一个系统上的百万token可能不代表与另一个系统上完全相同数量的有用工作。

更重要的是,更便宜的token并不一定意味着更差的AI经济学。

一家将AI账单减少80%同时产生相同输出的公司并没有放弃AI。

它正在变得更高效。

因此,该指数永远不应被单独解读。

最有用的仪表板应结合:

有效token价格 + token数量 + 总推理支出

这三个数字可以告诉我们AI经济是否正在:

  • 扩张,
  • 商品化,
  • 变得更高效,
  • 或真正放缓。

今天,我们还没有一个完美的实时视图来同时看到这三者。

但LLM Token支出指数给了我们一个缺失的部分。

9、我将关注的图表

AI繁荣主要是从供应侧衡量的。

售出了多少GPU?

建造了多少数据中心?

花费了多少资本?

但最终,每场投资繁荣都必须回应需求。

必须有人使用产品。

必须有人为之付费。

他们愿意支付的价格很重要。

这就是为什么LLM Token支出指数可能成为AI时代最重要的经济指标之一。

不是因为它能准确告诉我们英伟达股票明天会走向何方。

不是因为每次下跌都意味着AI泡沫正在破裂。

而是因为它比大多数AI图表提出了一个更根本的问题:

世界实际上愿意为智能支付多少?

在接下来的十年里,这个问题的答案可能价值数万亿美元。


原文链接:The AI Index That Could Predict the End of the AI Boom

汇智网翻译整理,转载请标明出处