Epoch AI：达到固定 AI 性能水平的成本每年下降约 13 倍

内容来自《The Plunging Price of Thought》。方法上有一个关键区分：它追踪的不是 API 标价，而是"达到某个固定基准分数的成本"——因为更新的便宜模型往往用更少的 token 和更少的重试就能达到同样准确率，标价曲线会低估真实降价速度。liAIDee√pThink.cn

具体口径：以在 GPQA Diamond 上得分 81.25% 及以上的模型为对象，追踪其回答一道选择题的成本。

一、核心测算细节liAIDee√pThink.cn

该结论基于数学、科学、策略游戏五大主流AI基准的长期跟踪数据得出，核心量化指标清晰可验证：

• 季度平均成本降幅达‌47%‌，换算为年度复合降幅约13倍，其中数学类任务成本下降最快，单季度降幅达50%~52%，游戏类任务单季度降幅39%~43%。
• 典型实测案例：2025年1月，OpenAI o3模型在GPQA Diamond科学测试集上拿到75%准确率的成本为‌30美分/题‌；仅18个月后，GPT-5.6 Luna完成完全相同性能目标的成本仅为‌0.04美分/题‌，成本降幅超700倍。
• 测算口径覆盖全链路综合成本，并非单一Token单价，完整包含硬件算力、软件优化、模型推理全流程开销，反映真实生产环境下的单位性能投入。

二、成本下降的三层驱动结构

13倍的年降幅是多维度技术与市场因素叠加的结果，MIT研究团队进一步拆解了各环节的贡献占比：

1. 硬件端‌

从H100到GB200再到最新的Vera Rubin NVL72，单芯片算力密度与能效比持续跃升，单位算力采购成本逐年大幅下探，是成本下降的基础底座。

2. 算法端‌

剥离硬件增益与市场竞争因素后，纯算法效率的年进步幅度约为‌3倍‌，稀疏MoE架构、动态推理路由、算子极致优化等技术，让同等硬件上能跑出的有效算力大幅提升。

3. 市场端‌

全球云厂商与大模型服务商的激烈价格战，API定价持续下探，进一步放大了单位性能的成本降幅，让终端开发者直接享受到红利。

三、关键认知误区

13倍的年成本下降，不代表所有AI任务的实际调用成本都在变低：

• 面向复杂推理的前沿智能体模型，单次任务会投入大量测试时计算算力，虽然单位基准性能成本在下降，但为了追求更高的准确率与任务完成度，单次调用的总算力消耗反而大幅提升，最终账单金额可能更高。
• 企业选型不能只看价格，必须同时平衡‌质量、响应速度、错误率、成本‌四个核心维度，单纯选低价模型省下的钱，往往不足以覆盖高错误率带来的人工复核与业务损失成本。

四、计算参数

1. 计算类对比数据仅覆盖到 2001 年，电力仅到 1973 年；2023 年之前的 AI 数据是从较短趋势与外部研究外推的。
2. 单个基准（GPQA）外推到编码、抽取等实际工作负载的效力有限。
3. 最有用的数字其实是衰减：五个基准上，季度降幅两年内从 66% 放缓到 32%。任何按"13 倍/年"做预算的规划，都比近期趋势乐观。

Nebius 同期上调 GPU 租金 17%-21%（事件 15）——单位智能成本在崩，而承载智能的物理算力在涨。 两者不矛盾，但说明降价的来源已从硬件转移到模型与 Harness 效率。

五、产业长期影响liAIDee√pThink.cn

这一持续超高速的成本下降曲线，正在彻底改写AI产业的落地节奏：

• 过去需要百万级算力投入才能完成的复杂AI任务，现在仅需数千元即可实现，大幅降低了中小开发者与创业公司的准入门槛。
• 成本的指数级下探，让AI智能体、长上下文推理等此前高不可攀的前沿能力，快速渗透到电商、客服、工业等千行百业的普通场景中，推动AI从“高价值专属能力”变成像水电一样的普惠基础设施。