Token工厂，AI基础设施新范式：以硅基流动为例

 Token 工厂，如今已经成为一条被资本和政策共同关注的产业赛道，甚至进入了国家层面的 AI 基础设施建设话语。但把时间拨回两年前，这个词还只是一个创业者在演讲台上需要反复解释的拗口概念。而最早提出它、并且真正把它落地的，正是硅基流动。

一个概念的诞生：没有包装，全靠实干

2023 年 8 月，袁进辉带着深度学习框架公司 OneFlow 的原班团队再次创业。基于在 AI Infra 领域的深厚积累，2024 年 5 月，硅基流动推出了大模型云服务平台，即公有云 MaaS 平台（模型即服务）。

当年 9 月，袁进辉在接受甲子光年采访时首次公开提出“Token 工厂”这个概念，采访文章于 11 月发布，表达了他对“Token 工厂”的理解：

“作为 Infra 团队，我们希望通过自研推理引擎，让开发者实现“Token 自由”。所以我们更接近于“模型能力供应商”，在算力基础上将原始的算力加工成更接近用户需求的产品。打个比方，算力就像是白菜、土豆等原材料，既可以直接卖给客户，也可以将这些原材料加工成宫保鸡丁之类的成品菜，再“端”给客户。”

我们称自己为“Token 工厂”，是算力的进一步加工和提升，可以让模型像水电一样能被按需使用。

2024 年 12 月，在一场行业大会上，袁进辉发表了题为《打造 GenAI 产品开发友好的 Token 工厂》的演讲。他说这个标题比较拗口，简化一下就是“打造 Token 工厂”，他希望基于此详细分享硅基流动做 Token 工厂这件事情的底层逻辑和思考。

袁进辉把 AI 应用开发的困境概括为一个“不可能三角”：效果、速度、成本三者难以兼得。而 Token 工厂要做的，就是通过基础设施层的工程优化解开这个三角，让开发者不必追溯到技术源头重新训练模型，用 API 就能轻松用上各种各样想用的模型，还能获得极高的性价比。他坦言：产品增长的前提是 Token 自由，Token 自由的前提是 Token 要够便宜。

这些是“Token 工厂”这一概念在公开场合最早的系统性阐述。彼时，距离 DeepSeek 引爆全民 AI 热潮还有一个多月，距离 2026 年的今天“Token 工厂”成为行业热词更是早了两年。

Token 工厂如何运转：三层耦合，一个 API

硅基流动全栈自研的 Token 生产线，核心技术由专有推理引擎及算力资源编排系统组成，二者构成专为 AI 推理工作负载打造的一体化技术栈。具备高效编排异构算力资源，并将底层算力转化为高吞吐量、低延迟且具备成本效益的 Token 生产能力。

翻译成产业语言：Token 的产出依赖算力、模型和系统软件三层的精妙配合，硅基流动把这三层深度耦合，封装成标准化的 Token 输出能力。客户不需要关心底层跑的是英伟达还是昇腾，不需要自建推理集群，不需要为部署运维头疼，只需通过 API 开箱即用、按量付费。平台累计支持超过 170 个模型，深度兼容国际主流芯片以及昇腾、沐曦、摩尔线程等国产芯片，近 100 个主流应用（LangChain、TRAE、Dify、Cherry Studio 等）将其预置为内置模型服务商。

在国产芯片“多元异构”的现实环境里，这种中立适配层的价值被快速放大。AI 基础设施层的竞争重点，正从单纯囤积算力资源，转向比拼 Token 生产效率。换句话说，谁的 Token 工厂生产效率高、单位成本低、交付稳定，谁就占据了新基础设施层的关键位置。

Token 工厂运营情况：从生产到消纳

Token 工厂到底哪家强？“是骡子是马，拉出来遛遛。”市场反馈是最直接的检验标准。

2025 年初，DeepSeek R1 一夜爆红，官网在海量流量下接连瘫痪，整个 AI 圈都在为“用不上 DeepSeek”而焦虑。硅基流动以行业前所未有的速度，率先在华为昇腾国产芯片上部署了满血版 DeepSeek R1 和 V3。这是业内首次在国产芯片上走通世界级大模型的商业化推理服务。这是 Token 工厂理念最生动的实证，用户“用脚投票”，平台注册和 Token 调用量暴涨。

2025 年 7 月，硅基流动在沐曦 C550 芯片上完成 Kimi-K2 Token 服务的全球首次商业化部署。之后，基于摩尔线程 MTT S5000 部署 DeepSeek-V3 达到最顶尖的性能，单卡芯片预填充吞吐量超过 4,000 Token/秒、解码吞吐量超过 1,000 Token/秒。

从招股书披露的数据看，到 2026 年 4 月底，硅基流动公有云 MaaS 平台用户超千万；日均 Token 吞吐量破万亿；服务企业客户超过 13000 家。按 2025 年词元年吞吐量计，硅基流动是中国第四大词元供应平台、中国最大的独立生态词元供应商。而它所处的市场，2024 年至 2025 年吞吐量增长了 1602.6%，预计 2025 年至 2030 年复合年增长率达 638.3%。

从一家公司的定位，到一个行业的范式

2026 年 7 月，在全球数字经济大会上，袁进辉不再需要解释概念，他开始定义赛道：AI 技术的渗透正加速催生 Token 工厂全新赛道，而硅基流动要做的是“全力打造赛道领先的 Token 工厂”。凯联资本董事总经理姚宁波对硅基流动发展成果给予高度认可。他指出，硅基流动已然成为 AI 时代的“Token工厂”标杆，为大模型服务各类应用提供有力支撑。

与此同时，我们看到“国家大力推行 Token 工厂建设”的背景表述越来越多，一个由创业公司率先提出的概念，正在被产业和政策层面接纳为 AI 基础设施的新范式。

这个范式转移的实质在于：Token 已经成为 AI 基础设施的计量单位。买算力的时代，客户为资源付费，风险和工程复杂度自己扛；买 Token 的时代，客户直接为 Token 付费，中间所有的芯片适配、模型部署、推理优化、弹性调度都被工厂消化掉了。

袁进辉曾说，“必须扩大 AI 开发者的基数，让他们实现 Token 自由，才会有下一个‘张小龙’的出现”。这句话道出了 Token 工厂理念的终极指向：当智能的原子单位 Token 足够便宜、足够易得，应用层的创造力才会真正井喷。

从 2024 年底那场需要向听众解释标题的演讲，到 2026 年成为 AI 时代的“Token工厂”标杆，可以一键将任意算力升级为“Token 工厂”。硅基流动用扎扎实实的实践，展示了其“Token 工厂”从理念引领到规模化交付能力的跃迁、从率先落地到成为行业标杆的进化。