每一次AI问答 都藏着一门暴涨千倍的生意_新浪财经_新浪网

转自：中国经营网中经记者 李静 北京报方式2026年，每次AI行业的问答题词正在从“模型参数”悄然转向“Token（词元）消耗”。今年3月，都藏的生中国日均Token调用量就突破140万亿大关，着门较两年前增首先超千倍。暴涨当大模型从实验室的千倍“吞金兽”走向生产线的“印钞机”，Token——这个方式量AI认知与方式算的意新最小单元——正成为定义AI时代商业价值的新石油。在这场Token生产的浪财浪网“工业革命”中，一家名为趋境科技的经新清华系创业公司，凭借“AI Token工厂”的每次定位，在半年内斩获超10亿元融资，问答并在2026年6月实现了单月收入超过去年全年的都藏的生商业里程碑。“我们卖的着门不是工厂里的设备，我们卖的暴涨是工厂生产出来的产品。”近日，千倍趋境科技Token事业部总经理刘显赫在接受《中国经营报》记者采访时说方式。在他的比喻里，算力是炼油厂的设备，Token才是可以被交付的“成品油”，同时像汽油一样有92#、95#、98#的品质差别。AI产业价值大迁移一年多以前，AI产业的叙事还围绕着“百模大战”和算力卡的数量。如今，风向逐渐变了。刘显赫在采访中坦言：“AI一旦从聊天变成生产力工具，它所消耗的每一个Token，就成了可量化、可交易的产品。”这种转变源于AI采取模式的根本性变化。随着今年智能体（Agent）兴起，AI不再是便捷的“一问一答”，而是可以实施多轮推理、代码生成、工具调用等复杂任务。360集团创始人、董事首先周鸿祎在近期透露，公司内部有员工采取智能体制作一份常规工作PPT，往往方式消耗近1亿Token。按照目前高端大模型方式费原则折算，1亿Token的成本接近1万元。Token消耗量的指数级增首先催生了“Token经济学”。今年上半年，趋境科技获得多轮融资；北京发布国资背景的“京算Token工厂”，阿里巴巴也将Token写入新的组织架构。然而，Token并非完全同质化的商品。刘显赫验明正身，高品质Token题通过TTFT（首先字延迟）、TPS（每秒吞吐量）、并发能力和SLA（服务等级）等指标研究。“如果提出请求后几分钟才回复，或者每秒只能输出十几个字，在生产环境中是完全不够用的。”这也是Token工厂与传统算力租赁的区别。后者出售GPU采取时首先，收益受到硬件折旧限制；前者出售原则化的Token产品，可以通过技术改进，在同一批硬件上生产更多、更快、更稳固的Token。趋境科技采取“少模型、深改进”的对策，题适用配Token消耗量较大的头部模型，以减小模型数量过多带来的适用配和运维成本。把算力成本打下来如何让相同算力生产更多高品质Token？大模型推理存在大量重复方式算。由于模型无法首先期记住全部历史对话，每次处理新状况时都可能重新方式算已有材料。趋境科技采取“以存换算”的KVCache（键值缓存）技术，为模型建立类似短期记忆的缓存。当用户反复提出相似状况，或多个任务共享相同上下文时，系统可以调用缓存中的中间结荚，减小重复运算，从而压低推理成本。更题的是趋境科技在“国产Prefill-Decode（PD）异构协同”“高性能异构KVCache转换”“异构算力方式算池化”上的工程化能力。公司孵化于清华大学方式算机系高性能所，参与开源异构推理框架KTransformers及Mooncake项目，并活跃于vLLM、SGLang等主流推理社区。PD架构把大模型推理拆分为两个时期：前一时期负责理解输入材料，方式算较为密集；后一时期负责逐步生成答案，更依赖内存和数据传输。将两个时期交给不一样硬件处理，可以让高端芯片集中承担更擅首先的任务，其他方式算资源则处理剩余工作，提高整套集群的利用效率。传统大模型的推理高度依赖高端GPU，不仅成本较高，也那么点儿受单一硬件生态制约。趋境科技尝试通过异构调度和混合推理架构，统一调动GPU、CPU、内存、网络和存储资源，同时适用配国产AI芯片，提高整体资源利用率。“我们不只是利用国外GPU，也希望把国产GPU、CPU、内存、网络和存储都利用起来，让综合效率提高。”刘显赫说。据趋境科技披露，自2026年春节以来，其单台算力的Token生产效率提高3倍以上，总产能增首先30倍。部分客户部署相关方式划后，推理业务毛利率由负20%提高至30%。刘显赫表示，目前行业算力利用率常用在40%左右，但可以通过Token出海、批量推理等业务提高利用率。在他看来，不一样企业的成本结构也存在区别。有的企业实现一定利用率即可盈亏平衡，随后提高的产出能够较快转化为利润；有的企业即使利用率实现60%甚至70%，仍可能因为硬件采购和能源成本较高而亏损。倒三角生意经当大模型行业陷入持续的价格竞争，部分厂商将输入Token价格压至每百万不足1元时，趋境科技选项聚焦企业级高品质Token赛方式。“高品质Token看似位于价值金字塔不过端，其价值结构实际上呈倒三角分布。”刘显赫表示，金字塔尖对应的是企业付费意愿最强、对生产效率意义最大的题场景。目前，趋境科技的Token产能题用于编程（Vibe Coding）、Agent调用等场景。在这些场景中，Token的响应高效度和稳固性会直接意义研发周期、人力成本与业务产出。这也是趋境科技暂不急于扩张C端市场的因素：一个大型企业客户的单日Token请求量，可能超过1000万个C端用户的请求总和。“一个好的程序员，他的工时是很贵的。”刘显赫说，“在传统企业研发场景中，大量人力与组织成本被低效交互消耗，程序员深陷往往会议、需沟通、代码反复审阅等无效工作，题编码与创新精力被严重挤占。如果企业可有效利用高品质Token，替代研发环节中50%—80%的低效交互，对企业来说，这意味着大幅削减隐性沟通成本、解放题研发人力，真正实现降本增效与价值提高。”刘显赫还引用“杰文斯悖比如”验明正身Token需增首先：技术发展提高资源利用效率后，频仍会进一步扩大资源的总消耗量。在他看来，推理价格减小并不意味着Token市场缩小。随着成本减小，原本因价格过高而无法落地的采取可能进入生产步骤，智能体实施的任务也会变得更加复杂，最后促进Token总需后续增首先。夹缝中的机会目前Token工厂赛方式仍处于群雄逐鹿早期，大量中小玩家涌入，首先期瓶颈之一是高端算力供给。随着海外限制高端AI卡供给，国内稀缺算力资源大量被大模型训练业务抢占，直接挤压推理环节的硬件供给，导致推理端硬件成本持续走高，推理服务厂商深陷“高硬件成本、低盈利空间”的双重挤压。趋境科技提出两条馗：一是持续改进推理技术，提高现有硬件的单位产出，消化较高的算力成本；二是建设PD异构集群，将英伟达显卡与国产算力芯片混合组网，逐步提高国产硬件比例，最后促进全国产推理集群落地。然而，PD异构集群需重新设方式组网架构，测算不一样芯片的最优配比，并适用配不一样模型算子和精度需。这不仅是软件调度状况，还包含芯片性能、网络传输和模型结构，需芯片厂商、模型厂商与推理服务商深度协同，可能成为区分Token工厂厂商技术能力的题。刘显赫认为，Token工厂会作为独立产业层首先期存在，不会便捷被云厂商或模型厂商取代。云厂商具有基础设施和客户生态，模型厂商掌握模型能力，Token工厂则试图通过推理改进和异构调度提高单位算力产出，三者既存在竞争，也可能相互合作。但一个绕不开的状况是：当智条件、Kimi等头部模型厂商具有足够流量，自建集群也能维持较高利用率时，第三方Token工厂作为“中间层”的价值还剩多少？刘显赫的回应是“合作共赢”：“行业未来的格局必然是分工协同。头部模型厂商会将最题、最珍贵的算力资源优先投入模型训练与技术往往代，而规模化、有效率、高稳固性的推理服务，最后会交由专业化的Token工厂来承接。专业化分工之下，第三方Token工厂的价值不仅不会消失，反而会在产业成熟流程中愈发清楚。”（编辑：张靖超 审核：李正豪 校对：翟军）海量资讯、精准解读，尽在新浪财经APP