AAAT

王强:面向Token服务的智算基础设施——重塑机理与发展关键

时间:2026年07月03日 作者:王强 

导读:

2026年7月3日,大金融思想沙龙第278期“算力、能源、调度协同:筑牢词元经济产业底座”线上举行。中国信息通信研究院规划所数智部主任、中国信息消费推进联盟常务副秘书长王强围绕面向Token服务的智算基础设施进行了发言。他指出,随着大模型应用从训练驱动转向推理主导,Token正从技术概念演变为数字经济时代的基础计量单位。无论是C端用户的日常交互,还是B端企业的流程重构,Token调用量呈现指数级增长,对底层智算基础设施提出了全新要求。
阅读全文

一、从C端普及到B端主导的Token服务场景分化

词元服务的场景分为多种类型。在C端,词元正从技术术语变为与每个人息息相关的“数字水电”。应用从简单问答向深度创作和生活服务全面展开。供给侧技术门槛大幅降低,三大运营商推出面向个人的词元套餐,优惠力度较大,降低了推理服务的使用门槛。场景覆盖日常全维度,包括办公辅助、内容创作、教育辅导、生活服务、家庭娱乐等,深度上不再满足于文字问答,而是用于视频生成、图片编辑等复杂创作任务。C端消费场景正从轻量交付向纵深拓展。

在B端企业级市场,企业市场是词元服务的绝对主力。词元从体验式试用加速转向业务流程嵌入,深度重构产业效率,覆盖工业运维、金融风控、政务咨询、医疗辅助、教育服务等领域。部分数字化转型快的企业已将词元纳入常态化预算,具备持续付费能力,区别于C端的免费流量导向。B端具体场景包括企业知识库、RAG问答、流程自动化和研发辅助。这三大场景合计覆盖B端99%的词元消耗,随着数字化渗透,将持续稳定调用。

企业端应用中,行业智能体正成为词元服务的核心驱动力。今年4月斯坦福和MIT等机构调研显示,智能体词元消耗量约为普通代码对话的1000倍。智能体对B端词元调用需求大幅提升,词元服务正从人使用AI走向AI自主执行任务,行业智能体成为词元经济从量变到质变的核心引擎。

二、Token服务倒逼智算设施变革的三大现实挑战

在以上背景下,B端和C端词元调用需求巨大,对供给侧智算设施的能力和布局提出现实挑战。传统以训练为核心的智算设施,面对Token服务的高弹性、低延迟、标准化、高效能等需求,亟需解决三大问题。

第一,技术内涵方面,Token经济对计算设施底层的重塑机理不清晰,如何倒逼底层算力基础设施的架构、资源配置、服务保障逻辑发生系统性变革,缺乏深入研究,需要从经济学和算力架构结合的角度建立清晰的理论认知框架。

第二,产业生态方面,Token智算基础设施的产业链图谱尚不清晰,延伸出新兴业态和主体,需要明确新产业图谱中上下游的联动关系,进而完善商业模式,使其从初级阶段走向成熟。

第三,空间布局方面,在“东数西算”战略下,如何应对Token服务在端侧、边缘侧推理低时延的要求,借助现有算力战略和各地设施保障供给。目前边缘算力布局滞后,近用户端Token服务能力不足,仍是地方问题。

因此,亟需系统开展面向token服务的智算产业研究和基础设施布局规划指引,推动智算基础设施从“算力工厂”向“token工厂”转型升级。

 

三.从“算力工厂”到“Token工厂”的核心差异

我们初步梳理了传统算力工厂与新型Token工厂的差异。

第一,在交付形态上:传统以裸金属、GPU服务器、虚拟机、物理集群为主,用户获得硬件独占使用权;新型Token工厂以推理为导向,交付API接口、SDK工具、推理服务平台,用户直接获得token生成的智能输出,不接触底层硬件。

第二,在用户接入门槛上:传统高门槛、重运维,需要专业团队;新型低门槛、开箱即用,封装全链路能力,用户一键接入,专注业务开发。

第三,在弹性适配能力上:传统静态扩容,应对潮汐流量弱;新型支持秒级资源调度和弹性扩缩容,自动匹配波峰波谷,适应脉冲式推理请求。

第四,在支撑场景上:传统主要集成大模型预训练、科学计算、工业仿真和长期批量推理;新型支撑对话式Agent、实时内容生成、端侧推理和中小型企业AI业务。

 

四.Token服务重塑智算设施的四个层面

Token服务对智算基础设施的重塑体现在计算、网络、调度与运营四个层面。计算层面,转向推理侧专用芯片架构,追求token与能耗的能效比,采用异构混合部署,适配多场景需求。网络层面,从关注集群内部高速互联,转向构建用户与推理节点的广域直连网络,以端到端低延迟为核心,采用多点就近分布式部署,打造CDN式弹性推理节点网络。调度编排层面,实现token级细粒度实时调度和异构资源混合编排,支持秒级弹性扩容和跨节点跨地域无缝迁移,提升利用率。运营交付层面,转向token服务全生命周期运营,实现按量实时结算,保障服务一致性,区别于传统聚焦硬件运维、关注能耗和故障率。

展望未来,唯有适配Token服务对智算基础设施的全链条需求,破解算力供需匹配与短板,才能构建适配词元经济时代的新型智算基础设施体系,持续释放Token经济和人工智能产业增长的新动能。

 

整理人:吉庆


分享到:
0
扩展阅读