万亿Token经营术 兼顾模型效率与算效
创始人
2026-07-07 23:11:09
0



(图片来源:摄图网)

(记者 叶菁)2026年仲夏,第23届中国信息通信业发展高层论坛在北京举办,AI智算与词元产业专题论坛成为关注焦点。就在今年3月,国家数据局正式将人工智能领域的核心计量单位Token定名为“词元”,同时披露我国日均词元调用量已突破140万亿次,较2024年初增长超千倍。

从技术文档中的专业术语,到衡量智能经济活跃度的核心指标,词元“出圈”的背后,是AI产业从技术研发迈向规模化应用的关键转折。身处产业枢纽位置的电信运营商,正站在万亿级词元调用的关口,探索一条兼顾模型服务效率与算力使用效能的平衡路径。

运营商AI“十年磨一剑”

词元经营并非行业风口下的仓促转型,而是运营商在人工智能领域十余年持续深耕的必然结果,更是其全栈国产AI能力建设的集中体现。

作为国内最早布局人工智能的市场主体之一,运营商的AI技术积累最早可追溯至网络智能化运维阶段,从最初的故障智能排查、资源智能调度,逐步延伸至通用大模型研发与全栈能力构建。以中国移动为例,其自主研发的“九天”人工智能体系已深耕十余年,覆盖从基础大模型到行业应用的全链条,形成了多模态、语言、视觉、语音等全系列模型能力,参数量覆盖十亿到万亿级全规格,汇聚700PB高质量行业数据。

中国电信则依托“云改数转智惠”战略,构建了覆盖“IaaS-PaaS-SaaS”全层级的词元服务体系。在IaaS层,其天翼云完成从基础算力底座向AI原生算力底座的升级,形成高并发、高吞吐的词元规模化生产能力,自有及接入智算总规模已达91 EFLOPS;在PaaS层,通过Triless平台架构实现资源、框架、工具三重解耦,为大模型训练与推理提供标准化工具支撑,降低了词元服务的技术门槛。

端侧落地是运营商开展词元经营的独特优势。区别于互联网厂商依赖中心化算力的模式,运营商拥有覆盖全国的网络节点与海量终端触点,能够将词元推理能力下沉至边缘节点与用户终端,在家庭安防、智慧家庭、行业终端等场景实现本地推理,既降低了中心算力压力,也缩短了服务响应时延。这种“云网边端”一体化的布局,让运营商的词元服务能够更贴近生产生活场景,具备规模化落地的天然基础。

Token倒逼智算产业链系统性重构

万亿级词元调用量的爆发式增长,正在从需求端反向重塑整个智算产业链的供给结构,推动产业从单点技术突破向全链条系统性变革演进。

算力端的需求结构正在从“训练驱动”向“训练+推理双轮驱动”切换。中国信通院报告指出,基础大模型训练推动了第一波智算集群建设浪潮,而随着AI应用规模化落地,模型推理将成为智算基建的第二条增长曲线。当前运营商的智算中心已开始同步适配训练与推理两类需求,通过算力池化、弹性调度应对词元调用的潮汐效应。

网络端的算网融合趋势持续深化。词元的实时调用特性对算力与网络的协同提出了更高要求,算力不再是孤立的节点资源,而是需要依托高速网络实现全域调度。运营商凭借基础网络优势,成为算网融合的核心推动者。如中国电信打造的“息壤”算力分发网络平台,可实现跨服务商、跨地域、跨架构的算力统一管理与调度,为不同场景的词元调用匹配最优算网资源。

平台端的一站式服务能力成为核心竞争力。随着词元成为通用计价单位,用户不再满足于单纯采购算力,而是需要“算力+模型+工具+运维”的一体化解决方案。目前运营商诸多平台已推出一站式智算服务,覆盖从数据管理、模型训练、部署上线到推理调用的全生命周期,用户可直接按词元用量结算,无需关注底层算力细节。这种一站式模式大幅降低了AI应用的落地门槛,也让词元的流通效率得到显著提升。

万亿级调用下的成本优化与价值提升路径

国家数据局数据显示,我国日均词元调用量已超140万亿次,且仍保持高速增长态势。规模扩张带来产业机遇的同时,也带来了巨大的算力成本压力。如何在保障模型服务效果的前提下,控制单位词元的算力消耗,实现模型效率与算效的平衡,是运营商乃至全行业必须破解的核心命题。

从技术路径看,模型轻量化与国产适配是成本优化的核心抓手。针对通用大模型参数量大、推理成本高的问题,运营商可基于自身行业积累,面向政务、工业、客服等典型场景推出轻量化行业模型,通过模型蒸馏、参数稀疏化、量化压缩等成熟技术,在保障场景效果的前提下,大幅降低单Token推理的算力需求。与此同时,持续推进模型与国产算力芯片的深度适配,挖掘国产芯片的性能潜力,逐步降低对高端进口芯片的依赖,从硬件层面控制算力采购成本。

从架构层面看,算网边端协同推理是提升整体效能的关键方向。构建“中心云-边缘节点-终端设备”的分层推理体系,将简单交互、低时延要求的词元处理任务下沉到边缘与端侧,复杂推理、多模态生成等高算力需求保留在中心节点,通过任务拆分与动态调度,实现算力资源的分层复用。这种模式既能够缓解中心算力的供给压力,也能减少数据传输带来的带宽成本与时延损耗,尤其适合智慧家庭、工业现场等分布式场景。

从运营维度看,精细化调度与分级服务可实现资源价值最大化。依托算网调度平台,对全国算力资源进行潮汐调度与闲时复用,错峰填补算力需求的波谷,提升整体算力利用率。同时,针对不同行业、不同场景的词元调用需求,推出差异化的分级服务,对金融、医疗等对精度和稳定性要求高的场景,提供高性能模型与专属算力保障;对通用客服、内容生成等场景,提供优化后的轻量模型与普惠型定价。通过价值与成本的匹配,在控制整体成本的同时,保障核心场景的服务质量。

从流量经营到词元经营,运营商的转型轨迹,正是我国数字经济向智能经济升级的缩影。万亿级词元调用不是产业发展的终点,而是高质量发展的新起点。在规模增长的浪潮中守住效能底线,通过技术创新、架构优化与运营精细化实现平衡,运营商不仅能找到自身的新增长曲线,也将为我国智能经济的可持续发展筑牢算网底座,推动AI技术真正高效、普惠地融入千行百业。


相关内容

热门资讯

原创 苹... 有不少朋友疑惑苹果iPhone 16 Pro和16 Pro Max有什么区别?该选择哪一款更好?各自...
2024年OPPO手机全攻略:... 手机已不仅仅是通讯工具,它更是我们记录生活、享受娱乐、提升工作效率的重要伙伴。随着科技的飞速发展,O...
2025年值得入手的2款智能手... 在科技飞速发展的今天,智能手表已成为我们生活中不可或缺的伙伴。无论是健康监测、信息提醒,还是时尚搭配...
原创 2... 从去年华为用上了麒麟芯片开始,华为的市场份额就蹭蹭的往上涨,当时抢购的人特别多,一时间还买不到现货,...
第五轮学科评估对比:西安交大突... 在之前的文章中,我们已经提及西安交通大学第五轮学科评估的表现可圈可点,新晋的3个A+学科:机械工程、...
vivo手机5g开关在哪里打开 vivo手机5G开关的打开方式可能因手机型号、系统版本及运营商网络支持情况的不同而有所差异。但总体来...
原创 麒... 为了普及原生鸿蒙(鸿蒙5.0),抢占更多的中端手机市场份额,华为nova系列今年开始计划一年两更,n...
解决FaceTime无法使用的... FaceTime是苹果公司推出的一款视频通话应用,广泛应用于iPhone、iPad和Mac等设备上。...
steam官网无法访问?这个办... 对于广大游戏爱好者而言,Steam平台无疑是获取最新游戏资讯、购买游戏、与全球玩家互动的重要阵地。然...
原创 直... #热点周际赛# 随着科技的进步,儿童智能穿戴设备逐渐成为了家庭中的新宠。华为作为智能穿戴领域的领军者...