新华通讯社主管

首页 >> 正文

全国首个Token服务性能监测平台发布
2026-06-16 记者 郭倩 来源:经济参考网

在6月16日举行的"高质量Token服务研讨会"上,全国首个Token服务性能监测平台发布,该平台由中国信通院发起建立,实时对国内外30多个平台上百余款大模型Token服务的调用成功率、输出速度(TPS)、首词时延(TTFT)等几十项核心指标,开展每日多时、多地持续性监测。

据悉,该平台可为行业应用提供选型指引、为词元(Token)服务商能力提升提供标尺、为政府机构提供平台部署及词元(Token)监测服务。

数据显示,截至2026年3月,我国日均词元调用量已超过140万亿次。此外,我国公有云企业级Token消耗量增长显著,根据中国信通院监测,2025年我国公有云企业级Token调用量达到2000万亿,相较于IDC发布的2024年114万亿,增长超过16倍;2026年一季度公有云企业级Token调用量预测达到约2000万亿。

中国信通院人工智能研究所所长‌魏凯表示,全球领先的开源模型和闭源模型的智能差距在不断缩小,但不同模型输出的词元“智能含金量”相差甚远,持续挖掘模型自身能力,提升模型的智能水平是Token高质量的根本支撑,业界对Token服务的关注视角已从“调用量”向“高质量”转变。提升Token服务性价比,既要关注调用量和成本,也要关注用户体验、绿色能耗、应用价值等能力维度,按场景选择适配的Token服务。

专家表示,高质量Token服务向上连接模型训练与推理优化,向下赋能千行百业应用落地,对释放人工智能应用价值具有重要意义。

据悉,下一步Token服务性能监测平台将推动行业完善能力评价体系、加强性能监测、健全安全保障、提升运营效能,以进一步释放Token服务的技术价值、产业价值和经济价值。

凡标注来源为“经济参考报”或“经济参考网”的所有文字、图片、音视频稿件,及电子杂志等数字媒体产品,版权均属《经济参考报》社有限责任公司,未经书面授权,不得以任何形式刊载、播放。获取授权

《经济参考报》社有限责任公司版权所有 本站所有新闻内容未经协议授权,禁止转载使用

新闻线索提供热线:010-63074375 63072334 报社地址:北京市宣武门西大街57号

JJCKB.CN 京ICP备2024066810号-1