【国海海外】GLM5.1加速不减智,智谱ARR飞轮提速 GLM-5.1-highspeed: 通过TileRT高性能推理引擎,把频繁启停的算子执行变成更持续的流
- 序号:062
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
【国海海外】GLM5.1加速不减智,智谱ARR飞轮提速 GLM-5.1-highspeed: 通过TileRT高性能推理引擎,把频繁启停的算子执行变成更持续的流水线执行, 提升单卡吞吐能力、降低调度延迟、并构建稳定的基础设施、实现旗舰模型输出速度400TPS、刷新当前全球大模型厂商API的速度上限 ,大幅领先于采用海外旗舰推理卡的轻量化模型Gemini 3.5 Flash(250+TPS)
通过对PD分离、KV分级缓存Infra的通信架构优化,实现交换机与光模块资本支出减少33%; GPU平均推理吞吐提升15%、TTFT-P99降低40.6%、助力Tokens输出提速
推理效率跃升有望加速智谱ARR飞轮。根据Artificial Analysis Coding Agent Index,GLM-5.1是仅次于GPT-5.5和Opus 4.7的中国SOTA生产力模型,深受市场认可, 公司目前受制于算力瓶颈Tokens供不应求、ARR可以拆解为卡数x单卡Tokens吞吐xTokens定价、推理效率提升有望助力公司突破瓶颈、提升ARR斜率
重要提示:以上信息为公开资料整理,不涉及投资建议及研究观点,仅供参考,本公司不保证其准确性、完整性与时效性;市场有风险,投资需谨慎!
资料来源:智谱公众号、Artifical Analysis
更多欢迎联系:陈梦竹/尹芮/张文宇
总体总结
主题正文
- 【国海海外】GLM5.1加速不减智,智谱ARR飞轮提速
- GLM-5.1-highspeed: 通过TileRT高性能推理引擎,把频繁启停的算子执行变成更持续的流水线执行, 提升单卡吞吐能力、降低调度延迟、并构建稳定的基础设施、实现旗舰模型输出速度400TPS、刷新当前全球大模型厂商API的速度上限 ,大幅领先于采用海外旗舰推理卡的轻量化模型Gemini 3.5 Flash(250+TPS)
- 通过对PD分离、KV分级缓存Infra的通信架构优化,实现交换机与光模块资本支出减少33%;
- GPU平均推理吞吐提升15%、TTFT-P99降低40.6%、助力Tokens输出提速
- 根据Artificial Analysis Coding Agent Index,GLM-5.1是仅次于GPT-5.5和Opus 4.7的中国SOTA生产力模型,深受市场认可, 公司目前受制于算力瓶颈Tokens供不应求、ARR可以拆解为卡数x单卡Tokens吞吐xTokens定价、推理效率提升有望助力公司突破瓶颈、提升ARR斜率
- 重要提示:以上信息为公开资料整理,不涉及投资建议及研究观点,仅供参考,本公司不保证其准确性、完整性与时效性;
- 市场有风险,投资需谨慎!
- 资料来源:智谱公众号、Artifical Analysis