海光信息:GLM-5.3 Flash推理基于10万国产卡、效率或对标英伟达 【国海计算机】 据智谱官方技术文档:GLM-5.3-Flash调用超过10万张国产芯
- 序号:376
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
海光信息:GLM-5.3 Flash推理基于10万国产卡、效率或对标英伟达 【国海计算机】
据智谱官方技术文档:GLM-5.3-Flash调用超过10万张国产芯片集群用于推理服务,硬件效率及单token成本已经达到了与主流英伟达GPU相当的水平。GLM-5.3-Flash模型对标DeepSeek,定价是Claude Opus 4.8的1/40,国产算力性能与性价比优势得到验证。
GLM-5.3-Flash基于国产平台深度调优。为改善单张芯片的内存容量与带宽,智谱在SGLang基础上构建了专用推理引擎,采用W8A8量化、INT8/FP8/BF16混合缓存量化,以及节点内张量并行等技术,并引入生产级Encode–Prefill–Decode(EPD)分离式架构,将多模态编码、prompt预填充和逐token解码拆分为可独立调度的工作池。与同一硬件上的初始基线相比,端到端服务性能提升了3倍。
2026年7月,基于10万卡海光DCU的国家超算互联网郑州核心节点正式上线,这是目前全国唯一的十万卡级国产AI算力资源池,也为智谱推理提供了重要支持。我们认为:智谱GLM-5.3 Flash的成功验证了海光DCU3的产品能力与系统潜力。随着DCU4的推出,基于海光新一代Switch、CPU、DCU、存储的超节点将会实现综合性能的再次大幅提升,并进一步助力智谱等国产大模型提高推理效率、降低token成本。
看好海光信息DCU+CPU+Switch多产品矩阵进入协同放量阶段。国海计算机 刘熹/唐锦珂
总体总结
主题正文
- 海光信息:GLM-5.3 Flash推理基于10万国产卡、效率或对标英伟达 【国海计算机】
- 据智谱官方技术文档:GLM-5.3-Flash调用超过10万张国产芯片集群用于推理服务,硬件效率及单token成本已经达到了与主流英伟达GPU相当的水平。
- GLM-5.3-Flash模型对标DeepSeek,定价是Claude Opus 4.8的1/40,国产算力性能与性价比优势得到验证。
- 为改善单张芯片的内存容量与带宽,智谱在SGLang基础上构建了专用推理引擎,采用W8A8量化、INT8/FP8/BF16混合缓存量化,以及节点内张量并行等技术,并引入生产级Encode–Prefill–Decode(EPD)分离式架构,将多模态编码、prompt预填充和逐token解码拆分为可独立调度的工作池。
- 与同一硬件上的初始基线相比,端到端服务性能提升了3倍。
- 2026年7月,基于10万卡海光DCU的国家超算互联网郑州核心节点正式上线,这是目前全国唯一的十万卡级国产AI算力资源池,也为智谱推理提供了重要支持。
- 我们认为:智谱GLM-5.3 Flash的成功验证了海光DCU3的产品能力与系统潜力。
- 随着DCU4的推出,基于海光新一代Switch、CPU、DCU、存储的超节点将会实现综合性能的再次大幅提升,并进一步助力智谱等国产大模型提高推理效率、降低token成本。