海光信息:GLM-5.3 Flash推理基于10万国产卡、效率或对标英伟达 【国海计算机】 据智谱官方技术文档:GLM-5.3-Flash调用超过10万张国产芯

图片

无图片

正文

海光信息:GLM-5.3 Flash推理基于10万国产卡、效率或对标英伟达 【国海计算机】

据智谱官方技术文档:GLM-5.3-Flash调用超过10万张国产芯片集群用于推理服务,硬件效率及单token成本已经达到了与主流英伟达GPU相当的水平。GLM-5.3-Flash模型对标DeepSeek,定价是Claude Opus 4.8的1/40,国产算力性能与性价比优势得到验证。

GLM-5.3-Flash基于国产平台深度调优。为改善单张芯片的内存容量与带宽,智谱在SGLang基础上构建了专用推理引擎,采用W8A8量化、INT8/FP8/BF16混合缓存量化,以及节点内张量并行等技术,并引入生产级Encode–Prefill–Decode(EPD)分离式架构,将多模态编码、prompt预填充和逐token解码拆分为可独立调度的工作池。与同一硬件上的初始基线相比,端到端服务性能提升了3倍。

2026年7月,基于10万卡海光DCU的国家超算互联网郑州核心节点正式上线,这是目前全国唯一的十万卡级国产AI算力资源池,也为智谱推理提供了重要支持。我们认为:智谱GLM-5.3 Flash的成功验证了海光DCU3的产品能力与系统潜力。随着DCU4的推出,基于海光新一代Switch、CPU、DCU、存储的超节点将会实现综合性能的再次大幅提升,并进一步助力智谱等国产大模型提高推理效率、降低token成本。

看好海光信息DCU+CPU+Switch多产品矩阵进入协同放量阶段。国海计算机 刘熹/唐锦珂

总体总结

主题正文

  1. 海光信息:GLM-5.3 Flash推理基于10万国产卡、效率或对标英伟达 【国海计算机】
  2. 据智谱官方技术文档:GLM-5.3-Flash调用超过10万张国产芯片集群用于推理服务,硬件效率及单token成本已经达到了与主流英伟达GPU相当的水平。
  3. GLM-5.3-Flash模型对标DeepSeek,定价是Claude Opus 4.8的1/40,国产算力性能与性价比优势得到验证。
  4. 为改善单张芯片的内存容量与带宽,智谱在SGLang基础上构建了专用推理引擎,采用W8A8量化、INT8/FP8/BF16混合缓存量化,以及节点内张量并行等技术,并引入生产级Encode–Prefill–Decode(EPD)分离式架构,将多模态编码、prompt预填充和逐token解码拆分为可独立调度的工作池。
  5. 与同一硬件上的初始基线相比,端到端服务性能提升了3倍。
  6. 2026年7月,基于10万卡海光DCU的国家超算互联网郑州核心节点正式上线,这是目前全国唯一的十万卡级国产AI算力资源池,也为智谱推理提供了重要支持。
  7. 我们认为:智谱GLM-5.3 Flash的成功验证了海光DCU3的产品能力与系统潜力。
  8. 随着DCU4的推出,基于海光新一代Switch、CPU、DCU、存储的超节点将会实现综合性能的再次大幅提升,并进一步助力智谱等国产大模型提高推理效率、降低token成本。