【国联民生计算机/机械】🚀集智股份:核心合作方取得AI推理重要突破,继续看好ARM的“硅基流动” [太阳]集智股份核心合作方Fedimoss发布跨环境AI推理云

图片

无图片

正文

【国联民生计算机/机械】🚀集智股份:核心合作方取得AI推理重要突破,继续看好ARM的“硅基流动”

[太阳]集智股份核心合作方Fedimoss发布跨环境AI推理云ATHER:打破AI推理中成本、性能、部署复杂度的''不可能三角'',开启ARM CPU推理全新范式。

[太阳]ARM纯CPU推理凸显性价比:基于OCI Ampere 90核CPU实例,通过ARM SME矩阵扩展加速GEMM算子等技术优化,在无损输出前提下显著提升解码效率。

[太阳]CPU+GPU异构推理:同一GPU可服务的模型规模显著增大,单位推理成本大幅下降。针对MoE模型“贵HBM被冷参数占满”的痛点,进行算子级解耦。

[太阳]高性能GPU推理:针对Agent长程推理任务,提出三级KV Cache协同压缩,使显存消耗增长远慢于上下文长度增长。同时将计算密集的Prefill和带宽瓶颈的Decode分离到不同GPU实例组,提升GPU资产ROI。

[太阳]集智股份:发挥ARM CPU与异构芯片优势打造ARM底座的“硅基流动”

集智股份通过100%全资子公司浙江之江易算(注册资本增资至1亿元)控股杭州集智新易算,与潘东创立的Fedimoss(盛见科技)深度技术合作,打造ARM的“硅基流动”。

对标硅基流动:根据IDC数据,硅基流动为国内第一大独立Token推理厂商,冲刺港股特专科技上市,上市后或将实现较高流动性溢价。

风险提示:算力需求释放节奏存在不确定性;行业竞争加剧

总体总结

主题正文

  1. 【国联民生计算机/机械】🚀集智股份:核心合作方取得AI推理重要突破,继续看好ARM的“硅基流动”
  2. [太阳]集智股份核心合作方Fedimoss发布跨环境AI推理云ATHER:打破AI推理中成本、性能、部署复杂度的''不可能三角'',开启ARM CPU推理全新范式。
  3. [太阳]ARM纯CPU推理凸显性价比:基于OCI Ampere 90核CPU实例,通过ARM SME矩阵扩展加速GEMM算子等技术优化,在无损输出前提下显著提升解码效率。
  4. [太阳]CPU+GPU异构推理:同一GPU可服务的模型规模显著增大,单位推理成本大幅下降。
  5. [太阳]高性能GPU推理:针对Agent长程推理任务,提出三级KV Cache协同压缩,使显存消耗增长远慢于上下文长度增长。
  6. 同时将计算密集的Prefill和带宽瓶颈的Decode分离到不同GPU实例组,提升GPU资产ROI。
  7. 集智股份通过100%全资子公司浙江之江易算(注册资本增资至1亿元)控股杭州集智新易算,与潘东创立的Fedimoss(盛见科技)深度技术合作,打造ARM的“硅基流动”。
  8. 对标硅基流动:根据IDC数据,硅基流动为国内第一大独立Token推理厂商,冲刺港股特专科技上市,上市后或将实现较高流动性溢价。