【国联民生计算机/机械】🚀集智股份:核心合作方取得AI推理重要突破,继续看好ARM的“硅基流动” [太阳]集智股份核心合作方Fedimoss发布跨环境AI推理云
- 序号:042
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
【国联民生计算机/机械】🚀集智股份:核心合作方取得AI推理重要突破,继续看好ARM的“硅基流动”
[太阳]集智股份核心合作方Fedimoss发布跨环境AI推理云ATHER:打破AI推理中成本、性能、部署复杂度的''不可能三角'',开启ARM CPU推理全新范式。
[太阳]ARM纯CPU推理凸显性价比:基于OCI Ampere 90核CPU实例,通过ARM SME矩阵扩展加速GEMM算子等技术优化,在无损输出前提下显著提升解码效率。
[太阳]CPU+GPU异构推理:同一GPU可服务的模型规模显著增大,单位推理成本大幅下降。针对MoE模型“贵HBM被冷参数占满”的痛点,进行算子级解耦。
[太阳]高性能GPU推理:针对Agent长程推理任务,提出三级KV Cache协同压缩,使显存消耗增长远慢于上下文长度增长。同时将计算密集的Prefill和带宽瓶颈的Decode分离到不同GPU实例组,提升GPU资产ROI。
[太阳]集智股份:发挥ARM CPU与异构芯片优势打造ARM底座的“硅基流动”
集智股份通过100%全资子公司浙江之江易算(注册资本增资至1亿元)控股杭州集智新易算,与潘东创立的Fedimoss(盛见科技)深度技术合作,打造ARM的“硅基流动”。
对标硅基流动:根据IDC数据,硅基流动为国内第一大独立Token推理厂商,冲刺港股特专科技上市,上市后或将实现较高流动性溢价。
风险提示:算力需求释放节奏存在不确定性;行业竞争加剧
总体总结
主题正文
- 【国联民生计算机/机械】🚀集智股份:核心合作方取得AI推理重要突破,继续看好ARM的“硅基流动”
- [太阳]集智股份核心合作方Fedimoss发布跨环境AI推理云ATHER:打破AI推理中成本、性能、部署复杂度的''不可能三角'',开启ARM CPU推理全新范式。
- [太阳]ARM纯CPU推理凸显性价比:基于OCI Ampere 90核CPU实例,通过ARM SME矩阵扩展加速GEMM算子等技术优化,在无损输出前提下显著提升解码效率。
- [太阳]CPU+GPU异构推理:同一GPU可服务的模型规模显著增大,单位推理成本大幅下降。
- [太阳]高性能GPU推理:针对Agent长程推理任务,提出三级KV Cache协同压缩,使显存消耗增长远慢于上下文长度增长。
- 同时将计算密集的Prefill和带宽瓶颈的Decode分离到不同GPU实例组,提升GPU资产ROI。
- 集智股份通过100%全资子公司浙江之江易算(注册资本增资至1亿元)控股杭州集智新易算,与潘东创立的Fedimoss(盛见科技)深度技术合作,打造ARM的“硅基流动”。
- 对标硅基流动:根据IDC数据,硅基流动为国内第一大独立Token推理厂商,冲刺港股特专科技上市,上市后或将实现较高流动性溢价。