❗️【天风汽车】从Meta Muse智能体看端侧ai SoC的机会-0922 ———————————— Meta Muse智能体规模化落地,配套开源的Muse

图片

无图片

正文

❗️【天风汽车】从Meta Muse智能体看端侧ai SoC的机会-0922 ———————————— Meta Muse智能体规模化落地,配套开源的Muse Glimmer 30B单卡可跑(4bit量化权重仅17GB,24GB显存设备即可承载),背后的核心是MoE稀疏架构降低算力需求 + 低比特量化降低显存需求 + 模型能力密度提升Agent工作能力。

端侧部署的技术门槛降低+轻量化模型的性能爆发,端侧agent进入可用的阶段。看好国内稀缺的端侧ai SoC公司,重点关注【爱芯元智】。

公司依靠自研NPU(计算)+ISP(图片处理感知)双核心IP构成最强的技术壁垒,算力覆盖<1至1000+TOPS全区间,定位稀缺的平台型端侧AI SoC厂商,

产品端,目前爱芯边缘计算产品AX8850(24 TOPS)已经实现规模出货并支持7B MoE本地运行,2026H1进一步推出面向个人及办公Agent场景的本地算力盒子。下一代256TOPS级别的8860系列已流片(可运行70-100B级模型),四芯级联可组成1000 TOPS以上加速卡,实现对Agent Box、边缘服务器与边缘私有云全场景覆盖。

端侧模型需经蒸馏、量化后与NPU底层深度集成,芯片适配能力和适配速度是最大的竞争门槛。公司开源了200多个模型仓库,率先完成DeepSeek、千问等主流大模型的边缘侧适配。算法适配最快仅需两周,且芯片设计对算法保持高兼容性,适配成本低。

预计公司26/27年营收9.1/18亿元,其中边缘ai SoC收入占比超10%,作为国内稀缺的推理芯片平台型公司,当前位置对应27年仅6xPS。

总体总结

主题正文

  1. ❗️【天风汽车】从Meta Muse智能体看端侧ai SoC的机会-0922
  2. Meta Muse智能体规模化落地,配套开源的Muse Glimmer 30B单卡可跑(4bit量化权重仅17GB,24GB显存设备即可承载),背后的核心是MoE稀疏架构降低算力需求 + 低比特量化降低显存需求 + 模型能力密度提升Agent工作能力。
  3. 看好国内稀缺的端侧ai SoC公司,重点关注【爱芯元智】。
  4. 公司依靠自研NPU(计算)+ISP(图片处理感知)双核心IP构成最强的技术壁垒,算力覆盖<1至1000+TOPS全区间,定位稀缺的平台型端侧AI SoC厂商,
  5. 产品端,目前爱芯边缘计算产品AX8850(24 TOPS)已经实现规模出货并支持7B MoE本地运行,2026H1进一步推出面向个人及办公Agent场景的本地算力盒子。
  6. 下一代256TOPS级别的8860系列已流片(可运行70-100B级模型),四芯级联可组成1000 TOPS以上加速卡,实现对Agent Box、边缘服务器与边缘私有云全场景覆盖。
  7. 公司开源了200多个模型仓库,率先完成DeepSeek、千问等主流大模型的边缘侧适配。
  8. 预计公司26/27年营收9.1/18亿元,其中边缘ai SoC收入占比超10%,作为国内稀缺的推理芯片平台型公司,当前位置对应27年仅6xPS。