【国联民生计算机】🚀中国长城涨停,海光信息、龙芯中科等大涨:继续看好Agentic时代CPU价值重估 [太阳]AI Agentic时代CPU迎来价值重估 Age
- 序号:196
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
【国联民生计算机】🚀中国长城涨停,海光信息、龙芯中科等大涨:继续看好Agentic时代CPU价值重估
[太阳]AI Agentic时代CPU迎来价值重估
Agentic AI工作负载呈"推理-调用-决策"交替执行模式,GPU利用率间歇化,而高核心密度ARM CPU可承担请求路由、Prompt预处理、工具编排、代码执行调度、KV Cache管理及部分Decode任务。
[太阳]ARM CPU实现AI Agentic场景下的深度优化
ARM架构全球开发者规模超2200万,AGI CPU基于Neoverse V3平台,已有OpenAI、Oracle等客户。
Fedimoss AITHER跨环境推理云已实现ARM CPU与GPU异构协同:MoE模型中Attention+共享专家常驻GPU、路由专家卸载至CPU内存;三级协同使KV Cache内存消耗增长显著慢于上下文长度增长。
根据Fedimoss官网数据,AmpereOne 192核ARM CPU在Llama-3.2-1B上吞吐量达4242.553 tokens/s,在Qwen3-30B-A3B上达769.691 tokens/s。
风险提示:AI算力需求不及预期;技术路线变化风险。
联系人:国联民生计算机吕伟/郭新宇
总体总结
主题正文
- 【国联民生计算机】🚀中国长城涨停,海光信息、龙芯中科等大涨:继续看好Agentic时代CPU价值重估
- Agentic AI工作负载呈"推理-调用-决策"交替执行模式,GPU利用率间歇化,而高核心密度ARM CPU可承担请求路由、Prompt预处理、工具编排、代码执行调度、KV Cache管理及部分Decode任务。
- ARM架构全球开发者规模超2200万,AGI CPU基于Neoverse V3平台,已有OpenAI、Oracle等客户。
- Fedimoss AITHER跨环境推理云已实现ARM CPU与GPU异构协同:MoE模型中Attention+共享专家常驻GPU、路由专家卸载至CPU内存;
- 三级协同使KV Cache内存消耗增长显著慢于上下文长度增长。
- 根据Fedimoss官网数据,AmpereOne 192核ARM CPU在Llama-3.2-1B上吞吐量达4242.553 tokens/s,在Qwen3-30B-A3B上达769.691 tokens/s。
- 风险提示:AI算力需求不及预期;
- 技术路线变化风险。