- SemiAnalysis认为，机器人AI推理将不可避免地走向"级联/混合"架构：低层级控制与安全循环在本地Jetson Thor上运行，高层级规划/认知任务
- 序号：432
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
- SemiAnalysis认为，机器人AI推理将不可避免地走向"级联/混合"架构：低层级控制与安全循环在本地Jetson Thor上运行，高层级规划/认知任务卸载到数据中心GPU运行。核心论据包括：(1)前沿机器人模型（如14B参数的WAM）极度消耗FLOPs，边缘芯片Jetson Thor算力仅为B300的1/14，无法满足实时控制需求；(2)电池与功耗约束决定机器人本体无法搭载数据中心级GPU；(3)硅片与DRAM效率：每GPU服务约7台机器人时，共享数据中心GPU比每台机器人搭载芯片更节省硅片与内存；(4)TCO对比：一台B300 NVL8服务器（8颗B300）可服务56台机器人，相比56台机器人各自搭载Jetson Thor具有成本优势；(5)NVIDIA有动力将先进制程晶圆优先分配给数据中心而非Jetson，因前者毛利率显著更高。报告同时指出视频生成型WAM需时复用、不可批处理，而VLA模型可批处理扩展吞吐。
SemiAnalysis这篇深度报告回答了一个关键问题： 报告给出的答案是——。这构成了机器人AI推理的"级联架构"（Cascade Architecture）： ：低层级动作控制、安全循环、感知预处理 → 搭载 Jetson Thor（约40-130W） ：高层级规划、复杂推理、世界模型推理 → 搭载 Blackwell GPU（如 B300） 这一架构并非二选一，而是由与两大根本因素驱动，颠倒了LLM时代"模型优先、硬件适配"的范式。
一、机器人AI与LLM的本质差异 报告首先厘清了机器人模型与LLM的关键区别： 维度LLM机器人模型（VLA/WAM） 参数规模 万亿级 50-140亿（如π0.7的5B、DreamZero的14B） Token流 突发式（长prompt+长生成） 稳态节拍器式（每帧数百token） 瓶颈 内存带宽（KV cache） FLOPs（视觉/语言阶段计算密集） 延迟容忍 较高 极低（闭环控制，错过即失效） ：前沿机器人模型虽然参数远小于前沿LLM，但属于负载——尤其是WAM（World Action Model）通过视频扩散生成未来帧来推导动作，单次推理需要多次完整前向传播。DreamZero需要2颗GB200才能达到约7Hz，而Jetson Thor只能跑到远低于1Hz。 二、为何不能把数据中心GPU放上机器人？ 报告从三个维度论证了机器人本体无法承载数据中心GPU： ：单颗Blackwell GPU功耗约1.2-1.4kW，需液冷；人形机器人电池仅约2kWh，正常动作功耗几百瓦，峰值1-2kW——芯片本身就会耗光整机的电量。 ：Jetson Thor已用TSMC N4（与Blackwell同节点），下一代预计与Rubin同用N3，再下一代与Feynman同用N2——直接与数据中心GPU争夺最紧缺产能。 ：Blackwell毛利率达中-高70%水平，Jetson仅中60%水平，NVIDIA有强烈动机将稀缺晶圆优先分配给数据中心。 三、硅片与内存效率——共享GPU的"交叉点" 报告提出了一个重要的量化交叉点： ：每GPU服务 时，共享数据中心GPU的硅片用量低于每台机器人搭载芯片 ：每GPU服务 时，共享方案的内存用量更低 这意味着在规模化部署阶段（尤其2030年后机器人数量达到数千万级时），比更节省关键资源。 四、TCO对决：B300服务器 vs 56台Thor 报告以DreamZero为基准做了实测： 单颗B300以p99延迟1.16秒（ 一台B300 NVL8服务器（8颗B300）可服务 对比56台机器人各搭载一颗Jetson Thor ：在规模化场景下，云端卸载方案的BOM成本（不含机械/外壳）显著低于全本地部署方案。 五、级联架构的技术细节 报告还深入探讨了落地的工程挑战： ：从传感器成像到动作执行的端到端延迟，必须严格控制在运动时间预算内 ：ISP需为压缩而非人眼观感调优；动态自适应比特率（类似WebRTC） ：机器人需要高吞吐量上行（传输图像），而非传统移动芯片的下行优先 ：网络抖动/断连时必须有本地控制回退、看门狗、心跳超时机制 六、不同公司路线的预判 ：倾向云端路线，大型规划模型在云端GPU ：完全本地 ：在单H100上跑策略 等小型厂商：初期倾向本地Jetson/消费级GPU 报告认为最终，以找到性能与经济性的最优平衡。
本报告为，未给出具体公司估值或投资评级。但报告隐含的关键投资逻辑包括： ：Jetson业务长期被低估，但当前阶段数据中心GPU仍是利润主力；机器人芯片毛利率有望随规模化而提升 ：机器人芯片加剧LPDDR与HBM的产能争夺，利好HBM供应商 ：低延迟5G/Wi-Fi工厂网络、边缘计算将成为机器人部署的关键使能技术 ：单纯堆叠本地算力的路线经济性较差，需关注其与云端推理供应商的合作模式
：报告假设的"大规模机器人部署"仍需数年甚至十年以上验证，期间架构可能再次迭代 ：工厂/家庭环境的网络稳定性仍是云端卸载方案的最大不确定性，断连场景下的安全性是关键挑战 ：若未来出现极高效的轻量化模型（如1B参数即可达到当前14B效果），本地推理可能重新占优 ：Figure等公司坚持完全本地路线，若其商业化成功，可能证明报告的"级联论"并非唯一最优解 ：报告假设的硅片/内存稀缺格局若大幅缓解（如新产能投放），共享GPU的效率优势将被削弱 ：工厂/家庭图像上传至云端涉及敏感数据合规问题，可能限制部分场景部署
总体总结
主题正文
-
- SemiAnalysis认为，机器人AI推理将不可避免地走向"级联/混合"架构：低层级控制与安全循环在本地Jetson Thor上运行，高层级规划/认知任务卸载到数据中心GPU运行。
- 核心论据包括：(1)前沿机器人模型（如14B参数的WAM）极度消耗FLOPs，边缘芯片Jetson Thor算力仅为B300的1/14，无法满足实时控制需求；
- (3)硅片与DRAM效率：每GPU服务约7台机器人时，共享数据中心GPU比每台机器人搭载芯片更节省硅片与内存；
- (4)TCO对比：一台B300 NVL8服务器（8颗B300）可服务56台机器人，相比56台机器人各自搭载Jetson Thor具有成本优势；
- ：前沿机器人模型虽然参数远小于前沿LLM，但属于负载——尤其是WAM（World Action Model）通过视频扩散生成未来帧来推导动作，单次推理需要多次完整前向传播。
- DreamZero需要2颗GB200才能达到约7Hz，而Jetson Thor只能跑到远低于1Hz。
- ：Jetson Thor已用TSMC N4（与Blackwell同节点），下一代预计与Rubin同用N3，再下一代与Feynman同用N2——直接与数据中心GPU争夺最紧缺产能。
- ：Blackwell毛利率达中-高70%水平，Jetson仅中60%水平，NVIDIA有强烈动机将稀缺晶圆优先分配给数据中心。