- SemiAnalysis认为,机器人硬件约束(实时性、单位成本)优先于模型能力,导致机器人模型规模远小于前沿LLM(目前仅数十亿参数)。规划层(100Hz)
- 序号:366
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
- SemiAnalysis认为,机器人硬件约束(实时性、单位成本)优先于模型能力,导致机器人模型规模远小于前沿LLM(目前仅数十亿参数)。规划层(100Hz)必须留在本体。硅片与DRAM效率显示:超过约7台机器人共享1颗GPU时,集群推理更省wafer和DRAM。TCO分析表明,B300卸载场景在工业利用率下成本仅为Jetson Thor端侧的约46%,仅当GPU利用率极低且端侧利用率极高时才反超。行业出现分化:Boston Dynamics将推理层(System 2)卸载到Google TPU,Agility、Verne、Sunday、Weave则坚持端侧推理。报告认为'网络墙'是阻碍端外推理普及的最大瓶颈,并提出四项高杠杆解法:机器人感知的上行调度、定位感知波束赋形、集中式时钟同步、多链路并行。
SemiAnalysis 这篇报告回答了一个看似简单却关乎整个机器人产业经济性的核心问题:**机器人的"大脑"到底应该放在哪里?**是放在机器人本体上(端侧推理),还是放在数据中心里通过无线网络调用(云端推理)? 报告给出的核心结论是: :硬件约束(延迟、功耗、单位成本)先于模型规模,导致机器人模型被限制在数十亿参数级别,远小于万亿参数的LLM。 :频率>100Hz的动作/伺服层必须留在机器人本体(无线往返延迟本身就吃光预算),频率:硅片效率在每颗GPU服务≥7台机器人时反超端侧,TCO在工业利用率下仅为Jetson Thor端侧的约46%。 :Boston Dynamics把推理层(System 2)放在Google TPU上,是少数明确押注云端的公司;Agility、Verne、Sunday、Weave等则坚持端侧为主。 ,并提出四项高杠杆工程方案来翻越它。
一、为什么机器人模型比LLM小那么多? 维度LLM机器人 约束顺序 模型优先,硬件适配 硬件优先,模型裁剪 实时性 慢一点无所谓 错过deadline即动作失效 成本承担方 用户按调用付费 厂商每台预付硬件成本 当前模型规模 万亿参数级别 数十亿参数级别 当前主流通用机器人模型规模: Physical Intelligence π0:约30亿参数 π0.7:50亿参数 字节GR-3:40亿参数 Generalist:约100亿参数 NVIDIA DreamZero:140亿参数(需2颗GB200) NVIDIA 的 RoboTTT(30亿参数)反其道而行,用测试时训练(TTT)替代视频扩散,将可部署的模型压回端侧可行范围。 二、层级拆解:哪些可以上云? 报告把机器人模型拆成三层,对应不同的实时性需求: :10ms内必须出下一帧输出,光无线往返延迟(10–50ms)就吃光预算。。 :同样吃紧。 :5Hz对应200ms决策窗口,10–50ms的往返延迟可接受。。 真正的瓶颈不是平均延迟(latency),而是。固定延迟可被规划吸收,抖动则使机器人永远不知道下一次更新何时到达。 三、硅片与DRAM效率:共享GPU何时反超? : 100万台Jetson级芯片(2030年预测),每颗~400mm²,全年仅约1万片wafer,相对于数据中心GPU需求是零头 ,超过这个比例,集群推理更省wafer : Jetson Thor已用128GB LPDDR5X,且每代递增 增量DRAM产能被HBM抢光,留给机器人端侧的LPDDR池子越来越小
四、TCO对比:B300云端 vs Jetson Thor端侧 基于 NVIDIA RoboTTT 重建模型的benchmark(500ms chunk deadline,p99): :每GPU服务12台机器人 :每GPU服务4台机器人 96台机器人部署的三种方案: 方案资本支出总TCOTCO/PFLOP(按利用率前) B300卸载 ~$554K $18.63/hr $0.15/hr/PFLOP RTX 6000 Pro卸载 ~$436K $15.61/hr $0.39/hr/PFLOP Jetson Thor端侧 ~$394K $14.97/hr $0.16/hr/PFLOP : B300服务器(共享池化)通常可达~90%利用率 端侧Jetson Thor在家用场景仅4–8%利用率,工业约40% 考虑利用率后: :B300卸载TCO/PFLOP = $0.17,仅为Jetson Thor端侧($0.37)的 :B300卸载TCO/PFLOP仅为端侧的 仅当云端GPU利用率长期极低、端侧利用率长期极高时才会发生。报告结论:卸载推理是"令人信服的方案",唯一的例外是极小规模部署(单台本地服务器长时间闲置)。 五、产业阵营分化 公司部署策略核心推理位置
System 1端侧 + System 2云端(Google TPU)
主体端侧,云端做编排/遥操/数据上传
全部端侧(Jetson或RTX 50系列)
完全端侧(ACT-2起切换)
端侧推理,但视觉/本体数据上行训练
,System 2 估计达数千亿参数规模,必须借助Google的Gemini Robotics ER模型(基于Gemini 3.5 Flash)。 它每几秒到每十秒调用一次System 2,监督System 1的执行进度,并在某些任务中达到每秒1–2次。System 2还承担"翻译"工作:把工厂MES的"放到5号库位"翻译成System 1能理解的"拿起罐头放到带绿点的箱子里"。
:工厂金属多路径干扰、家用WiFi死区/邻居干扰/Starlink遮挡 :动态平衡双足机器人在断电时可能跌倒,工业法规要求物理围栏隔离 :Agility明确表示不希望客户改造网络 :每台机器人本质是工厂车间的视频流出口 六、网络墙(The Network Wall) 报告认为阻碍端外推理的最大障碍是网络,并提出:
:金属外壳、运动、电机EMI都影响信号;姿态变化改变天线位置 :现有WiFi/5G基础设施为下行设计,机器人却需要持续上行 :房屋结构、工厂金属货架、移动设备每天都在改变RF条件
:AP要为机器人预留固定时隙(类似Admission Control),模型决定流量、流量决定调度 :AP要知道每个机器人在哪、去哪,提前调度而非被动响应 :全场一个时钟源,机器人之间亚毫秒级时间同步——这是批处理经济性的前提 :WiFi 6E/6GHz + 5G双链路冗余 : AP位置经过RF勘测,而非凭感觉 主板端需要4×4上行MIMO(消费级多为1–2流) 共享时钟意味着感知、编码、传输必须在同一节拍
本报告为,而非个股研究,因此不涉及具体公司估值或买卖评级。 报告隐含的对的洞察值得关注: 当前NVIDIA加速器产出几乎全是数据中心芯片(Hopper→Blackwell),Jetson仅是薄薄的红条 ,激励NVIDIA把先进产能给数据中心 机器人硅片(Thor N4 → 后代N3/N2)与AI加速器争夺同一晶圆产能,但机器人总wafer需求仅~1万片/年,相对于数据中心是舍入误差 ——这正是云端推理经济学的主战场
:如果WiFi/5G/6G基础设施在机器人友好特性上快速演进,端外推理渗透率可能比报告预期的更快 :如果类似RoboTTT的TTT类方法让30亿参数模型就能达到工厂级智能,端侧推理可能成为长期主流,云端卸载沦为过渡方案 :B300的TCO优势建立在GPU能买到且价格合理的前提下;如果Blackwell/Rubin长期缺货或涨价,云端TCO可能反超 :尤其在军工、核能、跨境场景,云端推理的合规障碍可能永远无法消除 :报告假设的端侧功耗(Jetson Thor 40–130W)若因模型需求被迫上探到数据中心级(1.2–1.4kW),端侧方案的整个成本结构崩塌 :家用机器人4–5小时/天的利用率假设取决于任务复杂度与粘性;如果市场实际偏短期高频(如陪伴),利用率结构会改变TCO对比 :报告统一使用同一WACC比较,但端侧部署的早期机器人公司多为股权融资,WACC可能显著高于自建数据中心的neocloud企业,这会进一步压低端侧方案的实际TCO优势
总体总结
主题正文
- TCO分析表明,B300卸载场景在工业利用率下成本仅为Jetson Thor端侧的约46%,仅当GPU利用率极低且端侧利用率极高时才反超。
- 行业出现分化:Boston Dynamics将推理层(System 2)卸载到Google TPU,Agility、Verne、Sunday、Weave则坚持端侧推理。
- SemiAnalysis 这篇报告回答了一个看似简单却关乎整个机器人产业经济性的核心问题:**机器人的"大脑"到底应该放在哪里?
- :频率>100Hz的动作/伺服层必须留在机器人本体(无线往返延迟本身就吃光预算),频率:硅片效率在每颗GPU服务≥7台机器人时反超端侧,TCO在工业利用率下仅为Jetson Thor端侧的约46%。
- ,System 2 估计达数千亿参数规模,必须借助Google的Gemini Robotics ER模型(基于Gemini 3.5 Flash)。
- 机器人硅片(Thor N4 → 后代N3/N2)与AI加速器争夺同一晶圆产能,但机器人总wafer需求仅~1万片/年,相对于数据中心是舍入误差
- :报告假设的端侧功耗(Jetson Thor 40–130W)若因模型需求被迫上探到数据中心级(1.2–1.4kW),端侧方案的整个成本结构崩塌
- :报告统一使用同一WACC比较,但端侧部署的早期机器人公司多为股权融资,WACC可能显著高于自建数据中心的neocloud企业,这会进一步压低端侧方案的实际TCO优势