- UBS参加Santa Clara AI基础设施峰会后形成三大核心观点:1)英伟达(NVDA)的灵活性和系统级专业能力被市场低估,市场过度关注单一计算架构(A
- 序号:077
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
- UBS参加Santa Clara AI基础设施峰会后形成三大核心观点:1)英伟达(NVDA)的灵活性和系统级专业能力被市场低估,市场过度关注单一计算架构(ASIC、快速推理等);2)内存仍是最大瓶颈且未有好转迹象;3)AI正在加速计算设计周期,帮助超大规模厂商更快推广ASIC方案。报告还指出,推理需求依然旺盛但计算运营商面临的优化问题日趋复杂,内存带宽/容量和存储成为关键瓶颈;网络对推理的重要性日益提升,ESUN凭借更短报文头解决了以太网延迟问题,被视为可行的scale-up替代方案;CXL技术正在兴起,可用于在最新DDR5 CPU上扩展DDR4内存的使用寿命。
UBS半导体分析师Timothy Arcuri参加了在Santa Clara会展中心举办的AI基础设施峰会,与各大AI公司的工程师和高管深入交流后,形成了以下三大核心观点: :市场过度聚焦于单一计算架构(如ASIC、快速推理芯片等),而忽视了英伟达在系统层面的灵活性与专业能力优势。 :内存带宽和容量问题未有好转,已成为制约AI基础设施性能提升的关键短板。 :AI工具帮助超大规模云厂商更快地完成ASIC芯片的设计与部署,但。
一、推理需求旺盛,但优化难题日益复杂 报告指出,推理(Inference)需求仍然难以满足,但。他们需要在以下两方面取得平衡: ,特别是降低单token成本 ,以应对数年后可能截然不同的工作负载 这种""在峰会上被反复提及,UBS认为这正在成为AI基础设施设计中越来越重要的考量因素。同时,Cerebras(CBRS)、SambaNova、Etched等新兴厂商的解决方案也日益受到关注。 二、优化重心向系统层面迁移 工程师们不再简单地追求"增加更多算力",而是将焦点转向: ——越来越成为瓶颈 ——系统整体协调性比单纯堆叠加速器更重要 UBS指出,""。峰会上的"内存墙"(Memory Wall)主题被多次讨论,解决方案涵盖: 提升scale-up网络吞吐量/降低延迟 采用新型计算架构 三、网络对推理的重要性显著提升 随着推理工作负载变得更加分布式且对延迟更加敏感,。更好的网络驱动更高的加速器利用率,最终降低单token成本。 UBS在峰会上的关键观察包括: 网络方案定位与评价
通过更短的报文头(header)解决了以太网的历史延迟短板,被视为可行的scale-up替代方案,同时保留了以太网的生态系统和可靠性优势
被认为是最成熟、最可靠的非以太网方案
新兴替代方案,Google工程师表示GCP正在评估UALink用于特定延迟敏感的推理工作负载,但UBS认为初期部署规模较小 关键判断:,scale-up市场越来越不像"赢者通吃"的格局。几乎所有人都愿意尝试多种协议。 四、CXL技术延长DDR4使用寿命 在峰会的多个分论坛上,超大规模云厂商讨论了。Meta在一次会议中提到: 目前 ……(文本在引用UBS量化研究报告时被截断,但暗示内存瓶颈比例非常高) 这一趋势表明,成为超大规模云厂商降低总体拥有成本(TCO)的重要手段。
本报告为(Event Takeaways),并未直接给出特定公司的评级变动或目标价调整。但从报告内容可推断以下投资逻辑: :UBS暗示其系统级能力和灵活性被市场低估,态度偏积极 :AI加速设计周期对ASIC推广有利,但替代时间表仍不确定 (CBRS、SambaNova、Etched):在推理市场获得更多关注 :多协议并行的趋势意味着竞争格局更加开放
:若超大规模云厂商的内部ASIC芯片发展速度超预期,可能加速对英伟达GPU的替代,对NVDA市场份额构成压力。 :若HBM、DDR5等内存供给持续紧张或价格高企,将进一步制约AI基础设施部署规模和经济效益。 :多协议并行虽然降低单一供应商风险,但也可能导致生态碎片化,增加系统集成复杂度和成本。 :Cerebras、SambaNova、Etched等新兴架构若在特定推理场景取得突破,可能改变现有市场格局。 :峰会信息为定性观察,具体数据点和客户反馈需后续验证,部分结论(如UALink初期部署规模)仍存在不确定性。 :AI基础设施建设受宏观经济周期、地缘政治(尤其是对华芯片出口管制)和电力供应等多重外部因素影响。
总体总结
主题正文
-
- UBS参加Santa Clara AI基础设施峰会后形成三大核心观点:1)英伟达(NVDA)的灵活性和系统级专业能力被市场低估,市场过度关注单一计算架构(ASIC、快速推理等);
- UBS半导体分析师Timothy Arcuri参加了在Santa Clara会展中心举办的AI基础设施峰会,与各大AI公司的工程师和高管深入交流后,形成了以下三大核心观点:
- 同时,Cerebras(CBRS)、SambaNova、Etched等新兴厂商的解决方案也日益受到关注。
- 通过更短的报文头(header)解决了以太网的历史延迟短板,被视为可行的scale-up替代方案,同时保留了以太网的生态系统和可靠性优势
- :若HBM、DDR5等内存供给持续紧张或价格高企,将进一步制约AI基础设施部署规模和经济效益。
- :多协议并行虽然降低单一供应商风险,但也可能导致生态碎片化,增加系统集成复杂度和成本。
- :峰会信息为定性观察,具体数据点和客户反馈需后续验证,部分结论(如UALink初期部署规模)仍存在不确定性。
- :AI基础设施建设受宏观经济周期、地缘政治(尤其是对华芯片出口管制)和电力供应等多重外部因素影响。