请各位领导高度重视npo未来1-3年的爆发力。 当前最顶级模型参数已经干到10万亿级别,后续甚至要向50万亿参数发展。在如此大参数的情况下,单一计算节点(机柜)
- 序号:482
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
请各位领导高度重视npo未来1-3年的爆发力。
当前最顶级模型参数已经干到10万亿级别,后续甚至要向50万亿参数发展。在如此大参数的情况下,单一计算节点(机柜)能力不够,不仅训练受到影响,推理上甚至也很难部署如此参数体量的前沿大模型,芯片公司和csp正在迫切想办法在scale-up上提高能力。
从路径选择上,谷歌主要靠独特的网络架构,实现了单pod包含了9216张tpu,著名的claude mythos便是基于最新一代谷歌tpu训练而成。
除谷歌外,其他芯片公司及csp的主要选择有npo和cpo,cpo目前面临cowos、良率问题、供应链、客户接受度等一系列问题,尽管此前英伟达连续两年gtc大会主推,但现实问题至今仍未解决,cpo放量节奏一直在推迟。
npo方案兼顾了cpo和可插拔的优点,且供应链稳定靠谱,尤其是在当前前沿模型scaling law加速的背景下,scale up势在必行,我们预计npo将成为未来1-3年最主要的方案,目前已经有数家csp给出了npo的具体指引,结合我们与产业链的沟通情况,某芯片客户也将选择npo以满足客户需求。
npo最大的能力体现在硅光pic上,首先得具备硅光pic芯片设计能力,其次能拿到头部的硅光pic产能,npo在光源上主要用100mw的cw光源,并不需要像cpo一样使用良率和产能都有极大限制的400mw高功率cw光源。
因此,受益标的上,首先便是最头部的两家龙头光模块厂商,作为几乎所有客户的供应商,其npo方案先发优势明显,且均具备硅光pic设计能咯和拿产能的能力。其次的话是cw光源厂商有望跟随头部模块厂进入北美客户。最后是npo相关配套无源器件等。
核心推荐:中际旭创、新易盛、天孚通信、源杰科技等。
请多支持国盛通信团队[抱拳]
总体总结
主题正文
- 当前最顶级模型参数已经干到10万亿级别,后续甚至要向50万亿参数发展。
- 在如此大参数的情况下,单一计算节点(机柜)能力不够,不仅训练受到影响,推理上甚至也很难部署如此参数体量的前沿大模型,芯片公司和csp正在迫切想办法在scale-up上提高能力。
- 从路径选择上,谷歌主要靠独特的网络架构,实现了单pod包含了9216张tpu,著名的claude mythos便是基于最新一代谷歌tpu训练而成。
- 除谷歌外,其他芯片公司及csp的主要选择有npo和cpo,cpo目前面临cowos、良率问题、供应链、客户接受度等一系列问题,尽管此前英伟达连续两年gtc大会主推,但现实问题至今仍未解决,cpo放量节奏一直在推迟。
- npo方案兼顾了cpo和可插拔的优点,且供应链稳定靠谱,尤其是在当前前沿模型scaling law加速的背景下,scale up势在必行,我们预计npo将成为未来1-3年最主要的方案,目前已经有数家csp给出了npo的具体指引,结合我们与产业链的沟通情况,某芯片客户也将选择npo以满足客户需求。
- npo最大的能力体现在硅光pic上,首先得具备硅光pic芯片设计能力,其次能拿到头部的硅光pic产能,npo在光源上主要用100mw的cw光源,并不需要像cpo一样使用良率和产能都有极大限制的400mw高功率cw光源。
- 因此,受益标的上,首先便是最头部的两家龙头光模块厂商,作为几乎所有客户的供应商,其npo方案先发优势明显,且均具备硅光pic设计能咯和拿产能的能力。
- 核心推荐:中际旭创、新易盛、天孚通信、源杰科技等。