【东方通信-半导体】9.6周观点：AI硬件网络的第一性原理 1、模型越大、所需硬件网络越大、模型效果越好（scaling law）。GPT-6 Astra采用1
- 序号：045
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
【东方通信-半导体】9.6周观点：AI硬件网络的第一性原理
1、模型越大、所需硬件网络越大、模型效果越好（scaling law）。GPT-6 Astra采用10万张GPU训练10万亿参数规模，获得SOTA的模型能力，scaling law的法则仍在延续。预计2027年底将有30-50万亿参数规模的模型发布，将需要更大规模更低延时的硬件网络。
2、以晶体管为核心的电芯片 和 以光纤为核心的通信网络 需要发生至少一次的光电转换（cpo/oio离晶体管最近）。EUV单次曝光尺寸固定（26x33mm）、晶体管密度受制程制约、封装尺寸受材料与热制约，这些物理与工程问题限制单颗chip的性能极限，要训练大模型必须要组网。铜的物理极限导致在大规模组网中须以光纤为传输介质。因此，在AI硬件大规模网络中，GPU与光纤网络之间必须至少发生一次光电转换，光引擎的物理位置离GPU越近，损耗越小。必须要发生的光电转换，最好发生在GPU的IO处，即CPO/OIO
总体总结
主题正文
- 【东方通信-半导体】9.6周观点：AI硬件网络的第一性原理
- 1、模型越大、所需硬件网络越大、模型效果越好（scaling law）。
- GPT-6 Astra采用10万张GPU训练10万亿参数规模，获得SOTA的模型能力，scaling law的法则仍在延续。
- 预计2027年底将有30-50万亿参数规模的模型发布，将需要更大规模更低延时的硬件网络。
- 2、以晶体管为核心的电芯片 和 以光纤为核心的通信网络 需要发生至少一次的光电转换（cpo/oio离晶体管最近）。
- EUV单次曝光尺寸固定（26x33mm）、晶体管密度受制程制约、封装尺寸受材料与热制约，这些物理与工程问题限制单颗chip的性能极限，要训练大模型必须要组网。
- 因此，在AI硬件大规模网络中，GPU与光纤网络之间必须至少发生一次光电转换，光引擎的物理位置离GPU越近，损耗越小。
- 必须要发生的光电转换，最好发生在GPU的IO处，即CPO/OIO