📝 🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完全不同。 🧑💻 🔗 一口气可进行大模型训练，最大规模还可进
- 序号：045
- 星球链接：打开网页
- 附件：图片 2，音频 0，文档 0
- 音频文件：无音频
图片
8858811542114852
5121188245884484
正文
📝
🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完全不同。 🧑💻 🔗 一口气可进行大模型训练，最大规模还可进一步扩展至。 🔢 首次支持，在同等算力规模下，运算速度实现。 💾 存储读取速度相比上一代产品，彻底解决芯片等待数据传输的核心痛点，实现数据与计算的高效匹配。 ⚡ 📦 芯片内部集成了，在 AI 对话等实时交互场景中，无需反复远距离调取数据，显著提升响应速度。 🆕 新增，让多颗芯片协同工作时，彼此间的等待时间，大幅提升集群协作效率。 🚀 🔄 将传统的 “邻居串门” 式互联拓扑，升级为模式。 🔍 针对 MoE 模型，每个 token 可能需要调用任意专家模块，不再需要逐跳跳转，最多即可到达任意芯片，传输效率。 💡 核心突破并非单纯算力提升，而是—— 训练芯片（8t）采用 Torus 架构追求极致规模，推理芯片（8i）则通过 Boardfly 架构 + 同步加速器 + 大容量 SRAM，专攻低延迟需求。 🔗 MoE 模型改变了传统通信模式，推理集群全面采用技术。 🔦 💻 推理芯片的 “全员直连” 互联，核心依赖。 ⚡ 光路交换机直接通过进行连接切换，无需电信号转换，实现传输。 📈 此前光路交换机仅在训练集群使用，如今推理集群也全面部署，直接推动。 📊 📈 训练，推理，整体能效实现。 💾 存储访问速度，片上缓存容量，多芯片协作等待时间。 🔗 芯片间互联带宽，数据中心骨干网带宽最高。 🔄 全互联通信跳数从 16 跳，减少
，最大可连接芯片。 ⚠️ 💼 若谷歌对外售卖 TPU，将对英伟达形成，但真正威胁并非来自 TPU 产品本身。 🎯 核心威胁是，将被行业广泛采用。 📊 行业共识显示，，若推理市场被自研 ASIC 芯片逐步蚕食，英伟达的。 📉 1️⃣ 纷纷开启自研芯片布局，达子（高端芯片）的，不再是唯一核心选择。 2️⃣ 迎来发展机遇，芯原和翱捷（刚成立子公司）将迎来业务发展的。 🏭 🔗 推理芯片的 OCS 全互联技术，直接利好，其中是核心受益标的。 🔧 OCS 核心部件为，天孚通信负责微镜的封装与光纤耦合工艺。 📡 为天孚通信，OCS 的每个端口均需配备该部件。 📢 📈 公司，并，其核心客户即为等全球顶尖科技企业。 📊 公司 1.6T 光引擎已处于，目前因暂未达到预期产量，正积极协调供应商，。 🎯 📌 腾景、赛微、光库等企业，同样具备，将同步分享行业发展红利。
总体总结
主题正文
- 🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完全不同。
- 💾 存储读取速度相比上一代产品，彻底解决芯片等待数据传输的核心痛点，实现数据与计算的高效匹配。
- 🔍 针对 MoE 模型，每个 token 可能需要调用任意专家模块，不再需要逐跳跳转，最多即可到达任意芯片，传输效率。
- 💡 核心突破并非单纯算力提升，而是—— 训练芯片（8t）采用 Torus 架构追求极致规模，推理芯片（8i）则通过 Boardfly 架构 + 同步加速器 + 大容量 SRAM，专攻低延迟需求。
- 1️⃣ 纷纷开启自研芯片布局，达子（高端芯片）的，不再是唯一核心选择。
- 🔗 推理芯片的 OCS 全互联技术，直接利好，其中是核心受益标的。
- 🔧 OCS 核心部件为，天孚通信负责微镜的封装与光纤耦合工艺。
- 📈 公司，并，其核心客户即为等全球顶尖科技企业。