---
title: "📝 🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完全不同。 🧑‍💻 🔗 一口气可进行大模型训练，最大规模还可进"
topic_id: 14422555218248182
created_at: 2026-04-22T22:21:23.589+0800
source: zsxq
type: topic
cssclasses: zsxq-vault
---

# 📝 🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完全不同。 🧑‍💻 🔗 一口气可进行大模型训练，最大规模还可进

- 序号：045
- 星球链接：[打开网页](https://wx.zsxq.com/group/15522451881222/topic/14422555218248182)
- 附件：图片 2，音频 0，文档 0
- 音频文件：_无音频_

## 图片

### 8858811542114852

![[assets/images/260422_2221_📝 🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完__8858811542114852.jpg|1200]]

### 5121188245884484

![[assets/images/260422_2221_📝 🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完__5121188245884484.jpg|1200]]

## 正文

📝 

🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完全不同。
🧑‍💻 
🔗 一口气可进行大模型训练，最大规模还可进一步扩展至。
🔢 首次支持，在同等算力规模下，运算速度实现。
💾 存储读取速度相比上一代产品，彻底解决芯片等待数据传输的核心痛点，实现数据与计算的高效匹配。
⚡ 
📦 芯片内部集成了，在 AI 对话等实时交互场景中，无需反复远距离调取数据，显著提升响应速度。
🆕 新增，让多颗芯片协同工作时，彼此间的等待时间，大幅提升集群协作效率。
🚀 
🔄 将传统的 “邻居串门” 式互联拓扑，升级为模式。
🔍 针对 MoE 模型，每个 token 可能需要调用任意专家模块，不再需要逐跳跳转，最多即可到达任意芯片，传输效率。
💡 核心突破并非单纯算力提升，而是—— 训练芯片（8t）采用 Torus 架构追求极致规模，推理芯片（8i）则通过 Boardfly 架构 + 同步加速器 + 大容量 SRAM，专攻低延迟需求。
🔗 MoE 模型改变了传统通信模式，推理集群全面采用技术。
🔦 
💻 推理芯片的 “全员直连” 互联，核心依赖。
⚡ 光路交换机直接通过进行连接切换，无需电信号转换，实现传输。
📈 此前光路交换机仅在训练集群使用，如今推理集群也全面部署，直接推动。
📊 
📈 训练，推理，整体能效实现。
💾 存储访问速度，片上缓存容量，多芯片协作等待时间。
🔗 芯片间互联带宽，数据中心骨干网带宽最高。
🔄 全互联通信跳数从 16 跳，减少

，最大可连接芯片。
⚠️ 
💼 若谷歌对外售卖 TPU，将对英伟达形成，但真正威胁并非来自 TPU 产品本身。
🎯 核心威胁是，将被行业广泛采用。
📊 行业共识显示，，若推理市场被自研 ASIC 芯片逐步蚕食，英伟达的。
📉 
1️⃣ 纷纷开启自研芯片布局，达子（高端芯片）的，不再是唯一核心选择。
2️⃣ 迎来发展机遇，芯原和翱捷（刚成立子公司）将迎来业务发展的。
🏭 
🔗 推理芯片的 OCS 全互联技术，直接利好，其中是核心受益标的。
🔧 OCS 核心部件为，天孚通信负责微镜的封装与光纤耦合工艺。
📡 为天孚通信，OCS 的每个端口均需配备该部件。
📢 
📈 公司，并，其核心客户即为等全球顶尖科技企业。
📊 公司 1.6T 光引擎已处于，目前因暂未达到预期产量，正积极协调供应商，。
🎯 
📌 腾景、赛微、光库等企业，同样具备，将同步分享行业发展红利。

## 总体总结

主题正文
1. 🪓 ，一块专门用于训练大模型，一块专门用于运行推理，因为这两项任务所需的硬件架构和核心需求已经完全不同。
2. 💾 存储读取速度相比上一代产品，彻底解决芯片等待数据传输的核心痛点，实现数据与计算的高效匹配。
3. 🔍 针对 MoE 模型，每个 token 可能需要调用任意专家模块，不再需要逐跳跳转，最多即可到达任意芯片，传输效率。
4. 💡 核心突破并非单纯算力提升，而是—— 训练芯片（8t）采用 Torus 架构追求极致规模，推理芯片（8i）则通过 Boardfly 架构 + 同步加速器 + 大容量 SRAM，专攻低延迟需求。
5. 1️⃣ 纷纷开启自研芯片布局，达子（高端芯片）的，不再是唯一核心选择。
6. 🔗 推理芯片的 OCS 全互联技术，直接利好，其中是核心受益标的。
7. 🔧 OCS 核心部件为，天孚通信负责微镜的封装与光纤耦合工艺。
8. 📈 公司，并，其核心客户即为等全球顶尖科技企业。