✨ Cerebras 的出现,是对底层芯片架构设计的一次 “范式转移”。 🚗 如果说,英伟达的路线是造无数辆顶级跑车,并且修最快的高速公路把它们连起来,那么 C

图片

无图片

正文

✨ Cerebras 的出现,是对底层芯片架构设计的一次 “范式转移”。 🚗 如果说,英伟达的路线是造无数辆顶级跑车,并且修最快的高速公路把它们连起来,那么 Cerebras 的技术路线就是直接造一辆超级高铁,技术路线的变化(重点标黄)如下: 🔹 最明显的差异是一个是晶圆级芯片,一个是晶片级芯片,面积大了接近 30 倍,Cerebras 没有把 12 寸晶圆切成 10 个独立芯片,而是变成了一个巨大的单一处理器。 🔹 最重要解决的痛点是 **“内存墙” 问题 **。目前 AI 训练推理最大的瓶颈不是算力不够,而是数据传输太慢,GPU 原地等待数据,所以英伟达的策略是不断拉高外部的 HBM 的容量和带宽,B 系列 192GB/8TB/s,R 系列 288GB/22TB/s。而 Cerebras 提供了一个解决数据吞吐问题的终极解法,把内存和计算核心放在一个平面上,让内存墙在这个系统里面几乎不复存在,没有 HBM,变成了片上的 SRAM 44GB,内存带宽拉到了 21 PB/s(1 PB = 1024 TB),结果是推理速度是 B200 的 15 倍。

【有道云笔记】【天风海外科技】Cerebras的投资逻辑&上市对板块的影响

总体总结

主题正文

  1. ✨ Cerebras 的出现,是对底层芯片架构设计的一次 “范式转移”。
  2. 🚗 如果说,英伟达的路线是造无数辆顶级跑车,并且修最快的高速公路把它们连起来,那么 Cerebras 的技术路线就是直接造一辆超级高铁,技术路线的变化(重点标黄)如下:
  3. 🔹 最明显的差异是一个是晶圆级芯片,一个是晶片级芯片,面积大了接近 30 倍,Cerebras 没有把 12 寸晶圆切成 10 个独立芯片,而是变成了一个巨大的单一处理器。
  4. 🔹 最重要解决的痛点是 **“内存墙” 问题 **。
  5. 目前 AI 训练推理最大的瓶颈不是算力不够,而是数据传输太慢,GPU 原地等待数据,所以英伟达的策略是不断拉高外部的 HBM 的容量和带宽,B 系列 192GB/8TB/s,R 系列 288GB/22TB/s。
  6. 而 Cerebras 提供了一个解决数据吞吐问题的终极解法,把内存和计算核心放在一个平面上,让内存墙在这个系统里面几乎不复存在,没有 HBM,变成了片上的 SRAM 44GB,内存带宽拉到了 21 PB/s(1 PB = 1024 TB),结果是推理速度是 B200 的 15 倍。
  7. 【有道云笔记】【天风海外科技】Cerebras的投资逻辑&上市对板块的影响