✨ Cerebras 的出现,是对底层芯片架构设计的一次 “范式转移”。 🚗 如果说,英伟达的路线是造无数辆顶级跑车,并且修最快的高速公路把它们连起来,那么 C
- 序号:235
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
✨ Cerebras 的出现,是对底层芯片架构设计的一次 “范式转移”。 🚗 如果说,英伟达的路线是造无数辆顶级跑车,并且修最快的高速公路把它们连起来,那么 Cerebras 的技术路线就是直接造一辆超级高铁,技术路线的变化(重点标黄)如下: 🔹 最明显的差异是一个是晶圆级芯片,一个是晶片级芯片,面积大了接近 30 倍,Cerebras 没有把 12 寸晶圆切成 10 个独立芯片,而是变成了一个巨大的单一处理器。 🔹 最重要解决的痛点是 **“内存墙” 问题 **。目前 AI 训练推理最大的瓶颈不是算力不够,而是数据传输太慢,GPU 原地等待数据,所以英伟达的策略是不断拉高外部的 HBM 的容量和带宽,B 系列 192GB/8TB/s,R 系列 288GB/22TB/s。而 Cerebras 提供了一个解决数据吞吐问题的终极解法,把内存和计算核心放在一个平面上,让内存墙在这个系统里面几乎不复存在,没有 HBM,变成了片上的 SRAM 44GB,内存带宽拉到了 21 PB/s(1 PB = 1024 TB),结果是推理速度是 B200 的 15 倍。
【有道云笔记】【天风海外科技】Cerebras的投资逻辑&上市对板块的影响
总体总结
主题正文
- ✨ Cerebras 的出现,是对底层芯片架构设计的一次 “范式转移”。
- 🚗 如果说,英伟达的路线是造无数辆顶级跑车,并且修最快的高速公路把它们连起来,那么 Cerebras 的技术路线就是直接造一辆超级高铁,技术路线的变化(重点标黄)如下:
- 🔹 最明显的差异是一个是晶圆级芯片,一个是晶片级芯片,面积大了接近 30 倍,Cerebras 没有把 12 寸晶圆切成 10 个独立芯片,而是变成了一个巨大的单一处理器。
- 🔹 最重要解决的痛点是 **“内存墙” 问题 **。
- 目前 AI 训练推理最大的瓶颈不是算力不够,而是数据传输太慢,GPU 原地等待数据,所以英伟达的策略是不断拉高外部的 HBM 的容量和带宽,B 系列 192GB/8TB/s,R 系列 288GB/22TB/s。
- 而 Cerebras 提供了一个解决数据吞吐问题的终极解法,把内存和计算核心放在一个平面上,让内存墙在这个系统里面几乎不复存在,没有 HBM,变成了片上的 SRAM 44GB,内存带宽拉到了 21 PB/s(1 PB = 1024 TB),结果是推理速度是 B200 的 15 倍。
- 【有道云笔记】【天风海外科技】Cerebras的投资逻辑&上市对板块的影响