关于Nvidia调整内存配比 1）rubin的机柜从单条192GB内存降为96GB，原因是192GB做agent推理仍然不够，做训练又显得冗余，因此调整为rub

• 序号：010
• 星球链接：打开网页
• 附件：图片 0，音频 0，文档 0
• 音频文件：无音频

图片

无图片

正文

关于Nvidia调整内存配比 1）rubin的机柜从单条192GB内存降为96GB，原因是192GB做agent推理仍然不够，做训练又显得冗余，因此调整为rubin标准机柜只满足训练与普通推理的内存需求。 2）agent推理的内存需求调整为通过Vera的CPU机柜来满足，一个Vera的CPU机柜配备256颗CPU，393TB内存。由客户自己根据业务选择需要配置多少比例的agent推理比例，不在通过rubin nvl72机柜来满足这部门内存需求。 3）CPU机柜与Rubin机柜通过scale out网络连接。 当前不存在内存价格抑制AI需求的趋势，产品调整反而更合理。

总体总结

主题正文

1. 关于Nvidia调整内存配比
2. 1）rubin的机柜从单条192GB内存降为96GB，原因是192GB做agent推理仍然不够，做训练又显得冗余，因此调整为rubin标准机柜只满足训练与普通推理的内存需求。
3. 2）agent推理的内存需求调整为通过Vera的CPU机柜来满足，一个Vera的CPU机柜配备256颗CPU，393TB内存。
4. 由客户自己根据业务选择需要配置多少比例的agent推理比例，不在通过rubin nvl72机柜来满足这部门内存需求。
5. 3）CPU机柜与Rubin机柜通过scale out网络连接。
6. 当前不存在内存价格抑制AI需求的趋势，产品调整反而更合理。