【GLMS机械】Token经济学下最近的反思,看对/看错的地方 260707: 基本面应该还是对的: 1.鬼故事很多,还是回归基本原理。目前市场期待的高速ARR

图片

无图片

正文

【GLMS机械】Token经济学下最近的反思,看对/看错的地方 260707:

基本面应该还是对的:

1.鬼故事很多,还是回归基本原理。目前市场期待的高速ARR背后的推手确实是Agent模式带来的推理Token增长:这个逻辑下存>光>GPU产业链,原理如下:

主流方案目前是降低模型参数权重+提高推理循环次数(记为k次),降低模型权重对HBM的负载,全堆到了循环k次后的KVcache链。简单说:笨脑子(小参数模型)多做几次(k提升)准确率也能大幅提升,还便宜。

所以算力的Capex权重上,Decoding阶段最吃kVcache的HBM带宽>GPU的需求(GPU需求和模型参数更挂钩)

而对于光,由于模型参数权重可以调小,逻辑上单推理任务更有机会压缩到机柜内(光负责机柜间搬运kVcache),那柜外光的需求权重<HBM带宽。最终报表体现存储财报最好,所以我们推了存储的上游【半导体设备+气体】

看错的是交易部分:

市场比想的要脆弱,跳过了中间筛选比较分化的环节(比如半导体/存储强势,但是也跌),直接交易Ai叙事的反面(Token经济学的悲观叙事)

逻辑上既然能推导出来目前Token贵+这个背景下Token扩充场景比较难,还是依赖Coding,就直接交易了哪怕存储涨价,也是倒逼用户缩减Capex,而不是去顺价。

所以所有涨价线近期回调都最大(哪怕你是【存储上游气体】),扩产线相对更好【半导体设备】,但是整体还是有分歧。

结论:现在市场彻底高度一致了。我们很早就提了,只用看P厂商还是否愿意买单,是买单推理,还是也会同步买单继续训练更大参数模型。最早就是7.22谷歌财报

如果买单更大参数训练模型,对全产业链利好。如果只是在推理侧继续卷Agent。目前还是存储/半导体最硬

总体总结

主题正文

  1. 【GLMS机械】Token经济学下最近的反思,看对/看错的地方 260707:
  2. 目前市场期待的高速ARR背后的推手确实是Agent模式带来的推理Token增长:这个逻辑下存>光>GPU产业链,原理如下:
  3. 主流方案目前是降低模型参数权重+提高推理循环次数(记为k次),降低模型权重对HBM的负载,全堆到了循环k次后的KVcache链。
  4. 所以算力的Capex权重上,Decoding阶段最吃kVcache的HBM带宽>GPU的需求(GPU需求和模型参数更挂钩)
  5. 而对于光,由于模型参数权重可以调小,逻辑上单推理任务更有机会压缩到机柜内(光负责机柜间搬运kVcache),那柜外光的需求权重<HBM带宽。
  6. 市场比想的要脆弱,跳过了中间筛选比较分化的环节(比如半导体/存储强势,但是也跌),直接交易Ai叙事的反面(Token经济学的悲观叙事)
  7. 逻辑上既然能推导出来目前Token贵+这个背景下Token扩充场景比较难,还是依赖Coding,就直接交易了哪怕存储涨价,也是倒逼用户缩减Capex,而不是去顺价。
  8. 所以所有涨价线近期回调都最大(哪怕你是【存储上游气体】),扩产线相对更好【半导体设备】,但是整体还是有分歧。