昨晚有个饭局,组织者说有个美国...

图片

无图片

正文

昨晚有个饭局,组织者说有个美国回来探亲的,可以请教一下美国那边 ai 的情况。

然后酒过三巡,大家开始交流。他说收益不错,感觉挺简单的,于是我虚心请教。

“Transformer的注意力机制到底怎么解决长文本依赖的?MoE混合专家模型为什么能省算力?RAG检索增强和Agent智能体哪个才是应用层的未来?多模态对齐里的CLIP和BLIP有啥区别?RLHF人类反馈强化学习具体怎么标注偏好的?还有那个量化感知训练,PTQ和QAT到底选哪个?KV Cache优化、Speculative Decoding、FlashAttention……”

我越说越兴奋,抬头看他。 他眼神开始涣散:呃……我就买的是硬件……

“那HBM高带宽内存的堆叠工艺呢?CoWoS先进封装的产能瓶颈?光模块CPO和传统可插拔的区别?液冷散热里的冷板式和浸没式哪个是主流?”

……我只知道需求很大,很景气……

我看着他,突然很怜悯他。

他失去了在深夜因搞不清GQA和MQA而失眠的权利,失去了被MLOps折磨到脱发的资格,失去了在论坛和人争论FP8和FP4哪个才是未来时那种智识上的高潮。

他失去了被技术革命碾压的痛感,失去了面对技术指数级变化时那种“学不完了”的绝望,失去了在知识海洋里快要溺死却还在拼命扑腾的那种活着的感觉。

他只是单纯的赚了钱。账户里那个不断跳动的数字,冰冷,空洞,毫无意义。

我最终还是没有忍住,感慨到“去东方财富开个 a 股账户吧”……

他说为什么?

我说,不想看到你像个废人一样……

真的很怜悯他,有时候得到,又何尝不是一种失去呢。(转)

详情页仍未获取到全文。原始列表正文可能被截断。

总体总结

主题正文

  1. 昨晚有个饭局,组织者说有个美国回来探亲的,可以请教一下美国那边 ai 的情况。
  2. “Transformer的注意力机制到底怎么解决长文本依赖的?
  3. RAG检索增强和Agent智能体哪个才是应用层的未来?
  4. 还有那个量化感知训练,PTQ和QAT到底选哪个?
  5. KV Cache优化、Speculative Decoding、FlashAttention……”
  6. 他失去了在深夜因搞不清GQA和MQA而失眠的权利,失去了被MLOps折磨到脱发的资格,失去了在论坛和人争论FP8和FP4哪个才是未来时那种智识上的高潮。
  7. 他失去了被技术革命碾压的痛感,失去了面对技术指数级变化时那种“学不完了”的绝望,失去了在知识海洋里快要溺死却还在拼命扑腾的那种活着的感觉。
  8. 我最终还是没有忍住,感慨到“去东方财富开个 a 股账户吧”……