过去 Chat 时代，研究、预训练、后训练的用卡比例大约是 3:5:1，现在合理的比例变成了 3:1:1。预训练和后训练的算力投入已经持平，顶尖团队应该都是 1
- 序号：181
- 星球链接：打开网页
- 附件：图片 1，音频 0，文档 0
- 音频文件：无音频
图片
1525588145581122
正文
过去 Chat 时代，研究、预训练、后训练的用卡比例大约是 3:5:1，现在合理的比例变成了 3:1:1。预训练和后训练的算力投入已经持平，顶尖团队应该都是 1:1 了。这个变化本身就说明了范式转移的剧烈程度。
总体总结
主题正文
- 过去 Chat 时代，研究、预训练、后训练的用卡比例大约是 3:5:1，现在合理的比例变成了 3:1:1。
- 预训练和后训练的算力投入已经持平，顶尖团队应该都是 1:1 了。
- 这个变化本身就说明了范式转移的剧烈程度。