字节正在预训练一款最高可达10万亿参数的大模型,规模是月之暗面Kimi K3 的3倍;对标Anthropic的Mythos系列(行业估Mythos5约8万亿参数
- 序号：089
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
字节正在预训练一款最高可达10万亿参数的大模型,规模是月之暗面Kimi K3 的3倍;对标Anthropic的Mythos系列(行业估Mythos5约8万亿参数, Fable5约5万亿)。 项目处于预训练早期阶段,预训练一般耗时3-6个月,后续还要微调才会发布,最终参数量尚未敲定。
总体总结
主题正文
- 字节正在预训练一款最高可达10万亿参数的大模型,规模是月之暗面Kimi K3 的3倍;
- 对标Anthropic的Mythos系列(行业估Mythos5约8万亿参数, Fable5约5万亿)。
- 项目处于预训练早期阶段,预训练一般耗时3-6个月,后续还要微调才会发布,最终参数量尚未敲定。