Video World 2 的训练数据规模与构成是怎样的? 专家：该世界模型训练数据总规模达到 1270万小时，预训练分三轮推进去年 12 月完成第一轮、今年
- 序号：278
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
Video World 2 的训练数据规模与构成是怎样的?
专家：该世界模型训练数据总规模达到 1270万小时，预训练分三轮推进去年 12 月完成第一轮、今年 3 月第二轮、今年 7 月第三轮，后续后训练周期约两个多月。
整套数据集包含多个来源。首先是互联网公开视频约 890 万小时,其次是字节自有内容生态数据 210 万小时，取自抖音、TikTok、西瓜、头条等平台垂类视频。然后是以 VR 方向为主的学术公开数据集80 多万小时。最后是外部采购的专业化数据 90 多万小时，以仿真引擎生成的合成数据为主
预算方面，字节今年模型训练整体数据预算约200 亿元，其中分配给世界模型及具身方向为 40 至 50 亿元，资金主要投向高价值金标精品数据。
总体总结
主题正文
- Video World 2 的训练数据规模与构成是怎样的?
- 专家：该世界模型训练数据总规模达到 1270万小时，预训练分三轮推进去年 12 月完成第一轮、今年 3 月第二轮、今年 7 月第三轮，后续后训练周期约两个多月。
- 整套数据集包含多个来源。
- 首先是互联网公开视频约 890 万小时,其次是字节自有内容生态数据 210 万小时，取自抖音、TikTok、西瓜、头条等平台垂类视频。
- 然后是以 VR 方向为主的学术公开数据集80 多万小时。
- 最后是外部采购的专业化数据 90 多万小时，以仿真引擎生成的合成数据为主
- 预算方面，字节今年模型训练整体数据预算约200 亿元，其中分配给世界模型及具身方向为 40 至 50 亿元，资金主要投向高价值金标精品数据。