Funda 观点:开源与闭源的差距又一次要拉开了 “业内许多人现在认为,开放权重模型与顶级专有模型之间的差距仅有几个月。一些人认为,蒸馏并非开放权重模型得以跟上
- 序号:033
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
Funda 观点:开源与闭源的差距又一次要拉开了
“业内许多人现在认为,开放权重模型与顶级专有模型之间的差距仅有几个月。一些人认为,蒸馏并非开放权重模型得以跟上步伐的主要原因。我们同意这不是唯一原因,但它一直是关键原因之一。投资者担心的是,开放权重开发者能否继续以极低的研发成本比肩顶级专有模型,如果是这样,专有实验室的领先优势还能维持多久。这种担忧正在影响人工智能和算力类股票,正如2025年1月DeepSeek R1发布后那样。
我们认为开放权重开发者无法继续以如此低廉的成本追赶,并且预计近期差距的缩小将被证明是暂时的,正如R1之后的情况一样。从顶级专有模型中蒸馏能力正变得越来越困难。Anthropic、OpenAI和谷歌的最新模型不再以明文形式暴露其完整的思维链,仅凭答案和摘要提供的训练信号更弱。开放权重开发者将需要在自身的强化学习、合成数据生成和训练环境上投入更多。所有这些都需要算力。在未来几代模型中,我们预计领先的开放权重模型将再次落后于顶级专有模型大约六到十二个月。2025年也发生了同样的事情:R1一度接近o1,随后o3、Claude 4和GPT-5拉开了差距。”
总体总结
主题正文
- 一些人认为,蒸馏并非开放权重模型得以跟上步伐的主要原因。
- 我们同意这不是唯一原因,但它一直是关键原因之一。
- 投资者担心的是,开放权重开发者能否继续以极低的研发成本比肩顶级专有模型,如果是这样,专有实验室的领先优势还能维持多久。
- 这种担忧正在影响人工智能和算力类股票,正如2025年1月DeepSeek R1发布后那样。
- 我们认为开放权重开发者无法继续以如此低廉的成本追赶,并且预计近期差距的缩小将被证明是暂时的,正如R1之后的情况一样。
- Anthropic、OpenAI和谷歌的最新模型不再以明文形式暴露其完整的思维链,仅凭答案和摘要提供的训练信号更弱。
- 在未来几代模型中,我们预计领先的开放权重模型将再次落后于顶级专有模型大约六到十二个月。
- 2025年也发生了同样的事情:R1一度接近o1,随后o3、Claude 4和GPT-5拉开了差距。