🎯 你必须在模型的一端或另一端具备优势。试图做到平庸,只会让你处于中间位置并被竞争淘汰。 ⚔️ “出色”阵营将出现:如果你的模型仅仅与DeepSeek持
- 序号:207
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
🎯 你必须在模型的一端或另一端具备优势。试图做到平庸,只会让你处于中间位置并被竞争淘汰。 ⚔️ “出色”阵营将出现:如果你的模型仅仅与DeepSeek持平或略优于DeepSeek,你就无法生存。“便宜”阵营也将如此:如果建模成本变得太高,任务分配将倾向于“便宜”模型,以最大化每美元的性能。 🧩 在“合适”的模型和“廉价”的模型之间做出选择将变得必要。必须分配足够的任务给合适的模型,以最大化单位成本的性能。 🧠 廉价模型阵营的看跌理由是,一旦廉价模型足够好,大多数用户就会满意。我不同意这种观点。我认为前端智能将永远不会被完全满足。市场上两端都将有持久的需求。 💰 对于前沿模型的悲观预期是,一旦廉价模型足够好,大多数用户就不会满意。我不同意这种观点。我认为前端智能将永远不会被完全满足。市场上两端都将有持久的需求。 🚧 GLM受芯片严重制约。它主要通过Together、Fireworks和类似公司提供服务,而非广泛部署在公共云上。我们关注两点:1)可用性,以及2)与OpenAI和Anthropic相比的质量差距,这将决定其随时间推移产生的真正影响。 📉 如果两个模型相似,且价格差距为50%,这一差距很容易通过使用两倍token来完成同样的任务而被抵消。(仅比较“每百万token输入价格”往往具有欺骗性。) ⛓️ (也就是所谓的) 🤔 云端 vs. 本地真的应该有这么大的差距吗……我同意这一点:如果运行GLM 5.2需要花费20万美元……5.5年后才能实现GLM 5.2的利用率,即使经过5.5年的24/7运行,云成本仍将翻倍。 🏢 本地部署与云端部署实在没必要引发这么多争论……我赞同这里的观点:如果全天候运行GLM 5.2需要花费2万美元的硬件,而且只有在运行5.5年后才能回本,那么云端依然胜出。就每美元总成本而言。 💬 📖 与任何前沿技术一样,从早期采用者向主流市场的过渡通常需要一次重置。廉价模型将扩大市场。 📊 💬 我很希望听到任何使用过GLM 5.2或其他开源模型的人分享一些初步体验。 ✅ 许多人表示GLM 5.2大致处于Codex 5.5中等思维(medium-thinking)的水平。 💻 许多人表示,在编码任务方面,GLM 5.2大致相当于Codex 5.5中等思维(medium-thinking)的水平。 💡 我听到的反对意见主要有: 它在解决更复杂问题时仍然表现滞后。 它在泛化方面可能较弱——特别是当任务与它所经历过的常见模式明显不同时。 它在泛化能力上可能较弱——特别是当任务与它所经历过的前面常见模式有实质性差异时。 🧮 🗣️ Gavin Baker 很好地概括道: “前沿模型获取了90%的价值;开源模型承载了80%的token。” “前沿模型获取了90%的价值;开源模型承载了80%的token。” 💡 大多数经济学家可能倾向于认为前沿模型将占据大部分经济价值。开源模型可以并继续积累。这两件事可以同时成立——到目前为止,显然确实如此。同时,全球大部分token可能继续由开源模型提供——这一点似乎也越来越真实。 📚 📊 据报道,他们利用强化学习和监督微调,随后使用一个开源模型。其结果是,在成本更低的情况下,效果优于Opus 4.7 / 4.8。 🛡️ 🎭 在某种程度上,它确立了一个“性价比基准”:相比之下,DeepSeek更便宜,而且必须在性能上有显著提升,用户才会直接去使用DeepSeek并增加重试次数。 ⚠️ 质量可能不稳定。 不同运行之间的输出可能不一致。 对于同一任务,有时会出现较高的重试率。 更高的重试率会产生更多的缓存token,这会侵蚀明显的成本优势。 明显的成本优势可能会产生更多的重试循环,从而削弱明显的成本优势。
📝 但有几个方面可能会使实际经济成本曲线发生扭曲: 尤其是在缓存密集型代理循环中。 如果一个模型一次性完成任务,而另一个需要额外进行2-3轮,token节省会很快消失。 更便宜的模型在生产中失败的频率通常更高。
总体总结
主题正文
- 我们关注两点:1)可用性,以及2)与OpenAI和Anthropic相比的质量差距,这将决定其随时间推移产生的真正影响。
- 📉 如果两个模型相似,且价格差距为50%,这一差距很容易通过使用两倍token来完成同样的任务而被抵消。
- 🤔 云端 vs. 本地真的应该有这么大的差距吗……我同意这一点:如果运行GLM 5.2需要花费20万美元……5.5年后才能实现GLM 5.2的利用率,即使经过5.5年的24/7运行,云成本仍将翻倍。
- 🏢 本地部署与云端部署实在没必要引发这么多争论……我赞同这里的观点:如果全天候运行GLM 5.2需要花费2万美元的硬件,而且只有在运行5.5年后才能回本,那么云端依然胜出。
- ✅ 许多人表示GLM 5.2大致处于Codex 5.5中等思维(medium-thinking)的水平。
- 💻 许多人表示,在编码任务方面,GLM 5.2大致相当于Codex 5.5中等思维(medium-thinking)的水平。
- 🎭 在某种程度上,它确立了一个“性价比基准”:相比之下,DeepSeek更便宜,而且必须在性能上有显著提升,用户才会直接去使用DeepSeek并增加重试次数。
- 如果一个模型一次性完成任务,而另一个需要额外进行2-3轮,token节省会很快消失。