【申万计算机】大模型0260910:DeepSeek V4.1 Flash发布,全球大模型竞争进入架构分化期 近期重要讨论:1)【DeepSeek V4.1 F
- 序号:176
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
【申万计算机】大模型0260910:DeepSeek V4.1 Flash发布,全球大模型竞争进入架构分化期
近期重要讨论:1)【DeepSeek V4.1 Flash】正式落地,国产模型开始推进新一代基座架构;2)市场对【OpenAI Astra循环深度架构】的讨论升温,海外旗舰模型可能将更多能力沉淀于内部计算过程。
共同指向一个产业趋势:模型架构差异扩大,依靠黑盒蒸馏快速追赶的难度或将上升。
一、DeepSeek发布V4.1 Flash [礼物]DeepSeek V4.1 Flash为全新架构系列中的最小型号,采用552B参数MoE架构,具备原生多模态能力,输入/输出分别激活8B/16B参数。 新模型扩大预训练及强化学习规模,性能、费用、速度和任务总用时等综合指标均超过上一代V4 Pro。
Agent与Coding能力进入第一梯队 [礼物]DeepSWE v1.1达到74.2%,高于GPT-5.6 Sol的73.0%和Claude Opus 5的74.0%;CyberGym达到88.1%,高于Sol和Opus 5的84.5%;Automation-Bench达到54.8%,领先Opus 5的50.3%和Sol的45.8%。 [礼物]部分高难度终端任务仍有提升空间,Terminal-Bench 4.0为31.2%,低于Sol的39.9%和Opus 5的51.8%。
【新架构】核心是给Agent减负 [礼物]Agent任务通常输入量大、增量输出相对较少,Prefill和KV Cache逐渐成为成本瓶颈。V4.1 Flash采用Causal-Encoder-Decoder架构,由Encoder负责输入理解与Prefill,Decoder负责后续自回归生成,并新架构将HBM KV Cache需求降至上一代的约1/4,SSD需求降至约1/8;单Token KV Cache由DeepSeek V1的389,120字节降至890字节,累计压缩约437倍。
二、Astra循环深度架构的探讨 [礼物]OpenAI Astra或有限采用循环深度设计,通过重复调用部分Transformer层增加有效计算深度,使模型能够根据任务难度动态分配内部计算。 [礼物]这一设计可能减少对显式推理Token的依赖,使更多推理发生在隐藏状态中。模型对外输出更精简,内部计算过程的重要性进一步提升。
【可能影响是模型蒸馏门槛变高】隐藏cot可能使得student模型难从输出样本中复现完整推理机制从而增加蒸馏难度。且随着架构差异扩大,同等规模蒸馏数据对应的能力迁移效率或下降。
国产模型或加快底层技术创新 [礼物]DeepSeek的非对称Encoder-Decoder与Astra的循环深度均体现头部模型开始重新设计计算路径、隐藏状态和推理资源分配。 [礼物]海外旗舰模型架构逐渐走向黑盒化和差异化,国产厂商需要同步提升自主预训练、基座架构、强化学习及Agent环境反馈能力。DeepSeek此次切换新架构,反映国产模型的创新范围已由后训练优化延伸至底层基座。
三、模型降价推动Agent应用规模化 [礼物]V4.1 Flash高峰期缓存命中输入、缓存未命中输入及输出价格分别为0.04、2、8元/百万Token,闲时价格减半。 [礼物]模型架构优化持续降低单任务成本,有望推动Agent调用频次、并发量和推理Token需求增长。
[玫瑰]持续看好国产大模型自主创新,以及国产算力、推理基础设施和Agent应用产业链,详情欢迎联系!
总体总结
主题正文
- [礼物]DeepSeek V4.1 Flash为全新架构系列中的最小型号,采用552B参数MoE架构,具备原生多模态能力,输入/输出分别激活8B/16B参数。
- [礼物]DeepSWE v1.1达到74.2%,高于GPT-5.6 Sol的73.0%和Claude Opus 5的74.0%;
- [礼物]部分高难度终端任务仍有提升空间,Terminal-Bench 4.0为31.2%,低于Sol的39.9%和Opus 5的51.8%。
- V4.1 Flash采用Causal-Encoder-Decoder架构,由Encoder负责输入理解与Prefill,Decoder负责后续自回归生成,并新架构将HBM KV Cache需求降至上一代的约1/4,SSD需求降至约1/8;
- [礼物]OpenAI Astra或有限采用循环深度设计,通过重复调用部分Transformer层增加有效计算深度,使模型能够根据任务难度动态分配内部计算。
- 【可能影响是模型蒸馏门槛变高】隐藏cot可能使得student模型难从输出样本中复现完整推理机制从而增加蒸馏难度。
- [礼物]V4.1 Flash高峰期缓存命中输入、缓存未命中输入及输出价格分别为0.04、2、8元/百万Token,闲时价格减半。
- [礼物]模型架构优化持续降低单任务成本,有望推动Agent调用频次、并发量和推理Token需求增长。