DeepSeek V4.1 几个快速结论(0910)@华泰计算机 0)Agent、Coding 能力继续提升,这个没啥好说的,核心方向没变。总参数 552B,介

图片

无图片

正文

DeepSeek V4.1 几个快速结论(0910)@华泰计算机

0)Agent、Coding 能力继续提升,这个没啥好说的,核心方向没变。总参数 552B,介于前代Flash和Pro之间。 后续还有新的Pro版本。

1)架构上大变化!由于 Agent 是模型优化的核心方向,其典型 workload 是“输入多、增量输出相对少”,因此 Prefill 和 KV Cache 成为推理成本的重要瓶颈。DeepSeek V4.1 为此重新用上了 古法Encoder-Decoder,但做成了非对称的 Causal Encoder-Decoder:Encoder 主要负责输入侧 Prefill,Decoder 负责后续 Decode,并结合 KV 复用、压缩及部分状态重算,将 HBM KV Cache 需求降至上一代约 1/4、SSD 需求降至约 1/8。

2)从更大的技术趋势看,和此前 GPT-6 所传 Loop Transformer 有一些共同思路:模型正在更多地在 compute、参数和存储之间做资源交换,优化KV Cache, 用更多计算换取性能。

3)有 Paper,晚点学, 学完再汇报。

总体总结

主题正文

  1. DeepSeek V4.1 几个快速结论(0910)@华泰计算机
  2. 0)Agent、Coding 能力继续提升,这个没啥好说的,核心方向没变。
  3. 总参数 552B,介于前代Flash和Pro之间。
  4. 1)架构上大变化!
  5. 由于 Agent 是模型优化的核心方向,其典型 workload 是“输入多、增量输出相对少”,因此 Prefill 和 KV Cache 成为推理成本的重要瓶颈。
  6. DeepSeek V4.1 为此重新用上了 古法Encoder-Decoder,但做成了非对称的 Causal Encoder-Decoder:Encoder 主要负责输入侧 Prefill,Decoder 负责后续 Decode,并结合 KV 复用、压缩及部分状态重算,将 HBM KV Cache 需求降至上一代约 1/4、SSD 需求降至约 1/8。
  7. 2)从更大的技术趋势看,和此前 GPT-6 所传 Loop Transformer 有一些共同思路:模型正在更多地在 compute、参数和存储之间做资源交换,优化KV Cache, 用更多计算换取性能。
  8. 3)有 Paper,晚点学, 学完再汇报。