大模型跟踪(260915):前沿AI降速呼声、GPT-6反蒸馏讨论与RSI进展(敬请支持~) [红包] 【前沿AI降速呼声升温、企业数据安全要求趋严】 9月12

图片

无图片

正文

大模型跟踪(260915):前沿AI降速呼声、GPT-6反蒸馏讨论与RSI进展(敬请支持~)

[红包] 【前沿AI降速呼声升温、企业数据安全要求趋严】 9月12日,Anthropic CEO Dario呼吁放缓前沿AI开发,认为网络安全与对齐保障尚未跟上能力进展(利好网安),并承诺引入常驻第三方评估者, 不代表看空算力、而是训练端GPU资源的重新分配;另英伟达、Palantir等因数据留存与隐私顾虑(A家近期发布的威胁情报报告为导火索),收紧Anthropic模型在敏感业务中的使用,NVDA倾向自有Nemotron,Palantir在零数据保留承诺落地前暂停Fable渠道。

[红包] 【GPT6Astra引发反蒸馏讨论、能力迁移门槛或提高】 Astra或通过循环调用Transformer层增加内部有效计算深度。若有效CoT等过程监督减少,同等数据下的蒸馏效率或下降(增加蒸馏成本但答案与任务轨迹仍可用于行为学习)。 海外旗舰模型架构趋于黑盒化和差异化,国产厂商需持续加强自主预训练、基座架构、强化学习及 Agent 环境反馈能力。格局或向低成本算力、真实 Agent 数据、产品入口和融资能力强的厂商集中。

[红包] 【RSI或为模型下一步发展路径】 OpenAI披露研究自动化进展、目标在2028年3月实现“自动化AI研究员”目标(完善的RSI)。 大模型的发布周期正从季度级压缩到月度级,背后推手之一或与RSI有关。 局部RSI闭环已在实践,但要走向完整RSI(无需人类持续干预),仍需实现4个突破:可靠验证、长时程基础设施(Infra)、长期任务评估成本, GPU架构对持续学习的约束。

[红包] 【国产模型迎来融资与商业化高峰】年底ARR 20亿美金俱乐部公司变多, 融资:智谱拟通过配售及可转债融资50亿美元;Deepseek(科创板)、Kimi(港股)拟IPO。 商业化:Kimi 8月ARR约10亿美元,年末ARR 20亿美元;智谱中报报年底ARR上调至24亿美金;阿里mass(含第三方模型)8月ARR 22亿美元,年底目标300亿rmb;字节大模型(含火山MaaS及多模态)7月ARR或达40亿美元。 商业化下一步重点:AI剧出海(端到端交付快速渗透,字节与MPA达成协议),泛办公agent。

总体总结

主题正文

  1. 大模型跟踪(260915):前沿AI降速呼声、GPT-6反蒸馏讨论与RSI进展(敬请支持~)
  2. 9月12日,Anthropic CEO Dario呼吁放缓前沿AI开发,认为网络安全与对齐保障尚未跟上能力进展(利好网安),并承诺引入常驻第三方评估者, 不代表看空算力、而是训练端GPU资源的重新分配;
  3. 另英伟达、Palantir等因数据留存与隐私顾虑(A家近期发布的威胁情报报告为导火索),收紧Anthropic模型在敏感业务中的使用,NVDA倾向自有Nemotron,Palantir在零数据保留承诺落地前暂停Fable渠道。
  4. 若有效CoT等过程监督减少,同等数据下的蒸馏效率或下降(增加蒸馏成本但答案与任务轨迹仍可用于行为学习)。
  5. 海外旗舰模型架构趋于黑盒化和差异化,国产厂商需持续加强自主预训练、基座架构、强化学习及 Agent 环境反馈能力。
  6. OpenAI披露研究自动化进展、目标在2028年3月实现“自动化AI研究员”目标(完善的RSI)。
  7. 局部RSI闭环已在实践,但要走向完整RSI(无需人类持续干预),仍需实现4个突破:可靠验证、长时程基础设施(Infra)、长期任务评估成本, GPU架构对持续学习的约束。
  8. 商业化下一步重点:AI剧出海(端到端交付快速渗透,字节与MPA达成协议),泛办公agent。