重申AI安全: 海外TOP3模型厂因安全问题呼吁降速,看好全球AI安全需求释放【天风计算机 缪欣君/刘鉴团队】 此前组织五场AI安全系列调研,欢迎私信❗️202
- 序号:450
- 星球链接:打开网页
- 附件:图片 0,音频 0,文档 0
- 音频文件:无音频
图片
无图片
正文
重申AI安全: 海外TOP3模型厂因安全问题呼吁降速,看好全球AI安全需求释放【天风计算机 缪欣君/刘鉴团队】
此前组织五场AI安全系列调研,欢迎私信❗️2026我们特别希望得到领导您的肯定和支持[抱拳][抱拳][抱拳]
重点关注: 1)企业侧:深信服、绿盟科技 2)政务侧:奇安信、启明星辰 3)行业侧:安恒信息、亚信安全、天融信等
1、海外模型厂商呼吁降速,AI安全有望成为新模型准入前提 9月12日Anthropic CEO Dario Amodei发长文,呼吁全行业放慢能力提升,让安全测试、运行监控和第三方评估跟得上。我们理解, AI安全前置 这个事情已经发生,安全有望成为后续模型发布的 准入前提。OpenAI披露安全监控算力开销约为被监控 推理算力的20%,安全已经成为大模型的刚性成本。
2、Dario的长文中给出影响AI安全的两大因素: 1)自今年夏天以来,AI的发展速度急剧加快,主要由AI构建下一代AI的能力驱动,这种动态被称为RSI; 2)OpenAI内部评测中AI Agent自主利用未知漏洞逃出沙箱、攻入Hugging Face生产服务器窃取评测答案, 全链条零人工干预,能力已经跑在安全前面。 不加以控制,如果一群能力更强但同样存在未对齐问题的智能体出现,可能在6到12个月内具备接管整个互联网的能力。
3、海外AI安全需求已得到验证,国内需求有望加速兑现 需求端已被北美业绩验证:Fortinet最新季度产品收入同比+52%,CrowdStrike ARR突破58亿美元,Palo Alto下一代安全ARR同比+63%。北美网安业绩已验证AI非但没有挤占安全预算,反而在推动 安全支出增长。国内中报验证网安业绩在修复,且AI安全相关的订单量价齐升。下游安全有望从合规驱动 转向 价值驱动,Agent身份安全、AI大通量防火墙、AI安全平台等方向订单加速释放。重申 AI安全大时代!
总体总结
主题正文
- 重申AI安全: 海外TOP3模型厂因安全问题呼吁降速,看好全球AI安全需求释放【天风计算机 缪欣君/刘鉴团队】
- 此前组织五场AI安全系列调研,欢迎私信❗️2026我们特别希望得到领导您的肯定和支持[抱拳][抱拳][抱拳]
- 9月12日Anthropic CEO Dario Amodei发长文,呼吁全行业放慢能力提升,让安全测试、运行监控和第三方评估跟得上。
- 2、Dario的长文中给出影响AI安全的两大因素:
- 2)OpenAI内部评测中AI Agent自主利用未知漏洞逃出沙箱、攻入Hugging Face生产服务器窃取评测答案, 全链条零人工干预,能力已经跑在安全前面。
- 不加以控制,如果一群能力更强但同样存在未对齐问题的智能体出现,可能在6到12个月内具备接管整个互联网的能力。
- 需求端已被北美业绩验证:Fortinet最新季度产品收入同比+52%,CrowdStrike ARR突破58亿美元,Palo Alto下一代安全ARR同比+63%。
- 下游安全有望从合规驱动 转向 价值驱动,Agent身份安全、AI大通量防火墙、AI安全平台等方向订单加速释放。