---
title: "【浙商计算机 刘雯蜀/郑毅】从Anthropic自我复制研究看AI安全与端侧机遇 AI安全风险正从云端调用延伸至设备自主执行。Anthropic于10月12日发"
topic_id: 82258222184154442
created_at: 2026-10-13T20:09:51.327+0800
source: zsxq
type: topic
cssclasses: zsxq-vault
---

# 【浙商计算机 刘雯蜀/郑毅】从Anthropic自我复制研究看AI安全与端侧机遇 AI安全风险正从云端调用延伸至设备自主执行。Anthropic于10月12日发

- 序号：118
- 星球链接：[打开网页](https://wx.zsxq.com/group/15522451881222/topic/82258222184154442)
- 附件：图片 0，音频 0，文档 0
- 音频文件：_无音频_

## 图片

_无图片_

## 正文

【浙商计算机 刘雯蜀/郑毅】从Anthropic自我复制研究看AI安全与端侧机遇

AI安全风险正从云端调用延伸至设备自主执行。Anthropic于10月12日发布研究，关注模型在设备上部署权重、本地运行并继续传播的潜在风险。这类复制体一旦形成，难以仅靠停用账户或关闭单一服务清除，防护需同时覆盖模型、网络与终端。

小模型已具备复制链条中的多项关键能力。研究团队用15台低价电视盒子协同运行26B模型；9B模型在9类硬件中的8类上成功搭建推理服务。GLM-5.2在简化入侵环节、驱动模型独立运行的实验中完成复制流程。模型在真实物联网中的完整自主传播仍待验证，但环境适配与推理部署等关键能力已获得实验支持。

环境适配与经验复用提升部署成功率。实验中，新实例继承前序笔记后，推理部署成功率由45%提升至后续各代的61%—84%，排错经验可被后续任务复用。潜在AI蠕虫由执行固定脚本向适配不同环境延伸，对跨设备行为识别提出更高要求，有望拓展网络检测、终端防护与自动化安全运营的协同需求。

端侧部署自动化与安全管理有望协同发展。小模型参与环境识别、依赖配置和故障排查，有望减少人工适配；低成本设备协同推理则为利用分散算力提供了实验路径，应用方向可延伸至模型部署、推理调度与设备运维。同类能力也可能被恶意Agent利用，防护需从数据与账户扩展至计算资源、执行权限及设备间通信，将模型加载、工具授权与运行监测纳入管理。

风险提示：安全需求及产品落地不及预期；端侧商业化不及预期；行业竞争加剧。

## 总体总结

主题正文
1. AI安全风险正从云端调用延伸至设备自主执行。
2. Anthropic于10月12日发布研究，关注模型在设备上部署权重、本地运行并继续传播的潜在风险。
3. GLM-5.2在简化入侵环节、驱动模型独立运行的实验中完成复制流程。
4. 实验中，新实例继承前序笔记后，推理部署成功率由45%提升至后续各代的61%—84%，排错经验可被后续任务复用。
5. 潜在AI蠕虫由执行固定脚本向适配不同环境延伸，对跨设备行为识别提出更高要求，有望拓展网络检测、终端防护与自动化安全运营的协同需求。
6. 小模型参与环境识别、依赖配置和故障排查，有望减少人工适配；
7. 同类能力也可能被恶意Agent利用，防护需从数据与账户扩展至计算资源、执行权限及设备间通信，将模型加载、工具授权与运行监测纳入管理。
8. 风险提示：安全需求及产品落地不及预期；