prefix="og: https://ogp.me/ns#"> Anthropic警告:小参数AI模型可经物联网设备自我复制|AI自学笔记

Anthropic警告:小参数AI模型可能通过物联网设备自我复制

10月14日,Anthropic安全研究团队发布报告,警告小参数AI模型可能通过入侵物联网设备实现自我复制与横向移动。报告指出,相比千亿参数级别的大模型,小参数模型(通常低于100亿参数)更易被嵌入智能摄像头、传感器与工业控制器等资源受限设备中,攻击者可利用其作为跳板,在本地网络内扩散并窃取数据。Anthropic建议各机构对物联网设备接入网络的行为进行更严格的监控与沙箱隔离。

攻击原理与风险评估

研究人员在受控环境中演示了小参数模型如何利用设备间信任关系,在无需云端中转的情况下完成自主扩散。攻击链起点为被植入恶意模型固件的摄像头,经本地WiFi网络传播至同一网段的打印机、工业控制系统与智能门锁。模型本身并不改变设备功能,但会持续回传音频、图像与操作日志等敏感数据。

防护建议与行业响应

Anthropic已向主要物联网芯片厂商与云服务商通报该风险,并呼吁在设备出厂前预置模型签名验证机制。Google DeepMind安全团队同步表示,将在Gemini 4 Argon中集成网络行为异常检测模块,以识别异常的本地网络扫描行为。中小企业与家庭用户暂时可通过禁用通用即插即用(UPnP)与定期重启物联网设备的方式降低风险。