网信办整治 AI 假冒公众人物：清理 4.7 万条处置 3961 账号|AI自学笔记

11 月 6 日消息，网信办近期针对利用 AI 技术假冒仿冒公众人物开展集中整治，累计清理违法违规信息 4.7 万余条，处置账号 3961 个。此次整治聚焦虚假带货、吸粉引流、炮制谣言及低俗恶搞等行为，相关账号已被依法依约处置。

通报同时列出四类典型案例，覆盖了当前 AI 仿冒公众人物的主要违规形态。

四类典型形态

第一类是未经授权利用 AI 仿冒名人肖像、合成名人声音，或盗用公众人物家属肖像进行商品推广与引流带货，涉及微信、抖音、小红书平台多个账号。第二类是盗用公众人物肖像照片，借助 AI 特效编造患病等谣言信息，误导公众认知。

第三类是以第一人称假冒公众人物发表观点、讲述经历或发布情感话术，诱导用户关注，分布于抖音、小红书、哇哩哇哩与快手。第四类是利用 AI 生成合成知名公众人物参与低俗舞蹈、亲密互动等画面，借机吸粉营销牟利。

合成一段声音就能让假冒账号以名人身份开口说话，这类内容比过去的盗图更难靠肉眼识别。MIT 关于 AI 植入虚假记忆的研究显示，AI 生成的错误信息不只影响当下判断，还会改变人对既有事实的置信度，冒充名人放出的「患病」或「观点」更容易被二次传播当成事实。

从通报看，本次整治的对象不止是内容，还包括批量制造这类内容的账号本身，处置数量达到 3961 个。多平台同时被点名，说明治理已不再按平台划分责任边界，微信、抖音、小红书、哇哩哇哩、快手这些账号活跃度最高的场景同时进入清理范围。

AI 仿冒的技术门槛还在下降，生成一段名人语音、合成一段亲密度视频的成本已经接近于零。清理 4.7 万余条信息只是存量的一次集中处置，后续的常态化审核压力会落在平台的实时检测环节。

AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。

同一批更新里这几篇值得一看：

想快速查定义？对应的词条在这里：