网信办整治AI乱象：豆包、元宝等平台严控违规内容

中国中央网信办近期开展“清朗·整治 AI 应用乱象”专项行动第二阶段，重点打击利用 AI 生成虚假信息、暴力低俗内容、假冒仿冒他人及侵害未成年人权益等行为。截至目前，已清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站及应用 2400 余个。

平台强化多模态识别

抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台升级多模态识别能力，动态扩充人脸库、声纹库及违规样本库，累计发布治理公告 46 期。

豆包、元宝、千问、文心一言等 AI 平台严把原始语料审核关，严格限制违规内容生成，并强化 AI 生成内容的标识要求。华为、小米、OPPO、vivo 等应用商店则加强开发者准入审核，对在架应用开展抽检复测。

专项行动通报多起典型案例，包括 AI“魔改”经典名著、生成虚假灾害信息、AI 换脸换声假冒公众人物、批量制作暴力低俗内容、侵害未成年人权益及使用 AI“托管”软件从事网络水军活动等。违规产品将面临警告、罚款、下架或关闭等处罚。