9月2日,中央网信办发布“清朗·整治AI应用乱象”专项行动第二阶段进展通报。专项行动重点聚焦AI发布虚假信息、传播暴力低俗内容、假冒他人及侵害未成年人权益等问题,推动各地网信部门深入整治,督促网站平台清理AI违法违规信息。通报显示,截至目前累计清理违法违规信息561万余条,查处违规账号4.9万余个,处置违规网站、应用程序2400余个。豆包、元宝、千问、文心一言等AI平台严把起始语料内容审核关,严格限制违规内容输出,强化AI生成合成内容标识落地,防范违法违规内容传播。北京、上海、浙江、广东等地网信部门加强监管力度,推进平台自查自纠,促进治理措施落实。各大网络平台如抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书等加强技术赋能,优化识别模型和治理系统,提升违规内容检测和拦截效率。部分典型违规行为被依法依约处理,包括利用AI篡改经典作品、发布虚假灾害信息、假冒他人形象制作低俗视频、制作暴力低俗内容、利用AI托管从事网络水军活动等。华为、小米、OPPO、vivo等应用商店加强应用准入和抽检复测,严控违规应用入库。下一步,网信部门将总结专项行动成效,加强AI生成合成内容风险防范,促进人工智能创新发展环境健康稳定。