中央网信办重拳出击：聚焦整治AI应用乱象专项行动全面开展

随着人工智能（AI）技术的快速发展，其广泛应用在便利社会生活的同时，也带来了不少问题。为规范AI服务和应用，中央网信办于近日正式开展了“清朗·整治AI应用乱象”专项行动，通过两大阶段整治AI行业中的违规行为和乱象。这次行动的重点任务涵盖大模型备案、安全审核、内容管理等方面，旨在保障行业健康有序发展，维护网民的合法权益。

专项行动第一阶段：深入治理AI应用服务乱象

在专项行动的第一阶段，为期两个月的“清朗·AI应用服务典型违规问题”专项治理行动，通过明确七大重点违规行为，加大对技术源头的整治力度：

• 未按规定履行大模型备案登记义务：针对未按照《生成式人工智能服务管理暂行办法》完成备案的情形，将全面核查，重点解决“应备未备”问题。
• 安全审核能力不足：整治AI模型在合规性、安全性设计与审核机制中的漏洞，防止生成违法不良信息。
• 训练语料安全不合规：加强对训练数据违规问题的监管，杜绝未经授权数据的使用。
• AI数据投毒问题：规制通过技术手段恶意篡改数据、伪造权威信息的行为。
• 合成内容标识不到位：要求严格按规定对合成类内容标注显著标识，防止技术滥用。
• 滥用AI技术违法行为：重点打击通过“换脸拟声”等技术手段实施隐私侵权的行为。
• 开源模型管理薄弱：规范社区管理机制，清理有风险隐患的数据集。

第二阶段：完善信息内容管理

第二阶段的“清朗·整治AI信息内容乱象”行动，针对利用AI技术制造违法内容、影响文化认知及社会风气的乱象进行专项整治，具体包括以下几类问题：

• 生成“数字泔水”内容：严肃查处AI恶搞经典文化、植入低俗内容等行为，避免误导价值观。
• 虚假信息制作传播：重点打击生成针对社会民生、公共政策等领域的谣言信息。
• 假冒仿冒行为：查处AI技术“换脸”“换声”假冒公众人物的行为，保护个人形象权。
• 暴力低俗不良信息：清理含暴力血腥、低俗擦边等内容的生成作品。
• 侵害未成年人权益：打击通过生成不当内容，影响未成年人心理发展的行为。
• 利用AI推动网络水军活动：整治通过批量生成内容制造虚假热点的行为，维护网络环境秩序。
• 违规AI应用程序：封堵含有非法功能或违规内容的AI程序传播渠道。

行动实施效果与行业意义

中央网信办特别强调，专项行动的主要目标是推进行业的规范化。这不仅要求AI应用服务提供者积极自查自纠，还需要配合深化属地管理责任，强化技术支持以便长效管理机制的建立。

在这次专项行动中，各地网信部门将持续升级技术防控能力，着力保证相关整改措施能够落到实处。通过对突出问题的精准清理，未来AI发展的规范化进程将进一步加速，整个行业的公信力也会因此得到提升。

相信在相关部门的强力推动下，AI技术将更多地用之于惠民利民，而不再让不良应用有可乘之机。这一行动的成效，也将为公众带来更为清朗、安全的网络空间。