中央网信办专项整治AI应用乱象：剑指“数字泔水”等生成内容治理行动

剑指生成“数字泔水”等AI应用乱象 中央网信办专项整治

近日，一项为期四个月的全国性专项整治行动正式拉开帷幕。中央网信办印发通知，部署开展“清朗·整治AI应用乱象”专项行动，核心目标直指规范人工智能服务与应用，促进行业健康有序发展，并切实保障公民的合法权益。其中，利用AI技术“魔改”经典、批量生成“数字泔水”等问题，被列为此次整治的重中之重。

根据部署，本次专项行动将分两步走，层层递进，旨在实现从技术源头到内容输出的全链条治理。

第一阶段：聚焦技术源头，夯实安全基础

首先启动的是“清朗·AI应用服务典型违规问题”专项治理行动。这一阶段的重点在于强化AI技术的源头治理，为后续的内容整治打下坚实基础。具体整治方向包括：未按规定履行大模型备案登记义务、安全审核能力存在明显短板、大模型训练语料的安全隐患、AI数据投毒风险，以及生成合成内容标识落实不到位等问题。简单来说，就是从模型备案、数据安全到内容标识，进行一次全面的“体检”和规范。

第二阶段：整治内容乱象，净化网络空间

紧随其后的是“清朗·整治AI信息内容乱象”专项行动。这一阶段将火力集中对准AI生成内容本身，清理各类违法不良信息。整治焦点涵盖多个方面：利用AI技术制作发布虚假信息、散播暴力低俗等不良内容、假冒仿冒他人身份、侵害未成年人权益，以及从事网络水军活动等。对于违规的账号、MCN机构和平台，将依法予以处置和处罚。

值得注意的是，在第二阶段中，利用AI“魔改”经典、生成“数字泔水”的问题被特别点名。这具体指的是什么呢？主要包括两类行为：一是歪曲解构优秀传统文化、历史人物或典故，滥用技术“魔改”古典名著或经典影视作品，强行植入低俗暴力内容，从而恶搞经典精神内涵、碘伏重要人物形象；二是批量生成并发布那些逻辑混乱、价值空洞，或带有错误价值观、扭曲文化认知等不良倾向的“数字泔水”类内容。这类内容看似“高产”，实则是对网络信息生态的污染。

中央网信办有关负责人强调，各地网信部门需深刻认识到此次专项行动对于推动AI应用规范发展、维护网民权益的重要意义。必须切实履行属地管理责任，督导各相关平台对照整治重点，深入自查自纠，全面排查问题漏洞。同时，要推动完善长效治理机制，有效提升技术防治能力，以确保专项行动取得扎实成效，还网络空间一片清朗。