抖音：严打 AI 生成色情低俗类违规内容，今年以来已处置 1.4 万个账号

抖音公布治理进展：严打AI生成瑟情低俗内容，今年以来已处置1.4万个账号

网络内容治理的战场，正随着技术发展而不断前移。近日，抖音平台通过其官方“黑板报”发布公告，明确将打击各类瑟情低俗内容列为重点，其中，对利用AI技术生成的违规内容，将持续进行从严治理。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

根据公告披露，平台近期在巡查中发现了一种新趋势：部分违规用户开始借助AI工具，批量生产诸如“单亲妈妈暧昧互动”、“美女魅惑舞蹈”、“着装暴露的海滨度假照”等低俗擦边内容。这类内容显然违背了《抖音社区自律公约》，平台对此的态度是坚持“从严从重处置”。具体数据或许更能说明治理力度——仅今年以来，针对AI生成的瑟情低俗类违规，平台就已处置了4.2万条内容，并对超过1.4万个账号施以限制推荐、禁言乃至封禁等不同梯度的处罚。

公告同时附上了几个颇具代表性的典型案例，让我们能更清晰地看到这些违规操作的具体手法与最终下场。

典型案例1：AI塑造“人设”进行瑟情导流，黑产团伙4人被刑拘

这个案例的隐蔽性和危害性都更高。平台通过巡查，锁定了一批账号，它们统一利用AI生成图片，精心塑造出“单亲妈妈陪读”的柔弱人设。然而，其发布的内容却是性感擦边视频，再配上具有性暗示的文案，目的很明确：诱导用户关注。事情并未止步于线上违规。平台经过深度研判和线索挖掘，发现这背后极可能是一个有组织的黑产团伙在操控。该团伙的最终目的，是通过账号签名、引导至群聊等方式，将用户诱导至第三方平台，下载瑟情低俗App。平台随即清理了所有违规内容，并对相关账号予以无限期封禁，同时将线索上报公安机关。最终，法律利剑落下，该黑产团伙中的4名成员被依法刑事拘留。

典型案例2：直播间封面“挂羊头卖狗肉”，339个账号被处置

另一种常见的伎俩，则是利用AI生成的精美图片作为“诱饵”。用户“AI**说”、“一**北”、“冰**式”等账号，将直播间封面设置为AI绘制的“美女”图片，极具吸引力。但玄机藏在头像图片里——上面配有“看我收藏”等文字，引导点进来的观众去查看其主页收藏夹，而收藏夹里藏的，正是通向瑟情网站的链接。这种“明修栈道，暗度陈仓”的把戏，平台已识别并严厉打击，相关违规内容被清理，涉事账号也被无限期回收了直播权限。

典型案例3：持续发布AI暴露内容，8421个账号被梯度处罚

相比前两种的“导流”目的，第三类案例则更侧重于直接用持续性、批量化的擦边内容吸引眼球、博取流量。例如，用户“奇**蓝”、“一**差”持续发布由AI生成的、着装暴露的女性做出高空劈叉、魅惑舞蹈等动作的内容；用户“哦**哦”、“j**g”则持续发布多条AI生成的、聚焦女性私密部位的所谓“泳池度假照”、“海滨度假照”。对于这类单纯以低俗内容冲击社区氛围的行为，平台同样采取了高压措施：清理违规内容，并对相关8421个账号，根据违规程度，分别施以限制推荐、禁言、封禁等梯度处罚。

可以看出，无论是伪造人设进行黑色产业链运作，还是利用技术伪装进行引流，或是简单粗暴地批量生产低俗内容，平台目前的识别与打击机制已经覆盖了这些主要类型。这场针对AI新型违规内容的治理行动，显然已进入常态化、深水区。