AI生成标识测评：防君子不防小人真相

最近频繁刷到6·18购物节的直播与短视频：身着正装的“权威专家”侃侃而谈保健品的神奇功效，明星声情并茂地推荐“重返青春”的美容产品……连续被此类视频轰炸后，难免会产生“不买就亏大了”的紧迫感。

但，这些内容真的可信吗？

在AI内容浓度爆表的购物节，你可能刷了一下午，都没遇到一个真人出镜。所谓的“专家”是AI换脸技术合成的，那张明星面孔也是AI生成的，那个清仓甩卖的“工厂老板”甚至只是一个靠文本驱动嘴型、AI配音的数字人。

普通消费者的辨别力，已经越来越难以招架日益精进的AI技术——画面流畅度太高，表情太逼真，几乎看不出破绽。

近日，中央网信办全面部署推进短视频内容规范标注工作，在抖音、快手、腾讯等12家平台先行试点的基础上，将内容标注设为短视频发布的硬性前置流程，明确平台必须提供6类“必选标签”，包括“含有AI生成内容”“含有虚构演绎内容”“含有营销信息”“内容为转载”“内容为个人观点”和“无需标注”。发布者必须从“必选标签”中选择一项才能发布，过往发布的存量视频也要逐一补标。

图源：百家号

中央网信办想解决的核心问题是：让你明确知道，你看到的内容是AI生成的。

今年上半年，AI换脸反诈案件同比大幅攀升。一台电脑、一套免费工具，几分钟就能完成换脸、复刻声音、合成视频，造假成本趋近于零。福建一位企业主，10分钟内被AI换脸的“好友”骗走430万元。6·18期间，多地市场监管部门专门发布消费提示，提醒消费者“警惕AI造假”。

AI造假不止发生在视频领域，图文内容同样是重灾区。就在5月上旬，全国首例AI代写“种草笔记”案宣判，法院认定这类AI工具的运营者构成不正当竞争，判赔10万元。

对于创作者和平台而言，标注已成为一种法定义务。但另一边，网上“AI去水印”“无痕除标识”的生意依然红红火火，几十元的基础工具、上千元的定制服务，明码标价——“合规者在照做，违规者在绕过”，平台的标注随手可破。

另一个问题是，用户对“AI脸产生生理性排斥”。据媒体报道，一项基于数百名用户参与的研究发现，标注为“AI生成”的内容，用户的行为参与度会断崖式下跌14到16个百分点。

行业数据也在印证这一趋势。2026年第一季度，国产微短剧产量中，AI生成短剧占95%，但真人短剧虽仅占5%，总播放量却是AI的约25倍。

这意味着在消费端，用户对AI内容正在形成本能的抵触。生产端在拼命用AI“批量印刷”，消费端在用手指“快速划走”。

到底什么样的内容才算“AI生成”？

如果一段视频只是用了AI辅助翻译字幕，算不算？如果只是用AI调了个色，算不算？在电商场景里，商家用AI生成口播稿、用AI做客服，这些算不算需要标注的“AI生成”？

一般而言，只有视频画面、人物、语音由AI合成创作，也就是使用AI换脸、AI配音、AI生成虚拟人物或视频本身由AI从零创建的内容，必须打上“AI生成”标签。AI辅助翻译字幕、AI调色这类后期辅助工具，并不在强制标注范围内。

但在实际操作中，边界并没有那么清晰。一段视频可能用AI做了部分处理，也可能完全由AI生成，模糊地带很多。平台不仅要核验用户是否主动标注，还要用算法自动识别那些漏标的内容。但算法的判断并不一定准确。此前北京互联网法院就有一个判例，平台仅靠算法判定某用户内容为“AI生成”并对其隐藏内容并禁言1天，结果被法院认定缺乏事实基础、构成违约。

随着短视频内容规范标注工作的推进，平台加大审核力度，这类“误伤”的情况可能会更多。谁来界定边界、如何保证判定公平，仍是一个需要持续关注的问题。

回到最初的问题：一个标签，能拦住什么？

图源：视频号

那位被AI换脸骗走430万的郭先生，视频开头如果有个“AI生成”标签，他还会转账吗？显然不会。反诈分子压根不会让他看到标签。

似乎“AI生成”的标签，只防君子，不防小人，拦不住蓄意诈骗的人，也拦不住AI内容总量的增长。6·18的商家绝不会因为要贴标签就不做AI直播了。

“标签”真正能做的，是为每个普通用户多争取一些思考时间。看到一个视频，先看标签，再判断内容；涉及转账的，打电话确认；看到一个感人故事想转发之前，先想想它是不是AI编的。

在AI生成的内容越来越多、真假边界愈发模糊的时代，防线的最后一米，不在那个“标签”上，仍在每个人自己手里。

标签的意义或许不在于“拦住坏人”，而在于重构信任的底层协议。就像食品包装上的成分表，不会阻止造假者，却能帮消费者建立理性的选择预期。AI标签的真正价值，不是防伪，而是让“真实”重新成为一种稀缺资源——当每段内容都带着来源声明，用户的注意力才会从被动接受转向主动甄别。这不是防线的终点，而是认知免疫系统的起点。

AI标签虽能防君子，却难挡蓄意作恶的“小人”，这揭示了技术治理的局限性。面对真假难辨的数字洪流，真正的防线不在外部强制的“标”，而在个体内心的“醒”。当AI能轻易伪造视觉与声音，人类唯有保持批判性思维与审慎的验证习惯，才能守住认知主权。技术越是逼真，我们越需清醒：不被算法裹挟，不向技术让渡思考权，才是数字时代最核心的生存素养。

标签治标不治本，问题的根在企业端——用AI量产内容获利的是平台和商家，承担鉴别成本的却是用户，这是责任倒置。与其要求每个人练就火眼金睛，不如倒逼源头：未标注AI内容造成损害的，平台与商家应承担连带赔偿。防线不在个人手里，而在制度里——当造假的收益不再远大于代价，“AI标签”才有真正的意义。

图片／ 百家号 视频号 豆包AI