央视揭露AI造谣乱象：制作门槛低与辟谣困境

今年3月9日，一段仅仅10秒的短视频在社交网络迅速引发轩然大波。画面中，一座立交桥轰然坍塌，路牌上“南岸”二字清晰可见。短短12小时内，这条视频收获数千次点赞与转发，大量网友信以为真，纷纷对重庆南岸区的安全状况表示担忧。

然而，网信部门工作人员一经核实，真相立刻浮出水面。消防与应急管理部门近期根本未接到任何相关事故报告。进一步查看细节，视频中的车牌号、车辆标识均存在失真，行人反应也显得极不自然。种种线索指向同一个结论：这是一段AI合成的虚假视频。尽管发布者“贴心”地在内容旁标注了“AI生成”，警方依然依法对其作出行政拘留6日的处罚决定。

背后的逻辑并不复杂。依据《治安管理处罚法》，故意制造并散布谣言、谎报险情、扰乱公共秩序的行为已然构成违法。那个“AI生成”的标记，充其量只是内容标识层面的合规动作，却无法改变“编造虚假信息”这一核心事实。正如相关法规明确指出的：即便使用AI技术，同样严禁生成与传播虚假、有害内容。

谋流量、图消遣：AI造谣的动因五花八门

类似案例绝非孤例，背后的动机更是千奇百怪。3月18日凌晨，重庆涪陵区有网民发布了一段所谓“房屋倒塌”的视频。好在发布后三小时左右，当事人主动删除内容。因其在线时间短、未造成实质性社会影响，警方最终仅对其进行批评教育。

相比之下，四川武胜县的一起事件则更显荒唐。当地网安大队巡查时发现两段视频：一段中，男子身着特种兵作战服，身后爆炸不断；另一段则显示“大量军机飞越古镇”。发布者杨某事后承认，自己纯粹为了打发时间、博取流量，才使用AI软件合成这些画面。更过分的是，他不仅未标注AI生成，反而信誓旦旦地宣称“这是真实的”“要打仗了”。最终，杨某为其792条视频中的这些“作品”，付出了被行政处罚的代价。

低门槛与高冲击：AI为何成为谣言重灾区？

那么，AI生成的谣言为何频频出现？一组数据或许能说明问题。仅2025年重庆互联网辟谣平台处理的内容中，AI生成信息的占比就接近20%。专家分析，背后主要有三大原因：制作门槛极低、视觉冲击力强、溯源追查难度大。

目前，市面上多款AI视频生成软件均可免费制作几秒到十几秒的短片。而灾难、事故类画面，因其直击人类本能的恐惧心理，天然具备极强的传播势能，顺理成章成为谣言的高发领域。一个毫无技术背景的普通用户，只需动动手指就能炮制出一段足以乱真的“现场画面”，这给网络信息治理带来了前所未有的严峻挑战。

责任链条：工具、平台与用户三者缺一不可

面对乱象，责任该如何划分？首先需要明确的是，AI工具本身生成一段事故画面并不直接构成违规，因为工具无法预判用户的意图。但中国社科院大学互联网法治研究中心主任刘晓春指出，如果用户要求生成某个具体地点、特定建筑的灾难视频，那么服务提供者就有可能意识到其中潜藏的造谣风险。此时，平台有责任对用户进行风险警示，并对那些明显带有造谣意图的生成内容进行过滤拦截。

当虚假信息已经产生并开始扩散时，更大的鉴别压力便转移到了平台侧。中国政法大学人工智能法研究院院长张凌寒认为，传播平台需要投入更多资源进行内容鉴别、打标，甚至果断下架。而对于我们每一个普通用户而言，底线同样清晰：绝不能首发上传明知是虚假的AI生成信息；在转发之前，也有义务核实基本真实性。否则，不仅可能助长谣言传播，自己也可能需要承担相应的法律责任。

技术一路狂飙，但规则与责任的边界必须时刻清晰。AI标注绝不是护身符，在事实与法律面前，任何试图混淆视听的行为，最终都将付出应有的代价。