利用 AI“洗稿”编造车企谣言 70 余万篇，两人非法获利 8 万余元被刑拘

AI“洗稿”造谣成黑色产业链，上海警方公布多起典型案例

4月8日，一则来自央视的报道，揭开了利用人工智能技术炮制谣言的黑色一角。上海警方近期集中公布了一批典型案例，从医疗健康到汽车产业，再到社会民生，AI工具被滥用的触角，正伸向各个领域。

医疗科普变味：AI杜撰“干细胞疗法”引流牟利

今年3月初，上海一家三甲医院向黄浦警方报案，矛头直指一个名为“医学科学院细胞中心”的微信公众号。该账号发布的多篇文章声称，其与医院合作，能通过干细胞技术治疗肾脏疾病，文中还煞有介事地列出了联合研究数据和患者康复案例。

然而，经院方核实，真相令人咋舌：干细胞疗法目前根本未被批准用于肾脏病的临床治疗，所谓的合作、数据乃至患者故事，全是子虚乌有。警方深入调查后发现，这个公众号是某自媒体运营公司在今年2月新注册的“马甲”，打着医疗科普的旗号，真实目的却是为线下医疗机构引流，并按招揽病人的比例进行分成。

更值得警惕的是，这些看似专业的文章，完全由工作人员陈某利用AI工具生成。操作方式很简单：输入词库和关键词，AI便能自动“创作”。问题在于，陈某本人毫无医疗背景，根本无法辨别内容的真伪。而团队的运营主管蔡某，同样缺乏医学常识，在未作任何核实的情况下，便放任这些虚假信息发布传播。目前，陈某与蔡某已被警方依法处以行政处罚。

短视频造假：裁切AI水印，炮制外卖员负面假象

视线转向社会热点。今年2月，一段“外卖员将撒落在箱中的面条重新装盒配送”的短视频在网络上疯传，瞬间点燃了公众的愤怒情绪。然而，上海青浦警方的调查结果，给这场舆论风波泼了一盆冷水：视频完全是AI生成的。

事实上，原视频作者在发布时，已在下方标注了“AI技术生成”的水印。但网民刘某某为了博取眼球，下载视频后故意裁切掉水印标签，进行二次发布。事件并未就此结束，网民高某某和武某某为了蹭热度、吸引关注，竟在评论区跟风发布“我就这样干过”、“哪个外卖员没干过”等虚假言论，进一步加剧了谣言的扩散。最终，刘某某被依法行政拘留，高某某和武某某则被处以罚款。

规模化“黑产”：两人操控4000账号，炮制70万篇车企谣言

如果说前两起案例还带有“散兵游勇”的色彩，那么接下来这起案件，则展现了一条初具规模的谣言“黑产”链条。今年2月，多家车企向上海警方反映，长期遭受网络不实信息的侵扰。

这些文章内容可谓无所不用其极：捏造企业经营状况、夸大新能源电池风险、虚构交通事故伤亡，同时散布销量下滑、亏损扩大、员工福利骤降等消息。标题更是充斥着“腰斩”、“信任崩塌”、“窟窿50亿”等耸人听闻的词汇。

上海嘉定警方介入后，发现了一个令人震惊的事实：背后集中发布虚假信息的海量账号，实际运营者仅有梁某和郭某两人。今年3月，两人落网。据其交代，为了博取流量并获取平台的新注册用户奖励，他们专门搜集车企的争议话题，再利用AI工具进行“洗稿”——通过对细节进行歪曲或删减，杜撰成全新的不实文章。例如，将一起因严重撞击导致电池起火的交通事故，编造为车辆在正常行驶中突然自燃。

他们的操作模式呈现出明显的工业化特征：通过非法渠道获取了约4000个网络平台账号，并专门选择平台监管相对薄弱的凌晨1点至6点，进行批量发布。截至案发，两人累计发布不实文章高达70余万篇次，非法获利8万余元。目前，梁某和郭某因涉嫌非法经营罪，已被依法采取刑事强制措施。

法律红线与平台责任

警方在通报中明确指出了其中的法律红线。根据相关司法解释，以营利为目的，明知是虚假信息，仍通过信息网络有偿提供发布、传播等服务，扰乱市场秩序，一旦个人非法经营数额达到5万元以上，或者违法所得在2万元以上，便触及了刑事犯罪的入罪标准。

面对这些新型犯罪手段，监管与平台的责任愈发凸显。目前，上海警方已要求相关平台关停涉事账号、下架不实信息。同时，警方正会同网信部门，敦促各平台企业切实扛起主体责任，加强对用户发布内容的审核义务，从源头遏制利用AI技术造谣传谣的乱象。