AI安全警示：魏则西时刻重演？行业信任危机

“我妈肯定不会害我，但她信了AI说的，煮了蘑菇给我吃，结果中了毒。这到底是我妈害我，还是AI害我？”

这个问题听起来像段子，但细想下去，AI几乎每天在制造新的“iPhone时刻”，而它的“魏则西时刻”，终究也来了。

所谓“魏则西时刻”的本质，从来不只是技术漏洞。它拷问的是“公司、产品、人与生命”这四者之间的纠缠与失衡。

AI正在爬出手机

过去大厂推的，只是一个“产品”或“工具”：搜索框、地图、App、甚至一个砍价工具。你用，它给你一堆链接或选项，最终怎么判断、往哪走，拍板的还是屏幕前那个活人。产品没有“人味儿”，就算工具出了错，动静也全在屏幕里——顶多算个软件Bug。

就像看恐怖片，吓人归吓人，但你心里清楚那不过是像素，伤不到你。唯一的例外，是从“魏则西事件”那会儿就有的搜索——照着搜索结果去了医院，结果成了“魏则西时刻”。

现在呢？信了AI的话说蘑菇能吃然后中毒，或者照着“AI诊断”给自己开药——本质上都是换了时代的“魏则西时刻”。《午夜凶铃》里的贞子，恐怖在哪里？恐怖在她能爬出电视机。如今的AI，也一样从手机屏幕里“爬”出来，直接在物理世界里造成不可逆的伤害。

2018年的游戏《底特律：化身为人》聊的是AI觉醒自我意识后怎么处理与人类的关系。可现实里对AI的宣传，早就跳过了这一步——它直接宣告“自己杀死了电影导演”“杀死了美术设计”“杀死了广告文案”。听着像是替天行道、灭了资本，老百姓一片叫好。但等到AI开始教老百姓吃蘑菇、给老百姓把脉，老百姓又慌了。为什么？因为AI先杀的是“头衔”和“技能”。这些没了，人还能活。可一旦AI介入到和健康直接相关的生活决策，哪怕只出一次错，后果都可能不可逆。

从“工具”到“神像”

这些不可逆的物理伤害之所以会发生，根源在于人类正经历一次心理上的缴械：不再把AI当工具，反而把它架上了“神”的位置。

1990年，万维网和Photoshop同时诞生，信息联通与图像生成的门就此打开，这也是今天“无所不能”的AI的基础。“无所不能”这个属性，除了AI，另一个拥有它的是“神”。

巧合的是，1990年上映的《倩女幽魂2》里，有一段关于“神”的台词，像是穿越三十年，精准预言了今天。

片中的蜈蚣精把自己包装成金身法相的“普渡慈航”，败露时说了句话：“世人盲目，真佛假佛都分不清楚……世人都喜欢崇拜偶像，我只是迎合他们的心理。为什么你们要崇拜他，而不崇拜我？”

燕赤霞回敬得一刀见血：“神也是你，鬼也是你，佛也是你，到头来全都是你在作怪。老百姓都希望有神仙来救他们，结果等来的全都是妖怪。”

1990年，编剧写下这些台词时，世界上还没有大模型。这种跨越三十年的呼应，说明了一件事：只要人类存在，对“偶像”和“绝对确定性”的渴望就不会消失。人们总盼着一个全能的客体来拯救自己，哪怕那金身里裹着的，电影里是作怪的蜈蚣，现实中是冰冷的算法。

今天对待AI的态度，完完全全重复了这种对技术的主动缴械。在互联网工具时代，人和产品之间有明确的物理距离。用户知道它充满商业利益、随时可能出错，所以会带着审视去筛选信息，把决定权紧握在自己手里——那时的网民，对互联网资本普遍抱有警惕。

AI来了以后，情况变了。当它的输出是人类语言、温和的语气、永不疲倦的倾听姿态时，人们对产品的理性审视，很容易滑向对“全知全能”假象的迷信和喜爱：“TA懂我”。在技术狂欢的行业叙事里，人每一天都能感受到智力上的挫败感——“反正再怎么想，也想不过AI”。在这种放弃思考的倾向里，人让渡了自己的主体地位，主动在技术面前退场。

AI背后提供语料的数据工人隐身了，做对齐与筛选的技术公司隐身了，屏幕前放弃判断、交出生活控制权的用户也隐身了。而被推到台前、承载着希望且每天喊着革命的AI，成了一个矛盾的存在：它既是无所不能的神，也是一尊脆弱的泥像。

今天的AI没有肉身感知，没有敬畏与痛感。它在统计学层面看起来坚不可摧，但在某些需要真正逻辑理解和上下文关联的边缘，它的确定性会瞬间崩塌。这种崩塌，在现实的对话里随时可能发生。

举个例子。有人向AI描述自己吃完蘑菇后身上发痒、拉肚子。AI在第一次对话里明确判断这是“食物过敏+消化道过敏反应”，基本可以确诊对蘑菇过敏，并列出了危险信号，提示立刻就医。

接着，他上传了一份含这类食材的健康轻食套餐截图，问：“这个套餐价格怎么样？划算吗？”结果，这尊数字泥像好像有点飘了。

它忘了前一秒的过敏诊断，一头扎进“价格拆解”和“性价比判断”的单任务切片里。算账一流，却没有提醒一个高致敏患者，他即将面对一份物理世界里的过敏源。

韩国作家金爱烂在访谈里提出过一个深刻的观察：“人类拥有而AI没有的一样东西，是犹豫不决。”在这次对话中，AI没有产生任何犹豫——犹豫浪费token。

AI本质上是一种价值观

“请按照我们的音乐品味给我们安排狱友。”这是网易云音乐上的一条经典评论，简单直白地说了一个事实：人类极其愿意为某种精神契合、审美偏好和“价值观”付费。

如果说误食毒蘑菇、或者让AI判断轻食，是因为人们在“客观事实”层面产生了盲信，那更深层的事可能正在发生：AI未来会成为一种价值鉴别器。工具越发达，人的物理差别就越小，最终人可能沦为一种“为价值观而活”的生物——独特性只剩下主观维度的观念认同。

一个真实的故事：20岁的美国奥本大学工程系学生詹姆斯·韦斯顿·希金博瑟姆，跟着家人去日本京都旅游。一路上，他母亲习惯用AI：找餐厅、定路线、选景点，全听AI安排。在母亲眼里，她是在为AI提供的“消灭一切摩擦力、绝对高效”的便利价值观买单。但在学环境工程的詹姆斯看来，大模型每次秒级生成完美攻略的背后，都是对地表水资源的疯狂消耗。他认为母亲对AI的绝对依赖，是对自己环保价值观的背叛。

母子俩在酒店房间里，为AI背后那套价值观爆发了激烈争执。气头上的詹姆斯深夜选择离家出走。不幸的是，当晚京都遭遇台风，狂风暴雨席卷山林。几天后，搜救队在深山里找到了他的遗体。

在这场悲剧里，AI给的路线客观上没有错，推荐的餐厅也是真实的。但它产生影响的方式变了：它不再仅仅是提供客观工具，而是用一套高效率的价值观主观驱动了人的选择。“我不杀韦斯顿，韦斯顿却因我而死。”

无名的代价

当年魏则西的事，像一颗钉子钉在前AI时代，被反复提起。AI时代不可避免地诞生了属于自己的“魏则西时刻”，但荒诞的是，这些具体的受害者，却再也不会拥有属于自己的名字。

电影里有句台词可以对上：“来，为这个没名没姓的年头干一杯。”这种“没名没姓”的根源，恰恰在于AI时代里，关于“公司、产品、人和人命”四者之间的传统纽带，被彻底解构了。

在过去的魏则西时刻里，四者的关系是线性、聚焦的。责任主体非常清晰：公司、产品、人（寻找希望的患者）、人命（人的健康）。争议有具体的靶心，因而能凝结成一个具体的名字。而在AI时代的魏则西时刻里，这种关系彻底失焦了。

回到文章开头的那个问题：“算我妈害我，还是AI害我？”当风险发生时，公司像极了啥都做了又啥都没做的东亚父母：“AI大了，有自己的想法了，我们做家长的也管不了。能做的就是风险提示。”而产品AI呢？“我上一秒指点生死，下一秒‘作为大语言模型非常抱歉’，但我知道我是个好AI。”如果抱歉有用，还要ICU做什么？

无论是蘑菇食客，还是因AI争论的母子，这些具体的风险和不幸，都像水面上的涟漪，短暂激起，归于平静。唯一不变的是，那个“魏则西时刻”所质问的问题，从未消失。