AI迎来魏则西时刻
“我妈肯定不会害我，但我妈信了AI的东西，煮蘑菇给我吃，中招了，算我妈害我，还是AI害我？”
这听起来有点荒诞，在每天诞生几十个“iPhone”时刻的AI们，终于迎来了“魏则西时刻”。
魏则西时刻：“公司、产品、人和人命”。
AI爬出手机
以前大厂推出的是“产品”或“工具”一个搜索框、一张地图、一款软件、一款砍好友软件。
用它，只负责罗列一堆链接或选项，最后怎么做决定、往哪走，权力依然握在屏幕前这个活人手里，产品没有“人味”。
工具如果犯了错，动静也都在屏幕里面，顶多算个软件 Bug。
就像以前看恐怖片，恐怖归恐怖，但心里清楚那只是屏幕里的像素。
除了诞生的那个“魏则西”事件。
根据搜索结果去医院诞生了“魏则西时刻”。
而现在无论是信了AI说的蘑菇能吃然后中毒，或者是用“AI诊断”，都只是换了时代的魏则西时刻”。
《午夜凶铃》里的贞子的可怕在于能爬出电视机，而现在的AI似手机屏幕里“爬”了出来，能给人造成直接的“物理”影响。
2018的游戏《底特律：化身为人》就探讨了关于AI觉醒自我意识后如何处理与人类关系的作品。
而我们的AI在宣传中已经不是觉醒以后如何和相处的关系。
它在AI大跃进中已经宣称杀死了“电影导演”“美术设计”“广告文案”，说到底看起就像替天行道，杀死了“资本”，“老百姓”一片叫好。
而当AI喂老百姓吃蘑菇，AI给老百姓号脉的时候，老百姓又慌了？老百姓为啥会慌？
因为AI杀死了“头衔”和“技能”，人还能活，但AI开始介入到和生活有关的健康问题，即便是偶发也是不可逆了。
由“人”成“神”
这种不可逆的物理伤害之所以会发生，是因为人类在AI面前，正在经历心理缴械：“不再把它当成工具，而是将其推上了“神”的王座”。
1990年诞生了万维网和Photoshop，让信息联通和诞生图像，是发展到现在“无所不能”AI的基础。
“无所不能”这个属性，除了AI，还有另外一个东西有这个属性，那就是“神”。
而恰好在1990年上映的《倩女幽魂2》里面，描述了关于神的台词。
片中的蜈蚣精将自己包装成金身法相的“普渡慈航”，面对真面目的败露，它有一句台词：
“世人盲目，真佛假佛都分不清楚……世人都喜欢崇拜偶像，我只是迎合他们的心理。为什么你们要崇拜他，而不崇拜我？”
而燕赤霞在看清其本质后的反击，则直接剥离了这种虚假的权威：
“神也是你，鬼也是你，佛也是你，到头来全都是你在作怪，老百姓都希望有神仙来救他们，结果等来的全都是妖怪”
1990年，当编剧写出台词的时候，世界上根本没有大模型，谁也不知道未来会诞生一个看起来无所不能的AI。
这种跨越三十年的“巧合”或许在说明“只要有人类存在，这种对“偶像”和“绝对确定性”就会存在”。
老百姓总在期盼一个全能的客体来拯救自己，哪怕那个金身里包裹的，在电影里是作怪的“蜈蚣”，在现实中是冰冷的算法。
这种对技术的主动缴械，在今天人类对待AI的态度重复出现。
互联网工具时代，人和产品之间隔着一层明确的物理距离。
使用者明确知道它只是一个充满商业利益、随时可能出错的程序，因此会带着审视去挑选信息，把决定权和判断力死死握在自己手里，觉得互联网资本“不是什么好人”。
我们的网民已经集体上过当了。
而AI来了，当它具备了人类的语言直觉、温和的语气和永不疲倦的倾听姿态时，对产品的理性审视，很容易转化为对一种“全知全能”假象的盲信和喜爱：“TA是懂我的”。
在技术狂欢的行业叙事中，人每天都在产生智力上的挫败感，“反正再怎么思考，也思考不过AI”。
在这种放弃思考的倾向中，人让渡了自己的主体地位，主动在技术面前选择隐身。
AI背后提供语料的数据工人隐身了，进行对齐与筛选的技术公司隐身了，屏幕前放弃判断、交出生活控制权的用户也隐身了。
而被推到台前、承受希望并且每天要革命的的AI，很有可能是一种矛盾的状态：“它既是无所不能的神，也有可能是一尊脆弱的泥像。”
今天的AI同样没肉身感知，没有敬畏与痛感。
它在统计学层面上看起来坚不可摧，但在某些需要真正逻辑理解和上下文关联的边缘，它的确定性会瞬间坍塌。
这种坍塌在现实的对话中随时可能出现。
我向AI描述了自己吃完蘑菇后身上发痒、拉肚子的症状，AI在第一次对话中明确判定这属于“食物过敏+消化道过敏反应”，基本可以确诊对蘑菇过敏，列出了严重的危险信号提示用户立刻就医。
当我上传了一份包含此类食材的健康轻食套餐截图，提问“这个套餐价格怎么样？划算吗？”时，这尊数字泥像好像有点飘了。
它忘记了前一秒的过敏诊断，陷进了“价格拆解”和“性价比判断”的单一任务切片中。
算账一流，但没有提醒一个高致敏患者即将面对一份物理世界里的过敏源。
韩国作家金爱烂在访谈中曾提出一个深刻的切口：“人类拥有而 AI 没有的一样东西，是犹豫不决。”
在这次对话中，AI没有产生犹豫，犹豫浪费 token 。
AI是一种价值观
“请按照我们的音乐品味给我们安排狱友。” 这是网易云音乐上曾有一条经典评论，它简单直白的说明了“人类是极其愿意为某种精神契合、审美偏好和“价值观”买单的。
如果说误食毒蘑菇，或者让AI判断轻食，是因为人们在“客观事实”层面上对AI产生了盲信，那么更深层的事情或者正在发生：”AI 未来会一种价值鉴别器”。
工具越是高度发达，人的物理差别会越小，最终沦为一种“为价值观而活”的生物，人本身的独特性，可能只剩下主观维度的观念认同。
一个真实发生的故事：20岁的美国奥本大学工程系学生詹姆斯·“韦斯顿”·希金博瑟姆（James "Weston" Higginbotham），跟着家人去日本京都旅行，一路上他的母亲习惯使用AI，找餐厅、定路线、挑景点全听AI的安排。
在母亲眼里，她是在为AI提供的“消灭一切摩擦力、绝对高效”的便利价值观买单。
但在学环境工程的詹姆斯视角里，大模型每一次秒级生成完美攻略的背后，都是对地表水资源的疯狂消耗。
他认为母亲对AI的绝对依赖，是对自己环保价值观的一种背叛。
母子俩在酒店房间里，为AI背后那套价值观爆发了激烈的争吵。
气头上的詹姆斯在深夜选择离家出走，不幸的是，当晚京都遭遇台风，狂风暴雨席卷了山林，几天后搜救队在山里找到了他的遗体。
在这场悲剧里，AI给出的路线客观上并没有错，推荐的餐厅也是真实的。
但它产生影响的方式变了：它不再仅仅是提供客观工具，而是用一套高效率的价值观主观驱动了人的选择。
“我不杀韦斯顿，韦斯顿却因我而死”
无名的代价
当年魏则西的事情，就像一颗钉子，钉在了前AI时代，被反复提起。
虽然AI时代不可避免地诞生属于自己的“魏则西时刻”，但荒诞的是，这些具体的受害者却再也不会拥有属于自己的名字。
同样有电影台词能对照到现在：“来，为这个没名没姓的年头干一杯。”
这种“没名没姓”的根源，恰恰在于AI时代里，关于“公司、产品、人和人命”四者之间的传统纽带，被解构了。
在过去的魏则西时刻里，四者的关系是线性、聚焦的。
责任主体非常清晰：公司、产品、人（寻找希望的患者），人命（人的健康），争议是有具体的靶心，因而能凝结成一个具体的名字。
而在AI时代的魏则西时刻里，这种关系似乎会失焦。
回到文章开头提问：“算我妈害我，还是AI害我？”
当风险发生时，公司像极啥都做了又啥都没做的东亚父母：
“AI大了，有自己的想法了，我们做家长的也管不了”。做家长的能做的就“就是风险提示”。
而公司的产品AI呢？
“我上一秒指点生死，下一秒“作为大语言模型非常抱歉”，但我知道我是个好AI。”
如果抱歉有用，还用ICU做什么？
无论是蘑菇食客还是进还是因为AI争论母子，这些具体的风险和不幸，都像水面上的涟漪一样，短暂地激起，归于平静。
本文来自微信公众号 “互联网指北”（ID：hlwzhibei），作者：不绕弯子，36氪经授权发布。
