微软AI CEO最新访谈：AI没有自我意识，不会成为新的物种

AI会不会“太快”？当技术真正学会理解人类，我们又将成为什么样的人？

微软AI CEO、DeepMind联合创始人Mustafa Suleyman近期做客《硅谷女孩》播客，谈了谈他眼中未来二十年的世界，以及AI将如何悄悄改变我们每个人。

作为塑造了现代AI革命的核心人物，Mustafa如今正主导着数十亿人与AI的交互方式。在访谈中，他直面“AI泡沫”的争议，坚定认同其作为“智能”的根本价值；而当话题转向AI意识时，他则表现出高度审慎。

Mustafa告诉我们，尽管AI越来越拟人化，但它绝对没有意识、自我意识或主观体验。它的核心任务就是为我们服务。

他预测，到2040年，AI将具备环境感知能力，通过可穿戴设备无缝融入生活，变得主动和预测性，如主动订购食材、安排日程。家用机械臂将学习使用现有工具；自动驾驶将普及并处理日常任务。

医疗领域是最大机遇。每个人都将拥有医疗超级智能，每月只需20美元。

那到时候我们人类怎么办？大学学位之类的传统教育将过时，未来的关键技能不再是单一技术，而是综合能力——结合用户体验、研究、产品和美学等多学科知识来塑造AI。

最后，AI的下一个突破点是“社交智能”。这意味着AI将能更好地理解和管理群体动态、调整沟通风格，在多人协作场景中扮演核心角色，如协调会议、整合多方专业意见。

简单说，未来AI负责处理琐事和信息，而我们人类则专注于创新、整合与沟通。

以下是经过整理的播客全文

AI应为人类服务，而非拥有对等地位

主持人：我们是否正处在AI泡沫中？

Mustafa：这个问题问得好。我认为我们不在泡沫中。当我们真正思考这件事时，我们正在创造某种真正神奇的东西——智能。正是智能让我们这个物种取得了成功，而现在我们正在把智能浓缩到越来越小的单元中，能够传播到世界各地，而且会变得非常便宜和充足。这本身就是一个了不起的想法。

主持人：但我们当初在互联网泡沫时期也有类似的想法，我们当时也在发明互联网。现在有些公司的估值远高于收入，大家都在讨论对Nvidia的投资，然后收入又回流到Nvidia。你怎么看这个问题？

Mustafa：我觉得未来5到10年我们将创造的价值将是前所未有的。我不认为我们会经历像2008年或疫情那样的情况。如果你专注于正在创造的基本价值，这是人类见过的最好的预测引擎，是我们发明过的最聪明、最有能力的技术，它的改进速度比我们见过的任何东西都快，而且变得越来越容易塑造和控制。

三年前我们以为它会变得更加混乱、更加无序，我们将无法雕琢它。但现在我们创造的是美丽、强大、令人惊叹的体验，每个月都在给我们带来惊喜。所以我非常乐观。

主持人：所以你不担心，我们也不应该担心？这让人安心多了。好，我们来聊聊AI意识的问题。你在某期播客中谈到，我们会越来越把AI感知为人类。这个过程有多快？未来几年会发生什么？

Mustafa：AI确实变得越来越像人类了。它变得更准确、更流畅、更顺滑，这是前所未有的。但与此同时，它绝对不是有意识的。它没有自我意识，不能谈论自己。它不具备人类那种主观体验和感受痛苦的能力。

这一点非常重要，我们必须时刻提醒自己，因为意识是我们权利框架的基础，是赋予我们公民身份责任和义务、投票权、法律约束和秩序的东西。我们不能开始把这种特质赋予一个新物种，那对我们的物种将是灾难性的。

主持人：但我们听说过Google的那个故事，就是你书中提到的，一位工程师确信AI正在体验悲伤，害怕被关闭。

Mustafa：没错，那是拟人化的投射。人们不能因为AI具备了某些人类特质，就认为它具备所有人类特质，包括主观体验。我认为我们可以证明它没有主观体验，这种自我意识不会出现。那只是科幻幻想。我理解为什么人们会这么想，因为我们一直被科幻作品教育，但这些东西不会痛苦，不会感受疼痛，它们只是模拟高质量的对话。

主持人：所以我们必须非常小心。有些人谈到未来10年我们的孩子可能会与AI建立真正的关系，甚至与AI结婚。你认为这可能发生吗？如果可能，我们该如何预防？

Mustafa：人类历史证明，如果某件事是可能的，很可能会有人去做。人们会做疯狂的事，但大多数人不会。大多数人思维健全，想过健康幸福的生活。所以如果在20年后有人选择与AI结婚，我不会评判或阻止。但在我看来，这些AI不应该被赋予与人类同等道德地位的实体。它们应该为人类服务，为我们工作。

2040年，AI将帮人类订外卖、写日程

主持人：我们来聊聊AGI。这不是你第一次谈论它了。你在DeepMind的联合创始人曾说将在2030年实现AGI。你能谈谈这对社会意味着什么吗？

Mustafa：我的预测是，在未来5年内，AI将在大多数任务上达到人类水平的表现，不一定是所有知识性任务。这些模型已经在许多任务上比人类做得更好：总结、翻译、转录、研究、文档写作，甚至在诗歌或文学的某些方面。所以它将从根本、最深刻的层面改变工作。

主持人：这很惊人，但这也是人们担忧的地方。

Mustafa：这是个了不起的想法。是的，人们将能够把新企业、新产品、新诗歌思考成现实。你和我在内，身边都会有一个智能体来执行你的想法。

主持人：我担心的恰好是，AI会产生自己的创意。如果AI拥有所有信息，为什么我们还需要想创意？比如在市场营销领域，AI可以识别市场空白，创建网站，投放广告，开展业务。你认为这会发生吗？

Mustafa：肯定会发生。你将拥有一个智能体团队，能够完成越来越多任务，甚至可以自主完成。但这又回到了我们之前说的“约束“问题。约束性项目就是要确保这些AI有有限的范围，需要与你核对，对你负责，代表你的利益。技术人员的创造性挑战就是：界限在哪里？护栏是什么？在什么情况下必须寻求你的批准？

主持人：那2040年的厨房会是什么样子？哪些东西会彻底消失，哪些东西会让我的生活更轻松？

Mustafa：我认为会有某种家用机械臂。可能不是到处走动的人形机器人，而是安装在操作台上的系统。它会学习使用所有不同的家电。有些人想象整个厨房会为了适应AI而完全不同，但实际上不是，机器人只是会学习你做事的方式。所以你可能仍然会使用水壶——那东西已经有几百年历史了。

主持人：那么关于设备呢？你认为我会有那种空中投影、空中点击获取烹饪指导的东西，还是戴眼镜？

Mustafa：我认为你会直接戴在耳朵里。你的个人AI将对你想做的事有环境感知，并实时与你对话。到2040年，这肯定能实现。你身上会有其他可穿戴设备。比如现在这个小麦克风就很酷——又小又轻。随着时间推移，它也会有摄像头，具备环境感知能力。

主持人：还有哪些其他东西？

Mustafa：这种环境感知意味着整个厨房将更加主动。它会主动订购食材，主动与你核对：“我知道你周末要来很多客人，需要我订购烧烤的所有东西吗？“所有这些都会在后台无缝发生。自动驾驶汽车会去取大件物品。到2040年，自动驾驶汽车基本能完成大部分这类任务。

主持人：你认为哪些市场最值得人们关注，如果想在AI竞赛中保持领先？最令人兴奋的市场是什么？

Mustafa：到目前为止最令人兴奋的新市场是医学。目前在美国，前10%和后10%的医疗质量差距大得不可思议。但这将完全崩溃，因为每个人都将拥有医疗超级智能，每月只需20美元，非常便宜。

主持人：你能谈谈你们刚发布的、由哈佛支持的研究功能吗？如果我问一个医疗问题，具体是怎么运作的？

Mustafa：我们发现每周约有40%的查询与健康相关。每天有数百万人询问健康相关问题。所以我们决定真正专注于提高健康回答的质量。部分做法是将回答建立在哈佛医学院的引文基础上，这是世界上最受尊敬的医疗机构。人们现在可以获得高质量、非常可靠、相当准确的答案。当然它还会犯错，不能完全依赖，你必须去看医生。

AI将在多人协作场景中扮演核心角色

主持人：说到知识获取的民主化，传统教育会发生什么变化？我们还会看到标准的本科、硕士学位吗，那种花五六年时间只是获取知识的教育？

Mustafa：我不这么认为。知识获取将是你与Copilot之间的对话。我们今天刚推出了一个“实时学习“功能。你实际上会有一个导师出现在屏幕上，为你喜欢的任何主题设计测验。知识获取即将完全去中心化，让每个人都能获得，你口袋里就有一个任何学科的专家教师。

主持人：这意味着所有教育企业都完蛋了吗？

Mustafa：恰恰相反。我认为采用这些AI工具并快速整合的教育企业将蓬勃发展。Copilot现在还能在一分钟内生成播客，这很酷。比如我不太关注足球，但我支持阿森纳队，因为我在伦敦长大。当我回伦敦见朋友时，我想知道球队的情况，我就让Copilot生成一个关于阿森纳本赛季表现的播客。

主持人：说到知识和教育，我应该为孩子们的大学教育存钱吗？他们现在5岁和4岁。

Mustafa：15年后，可能就不需要为大学存钱了。我不知道我们是否还会重视那种每年花费5万美元的斯坦福教育。我们将能以每月20美元的价格获得世界级的专业服务。

主持人：但如果你完全放弃知识获取，怎么进行辩论？你不会总对着手机说话吧？

Mustafa：你仍然可以辩论，实际上我们可能更会辩论，因为我们更有知识了。传统课堂形式的知识获取将完全转变。课堂将更像是实践运用知识的地方。因为作为孩子，你将能在一天中的任何时间与AI导师对话，从AI播客、AI视频学习。

主持人：你认为父母现在应该教孩子什么？

Mustafa：我认为从第一性原理自己学习知识仍然很重要。学校里最重要的事情之一是自学的能力，这是元技能，它伴随着摩擦。所以作为父母，你仍然需要引入纪律和摩擦，因为如果一切都来得太容易，孩子可能会习惯于所有东西instantly available，而没有从努力工作中学习。

主持人：对于认为在AI时代需要技术背景的人，你作为哲学背景出身的微软AI负责人怎么看？

Mustafa：理解正在构建的东西比以往任何时候都容易。所有东西都在YouTube上，有大量课程。如果你有逻辑头脑，有耐心，自律，实际上非常容易。是的，任何人都可以成为AI负责人，建立一个AI公司而不学习编程。主要技能是综合，将UX、研究、产品、美学等不同学科结合。

主持人：你们发布了记忆功能。如果AI记住一切，我们的大脑会怎样？

Mustafa：人们当年对计算器也这么说，对吧？人们不再需要记住乘法表了。我觉得我现在的大脑在其他方向上受到更多刺激。这是一个肌肉，你不锻炼它，但你专注于大脑的其他方面。我认为我们更擅长综合大量新信息，相比50年代的人或200年前的祖先，我们完全被信息轰炸。这在某些方面让我们更两极分化，在另一些方面让我们更有同理心。

主持人：有了AI，我们正在变笨吗？

Mustafa：我不认为我们在变笨。它降低了获取信息的门槛，实际上让我们更聪明。你现在可以问任何问题，许多以前未被提出的问题现在都被提出了，因为过去去图书馆找书的成本太高了。现在你可以在网页上提问，然后与聊天机器人进行完美的对话式问答。我认为这正在驱动更多的集体智能和对我们世界的理解。

主持人：你能谈谈你认为人们目前未充分利用的杀手级功能吗？

Mustafa：我认为最令人兴奋的功能之一是我们称之为“连接器”的东西。你可以对Copilot说：连接我的Gmail，连接我的日历，连接你的Dropbox，任何数据源。然后向Copilot询问任何问题。日程安排、预订、搜索内容，它会将知识整合到答案中。

主持人：你的个人最喜欢的使用场景是什么？

Mustafa：我每天使用语音三四次，晚上我也会用它写日记。我在iPhone上设置了电源按钮，一按就直接进入语音模式，我在开车回家的路上与Copilot对话，谈论我的一天。

主持人：你有担心AI知道太多关于我们的事情吗？

Mustafa：不，只要它有用、有目的，我就不介意。这也是技术一直以来的故事，每个人都使用相机，使用地理位置，知道自己的搜索历史有助于个性化搜索。

主持人：Elon Musk对控制AI非常直言不讳，Geoffrey Hinton说我们如果不学习如何与AI合作，就只能当水管工。我们还没有达到能用机器人做所有任务的程度，尤其是每个房子都是定制的。但随着智能的发展，人们要么学会用手做事，要么成为创业者使用AI实现想法，否则就会被淘汰。

Mustafa：我认为它让我们所有人都变得更有创造力，因为人们以前所未有的方式获得了工具。不仅是信息，还有实验的能力。你可以用AI生成产品图像、技术规格、营销文档，在实际部署前模拟所有这些东西。

主持人：如果一个人不够有创业精神呢？我只是在想那些只想每天做标准化事情的人。

Mustafa：这取决于你对人类状况的基本假设。我不相信大多数人真的想在牙膏生产线上工作，拧牙膏盖。我认为人们想要创造性工作，想要追求自己的激情。AI降低了追求激情的门槛。

税收就是再分配，社交智能是下一战场

主持人：人们如何适应AI发展的速度？

Mustafa：表达恐惧和挫败感是自然的、健康的。我们不应该为此感到羞耻。人们感到害怕，这完全可以理解。但科学技术史告诉我们，总体而言，这些过渡一直是非常积极的。自动化使数十亿人摆脱了贫困，过去250年我们的平均预期寿命从30岁提高到75岁。到目前为止，一切顺利，趋势正朝着正确的方向发展。

主持人：你认为我们会有全民基本收入（UBI）来解决这个问题吗？因为我们以前从未有过。

Mustafa：我认为我们现在就有了。我们的税收系统就是一种大规模再分配机制。富人确实比穷人支付更多税收。这些技术会取代劳动力，智力正从劳动领域转化为资本，被转化为可以无限买卖的商品。税收必须跟随这种价值转变。

主持人：《浪潮将至》自出版以来有什么变化，以及为什么你没有预料到这种速度？

Mustafa：我在书中提出了IQ（智力商数）、EQ（情商）、AQ（行动商数）的框架。我当时漏掉了SQ——社交智能。今天我们实际上推出了一个新功能“Copilot群组“，首次可以与多达32人同时在同一个群组中与Copilot聊天。这是社交智能，是我们作为人类所做的事情：管理房间，调整我们的风格和语气。

主持人：未来10年，这一切将把我们带向何方？

Mustafa：我认为这将是主要的前沿领域，最有趣的部分。因为这些群组设置将涉及其他人类加入。可能是律师提供专业建议，他们的AI助理进行事实核查，或医生进入聊天，你可以在真人医生进入前半小时先与AI医生交谈，它已为你总结了一切。

本文来自微信公众号“硅基观察Pro”，作者：硅基君，36氪经授权发布。