生成式AI已骗过人类判断,资深编辑解读当下AI五大关键趋势

元宇宙之心·2025年07月24日 17:18
以下是《麻省理工科技评论》的资深编辑Will Douglas Heaven对2025年AI格局的解读

‍‍‍‍上个月,我在SXSW伦敦站发表了一场题为“关于人工智能,你需了解的五件事”的演讲——这是我个人选出的当前AI领域最重要的五个观点。

演讲面向普通受众,也算是我对2025年AI发展的快速梳理。我把内容分享在这里,希望能帮到感兴趣的人。我相信这段分享对每个人都有价值,里面有不少趣事,我甚至还讲了笑话!

演讲视频现已上线(感谢SXSW伦敦站)。以下是我总结的五大要点。如果你有不同的选择,欢迎告诉我!

01.对生成式AI已强大到令人警惕

你可能觉得这显而易见。但作为相关从业者,我必须不断审视自己对这项技术发展速度的假设——跟上技术发展本就是我的工作。

几个月前,我的同事,也是你们熟悉的《Algorithm》专栏作者James O'Donnell给《麻省理工科技评论》编辑团队分享了10首音乐,让我们判断哪些是生成式AI创作的,哪些是人类制作的。结果几乎所有人的正确率都低于随机猜测。

音乐领域的变化正在蔓延到所有媒介,从代码、机器人技术、蛋白质合成到视频制作。看看人们用谷歌DeepMind的Veo 3等新一代视频生成工具创作的内容就知道了。而且这项技术正被嵌入到各类产品

我的观点是:无论你认为AI是人类历史上最伟大的发明还是最大的威胁,都不要低估它。它已经很强,且还在不断进化。

02.幻觉是特性而非缺陷

别忘了那些失败案例。当AI编造信息时,我们称之为“幻觉”。比如客服机器人承诺不存在的退款、律师提交的法律文书引用虚构案例、小罗伯特・肯尼迪(RFK Jr.)的政府部门发布的报告引用不存在的学术论文。

你会听到很多声音说“幻觉是需要解决的问题”。但更准确的理解是,这恰恰是生成式人工智能一直在做、也是它本应做的事情,生成模型本就是被训练来编造信息的。

值得注意的不是它们会编造无意义的内容,而是这些无意义的内容往往能与现实高度吻合。这为什么重要?首先,我们需要清楚这项技术能做什么、不能做什么。其次,别指望未来会出现“不产生幻觉”的版本。

03.AI能耗极高且需求持续攀升

你可能听说过AI能耗巨大。但这种印象大多源于训练巨型模型的电力消耗,而巨型模型的训练频率并不高。

真正的变化是这些模型如今每天被数亿人使用。虽然单次模型调用的能耗远低于训练,但如此庞大的用户规模使总能耗急剧上升

以ChatGPT为例,它每周有4亿活跃用户,成为全球第五大访问量网站,仅次于Instagram,领先于X平台。其他聊天机器人也在迎头赶上。

因此,科技公司争相在沙漠地区新建数据中心、改造电网也就不足为奇了。

事实上,由于主要开发人工智能技术的公司都未公布太多相关信息,我们一直不清楚支撑这一繁荣究竟需要多少能源。

不过情况正在改变。我的几位同事与研究人员花了数月时间,对一些开源版本的人工智能技术进行了数据计算。

04.没人确切知道大型语言模型的工作原理

当然,我们知道如何构建大模型,也知道如何让它们高效运行——就像第一点提到的那样。

但它们“如何实现这些功能”仍是未解之谜。这就像这些模型是从外太空来的,科学家只能从外部不断试探,试图弄清它们的本质。

令人不可思议的是,从未有过一款被数十亿人使用的大众技术,其原理却如此不为人知

这为什么重要?因为在我们更深入理解它们之前,无法确切知道它们能做什么、不能做什么,无法控制它们的行为,也无法完全理解“幻觉”的成因。

05.AGI毫无实际意义

不久前,谈论AGI(人工通用智能)还属于边缘话题,主流研究人员都羞于提及。但随着AI技术进步和商业化价值飙升,严肃的从业者开始坦然宣称“即将实现AGI”,无论AGI究竟是什么。

AGI的定义大致是能在广泛认知任务中达到人类水平的AI。

但这到底意味着什么?如何衡量“水平”?以哪些人为标准?任务范围有多广?“认知任务表现”本质上就是“智力”的另一种说法,所以这个定义本身就是循环论证。

本质上,现在人们提到AGI时,往往只是指“比当前更先进的AI”。

有一种对AI发展的绝对信念。过去它在进步,未来也会持续进步。但没有任何证据能证明这一趋势必然延续。

那么,这让我们何去何从?

我们正在制造的机器在模仿人类行为方面已非常出色,但我们仍未摆脱在它们背后想象出一个人类思维的惯性。这导致人们对人工智能的能力产生了夸大的假设,并加剧了科技乐观主义者与科技怀疑论者之间的文化战争。

对这项技术感到惊叹是合理的,对有关它的诸多言论保持怀疑也是合理的。现在仍处于早期阶段,一切皆有可能。

原文来源于:

1.https://www.technologyreview.com/2025/07/22/1120556/five-things-to-know-ai/

本文来自微信公众号“元宇宙之心MetaverseHub”,作者:元宇宙之心,36氪经授权发布。

+1
1

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000

下一篇

要么适应新的竞争规则,要么只能渐渐掉队。

2025-07-24

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业