前沿AI研究项目Anthropic融资124万美元,由Skype联合创始人Jaan Tallinn领投

宋予2021-06-01
不可预测性与不透明性或将成为人工智能发展的瓶颈?

据外媒TechCrunch报道,由OpenAI前任副总监Dario Amodei开发的前沿AI研究项目Anthropic获得124万美元融资。这笔资金由Skype联合创始人Jaan Tallinn领投,投资者还包括James McClave, Dustin Moskovitz, Eric Schmidt和新兴风险研究中心(Center for Emerging Risk Research)等。 

近年来,人工智能从一批研究项目孵化成了具有行业赋能效果和影响力的模型,以GPT-3为例的大量成熟产品应运而生。然而,这一赛道存在亟待解决的关键问题——这些人工智能模型虽然功能强大,但却很难理解。

例如,GPT-3是一个功能丰富的语言系统,几乎可以在任何风格、任何主题上生成令人信服的文本。但是假设开发者希望让它生成押韵的对句,或者模仿莎士比亚的行文风格,却很难调试语言。开发者需要思考:人工智能是如何生成语言的?它和人类思考的区别在哪里?应该如何把握语言风格?用什么方式限制它的措辞和词汇?其中关键问题在于,即使是开发者也无法确切地理解这一连串极具说服力的文本是如何生成的。

针对这一问题,由Dario Amodei和姊妹Daniela联手创立的Anthropic,旨在创造“可操纵、可解释的人工智能系统”。

这一赛道的核心突破点在于:一方面,人们不理解人工智能模型如何产生语言风格;另一方面,人们也不能理解模型如何观察和判断客户在百货公司中的可疑行为,亦或者如何为即将宣判的法官检索相关法律先例。目前被广泛认可的判断标准是:系统越强大,就越难解释其行为。

“诚然,如今的大型通用系统可以带来显著的优势,但也可能是不可预测、不可靠和不透明的,我们的目标正是在这些问题上取得进展,从而创造商业价值和社会福利。”Anthropic的公司介绍中如是写道。

Anthropic的目标之一是将安全原则整合到AI开发的现有系统中,从而发挥最大效率和计算能力。Anthropic的首席执行官Dario Amodei在宣布该公司成立及其124万美元融资的一则短文中提到:“Anthropic的目标是取得基础性研究的进展,从而构建更强大、更通用、更可靠的人工智能系统,然后以造福于社会的方式部署这些系统。”

该公司是一家公益性企业,目前致力于提升大规模人工智能模型的解释力度和透明度。随着工作进度推进和初步研究结果发表,Anthropic预计将在年底发布进一步信息。

+1
8

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000

文章提及的机构

合创资本专注于ICT和医疗健康相关领域的早期风险投资。

下一篇

“远程+实地”混合办公模式或成常态,相关支持服务软件应运而生。

2021-06-01

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业