海外new things |「Deepset」获3000 万美元融资，扩大以 LLM 为重点的 MLOps 服务范围

作者：子渝 

编辑：王与桐

据 TechCrunch 报道，8 月 9 日，以大语言模型为基础的企业应用程序构建平台 Deepset 宣布完成 新一轮3000 万美元融资，Balderton Capital 领投、GV 和 Harpoon Ventures 参投。截止目前，Deepset 已筹集总计 4600 万美元资金。Deepset 联合创始人兼首席执行官 Milos Rusic 表示，本轮融资将用于扩大 Deepset 以大模型为基础的产品和服务，并在今年年底前将其团队人数从 50 人左右增加到 70 至 75 人。

Deepset大语言模型 (LLM) 解决了当今企业面临的最大挑战之一——如何更快、更轻松、大规模地利用自己的数据。 没有完整专业知识或时间来构建自己的 LLM 平台的企业可以使用 Deepset Cloud 来利用自然语言处理 (NLP) 的强大功能来构建自己的支持 LLM 的应用程序。

Deepset的创始人Rusic说：“在许多组织中，数据科学团队仍然是开发人工智能的默认选项。实际上，许多数据科学团队正在重组，重新学习和重塑他们的习惯，以满足产品团队和企业最终用户不断增长的需求。这个行业正在从人工智能实验室转向人工智能工厂——它不再是修修补补，而是创造成功的产品和价值。”

Rusic暗示数据科学团队过度劳累和负担过重，最近的一项民意调查也显示，绝大多数数据工程师（为分析工具准备数据的数据科学家）正在经历倦怠期，可能会在12个月内离开他们目前的公司，并考虑完全退出这个行业。这种状况可能会给企业内部的人工智能发展带来挑战。2022年Gartner的一项民意调查发现，只有大约一半的人工智能项目实现了从试点到生产的飞跃，53%的机器学习模型从未部署过。

由此，Rusic于2018年与Malte Pietsch和Timo Möller共同推出了Deepset，通过为企业训练自定义自然语言处理模型来引导业务。这三位联合创始人密切关注谷歌在2017年开发的Transformer AI模型架构——构成ChatGPT和GPT-4等复杂LLM的基础架构。

基于此，2019年，Rusic，Pietsch和Möller发布了开源框架Haystack，用于使用Transformers和其他LLM架构构建NLP后端服务。Rusic说，Haystack目标是为软件工程师提供一系列工具，以快速创建LLM驱动的应用程序，特别是包含特定用例的应用程序，例如帮助法律团队搜索案例文件。

但Deepset的野心最终超过了Haystack。去年，这家初创公司推出了Deepset Cloud，Rusic将其描述为“AI团队的企业LLM平台”。Deepset Cloud通过提供一个平台来扩展Haystack，客户可以在其中试用不同的LLM，将这些LLM嵌入到应用程序中，将应用程序和LLM部署到最终用户，并在持续监控其性能的同时对LLM的准确性进行分析。

Deepset Cloud还包括用于测量和缓解LLM常见问题的组件。这些问题甚至困扰着当今最好的LLM，导致模型编造不基于真实事件或数据的虚假信息或事实。Rusic说:“Deepset Cloud非常充分地利用了开源NLP技术——管道架构、核心组件、数据存储、集成等。我们的平台提供了所有的构建模块，以避免做任何‘无差别的繁重工作’，并使开发人员能够专注于交付NLP后端服务——api驱动、易于组合、易于嵌入和易于监控。”

该公司将MLOps领域的其他企业视为主要竞争对手。MLOps通过提供能够处理模型生命周期每个单独阶段的工具来简化构建和管理机器学习模型的过程。除了AWS、Azure和谷歌云等老牌企业外，越来越多的初创公司为企业客户提供MLOps产品、平台和服务。

Allied Market Research预测，到2031年，MLOps行业将从2021年的10亿美元左右增长到231亿美元。毫无疑问，潜在市场的庞大规模将继续吸引新的进入者。

但Rusic指出，Deepset的扩张证明其在行业中脱颖而出。这家初创公司的平台上运行着“数百个”客户管道，其中包括西门子和空客等。法律出版社Manz与Deepset合作推出了一款内部人工智能工具，可以帮助检索文件、相关判例等；与此同时，空客公司也正在使用Haystack开发应用程序，向驾驶舱内的飞行员推荐飞机操作指南。

Rusic表示：“与雇佣、培训和管理一个专门的团队来进行强大的后端应用程序开发相比，使用Deepset Cloud反复构建NLP和LLM服务通常要快10倍。”Deepset Cloud允许客户同时使用各种LLM，将它们融合在应用程序架构中，以避免锁定供应商，减轻数据隐私和模型主权的问题。”