跳到正文
TechCrunch · AI· Jagmeet Singh·· 5 小时前AI 评分38

Nvidia 投资印度创企 Simplismart,助企业用更少 GPU 运行 AI 模型

Nvidia backs Indian startup helping companies run AI models with fewer GPUs

AI 导读

Nvidia 参与印度创企 Simplismart 的 1400 万美元 B 轮融资,后者估值约 1 亿美元,其软件可优化模型部署与算力调度,帮助企业用更少 GPU 运行 AI 模型。Simplismart 称已帮 AI 视频平台 InVideo 将 GPU 服务成本降低 56%,客户还包括 HeyGen、Higgsfield 和 Ema。其年化收入过去六个月增长 14 倍,超半数收入来自美国。

正文 · AI 翻译

随着 AI 热潮使算力承压,英伟达投资了印度初创公司 Simplismart 参与的一轮 1400 万美元融资,押注于帮助企业更高效地运行 AI 模型、并在某些情况下减少 GPU 使用量的软件。

英伟达与 Accel、Shastra VC 和 Micromax 一同参与了这轮全为初级股的 B 轮融资,由 Dallas Venture Capital 领投。此轮融资对这家成立四年的初创公司估值约为 1 亿美元(含新融资)。

如今企业为运行 AI 应用在 GPU 上投入巨大,但可靠且经济地大规模运行这些模型仍是一项挑战。不同的工作负载需要在速度、成本和性能之间做出不同的权衡。为满足业务需求而部署和运营 AI 模型,往往还需要复杂的调整。Simplismart 表示,其软件可自动完成其中大部分工作,针对现有计算基础设施定制模型的运行方式,而无需客户自行管理这些配置。

“其实没有人真正需要最快或最便宜的推理,”Simplismart 联合创始人兼 CEO Amritanshu Jain(上图左)在接受采访时表示。他补充说,企业真正需要的是以对其特定应用而言合理的速度和成本来运行 AI 模型。

Simplismart 的软件位于 AI 模型与其运行所在的计算基础设施之间,调整模型的部署和管理方式以满足客户需求。该公司表示,它可以优化模型响应速度、处理请求数量以及消耗算力等因素,帮助企业更充分地利用现有 GPU 资源。

这家总部位于班加罗尔的初创公司为企业提供通过其自有平台或在企业现有云端及本地基础设施中部署和运行 AI 模型的方式。它还提供微调模型、随需求变化自动扩展计算资源以及监控性能的工具。此外,Simplismart 还允许云服务提供商利用其软件在 GPU 基础设施上构建和运营自己的 AI 推理服务。

Simplismart 表示,它帮助 AI 视频生成平台 InVideo 利用其软件将 GPU 服务成本降低了 56%。该初创公司还与 AI 视频公司 HeyGen 和 Higgsfield 以及企业 AI 初创公司 Ema 等展开合作。此外,印度云服务提供商 Yotta 使用 Simplismart 的技术为其 Shakti Studio 平台内的无服务器 AI 推理服务提供支持。

Jain 对 TechCrunch 表示,Simplismart 的年化营收运行率在过去六个月增长了 14 倍,达到八位数。该公司表示,该数字基于近期客户使用量而非合同经常性收入,且不包括转嫁给基础设施提供商的收入。他未披露具体数字。

Jain 表示,尽管 Simplismart 在印度的客户更多,但其超过一半的收入来自美国。

Jain 对 TechCrunch 表示,除投资外,英伟达一直与 Simplismart 在技术集成方面合作,包括围绕其 Dynamo 推理软件。Jain 称,这一合作涉及 Simplismart 的工程师和英伟达的解决方案架构师,英伟达还帮助将该初创公司介绍给潜在客户和合作伙伴。

有趣的是,这笔投资呈现出一种明显的悖论:作为 AI 芯片的主导供应商,英伟达却在支持一款软件,帮助企业用更少的 GPU 运行部分工作负载。然而,Jain 认为,让 AI 推理更高效最终可能对英伟达有利,因为这会让其硬件对客户更具吸引力,并推动 AI 应用更广泛地采用。

Simplismart 正在一个日益拥挤的 AI 推理软件市场中服务客户,与英伟达自身以及包括 Amazon Web Services、Google Cloud 和 Microsoft Azure 在内的主要云提供商和超大规模厂商的产品展开竞争。随着该领域需求不断增长——这得益于 AI 应用需求上升以及更充分利用昂贵 GPU 资源的需要——越来越多的初创公司也在开发让 AI 模型运行更快、成本更低的工具。

“我们往往能在客户对 SLA(服务级别协议)和 TCO(总拥有成本)要求更严格的地方胜出,”Jain 说,他指的是严苛的性能要求和紧张的成本约束。他表示,与那些提供更快或更便宜推理的预设选项的竞争对手不同,Simplismart 旨在为每位客户的需求找到量身定制的平衡点。

Simplismart 由前 Oracle 工程师 Jain 和前 Google 工程师 Devansh Ghatak(上图右)于 2022 年创立,源于两人在构建和部署机器学习系统方面的经验。Jain 说,两人在 BITS Pilani 求学时相识,这家初创公司目前拥有 58 名员工。

Simplismart 计划利用新资金扩大其在美国的业务、壮大团队,并进一步投资开发其推理软件。Jain 告诉 TechCrunch,美国仍是这家初创公司的关键市场,因为它希望在此基础上拓展当地现有客户群。

此次融资消息公布之前,印度英文日报《经济时报》报道称,Simplismart 正洽谈以 3 亿至 4 亿美元估值融资 4000 万至 5000 万美元。当被问及该报道时,Jain 拒绝置评,称这家初创公司并未积极融资。他补充说,B 轮融资已经完成,不会扩大。

当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

来源:TechCrunch · AI · techcrunch.com