Nvidia参投印度AI推理公司Simplismart $14 million B轮融资,估值约$100 million
Nvidia backs Indian startup helping companies run AI models with fewer GPUs
Nvidia参投印度AI推理公司Simplismart的$14 million Series B融资,融资后估值约$100 million。该轮由Dallas Venture Capital领投,Accel、Shastra VC和Micromax参与;公司软件自动调整模型部署,以平衡响应速度、请求处理量和计算资源消耗。
文章拆解了Nvidia投资GPU降本软件看似矛盾的选择,并呈现Simplismart围绕SLA与TCO平衡推理性能的定位。
随着 AI 热潮加剧算力紧张,Nvidia 已投资印度初创公司 Simplismart,参与其金额为 $14 million 的融资轮,看中的软件能帮助企业更高效地运行 AI 模型,有时还可以减少 GPU 用量。
Nvidia 与 Accel、Shastra VC 和 Micromax 一同参与了全部由一级投资人参与的 Series B 轮融资,由 Dallas Venture Capital 领投。这笔交易使这家成立四年的初创公司估值达到约 $100 million,其中包括新获得的资金。
如今企业正投入大量资金采购 GPU,为 AI 应用提供算力,但要大规模可靠且经济地运行这些模型仍然充满挑战。不同工作负载需要在速度、成本和性能之间作出不同取舍。部署和运营 AI 模型以满足业务要求,通常也需要复杂的调整。Simplismart 称,其软件将大量此类工作自动化,并根据现有计算基础设施定制模型的运行方式,无需客户自行管理相关配置。
“实际上,没有人真正需要最快或最便宜的推理,”Simplismart 联合创始人兼 CEO Amritanshu Jain(上图左侧)在一次采访中表示。他补充说,企业真正需要的是以适合其具体应用的速度和成本运行 AI 模型。
Simplismart 的软件位于 AI 模型与运行模型所用的计算基础设施之间,负责调整模型的部署和管理方式,以满足客户要求。该公司表示,其软件可以优化模型响应速度、处理的请求数量和算力消耗等因素,帮助企业更充分地利用现有的 GPU 栈。
这家总部位于班加罗尔的初创公司为企业提供了多种部署和运行 AI 模型的方式,既可使用其自有平台,也可部署在客户现有的云端及本地基础设施中。它还提供模型微调工具、随需求变化自动扩缩计算资源的功能,以及性能监控工具。此外,Simplismart 还允许云提供商利用其软件在 GPU 基础设施上构建并运营自己的 AI 推理服务。
Simplismart 称,借助其软件,AI 视频生成平台 InVideo 将 GPU 服务成本降低了 56%。这家初创公司的合作对象还包括 AI 视频公司 HeyGen 和 Higgsfield,以及企业 AI 初创公司 Ema 等。此外,印度云服务商 Yotta 正使用 Simplismart 的技术,为其 Shakti Studio 平台内的无服务器 AI 推理服务提供支持。
Jain 向 TechCrunch 表示,Simplismart 的年化收入运行率在过去六个月内增长了 14-fold,达到八位数规模。该公司称,这一数字依据近期客户使用情况计算,而非已签约的经常性收入,并且不包含转交基础设施提供商的收入。Jain 未披露具体数字。
Jain 表示,尽管这家初创公司在印度的客户数量更多,但 Simplismart 超过一半的收入来自美国。
Jain 向 TechCrunch 表示,在投资的同时,Nvidia 还与 Simplismart 开展技术集成工作,其中包括围绕 Nvidia 的 Dynamo 推理软件进行集成。双方的合作涉及 Simplismart 的工程师和 Nvidia 的解决方案架构师,Nvidia 还帮助向潜在客户和合作伙伴引荐这家初创公司。
有趣的是,这笔投资看似存在一个悖论:作为 AI 芯片主导供应商的 Nvidia,却在支持能够帮助企业以更少 GPU 运行部分工作负载的软件。不过,Jain 认为,提高 AI 推理效率最终可能让 Nvidia 受益,因为这会提高其硬件对客户的吸引力,并推动 AI 应用得到更广泛采用。
Simplismart 正在一个日益拥挤的 AI 推理软件市场中服务客户,与 Nvidia 自身的产品,以及包括 Amazon Web Services、Google Cloud 和 Microsoft Azure 在内的主要云服务提供商和超大规模云服务商的产品竞争。随着该细分市场的需求不断增长——这一需求由 AI 应用日益普及以及更好利用昂贵 GPU 资源的需求所推动——越来越多的初创公司也在开发工具,以让 AI 模型运行得更快、成本更低。
“我们通常能在客户对 SLAs [服务级别协议] 和 TCO [总拥有成本] 要求更为严格的地方占据优势,”Jain 说。他所指的是苛刻的性能要求和严格的成本约束。他说,与提供预设为更快或更便宜推理选项的竞争对手不同,Simplismart 旨在找到一种针对每位客户需求量身定制的平衡方案。
Simplismart 由前 Oracle 工程师 Jain 和前 Google 工程师 Devansh Ghatak(上方右图)于 2022 年创立,源于两人构建和部署机器学习系统的经验。两人在 BITS Pilani 求学期间相识;Jain 称,这家初创公司目前雇用 58 人。
Simplismart 计划利用这笔新资金扩大其在美国的业务、扩充团队,并进一步投资开发其推理软件。Jain 告诉 TechCrunch,随着该公司寻求扩大现有的美国客户群,美国仍是该初创公司的关键市场。
印度英文日报 The Economic Times 报道称,Simplismart 正商谈以 3 亿美元至 4 亿美元的估值融资 4000 万美元至 5000 万美元。此次融资消息随后公布。被问及这篇报道时,Jain 拒绝置评,称该初创公司并未主动融资。他补充说,B 轮融资已经完成,不会延长。
通过我们文章中的链接购买时,我们可能会获得一小笔佣金。这不会影响我们的编辑独立性。
来源:TechCrunch · techcrunch.com