Nvidia 发布 Nemotron 3.5 Super VL 与两款 Bolt 开源模型
Nvidia launches new open models to run agents in the enterprise and on PCs
Nvidia 发布 Nemotron 3.5 Super VL 120B 参数量级开源模型,定位于企业级智能体,并同步推出两款 Bolt 模型用于本地 PC 运行。
英伟达周四发布了新的开放权重模型,专为常驻智能体和边缘计算设计。
Nemotron 3.5 Super VL 是一款大型的 1200 亿参数模型,面向企业使用的智能体。 虽然它使用的参数少于 Nemotron 3 Ultra 模型,但英伟达表示它能在指令遵循和工具使用任务中提供类似的准确度。
在另一端,该公司还发布了两款轻量级的 Bolt 模型。这些模型旨在本地运行于新的 AI PC(搭载英伟达 RTX Spark 芯片)以及运行 DGX Spark 的工作站上。此类 PC 面向消费者、程序员和企业知识工作者,目前正通过微软和戴尔等合作伙伴推向市场。
"任何希望在英伟达基础设施上运行智能体的组织,现在都拥有了一个开放的、优化过的模型,无需在能力与可部署性之间做出取舍,"英伟达开放模型与软件副总裁 Kari Briski 在宣布这些模型的博客文章中写道。
英伟达声称,在针对特定智能体任务进行后训练时,Super VL 的任务完成速度超过了来自 Anthropic 和 OpenAI 的竞争模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。这些任务包括文档智能、财务会计、科学实验、医疗保险理赔和安全攻击弹性。
虽然每当一家大型科技公司发布新模型时,这种说法都很常见,但英伟达用一份据称正在使用 Super VL 的重量级公司名单作为佐证。这些公司包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。
当然,这些并不是英伟达发布的第一批与专有前沿实验室竞争的开放权重模型——这些公司既是它的客户,也是它的投资对象。这家 GPU 巨头拥有一整套 Nemotron 模型系列,涵盖了从多模态人工智能到推理、编码、数学和企业自动化的所有功能。
然而,那些快速发展的专有 AI 实验室现在正着眼于英伟达以外的许多其他芯片和 AI 系统制造商来满足自身需求(例如 AWS 的 Trainium 和 Cerebras,以及自研芯片)。
因此,英伟达正在大力迎合企业公司希望在自己的数据中心运行自有开放模型的趋势。"与封闭式前沿模型不同,组织可以基于自己的数据对 Super VL 进行后训练,将其部署在自己的基础设施上,并拥有自己所构建的一切,"Briski 写道。
但通过发布更小的、本地运行的 PC 模型,它也试图推动消费级 AI 助手这一尚处萌芽阶段的趋势。虽然初创公司和大型科技公司似乎每天都在推出新的 AI 助手,但不堪隐私困扰的消费者可能不希望如此深入地邀请这些智能体进入他们的生活,让其获取关于他们家庭、健康、财务等方面的信息。
因此,英伟达希望通过打造能够本地运行模型和智能体的机器,为自己开辟一个由其芯片驱动的 PC 新市场,PC 用户"可以将日常项目委托出去……而无需将这些工作负载发送到云端,"Briski 写道。
在两款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 是一款 740 亿参数的模型,专为本地代理任务设计。它旨在兼顾速度与推理能力,以处理 多步推理、工具调用及网页浏览任务。最小的 Bolt E4B 则面向对话式代理。
Nvidia 称,Super VL 和 Bolt 74B-A9B 现已推出,Bolt E4B 将于本月晚些时候面市。
当您通过我们文章中的链接进行购买时,我们可能会获得少量佣金。这不会影响我们的编辑独立性。
Julie Bort 是 TechCrunch 的创业/风险投资版块编辑。
如需联系 Julie 或核实其对外信息,可发送邮件至 [email protected],或在 X 上通过 @Julie188 与她取得联系。
来源:TechCrunch · techcrunch.com