跳到正文
热点事件持续更新

vLLM约束解码修复工具调用并上线

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

Ubicloud 在 vLLM 中启用约束解码,重跑 K2VV ToolCall 基准后,Kimi K2.6 与 DeepSeek V4 Flash 的工具调用 schema 准确率从 92% 提升至 100%,随后将这一配置部署到生产服务。 这一结果仅指 schema 准确率。vLLM 后加入 `--tool-strict-level` 参数,让部署方按需启用严格的工具调用约束;鉴于 vLLM 面向多种模型,默认关闭约束解码被视为更安全。Moonshot AI 则建议开启约束解码,其自有 API 也采用该方式。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. Hacker News精选
    vLLM 如何通过约束解码修复 Kimi K2.6 与 DeepSeek V4 Flash 的工具调用准确率问题

    Ubicloud 在 vLLM 中启用约束解码后,Kimi K2.6 与 DeepSeek V4 Flash 的工具调用 schema 准确率从 92% 提升至 100%。

本事件热度走势

当前热度 9·可比范围峰值 9(10月27日 00:00)·近 24 小时可比范围变化 –

02.557.51010月27日00:0010月27日01:0010月27日01:0010月27日02:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。