跳到正文
热点事件持续更新

lasu 开源 Parsimony 基准,量化 AI 编码模型净增代码量

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

开发者 lasu 开源了 Parsimony 基准,用来量化 AI 编码模型完成任务时净增的代码单元。它复用 SWE-bench Verified 已发布的 patch,按净增单元数(新增减删除)排序,而非按行计数,目前仅支持 Python,并排除测试、文档和生成文件,解决数直接取自 SWE-bench Verified 且不重跑测试。 据 lasu 介绍,榜单上写入代码更少的模型并未解决更多任务,模型排名与解决数之间的 Spearman 系数为 0.33–0.60。所有模型共用 mini-SWE-agent 运行,但 lasu 指出 agent 本身仍会影响实际写入的代码量。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. Hacker News精选
    开发者 lasu 开源 Parsimony 基准,量化 AI 编码模型净增的代码量

    开发者 lasu 开源 Parsimony 基准,量化 AI 编码模型在完成任务时净增了多少代码单元。它复用 SWE-bench Verified 已发布的 patch,按净增单元数(新增减去删除)排序而非按行计数,目前仅支持 Python。榜单显示代码量更小的模型并未解决更多任务,模型排名与解决数的 Spearman 系数为 0.33–0.60,所有模型共用 mini-SWE-agent 运行。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。