热点事件持续更新
lasu 开源 Parsimony 基准,量化 AI 编码模型净增代码量
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
开发者 lasu 开源了 Parsimony 基准,用来量化 AI 编码模型完成任务时净增的代码单元。它复用 SWE-bench Verified 已发布的 patch,按净增单元数(新增减删除)排序,而非按行计数,目前仅支持 Python,并排除测试、文档和生成文件,解决数直接取自 SWE-bench Verified 且不重跑测试。 据 lasu 介绍,榜单上写入代码更少的模型并未解决更多任务,模型排名与解决数之间的 Spearman 系数为 0.33–0.60。所有模型共用 mini-SWE-agent 运行,但 lasu 指出 agent 本身仍会影响实际写入的代码量。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 03:50
开发者 lasu 开源 Parsimony 基准,量化 AI 编码模型净增的代码量报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- Hacker News精选开发者 lasu 开源 Parsimony 基准,量化 AI 编码模型净增的代码量
开发者 lasu 开源 Parsimony 基准,量化 AI 编码模型在完成任务时净增了多少代码单元。它复用 SWE-bench Verified 已发布的 patch,按净增单元数(新增减去删除)排序而非按行计数,目前仅支持 Python。榜单显示代码量更小的模型并未解决更多任务,模型排名与解决数的 Spearman 系数为 0.33–0.60,所有模型共用 mini-SWE-agent 运行。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。