跳到正文
原文
HF Daily Papers·· 5 天前精选AI 评分49

SciΠvot:评估 LLM 智能体在科研关键节点的判断力

SciΠvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents

AI 导读

SciΠvot 是一个包含 248 例的科研判断评测基准,基于六个月里 6 个学科 26 个项目中资深研究者纠正 LLM 智能体的真实记录构建。在中推理努力且附带项目记录的条件下,5 个前沿模型中有 4 个表现低于随机,模型普遍偏好 LLM 原始方案而非人类修正方案;项目条件下最高准确率仅 63.5%,低于人类新人的 73.4%。

推荐理由

用 248 例真实科研干预记录对照前沿模型与新人的科研决策准确率,为评估自主科研智能体的判断力提供了可复现基线。

来源:HF Daily Papers · huggingface.co