HF Daily Papers·· 5 天前精选AI 评分49
SciΠvot:评估 LLM 智能体在科研关键节点的判断力
SciΠvot: Benchmarking Principal-Investigator Judgment at Pivotal Moments of Scientific AutoResearch Agents
AI 导读
SciΠvot 是一个包含 248 例的科研判断评测基准,基于六个月里 6 个学科 26 个项目中资深研究者纠正 LLM 智能体的真实记录构建。在中推理努力且附带项目记录的条件下,5 个前沿模型中有 4 个表现低于随机,模型普遍偏好 LLM 原始方案而非人类修正方案;项目条件下最高准确率仅 63.5%,低于人类新人的 73.4%。
推荐理由
用 248 例真实科研干预记录对照前沿模型与新人的科研决策准确率,为评估自主科研智能体的判断力提供了可复现基线。
来源:HF Daily Papers · huggingface.co