HF Daily Papers·· 2 天前精选AI 评分52
DecisionPivot:评估 LLM 系统决策模型的诊断基准
DecisionPivot: A Diagnostic Benchmark for Decision Models in LLM Systems
AI 导读
该研究提出 DecisionPivot 诊断基准,用于评估 LLM 系统中决策模型在受控变化下的表现。它包含 48 项任务和 40,033 个条目,覆盖 7 类决策角色,并评估了 40 个决策模型和 14 个通用模型。实验中,两个 27B 模型在参考轨的聚合得分仅差 2.6 分,但对比组准确率分别为 70.1% 和 44.2%,显示总分无法完整反映模型的决策表现。
推荐理由
该基准把对比组表现、校准与推理投入拆开评估,可用于识别总分相近模型在决策正确性和高置信预测可靠性上的差异。
来源:HF Daily Papers · huggingface.co