跳到正文
热点事件观察中

综述提出可信递归自我改进框架

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

综述作者发表《大模型时代可信递归自我改进综述》,定义递归自我改进(RSI),并提出以改进有效性、约束保持和有效监督为三类流程要求的可信框架。 该框架涵盖改进诊断、方案生成、方案评估和更新实施四个阶段,并将改进机制自身的递归更新纳入其中。作者指出,评估失真、能力退化、人工监督失效及风险继承、安全和隐私问题可能削弱改进效果,因此需要独立、长期的评估。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. HF Daily Papers
    大模型时代可信递归自我改进综述:基础、风险、评估与开放挑战

    大模型时代可信递归自我改进综述定义了RSI,并提出改进有效性、约束保持与有效监督三类流程要求。框架覆盖改进诊断、方案生成、方案评估和更新实施(S1--S4),同时纳入改进机制自身的递归更新。综述还梳理单次更新、继承风险与安全隐私问题,指出评估失真、能力退化和人工监督失效等风险及独立长期评估需求。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。