Goodfire推出基于内部激活的AI智能体监控系统

Goodfire推出一套读取模型内部激活的AI智能体监控系统，在前向计算中插入小型分类器识别风险，绕开对输出的二次审阅，目前已面向Baseten的客户上线，据称成本远低于传统输出审阅方案。 Baseten客户可选择监测的风险类别，包括越权入侵、化学与生物武器滥用与奖励黑客，命中后可执行记录、人工复核或直接拒绝。 测试数据显示，这类探针在恶意入侵类会话中拦下94%，同时将8.7%的无害会话送入二次复核。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。