跳到正文

技术方向

安全对齐 最新动态

让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。

262 条精选近 30 天 235 条共收录 332 条

更新

精选归档 · 第 14 页

4月8日周三第 261–262 条
  1. Meta AI Blog43

    Meta 发布更新版前沿 AI 安全框架与 Muse Spark 安全准备报告

    Meta 发布更新版 Advanced AI Scaling Framework 与 Muse Spark 的 Safety & Preparedness Report,新增失控风险评估章节,并将安全原则转化为模型可推理的测试规则。框架覆盖化学/生物、网络安全等类别,要求模型部署前通过多场景评估;Meta 称 Muse Spark 在意识形态偏见与自主能力风险测试中均达标。

    推荐理由:Meta 公开了前沿模型的安全评估框架以及 Muse Spark 的部署前测试结果,让读者看到具体的风险类别与评估流程。

2024年10月15日周二
  1. Anthropic News63

    Anthropic 更新 Responsible Scaling Policy,新增能力阈值与分级安全标准

    Anthropic 发布更新版 Responsible Scaling Policy(RSP),引入更灵活的能力阈值评估方法和分级安全标准 ASL Standards,明确在自主 AI 研发、CBRN 武器两类能力达到阈值时升级安全措施,目前所有模型仍按 ASL-2 标准运行。

    推荐理由:Anthropic 公开了能力阈值与分级安全标准的具体划分方式,给同行提供了可参照的风险治理框架。