热点事件持续更新
Circuit Breaker Labs:用红队测试提升AI心理安全
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月3日,TechCrunch报道,兄弟档Shirali与Arul Nigam创立了Circuit Breaker Labs。该公司通过部署模拟不同年龄与文化背景用户的AI智能体,对AI模型进行红队测试,系统每天运行数万至数十万次交互,专门用于发现模型在心理安全方面的隐患,例如对儿童可能造成伤害的输出等,旨在让AI产品对未成年人及成年用户都更加安全。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月3日
- TechCrunch · AICircuit Breaker Labs:让 AI 对孩子(和成年人)更安全
Circuit Breaker Labs 由兄弟档 Shirali 与 Arul Nigam 创立,通过模拟不同年龄与文化背景用户的 AI 智能体对模型进行红队测试,每天运行数万至数十万次交互以发现心理安全隐患。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。