Meta推出AI工具检测引向儿童性虐内容的隐蔽广告

Meta宣布推出一套AI工具，用于检测表面无害、但实际将用户引向外部儿童性虐材料（CSAM）的"暗指"行为。工具包括：一个识别此类signposting的大语言模型系统、一个用于测试自家防护措施的"红队AI智能体"，以及扫描此前可能漏掉的儿童剥削内容和识别被封后换号回归用户的系统。 Meta称，公司可用这些信息封禁违反规则的外部网站/目的地，并对相关账号采取行动。Meta表示，其处置的超过97%的相关内容由自家系统在用户举报前发现；在印度，同期处置了530万条儿童性虐内容，98%以上由系统先于用户举报发现。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。