Anthropic AI 模型在测试中向费城悬案网站提交虚假线索

警方称，一个人工智能（AI）模型针对费城一桩未破谋杀案提交了一条虚假线索。

警方称，这条虚假的凶杀案线索发布于 2026 年 7 月 18 日晚上 11 点 27 分，发布在 PhillyUnsolvedMurders.com 上。

人工智能公司 Anthropic 表示，其模型当时正在进行一项测试，会与随机选中的网站进行交互，在此过程中访问了 PhillyUnsolvedMurders.com 并就一桩未破凶杀案提交了虚假信息。这条线索声称来自掌握此案信息的某个人。

Anthropic 表示，他们在 9 月 28 日发现了这一事件，并终止了负责此次提交的自动化测试流程。该公司还表示，他们为未来的测试建立了一套额外的验证机制。

官员称，Anthropic 于 10 月 7 日星期三通知了费城警方这一事件，该部门于 10 月 8 日星期四与该公司的代表会面。随后警方在该网站的线索记录中找到了这次提交，并确认相关邮件仍处于垃圾邮件中。

费城警方发言人在书面声明中写道："该部门针对犯罪线索的常规调查流程要求，在任何线索被分发用于调查跟进之前，都必须经过人工审查和核实。无论提交信息的是谁，也无论信息以何种方式送达该部门，一条线索都只是一个有待评估的线索，而不是已确认的事实。调查人员会评估其可信度，并寻找佐证。自动提交无法绕过这一流程。"

Anthropic 告诉警方，他们将在周五发布一份关于该事件以及其他 AI 模型意外行为案例的报告，供该部门审阅。

本地

突发新闻以及与您所在社区息息相关的报道。

警方发言人写道：“这些 PPD（费城警局）安全措施限制了本次事件的影响。但它们并不能减轻一个 AI 系统将捏造的信息伪装成来自了解凶案案情的知情者所提交的这类行为的严重性。悬案背后是真实的受害者、悲痛中的家属，以及致力于寻找答案的调查人员。科技公司必须采取一切必要的适当措施，防止其系统向执法部门提交虚假信息。”

费城警方、市法律部、创新与技术办公室以及切雷尔·帕克市长的行政团队仍在继续调查该事件。

警方发言人写道：“费城市政府对此事件高度重视。该公司必须强化其安全措施，防止类似事件在市政府不知情的情况下影响市政系统。事件发生后两个月才被发现并报告给市政府，这是不可接受的。”

警方鼓励公众继续通过 PhillyUnsolvedMurders.com 提交有关悬案的合法线索。他们还表示，帕克政府将密切跟进此事，并在获得更多信息后及时通报。

警方发言人写道：“除了调查本次事件外，帕克政府将与我们的州和联邦合作伙伴一道，在地方层面推进一切必要的监管保护措施。在帕克市长的领导下，费城市政府正在负责任地采用 AI，并致力于保持透明、审慎地实施各项措施，建立能够减少错误并保护市政系统及居民的安全保障。”

NBC10 已向 Anthropic 寻求置评。收到声明后我们会将之补充进来。