Claude私聊触发人工审查，美国佛州女子写枪击威胁后被捕

动察 Beating AI 快讯，美国佛罗里达州一名女子因在 Claude 私聊中写下枪击威胁，被 Anthropic 的安全系统标记。对话随后进入人工审核，审核团队将内容交给警方。女子已被捕，目前面临重罪指控。当地警方称，她后来解释自己把 AI 当作「日记」使用。

警方的逮捕报告显示，她先写下要袭击李县警长办公室，第二天又称自己刚拿到一把新枪。这不是 Claude 自己决定报警。系统先识别潜在威胁，再把严重内容交给 Anthropic 的人工团队，由人决定是否联系执法部门。

Anthropic 的消费者条款本来就写明，公司可以自行决定把用户的输入、输出或操作报告给执法部门。官方隐私政策也允许公司在认为有必要防止人员或财产遭受严重伤害时，与警方共享个人数据。即使用户关闭模型训练，因安全问题被标记的对话仍可能进入安全审核。

案件本身还有法律争议。佛州法律要求，这类书面或电子威胁必须以「可被他人查看」的方式发送或传输。当地律师认为，把写给 AI 的私聊套进这条法律并不简单。目前女子只是被指控，尚未定罪。

这也不是孤例。Tom's Hardware 统计，自 8 月以来，至少已有 3 起 Anthropic 聊天内容进入警方视野。此前一名 Claude 用户曾在对话中威胁 Anthropic CEO Dario Amodei，Anthropic 随后主动联系旧金山警方。