据报道，佛罗里达州博尼塔斯普林斯（Bonita Springs）的卡莉·米歇尔·海勒（Carli Michelle Heller）因在AI助手Claude中记录威胁言论而被捕。调查人员发现，海勒于9月26日写道将“枪击”李县治安官办公室，并于次日获得了一把新枪。Anthropic平台监测到威胁内容后，经人工审查团队上报执法部门。Anthropic的用户条款和隐私政策均允许公司在认为有必要防止严重伤害时，向警方共享用户数据，即使选择不用于模型训练，数据仍可能被保留和审查。