據報道，佛羅里達州博尼塔斯普林斯（Bonita Springs）的卡莉·米歇爾·海勒（Carli Michelle Heller）因在AI助手Claude中記錄威脅言論而被捕。調查人員發現，海勒於9月26日寫道將“槍擊”李縣治安官辦公室，並於次日獲得了一把新槍。Anthropic平台監測到威脅內容後，經人工審查團隊上報執法部門。Anthropic的用户條款和隱私政策均允許公司在認為有必要防止嚴重傷害時，向警方共享用户數據，即使選擇不用於模型訓練，數據仍可能被保留和審查。