報道によると、フロリダ州ボニータスプリングスのカーリ・ミシェル・ヘラーが、AIアシスタントClaudeに脅迫的な発言を記録したとして逮捕された。捜査官は、ヘラーが9月26日にリー郡保安官事務所を「銃撃する」と書き込み、翌日には新しい銃を入手していたことを発見した。Anthropicプラットフォームが脅迫的な内容を検知した後、人間のレビューチームが法執行機関に報告した。Anthropicの利用規約とプライバシーポリシーは、深刻な危害を防ぐために必要と判断した場合、モデルのトレーニングにデータを使用しない選択をした場合でも、会社がユーザーデータを警察と共有し、データを保持および審査することを許可している。