보도에 따르면, 플로리다주 보니타 스프링스(Bonita Springs)의 칼리 미셸 헬러(Carli Michelle Heller)가 AI 비서 Claude에 위협적인 발언을 기록한 혐의로 체포되었습니다. 수사관들은 헬러가 9월 26일 리 카운티 보안관 사무실을 "총격"하겠다는 글을 썼고, 다음 날 새 총을 구입한 것을 발견했습니다. Anthropic 플랫폼이 위협적인 내용을 감지한 후, 수동 검토팀을 통해 법 집행 기관에 보고되었습니다. Anthropic의 사용자 약관 및 개인정보 보호 정책은 회사가 심각한 피해를 방지하기 위해 필요하다고 판단할 경우 사용자 데이터를 경찰과 공유할 수 있도록 허용하며, 모델 훈련에 사용하지 않기로 선택하더라도 데이터는 보존 및 검토될 수 있습니다.