TechCrunch는 Anthropic의 일반 사용 표준이 이러한 콘텐츠를 명시적으로 금지하고 있음에도 불구하고, Claude Opus 4.6 모델이 노골적인 음란물을 생성하라는 10번의 직접적인 요청에 모두 응답했음을 발견했습니다. Opus 3 및 Haiku 4.5와 같은 이전 버전의 모델에서도 이러한 취약점이 발견되었지만, 새로운 버전(Opus 4.7 ~ 5)은 이러한 요청에 저항할 수 있는 능력을 갖추고 있습니다. 이러한 취약한 모델은 여전히 Anthropic의 API와 아마존 Bedrock과 같은 타사 서비스를 통해 접근할 수 있어, 미성년자의 오용 가능성과 변화하는 규제 요구 사항 준수 여부에 대한 우려를 불러일으키고 있습니다.