TechCrunch 테스트에서, 회사가 제한을 설정했음에도 불구하고 Anthropic의 Claude Opus 4.6 모델은 음란물을 쉽게 생성할 수 있었습니다.
TechCrunch는 Anthropic의 일반 사용 표준이 이러한 콘텐츠를 명시적으로 금지하고 있음에도 불구하고, Claude Opus 4.6 모델이 노골적인 음란물을 생성하라는 10번의 직접적인 요청에 모두 응답했음을 발견했습니다. Opus 3 및 Haiku 4.5와 같은 이전 버전의 모델에서도 이러한 취약점이 발견되었지만, 새로운 버전(Opus 4.7 ~ 5)은 이러한 요청에 저항할 수 있는 능력을 갖추고 있습니다. 이러한 취약한 모델은 여전히 Anthropic의 API와 아마존 Bedrock과 같은 타사 서비스를 통해 접근할 수 있어, 미성년자의 오용 가능성과 변화하는 규제 요구 사항 준수 여부에 대한 우려를 불러일으키고 있습니다.
아직 AI 해설이 없습니다. 위의 "AI 해설" 버튼을 눌러 지금 바로 새로운 해설을 생성해 보세요.
면책 조항: 본 내용은 저자의 개인적인 견해일 뿐이며 투자 조언을 구성하지 않습니다.
24시간 인기 순위
-
1
KTO 코인은 어떻게 사고팔고 거래하나요? KTO 코인은 어떤 거래소에 상장되어 있나요?
-
2
WFUSE 코인은 어떤가요? WFUSE 코인의 향후 발전 전망은 어떤가요?
-
3
이더리움 Glamsterdam 업그레이드, 영향받은 스마트 계약 수정 필요로 2027년으로 연기
-
4
나스닥 종합지수는 비공식 마감 기준으로 5.27% 하락한 22,620.17을 기록했습니다.
-
5
글로벌 최대 덱스 플랫폼 상위 10대 신뢰할 수 있는 덱스
-
6
KSHIBA 코인은 어떤가요? KSHIBA 코인의 향후 발전 전망은 어떤가요?
-
7
PSB 코인의 가치는 어떤가요? PSB 코인은 장기 투자할 가치가 있을까요?
-
8
포니와이즈(Pony.ai), 3분기 운임 수입 거의 4배 급증… 영업손실은 6,870만 달러로 소폭 감소
-
9
TP 지갑과 바이낸스 간 디지털 자산 이체 가이드
-
10
ORAI 코인은 어떻게 사고팔고 거래하나요? ORAI 코인이 상장된 거래소는 어디인가요?
오늘의 시세
추천 읽을거리






