인공지능 기업 Anthropic이 재귀적 자기 개선(RSI)이 중대한 위험을 초래할 수 있다고 경고했습니다. 지난주 Anthropic은 자사의 AI 모델인 Claude가 현재 회사 코드의 약 80%를 생성할 수 있다고 발표했습니다. 회사는 이를 AI가 인간의 개입 없이 차세대 AI 시스템을 설계할 수 있는 '자기 개선' 단계에 진입했음을 보여주는 핵심 신호라고 밝혔습니다.
재귀적 자기 개선 개념은 최근 실리콘밸리에서 큰 주목을 받고 있습니다. 지난달 OpenAI는 샌프란시스코에서 관련 회의를 개최하여, 여러 연구자들이 AI 자기 개선이 가져올 잠재력과 위험을 논의했습니다. Anthropic의 성명은 AI 능력이 빠르게 향상됨에 따라 잠재적으로 통제 불능 상태가 될 수 있는 행동에 대한 모니터링 및 안전 장치 구축이 더욱 시급해지고 있음을 강조합니다. (The Information)