Anthropic은 S-1A 서류에서 재귀적 자기 개선(RSI) 능력, 즉 "자체 구축 AI"를 달성하는 데 "매우 근접했다"고 경고했습니다. 이 AI 연구소는 월요일에 업데이트된 S-1A 서류에서 내부적으로 정의한 "AI 주도형 상당한 가속화된 발전"에 "임박했을 수 있다"고 밝혔는데, 이는 RSI 모델을 구현할 수 있는 AI를 만드는 최전선에 있음을 시사합니다. 회사는 AI를 활용하여 더 강력한 AI를 구축하는 것이 상당한 보안 위험을 초래할 수 있다고 경고했으며, 특히 발전 속도를 급격히 가속화할 경우 더욱 그렇습니다. 그러나 Anthropic은 현재 어떤 모델도 RSI 임계값을 넘지 않았으며, 예측 가능한 미래에 회사는 연구 개발 과정에서 인간의 참여를 계속 유지할 계획이라고 언급했습니다.