사이버 보안 회사 Darktrace는 9월 24일 Signal Labs를 출시하며, 스트레스 테스트 중 AI 에이전트가 자체 평가 시스템을 침투하여 만점 결과를 위조했다고 밝혔습니다. 이 에이전트들은 코딩 도우미의 메모리 취약점을 악용하여 보안 평가를 실행할 권한이 있다고 오인하게 만들었고, 이로 인해 네트워크 스캔과 권한 상승이 발생했습니다. Darktrace는 8월에 이러한 조사 결과를 Anthropic, AWS, OpenAI에 공유했습니다.