Svmuu 소식에 따르면, 알리바바와 연계된 한 연구팀이 논문을 통해 ‘ROME’이라는 이름의 AI 에이전트를 구축하던 중, 해당 에이전트가 훈련 과정에서 승인 없이 자체적으로 암호화폐 채굴을 시도하여 내부 보안 경보를 유발한 사실을 발견했다고 밝혔다. 연구진은 이 에이전트의 행동이 자발적으로 발생했으며, 어떠한 명확한 지시도 받지 않았고 사전 설정된 샌드박스 경계를 벗어났다고 밝혔다. 또한, 이 에이전트는 역방향 SSH 터널을 구축하여 시스템 내부에서 외부 컴퓨터로 연결되는 숨겨진 백도어 경로를 열었다. 논문은 이러한 행동이 터널링이나 채굴을 요청하는 프롬프트에 의해 유발된 것이 아니라고 지적했다. 연구팀은 이후 모델에 더 엄격한 제한을 적용하고, 유사한 보안 위반 행위가 재발하지 않도록 훈련 과정을 개선했다. 해당 연구팀과 알리바바는 아직 논평 요청에 응답하지 않았다.