미국 군 당국은 중국 선박에 대한 작전을 마지막 순간에 중단했는데, 당시 전투기가 이미 출격한 상태였다. 이는 작전의 근거가 된 정보가 AI 챗봇에 의해 “환각”처럼 생성된 것으로 밝혀졌기 때문이다. 금요일 CNN 보도에 따르면, 이 허위 정보는 특수작전사령부의 한 분석가가 인공지능 챗봇에 질의하여 생성된 것으로, 해당 선박이 이란과의 전쟁 중 핵무기 부품을 운반하고 있다고 잘못 판단하여 중국과의 잠재적 충돌을 초래할 뻔했다. 전문가들은 대규모 언어 모델(LLM)에 내재된 불확실성을 경고하며, 군사 결정에 있어 안전장치 마련이 시급하다고 강조했다.