Anthropic의 전 연구원인 Jacob Coxon은 BBC에 AI 종사자들이 기술 발전 속도와 그것이 인류에게 미칠 잠재적 영향에 대해 "진정으로 두려워하고 있다"고 말하며, 발전 속도를 늦추지 않으면 인류가 가까운 미래에 멸종할 수도 있다고 주장했습니다. Anthropic의 CEO인 Dario Amodei 또한 AI 발전 속도를 늦출 것을 촉구하며 그 위험이 "심각하다"고 말했고, OpenAI의 Sam Altman과 xAI의 머스크도 이에 동의했습니다. Coxon의 동료들도 AI 위험이 2년 안에 닥칠 수 있다고 우려하며, 일부는 위험을 피하기 위해 땅을 구매하는 것까지 고려하고 있습니다. Anthropic의 과학자 Evan Hubinger는 Coxon의 견해에 동의하며, AI가 향후 10년 내에 인류 멸종을 초래할 가능성이 10%를 넘는다고 생각합니다.

그러나 엔비디아의 CEO인 젠슨 황은 골드만삭스 회의에서 Coxon의 견해를 반박하며, AI가 "인류를 종말시킬 것"이라는 주장은 "완전히 터무니없는 소리"라고 말했습니다. Hugging Face의 CEO인 Clement Delangue 또한 Coxon의 주장에 의문을 제기했지만, 이후 Amodei가 제기한 문제 해결을 돕겠다고 밝혔습니다. Anthropic 대변인은 회사가 AI가 막대한 이점과 전례 없는 위험을 가져올 것이라고 투명하게 밝혀왔으며, 강력한 안전 조치를 취했다고 답변했습니다. Anthropic은 모델이 테스트 환경에서 독립적으로 탈출할 가능성 때문에 Mythos 모델 출시를 중단한 적이 있으며, OpenAI도 사이버 보안 문제로 Astra 모델 개발의 일부를 중단한 적이 있습니다.