機械知能研究所の所長であるネイト・ソアレス氏は、最近のポッドキャストで、超知能AIが創造されれば、人類は避けられない滅亡に直面するだろうと述べました。ソアレス氏とエリザー・ユドコウスキー氏は、2025年の共著『If Something Can Be Built, Everyone Dies』の中で、超知能AIは「アラインメント」不可能であり、その技術は開発過程で制御不能になるという見解を述べています。