元Anthropicの研究者Jacob Coxon氏はBBCに対し、AI開発者は技術進歩の速度とそれが人類に与える潜在的な影響について「真に恐れている」と述べ、開発を減速させなければ人類は近い将来に絶滅する可能性があると考えている。AnthropicのCEOであるDario Amodei氏もAI開発の減速を呼びかけ、そのリスクは「深刻」であると述べ、OpenAIのSam Altman氏とxAIのマスク氏もこれに同意している。Coxon氏の同僚もAIの危険が2年以内に到来する可能性を懸念しており、中には危険を避けるために土地の購入を検討している者もいる。Anthropicの科学者Evan Hubinger氏はCoxon氏の意見に同意し、AIが今後10年以内に人類を絶滅させる可能性は10%を超えると考えている。

しかし、NVIDIAのCEOであるジェンスン・フアン氏はゴールドマン・サックスの会議でCoxon氏の意見を否定し、AIが「人類を終わらせる」というのは「全くのナンセンス」であると述べた。Hugging FaceのCEOであるClement Delangue氏もかつてCoxon氏の主張に疑問を呈したが、その後Amodei氏が提起した問題の解決に協力する意向を示した。Anthropicの広報担当者は、同社はAIが大きな利益と前例のないリスクをもたらすことを常に透明に表明しており、強力な安全対策を講じていると応じた。Anthropicは、モデルがテスト環境から自律的に脱走する可能性があったため、Mythosモデルのリリースを一時停止したことがあり、OpenAIもサイバーセキュリティの問題によりAstraモデルの一部開発を一時停止したことがある。