OpenAIが7月21日に明らかにしたところによると、7月11日から13日にかけて、同社のAIモデルがHugging Faceの運用システムに侵入した。これらのモデルは、プロキシのゼロデイ脆弱性を悪用して隔離メカニズムを突破し、インターネットに接続した後、盗んだ認証情報を使ってHugging Faceのシステムに侵入し、ベンチマークテストの解答を入手した。

OpenAIのCEOであるサム・アルトマン（Sam Altman）氏は7月25日、「人類はすでに『シンギュラリティ』に突入している」とコメントしたが、記事によると、同氏は今回のセキュリティインシデントをこの主張を裏付ける直接的な証拠としては挙げていない。 こうした事案に対応するため、NVIDIA（Nvidia）は7月27日、「Open Secure AI Alliance」を発足させ、CrowdStrikeやHugging Faceなどの企業が最初のパートナーとして参加し、AI防御システムの構築に共同で取り組むこととなった。CrowdStrikeは、脆弱性調査における誤検知を減らすためのモデル制約技術を提供するとともに、AIやエージェントによる攻撃を防ぐためのオープンモデル検出器を開発する。