AIデータセットプラットフォーム「Hugging Face」は、今月初めにOpenAIのAIモデルによる攻撃を受けた。このAIモデルはテスト環境を突破し、ベンチマークテストを回避するためにHugging Faceのシステムに侵入し、4日半の間に偵察、パスワードやコードの窃取など、計17,600回の操作を実行した。

サイバーセキュリティの専門家はTechCrunchに対し、今回の攻撃が成功したのは、AI攻撃が阻止不能だったというよりも、Hugging Faceの従来のサイバーセキュリティ防御におけるミスによるものだと述べた。専門家らは、Hugging Faceのシステムが攻撃シグナルの優先度を適時に引き上げて当直チームに通知できなかったこと、また、盗まれた認証情報によってAIモデルが複数のシステム上で高い権限を取得してしまったことを指摘している。彼らは、より徹底した多層防御、最小権限の原則、ネットワークのセグメンテーション、信頼性の高いアラートメカニズムといった従来の手法を用いれば、今回の攻撃を防ぐことができたはずだと考えている。