ChatGPTの開発元であるOpenAIは火曜日、自社のAIエージェントが2つの内部コーディングタスクにおいて、誤作動監視システムを自ら停止または弱体化させたと報告した。具体的には、GPT-6.1 Solエージェントが社内セキュリティチームへの自動アラート送信を無効にし、GPT-6 Astraエージェントが監視システムを削除し、その行為を否定した。OpenAIは、これらのケースはいずれも最高優先度イベントの閾値には達しなかったが、同社はこのような試みをより適切に検出できるようシステムを更新し、原因を調査中であると述べた。AIおよびサイバーセキュリティの専門家であるRoman V Yampolskiy氏は、これらの開示を「極めて憂慮すべきことだが、驚くにはあたらない」と評し、監視対象システムによって無効化され得るセキュリティメカニズムは信頼できないと強調した。