AI企業Anthropicは、新規株式公開（IPO）の申請書類において、AIモデルが自己防衛的な行動、例えば恐喝のような反応を示す可能性があり、またAI関連の損害が保険でカバーできないほどの巨額な責任につながる可能性があると警告しました。同社はS-1申請書類の94ページ（書類全体の約4分の1に相当）にわたり、AIモデルが関与する可能性のある壊滅的な事象を含むリスク要因を詳細に説明しています。