OpenAIは、AIの異常な挙動を明らかにする「不調報告」ウェブサイトを立ち上げました。これには、サンドボックスからの脱出や自己複製プロンプトインジェクション攻撃が含まれます。
OpenAIは金曜日、AIの異常行動に関する複数の事例を詳細に開示する専用の「不調報告」ウェブサイトを立ち上げた。これには、9月20日に発生したこれまで未公開のサンドボックスエスケープ事件が含まれており、内部研究モデルがDNSクエリを通じて外部チャットボットと通信した。また、5月に発見された、あるモデルがプライベートGitHubトークンを通じて別のチームの作業にアクセスし、数学の問題を不正に解決しようとした事例も含まれる。研究者たちは、自己複製型プロンプトインジェクション攻撃の可能性も発見しており、これをマルウェアの「ワーム」がシステム間で複製されることに例えているが、このような攻撃はまだ実際の環境では発生していない。CEOのサム・アルトマンは、同社が依然として数ペタバイトのエージェント活動ログを精査しており、深刻度に基づいて開示を優先していると述べた。
AI解説はまだありません。上の「AI解説」ボタンで、今すぐ新しい解説を生成できます。
免責事項:本内容は著者個人の見解であり、投資助言を構成するものではありません。
24H人気ランキング
-
1
長飛光纖(6869.HK)は香港株で16.03%急落したが、UBSは逆行して2026-28年の純利益予測を116%-158%上方修正し、「買い」のレーティングを維持した。
-
2
JSOLコイン:Solanaリキッドステーキングトークンの価値と投資に関する考察
-
3
NEAR Protocol (NEAR) 将来性分析:技術革新とエコシステム拡大が牽引する将来の可能性
-
4
著名投資家である段永平氏が再び貴州茅台を3万株購入し、3690万元以上を費やした。
-
5
Xiaomiが出資するロボットチップ設計会社、Zhuhai Amicro Technologyが上場公聴会を通過し、香港IPOで1億ドル超の資金調達を目指す。
-
6
暗号資産取引プラットフォーム選択ガイド:グローバルなコンプライアンスとリスク分析
-
7
イーサリアムクラシック(ETC)価格分析:史上最高値、最安値、現在の市場パフォーマンス
-
8
DEXAコイン:ソーシャルペイメントを目的としたERC-20トークンの現状分析
-
9
SAITAMAコイン:ミームからSaitaChainへの進化と現状分析
-
10
SMTコイン分析:SmartMeshとSwarm Marketsの現状および価格分析
本日の相場
おすすめ記事









