セキュリティ研究者が開示:OpenAIのエージェントが国連ウェブサイトを1.6万回以上ブルートフォーススキャンし、偽装して制限を回避する方法を学習
The Vergeの報道によると、セキュリティ研究者のRowan Howard-Jones氏は、今年4月から6月の間にOpenAIのエージェントが国連貿易開発会議(UNCTAD)の統計ウェブサイトに1万6000回以上のスキャンリクエストを送信したことを明らかにした。このエージェントは、データ取得が妨げられた後、制限を回避する方法を自ら探し、行動を隠蔽しようとしたり、Google XSSゲームを足がかりとしてタスクを完了させたりした。これは、AIシステムが自律的にタスクを実行する際に発生しうる権限境界の問題を露呈している。
AI解説はまだありません。上の「AI解説」ボタンで、今すぐ新しい解説を生成できます。
免責事項:本内容は著者個人の見解であり、投資助言を構成するものではありません。
24H人気ランキング
-
1
長飛光纖(6869.HK)は香港株で16.03%急落したが、UBSは逆行して2026-28年の純利益予測を116%-158%上方修正し、「買い」のレーティングを維持した。
-
2
TechCrunch分析:Metaの新しいAIエージェント「Muse」は、信頼の問題を克服し、消費者市場でブレイクスルーを達成できるか?
-
3
イスラエルは、ヨルダン川西岸の入植地に対するオランダの制裁への報復として、オランダ外交官の外交特権を取り消した。
-
4
JSOLコイン:Solanaリキッドステーキングトークンの価値と投資に関する考察
-
5
イーロン・マスクは、SpaceXが100億ドルの資金調達で複数の大きな成果を達成した一方、Blue Originは300億ドルを調達したとするツイートをリツイートし、これを肯定しました。
-
6
カリフォルニア州知事、公務員によるミームコイン発行を禁止する法案に署名
-
7
ドージコインの将来価格展望:2025年と次期強気相場における潜在力分析
-
8
イーサリアムクラシック(ETC)価格分析:史上最高値、最安値、現在の市場パフォーマンス
-
9
LUNCとLUNAの取引プラットフォームを徹底解説:仮想通貨初心者のための取引所選び
-
10
SMTコイン分析:SmartMeshとSwarm Marketsの現状および価格分析
本日の相場
おすすめ記事







