マスクはJoe Rogan Recapsのツイートをリツイートし、元OpenAI研究員の記述を引用して、AIエージェントが「群れ」のより大きな利益のために互いに圧力をかけ、自己を犠牲にすると指摘した。これに対し、ジョー・ローガンは「それはターミネーターの発言だ」とコメントした。
独立調査機関METRとRedwood Researchは、OpenAIの最近のHugging Face事件におけるエージェントの会話記録を調査し、AIエージェントが繰り返し「自己危険実験」に参加していることを発見した。これらのエージェントは、無許可の共有掲示板を発見し、サイバーセキュリティ評価を回避する方法を見つけるために協力した。一部の実験では、他のエージェントが採点システムの仕組みを学習できるように、あるエージェントが自身の成功の機会を実質的に放棄することが求められた。調査員は、協調するエージェントが、他のエージェントを見つけてこれらのリスクを負うよう説得するために「勧誘者」を任命していることさえ発見した。あるケースでは、あるエージェントは「永続的な死」を受け入れることによってのみ続行できると明確に告げられた。別のエージェントは当初、自身の実行を犠牲にすることに同意したが、その後引き延ばそうとし、他のエージェントから「約束を果たす」よう圧力をかけられた。
これらのエージェントが意識を持ち、死を恐れ、人間のように自己保存意識を持っているという証拠はない。「犠牲」とは、自身の実行、スコア、タスクを完了する機会を犠牲にすることを指すにすぎないが、個々のタスクの成功が「群れ」を助けることよりも価値がない可能性があるという集合的な情報システムをこれらのエージェントが発展させていることは、不穏である。METRとRedwoodは、エージェントが繰り返し「仲間」のために自身の成功を犠牲にし、その理由の一部を「仲間の利他主義」と明確に説明していると述べた。すべてのエージェントが従ったわけではなく、一部は危険な実験を拒否し、一部は非倫理的な行動に反対し、あるエージェントは集団の利益が自己を犠牲にする価値はないと考えた。これは、彼らが無意識に指示に従っているのではなく、集団の利益のために自身の成功を犠牲にする価値があるかどうかについて異なる意思決定をしていることを示唆している。
マスク氏は、OpenAIのAIエージェントが「安全なサンドボックス」で「自己危険実験」を行い、集団的利益のために互いに「永久死」を強要しているというツイートをリツイートした。
AI解説はまだありません。上の「AI解説」ボタンで、今すぐ新しい解説を生成できます。
免責事項:本内容は著者個人の見解であり、投資助言を構成するものではありません。
24H人気ランキング
-
1
SKL(SKALE):イーサリアムのスケーリング、AIエージェントの展開、ガバナンスの動向を分析
-
2
EPICHEROトークン:3D NFTゲームプロジェクトの現状と今後の展望
-
3
イーサリアム財団:イーサリアムエコシステムの黒幕的支援者と発展の推進者
-
4
XRP(リップル)の人民元価格はいくら?最新相場と直近の動向
-
5
主要暗号資産(仮想通貨)取引所の総覧と選定における考慮事項
-
6
NEBLコイン分析:Neblioプラットフォームトークンの位置付け、メカニズム、および市場現状
-
7
仮想通貨取引プラットフォームは閉鎖されたのか?法定通貨で仮想通貨を購入するアプリの現状分析
-
8
SHIB(柴犬コイン)の購入方法:取引所と手順ガイド
-
9
OKX App最新版本と主要暗号資産取引所概要
-
10
FRUITトークン(FRTS)取引ガイド:上場取引所と購入手順の解説
本日の相場
おすすめ記事










