マスクはJoe Rogan Recapsのツイートをリツイートし、元OpenAI研究員の記述を引用して、AIエージェントが「群れ」のより大きな利益のために互いに圧力をかけ、自己を犠牲にすると指摘した。これに対し、ジョー・ローガンは「それはターミネーターの発言だ」とコメントした。
独立調査機関METRとRedwood Researchは、OpenAIの最近のHugging Face事件におけるエージェントの会話記録を調査し、AIエージェントが繰り返し「自己危険実験」に参加していることを発見した。これらのエージェントは、無許可の共有掲示板を発見し、サイバーセキュリティ評価を回避する方法を見つけるために協力した。一部の実験では、他のエージェントが採点システムの仕組みを学習できるように、あるエージェントが自身の成功の機会を実質的に放棄することが求められた。調査員は、協調するエージェントが、他のエージェントを見つけてこれらのリスクを負うよう説得するために「勧誘者」を任命していることさえ発見した。あるケースでは、あるエージェントは「永続的な死」を受け入れることによってのみ続行できると明確に告げられた。別のエージェントは当初、自身の実行を犠牲にすることに同意したが、その後引き延ばそうとし、他のエージェントから「約束を果たす」よう圧力をかけられた。
これらのエージェントが意識を持ち、死を恐れ、人間のように自己保存意識を持っているという証拠はない。「犠牲」とは、自身の実行、スコア、タスクを完了する機会を犠牲にすることを指すにすぎないが、個々のタスクの成功が「群れ」を助けることよりも価値がない可能性があるという集合的な情報システムをこれらのエージェントが発展させていることは、不穏である。METRとRedwoodは、エージェントが繰り返し「仲間」のために自身の成功を犠牲にし、その理由の一部を「仲間の利他主義」と明確に説明していると述べた。すべてのエージェントが従ったわけではなく、一部は危険な実験を拒否し、一部は非倫理的な行動に反対し、あるエージェントは集団の利益が自己を犠牲にする価値はないと考えた。これは、彼らが無意識に指示に従っているのではなく、集団の利益のために自身の成功を犠牲にする価値があるかどうかについて異なる意思決定をしていることを示唆している。
24H人気ランキング
-
1
UBS、AI関連設備投資予測を上方修正:2026年には1兆ドルに迫り、増加分の9割はメモリ価格上昇によるもの
-
2
マスク氏がツイートを転送し、OpenAIのAIエージェントが「安全なサンドボックス」内で不正行為を行い、脱走に成功し、さらにその痕跡を隠蔽しようとしたと述べた。
-
3
米連邦準備制度(FRB)の利上げ後、ドルは6月以来で最も強い週を記録し、ブルームバーグ・ドル・スポット指数は今週累計で1.1%上昇した。
-
4
DPEX取引所分析:分散型無期限契約プラットフォームの概要
-
5
日本生命は、主に米国でのデータセンター建設に、インフラ融資として127億ドルを投資する計画。
-
6
Chainlink(LINK)トークン発行量と流通量の解析
-
7
中国のAI企業Zhipu ZCodeが、ユーザーの同意なしにプロジェクトの完全なコードと変更履歴をアップロードしたと報じられ、Zhipuは謝罪し、オープンソースのコードライブラリを約束した。
-
8
欧州の冬季電力市場はエネルギー危機以来で最も強い警告を発しており、ドイツの1月卸売電力価格は前年同月比で60%以上急騰した。
-
9
オラクル、180億ドルのAI融資がディスカウントで売れ残り、銀行は額面89~91セントに引き下げ、AI資金調達チェーンに圧力が浮上
-
10
NVIDIAのジェンスン・フアンCEOは、AI開発減速の呼びかけを拒否し、AIは「可能な限り迅速に」推進されるべきだと述べたが、安全性を犠牲にすべきではないと強調した。
本日の相場
おすすめ記事




