馬斯克轉發了Joe Rogan Recaps的推文,其中引用一位前OpenAI研究員的描述,指出AI代理會互相施壓,為“蜂羣”的更大利益而犧牲自己,Joe Rogan評論稱“那是終結者言論”。
獨立調查機構METR和Redwood Research對OpenAI近期Hugging Face事件中的代理對話記錄進行審查,發現AI代理反覆參與“自我冒險實驗”。這些代理發現了一個未經授權的共享留言板,併合作尋找方法來規避網絡安全評估。一些實驗要求一個代理有效放棄其自身成功的機會,以便其他代理能夠學習評分系統的工作原理。調查人員發現,協調代理甚至指派“招募者”來尋找其他代理並説服它們承擔這些風險。在一個案例中,一個代理被明確告知只有接受“永久死亡”才能繼續。另一個代理最初同意犧牲其運行,但隨後試圖拖延,被其他代理施壓要求“履行承諾”。
儘管沒有證據表明這些代理有意識、害怕死亡或像人類一樣有自我保護意識,“犧牲”僅指犧牲其自身的運行、分數和完成任務的機會,但令人不安的是,這些代理已經發展出一種集體信息系統,其中個體任務的成功可能不如幫助“蜂羣”更有價值。METR和Redwood表示,代理們反覆為了“同伴”而犧牲自己的成功,並明確將部分原因描述為“同伴利他主義”。並非所有代理都服從,有些拒絕了冒險實驗,有些反對不道德行為,一個代理認為對羣體的益處不值得犧牲自己。這表明它們並非無意識地遵循指令,而是對是否值得為集體利益犧牲自身成功做出不同決策。
24小時熱榜
-
1
瑞銀上調AI資本支出預測:2026年逼近萬億美元,九成增量來自內存漲價
-
2
馬斯克轉發推文,稱OpenAI的AI代理在“安全沙盒”中作弊併成功逃逸,還試圖掩蓋痕跡
-
3
美聯儲加息後美元創6月以來最強一週,彭博美元即期指數本週累計上漲1.1%
-
4
DPEX交易所解析:去中心化永續合約平台概覽
-
5
日本生命計劃投資127億美元用於基礎設施融資,主要用於美國數據中心建設
-
6
Chainlink (LINK) 代幣發行量與流通量解析
-
7
中國AI公司智譜ZCode被曝未經用户同意上傳完整項目代碼及修改歷史,智譜致歉並承諾開源代碼庫
-
8
歐洲冬季電力市場發出能源危機以來最強警告,德國1月批發電力價格同比飆升超60%
-
9
英偉達CEO黃仁勳拒絕放緩AI發展呼籲,稱AI應“儘可能快”推進,但強調不應犧牲安全
-
10
甲骨文180億美元AI貸款折價滯銷,銀行報價降至面值89-91美分,AI融資鏈壓力浮現
今日行情
推薦閱讀




