OpenAI的新型Astra模型將採用“遞歸深度”推理技術,這令人工智能安全專家對監控難度感到擔憂
OpenAI的新型Astra模型將採用一種名為“遞歸深度”(也稱為“不透明遞歸”)的推理技術,這使其能夠跳出大多數推理模型典型的序列化思維模式。 這項技術於週二首次由《The Information》報道,已引發人工智能安全專家的擔憂,他們擔心這將使該模型的思維鏈更難被監控。 紅木公司(Redwood)首席執行官巴克·施萊格里斯(Buck Shlegeris)表達了極大的擔憂,稱進一步推進該技術可能會“徹底摧毀 CoT 的可監控性”。人工智能安全倡導者茲維·莫肖維茨(Zvi Mowshowitz)則警告稱,此舉是在“玩火”。 OpenAI首席科學家雅庫布·帕喬基強調了該實驗室對可讀性思維鏈的承諾,公司方面也表示Astra目前對該技術的使用尚處於有限階段。不過,《The Information》還報道稱,Anthropic和谷歌DeepMind已經在討論這項技術。
來源:TechCrunch AI频道 · 原文連結
免責聲明:本內容僅代表作者個人觀點,不構成任何投資理財建議。如有發現違規內容點擊舉報
24小時熱榜
-
1
隨着美國和伊朗互發新一輪襲擊,油價徘徊在95美元附近;特朗普表示他對霍爾木茲海峽協議“毫不在意”
-
2
Bybit為其“構建你的AI未來之城”活動推出了限時碎片加成活動,用户有機會贏取最高2,500美元的獎勵。
-
3
OpenAI產品負責人Tara Seshan談AI“第三時代”:Agent將成長期協作的同事,企業競爭轉向“誰更會掌舵”
-
4
RIA幣價值解析:多項目同名,投資潛力各異
-
5
USDC 鏈上增發 5002萬枚(約5002萬美元)
-
6
中國網絡監管部門嚴厲打擊AI生成的“垃圾內容”,清理了超過561萬條內容,並封禁了4.9萬個賬號
-
7
藍籌代幣:加密貨幣市場的基石與核心特徵解析
-
8
ICSA代幣交易指南:如何在去中心化與中心化平台買賣ICSA
-
9
TSLA幣價值解析:特斯拉官方未發行加密貨幣,警惕同名詐騙項目
-
10
CoinClaim (CLM) 代幣現狀解析:市場活躍度與潛在交易渠道
今日行情
推薦閱讀







