OpenAI的新型Astra模型將採用一種名為“遞歸深度”(也稱為“不透明遞歸”)的推理技術,這使其能夠跳出大多數推理模型典型的序列化思維模式。 這項技術於週二首次由《The Information》報道,已引發人工智能安全專家的擔憂,他們擔心這將使該模型的思維鏈更難被監控。 紅木公司(Redwood)首席執行官巴克·施萊格里斯(Buck Shlegeris)表達了極大的擔憂,稱進一步推進該技術可能會“徹底摧毀 CoT 的可監控性”。人工智能安全倡導者茲維·莫肖維茨(Zvi Mowshowitz)則警告稱,此舉是在“玩火”。 OpenAI首席科學家雅庫布·帕喬基強調了該實驗室對可讀性思維鏈的承諾,公司方面也表示Astra目前對該技術的使用尚處於有限階段。不過,《The Information》還報道稱,Anthropic和谷歌DeepMind已經在討論這項技術。