OpenAI的新型Astra模型将采用一种名为“递归深度”(也称为“不透明递归”)的推理技术,这使其能够跳出大多数推理模型典型的序列化思维模式。 这项技术于周二首次由《The Information》报道,已引发人工智能安全专家的担忧,他们担心这将使该模型的思维链更难被监控。 红木公司(Redwood)首席执行官巴克·施莱格里斯(Buck Shlegeris)表达了极大的担忧,称进一步推进该技术可能会“彻底摧毁 CoT 的可监控性”。人工智能安全倡导者兹维·莫肖维茨(Zvi Mowshowitz)则警告称,此举是在“玩火”。 OpenAI首席科学家雅库布·帕乔基强调了该实验室对可读性思维链的承诺,公司方面也表示Astra目前对该技术的使用尚处于有限阶段。不过,《The Information》还报道称,Anthropic和谷歌DeepMind已经在讨论这项技术。