OpenAI的新型Astra模型将采用“递归深度”推理技术,这令人工智能安全专家对监控难度感到担忧
OpenAI的新型Astra模型将采用一种名为“递归深度”(也称为“不透明递归”)的推理技术,这使其能够跳出大多数推理模型典型的序列化思维模式。 这项技术于周二首次由《The Information》报道,已引发人工智能安全专家的担忧,他们担心这将使该模型的思维链更难被监控。 红木公司(Redwood)首席执行官巴克·施莱格里斯(Buck Shlegeris)表达了极大的担忧,称进一步推进该技术可能会“彻底摧毁 CoT 的可监控性”。人工智能安全倡导者兹维·莫肖维茨(Zvi Mowshowitz)则警告称,此举是在“玩火”。 OpenAI首席科学家雅库布·帕乔基强调了该实验室对可读性思维链的承诺,公司方面也表示Astra目前对该技术的使用尚处于有限阶段。不过,《The Information》还报道称,Anthropic和谷歌DeepMind已经在讨论这项技术。
来源:TechCrunch AI频道 · 原文链接
免责声明:本内容仅代表作者个人观点,不构成任何投资理财建议。如有发现违规内容点击举报
24小时热榜
-
1
随着美国和伊朗互发新一轮袭击,油价徘徊在95美元附近;特朗普表示他对霍尔木兹海峡协议“毫不在意”
-
2
Bybit为其“构建你的AI未来之城”活动推出了限时碎片加成活动,用户有机会赢取最高2,500美元的奖励。
-
3
OpenAI产品负责人Tara Seshan谈AI“第三时代”:Agent将成长期协作的同事,企业竞争转向“谁更会掌舵”
-
4
RIA币价值解析:多项目同名,投资潜力各异
-
5
USDC 链上增发 5002万枚(约5002万美元)
-
6
中国网络监管部门严厉打击AI生成的“垃圾内容”,清理了超过561万条内容,并封禁了4.9万个账号
-
7
蓝筹代币:加密货币市场的基石与核心特征解析
-
8
ICSA代币交易指南:如何在去中心化与中心化平台买卖ICSA
-
9
TSLA币价值解析:特斯拉官方未发行加密货币,警惕同名诈骗项目
-
10
CoinClaim (CLM) 代币现状解析:市场活跃度与潜在交易渠道
今日行情
推荐阅读







