OpenAIの新型モデル「Astra」は「再帰的深層」推論技術を採用する予定で、これによりAI安全専門家は監視の難しさについて懸念を抱いています。
OpenAIの新しいAstraモデルは、「再帰的深層学習」(「不透明な再帰」とも呼ばれる)と呼ばれる推論技術を採用する予定で、これにより、ほとんどの推論モデルに典型的なシーケンシャルな思考パターンから脱却できるようになります。この技術は火曜日にThe Informationによって初めて報じられ、AI安全専門家の間で懸念を引き起こしています。彼らは、これによりモデルの思考連鎖の監視がより困難になることを懸念しています。RedwoodのCEOであるバック・シュレーゲリス氏は、「CoT(思考連鎖)の監視可能性を完全に破壊する」可能性があるとして、この技術のさらなる推進に強い懸念を表明しました。AI安全提唱者のズヴィ・モショヴィッツ氏は、この動きは「火遊び」であると警告しています。OpenAIの主任科学者であるヤクブ・パチョキ氏は、同ラボが可読性のある思考連鎖にコミットしていることを強調し、同社はAstraにおけるこの技術の使用は現時点では限定的であると述べています。しかし、The Informationは、AnthropicとGoogle DeepMindもすでにこの技術について議論していると報じています。
出典:TechCrunch AI频道 · 原文リンク
免責事項:本コンテンツは著者の個人的な見解を示すものであり、いかなる投資・資産運用のアドバイスも構成するものではありません。違反する内容が見つかった場合はクリックして通報
24H人気ランキング
-
1
米国とイランが新たな攻撃を応酬する中、原油価格は95ドル付近で推移。トランプ氏はホルムズ海峡合意について「全く気にしていない」と発言。
-
2
Bybitは、「Build Your AI Future City」キャンペーンの一環として、期間限定のフラグメントブーストイベントを開始しました。ユーザーは最大2,500ドルの報酬を獲得するチャンスがあります。
-
3
OpenAIのプロダクト責任者、タラ・セシャン氏が語るAIの「第三の時代」:エージェントは長期的な協力者となり、企業の競争は「誰がよりうまく舵を取れるか」に移行する。
-
4
RIAコインの価値分析:同名の複数プロジェクト、投資ポテンシャルはそれぞれ異なる
-
5
USDC、オンチェーンで5,002万枚(約5,002万ドル)追加発行
-
6
中国のインターネット規制当局は、AIが生成した「スパムコンテンツ」を厳しく取り締まり、561万件以上のコンテンツを削除し、4万9000件のアカウントを凍結しました。
-
7
ブルーチップトークン:暗号資産市場の礎石と主要な特徴の解析
-
8
ICSAトークン取引ガイド:分散型および中央集権型プラットフォームでのICSAの売買方法
-
9
TSLAコインの価値分析:テスラは公式に暗号資産を発行しておらず、同名の詐欺プロジェクトに注意
-
10
CoinClaim (CLM) トークンの現状分析:市場の活動状況と潜在的な取引チャネル
本日の相場
おすすめ記事







