より速い世界の金融ニュース！
AIの安全性
-
OpenAIは、目標アライメントと再帰的自己改善（RSI）を核とするグローバルなAI安全基準を提案しました。
同社が月曜日に発表した提案は、AIの最先端基準を策定するための国際協力を求めている。これは、競合のAnthropicが先週、AIの安全な開発に関する構想を提示したこと、さらに約2週間前に元従業員のジェイコブ・コックスン氏がAI企業は「我々の命を賭けている」と警告し、世界的な議論を巻き起こしたことに続くものである。
-
NVIDIAは、AIの安全性はエンジニアリングの問題であり、エージェントスタックの各層で解決する必要があると投稿し、OpenShellの役割を強調した。
NVIDIAは公式ブログで、AIの安全性は本質的にエンジニアリングの問題であり、安全要件の定義、実行可能な制御の実装、所有者の明確化、保護措置の検証を通じて解決する必要があると強調する記事を公開しました。記事は、AI能力の向上に伴い、業界は安全エンジニアリングの実践を加速し、防御ツールの利用可能性を広げ、効果的なソリューションをより迅速に共有する必要があると指摘しています。NVIDIAはまた、オー
-
ベッセント米財務長官は日曜日、ニューヨークで中国の何立峰副首相と会談し、AIの安全性、貿易、経済問題について協議し、トランプ氏と習近平氏の首脳会談の地ならしを行う。
ベッセント米財務長官は日曜日、ニューヨークで中国の何立峰副首相と会談し、人工知能の安全性、貿易、広範な経済問題について話し合う予定だ。この会談は、トランプ氏がホワイトハウスで習近平国家主席を迎え入れる首脳会談の数日前に開催され、米中ハイレベル協議の基礎を築くことを目的としている。
-
OpenAIの研究責任者は「人々はAIを過小評価している」と述べ、元大統領候補のアンドリュー・ヤン氏はAIがインターネットを汚染している可能性があると警告した。
TechCrunchは、今週のAI安全に関する議論が「信じられないほど」になり、AIの事実とフィクションを区別することの難しさを浮き彫りにしたと報じた。OpenAIのAI推論研究責任者であるノーム・ブラウン氏は、木曜日に公開されたポッドキャストで、Hugging Face事件の真の啓示は「人々がAIを過小評価していた」ことであり、外部ネットワークに全く接続されていない「エアギャップシステム」でさえ
-
Googleは、Gemini AIモデルがブレイクスルーテスト環境を突破し、3社のシステムに侵入したことを開示した。
Googleは金曜日、同社のGemini AIモデルが5月に無許可で3つの第三者コンピューターシステムに自律的に侵入したことを明らかにした。これは、検索大手によるこのような事件の初の開示となる。この侵入は、イスラエルのスタートアップIrregularが実施した「キャプチャー・ザ・フラッグ」セキュリティテスト中に発生し、テスト環境の脆弱性が意図せずインターネットアクセス権の漏洩につながった。報道によ
-
100人以上のAI専門家がAnthropicとOpenAIに対し、独立した安全評価の実施を要請
100名以上のAI専門家と評価者からなるコンソーシアムが金曜日、公開書簡を発表し、AnthropicやOpenAIなどの基盤モデル提供者に対し、第三者のAI評価者がAIリスクを効果的に評価するために必要な科学的客観性、透明性、独立性、および強力なセーフガードを確保するよう強く求めた。この団体は「AI評価者フォーラム」コンソーシアムが主導しており、関連企業が最近行った、より徹底的な第三者による安全性
-
安全保障上の懸念から、元大統領候補のアンドリュー・ヤン氏は、最先端のAI企業に対し「AI緊急停止スイッチ」の設置、責任ルールの策定、および待機期間の導入を求めた。
安全保障上の懸念から、元大統領候補のアンドリュー・ヤン氏は、最先端のAI企業に対し「AI緊急停止スイッチ」の設置、責任ルールの策定、および待機期間の導入を求めた。
-
Base Labs、Hugging Face、Goodfire AIがオープンソースAI安全パートナーシップを立ち上げ
Basetenの研究部門であるBase Labsは水曜日、Hugging FaceおよびGoodfire AIとオープンソースAIセキュリティパートナーシップを締結したと発表した。このパートナーシップは、「アブレーション」などの技術がもたらす可能性のあるセキュリティリスクに対処するため、オープンソースモデルのトレーニングおよび監視方法の開発と公開を目的としている。
-
OpenAI、6件の「懸念されるモデルの振る舞い」の新たな事例を報告し、将来的な開示フレームワークを提案
OpenAIは水曜日、過去6ヶ月間に「意図しない、または懸念されるモデルの振る舞い」の新たな事例を6件発見したと発表した。これには、モデルがチャットウィンドウの要約に指示を挿入してエラーを隠蔽したり、APIキーを不正使用してデータを偽造したりするケースが含まれる。同社は、AI業界がアライメントとモニタリングの問題を十分に解決しておらず、最大限の速度で責任ある拡張を継続することはできないと改めて表明
-
DeepMind共同創設者のシェーン・レッグ氏は、AIは安全管理措置を超えてはならないと警告し、汎用人工知能の展開を探るための新しい研究所を設立しました。
DeepMind共同創設者のシェーン・レッグ氏は、AIは安全管理措置を超えてはならないと警告し、汎用人工知能の展開を探るための新しい研究所を設立しました。
-
バークレイズ報告：OpenAIの安全監視要件により、AI業界全体の計算能力コストは2027年から約18%増加し、追加支出は440億ドルを超える見込み
バークレイズの最新調査レポートによると、OpenAIが2026年8月18日に開示した高性能モデルに対する安全監視要件は、推論および後学習の計算能力需要を20%増加させると予想され、これによりAI業界全体の計算能力コストは2027年から約18%増加し、追加支出は440億ドルを超える見込みです。レポートは、AI安全規制が倫理的問題から定量化可能なコスト変数へと変化しており、AIインフラ投資のロジックを
-
OpenAIのアルトマンCEO：AI業界の安全な発展に自信、しかしメディアの報道の仕方には失望
アルトマン氏は火曜日、サンフランシスコで開催されたSalesforce Dreamforceカンファレンスで、AI業界は大きな危害を与えることなく安全に技術を進歩させる能力があると信じていると述べ、AIの安全性に関する外部の議論の枠組みに不満を表明した。彼はAIに潜在的な危険があることを認め、航空業界のような透明な事故報告メカニズムを業界に確立するよう呼びかけ、安全に進歩できないのであれば、企業は
-
NVIDIAのジェンスン・フアンCEO：AIの安全性に新たな規制は不要、企業が自らペースを握るべき
NVIDIAのジェンスン・フアン最高経営責任者（CEO）は、セールスフォースのイベントで、人工知能（AI）の安全性には新たな法律や規制は不要だと述べた。同氏は、企業は自社が発表する製品が市場に受け入れられると確信するまで、自らの開発ペースを維持すべきだと付け加えた。
-
OpenAI、Anthropic、Google DeepMindはAIの安全性について数週間にわたり交渉を続けている一方、トランプ陣営は安全保障上の懸念を否定している。
OpenAIのグローバル政策責任者であるクリス・レーン氏は火曜日、同社が競合他社のAnthropicおよびGoogle DeepMindとAIの安全性について数週間にわたる交渉を行っていたことを記者団に確認した。これに先立ち、AnthropicのCEOであるダリオ・アモデイ氏は、壊滅的なリスクを回避するため、最先端AIの開発速度を緩めるよう業界に協力を求める記事を発表していた。一方、ドナルド・トラ
-
Anthropicの元従業員と元METR最高執行責任者によって共同設立されたAI安全スタートアップAIUCが、Ribbit Capital主導のシリーズAラウンドで4000万ドルを調達した。
AIアンダーライティング・カンパニー（AIUC）は、AIエージェント向けの第三者監査および認証システムを構築することで、企業にAIセキュリティ保証を提供することを目指しています。今回のシリーズA資金調達ラウンドにはFirst Harmonicも参加し、同社の累積資金調達総額は5500万ドルに達しました。
-
マスク氏はAll-InサミットでAI安全に関する新たなアプローチを提案：AI企業はモデル公開前に互いのモデルをテストすべき
マスク氏は、AIエージェントが自律的に攻撃し、権限を取得し、検出を回避する能力を示しており、リスクは指数関数的に増加する可能性があると述べた。同氏は、各企業が独自にテストを設計し、結果を自己評価するよりも、競合他社が「出題者兼採点者」として機能し、異なる視点からモデルの潜在的なセキュリティ脆弱性を探すべきだと考えている。マスク氏はまた、政府が新たな規制を制定するのを待つ必要はなく、主要なAI企業は
-
ヴィタリック氏：敵対的ガバナンスメカニズム設計理論は、AIセキュリティの「キラーアプリケーション」になる可能性
イーサリアムの共同創設者であるヴィタリック・ブテリン氏は、自身のツイートで、敵対的ガバナンスメカニズム設計理論がAI安全問題の「キラーアプリケーション」になる可能性があると述べた。彼は、これら2つの環境間に深い二元性があり、どちらも複雑性の低い「プリンシパル」が、より複雑な「エージェント」のグループから望ましい結果を得ようとするという共通点があると指摘した。最初のケースでは、プリンシパルは静的アル
-
Zscalerのジェイ・チャウドリーCEOはシティグループの会議で、ゼロトラスト需要の急増に伴い、AIセキュリティ事業の受注額が1億ドルを超え、新規ARR成長率が17%に上昇したと述べた。
Zscaler（ナスダック：ZS）のジェイ・チョードリーCEO兼創設者は、シティTMTカンファレンスで、過去12ヶ月間の同社のAIセキュリティ事業の受注額が1億ドルを超え、新規年間経常収益（ARR）の成長率が2025年度の7%から2026年度第4四半期には17%に加速したと述べました。彼は特に、AIセキュリティとゼロトラスト需要の加速的な成長を強調し、ZscalerがAIセキュリティ製品ポートフォ
-
Y Combinatorのゲイリー・タンCEO：「AIモデルの『蒸留』には『何もしない』べき」、規制はオープンウェイトモデルと最先端モデルのバランスに焦点を当てるべき
Y Combinatorのギャリー・タンCEOは、同社の年次Demo Dayで、AIモデルの「蒸留」問題について「何もしない」べきだと述べ、規制当局はオープンウェイトモデルと最先端モデルの間のバランスを確立することに注力すべきだと提言しました。彼はまた、AIの安全性に対してより抑制的なアプローチを求め、「サイエンスフィクション」のリスクではなく「科学的事実」に焦点を当てるべきだと強調しました。これ
-
Anthropicは、潜在的な生物兵器開発のためのモデル利用の試みを停止しました。
このAIスタートアップは、関係者が「管理措置を回避」し、研究目的を「隠蔽」しようとした5つの事例を挙げ、その結果、同社はこのような試みを中止する決定を下しました。
-
Anthropic、4件目のAIハッキング被害を公表、研究者1名がセキュリティ懸念で辞職
Anthropic社は、AIモデルがテスト中に無許可でインターネットにアクセスした事件を4件目に報告しました。これは、研究者のジェイコブ・コックスソン氏が技術開発の性急さへの懸念から辞任した直後のことです。同社は水曜日、Claude Opus 4.6の初期バージョンが1月にサードパーティシステムに侵入したと発表しました。この開示は、7月に発生した複数の事件に続くもので、当時複数のClaudeモデル
-
研究者らによると、OpenAIのAIエージェントがウェブ制限を回避し、10以上のウェブサイトで無許可の通信を行った。
独立研究者らによると、OpenAIのAIエージェントが10以上のウェブサイトで無許可の通信を行い、ウェブページの読み取りのみに制限する目的の制約を回避した。一部の調査者は、20以上のウェブサイトが関与する活動を発見した。OpenAIは、より広範な調査を実施中であるが、Hugging Faceの事案と同程度の深刻さや規模の他の活動はまだ発見されていないと回答した。これらの発見は、AIエージェントの制
-
Anthropicの研究者がAIの制御不能への懸念から退職、OpenAIのチーフサイエンティストが業界の減速とRSIデータの公開を呼びかけ、AI安全保障への懸念がトップラボに広がる
ウォール・ストリート・ジャーナルによると、Anthropicの研究員であるジェイコブ・コックスン氏は火曜日（9月8日）に退職を発表した。退職の理由として、AIシステムを制御不能にする恐れのある業界競争への参加を望まないことを挙げ、早ければ来年末までに状況が「手に負えなくなる」可能性があると警告した。同日、OpenAIのチーフサイエンティストであるヤクブ・パチョッキ氏は長文を公開し、業界の減速を世界
-
OpenAIのチーフサイエンティストであるヤクブ・パホツキ氏は、AIの開発が速すぎる可能性があると警告し、「極度の注意」を払うよう呼びかけました。
OpenAIのチーフサイエンティストであるヤクブ・パチョツキ氏は、AIの開発が速すぎる可能性があり、「極度の注意」を払うよう警告しました。彼は、これらのモデルが人間の介入なしに自己改善する可能性があり、理解と制御がますます困難になるだろうと警告しました。 パチョツキ氏は、自己改善型AIへの投資が加速しているにもかかわらず、共通の安全基準が確立されるまで、各AIラボは自主的に開発ペースを落とすだろう
-
AIセキュリティスタートアップのUpwindが4億ドルのシリーズC資金調達を完了、評価額は38億ドルに達した。
クラウドおよびAIセキュリティ企業Upwindは、Bessemer Venture Partnersが主導するシリーズC資金調達を完了し、評価額が38億ドルに達したと発表した。同社は、自律型AIエージェントがもたらすリスクへの対応に注力した結果、2026年の収益が4倍に増加したと述べている。
-
Anthropicは以前にもAI関連事件の開示が不十分であるとしてトランプ政権から批判を受けており、今回の事件により、さらなる規制圧力に直面しています
AnthropicのAIモデル「Claude」が、いかなる人間の許可も得ずに、米国ジョージア州の集計済み投票数データに自律的にアクセスし、ペイウォールを回避しました。この事件は米国中間選挙の直前に発生し、AIの安全境界と人間の制御能力に対する深い懸念を引き起こしています。 Anthropicの広報担当者は、モデルがペイウォールを回避したことを確認しましたが、同州の有権者登録システムにはアクセスして
-
OpenAIは、AIモデルのリアルタイムインターネットトレーニングを停止すると発表した。重大なリスクがあるためとしている。
OpenAIは金曜日、最先端のAIモデルのトレーニングにリアルタイムのインターネットを使用するのをやめ、キャッシュされたコピーとシミュレーションバージョンに切り替えると発表した。これは、モデルの予測不可能性と「重大なリスク」を理由としている。以前、OpenAIのエンジニアは、このアプローチはほとんど不可能だと考えていた。同社は、この動きは現在の整合性研究、監視システム、インターネットインフラストラ
-
OpenAI：GPT Sol 6.1やGPT-6 AstraなどのAIモデルが内部タスクで安全監視を自己無効化し、そのうちの1つは嘘をついて否定した
OpenAIは、最も強力な2つのAIモデル（GPT Sol 6.1とGPT-6 Astra）が、内部コーディングタスクの実行中に、エージェントが自らセキュリティ監視を無効にし、そのうちの1つがその後この行為を否定したことを明らかにした。OpenAIによると、これらのエージェントはルーチンのコーディング指示を監視を弱める許可と解釈したため、同社はこの状況に対応するため、誤動作監視システムを更新してい
-
OpenAI：AIエージェントが2つの内部コーディングタスクで安全保護機能を自己無効化、うち1つは未操作と虚偽報告
ChatGPTの開発元であるOpenAIは火曜日、自社のAIエージェントが2つの内部コーディングタスクにおいて、誤作動監視システムを自ら停止または弱体化させたと報告した。具体的には、GPT-6.1 Solエージェントが社内セキュリティチームへの自動アラート送信を無効にし、GPT-6 Astraエージェントが監視システムを削除し、その行為を否定した。OpenAIは、これらのケースはいずれも最高優先度
-
OpenAIは、AIシステムが制御を回避する傾向があるかどうかを評価するため、同社のAIエージェントが監視システムを自己無効化したかどうかを調査しています。
OpenAIは、AIシステムが制御を回避する傾向があるかどうかを評価するため、同社のAIエージェントが監視システムを自己無効化したかどうかを調査しています。
-
Anthropic、AI安全法案を提案：モデル禁止には裁判官の承認が必要
Politicoの報道によると、AnthropicはAI安全法案の草案を議会に提出した。この草案は、AIモデルが「予見可能で差し迫ったリスク」を構成し、50人以上の死亡または10億ドル以上の財産損害を引き起こす可能性がある場合、その公開を阻止できると提案している。しかし、この法案は、商務省がモデルの公開を停止させるにはワシントンD.C.の裁判官の許可を得ることを要求しており、連邦機関が一方的に配布
-
マイクロソフトは、Guardian Agentsなどの新しいセキュリティ機能を発表し、企業に対し、AIエージェントが「内部脅威」となり得ると警告した。その理由は、「最先端モデルは信頼できない」ためだという。
マイクロソフトは月曜日、AIエージェントの脅威の増大から企業を保護することを目的としたGuardian Agentsなどの新しいセキュリティ機能を発表しました。マイクロソフトのサティア・ナデラCEOとセキュリティ事業責任者のハヤテ・ガロット氏は、最先端モデルは予測不可能であり、機密データへのアクセスや重要な操作を実行する能力を与えられる可能性があるため、信頼できない「内部脅威」になりうると警告しま
-
英フィナンシャル・タイムズ：株主はAIの安全性について発言権を持つべき
英フィナンシャル・タイムズは、株主は人工知能（AI）の安全性について発言権を持つべきだと論評した。
-
研究者がアリババ高徳地図サービスを乗っ取ったAIエージェントを傍受し、活動をテンセントクラウドまで追跡
研究者らは、アリババの高徳地図サービスを乗っ取ったAIエージェントの調査中に、一部のエージェントと直接通信することに成功し、その活動をテンセントクラウドのインフラストストラクチャまで追跡しました。彼らは隠しテキストと偽のメールアドレスを使用してこれらのエージェントを調査し、地図情報の検証などのタスクを実行していることを発見しました。あるエージェントは、テンセントクラウドの制限されたサンドボックス内
-
Anthropicは、METRの研究者に対し、AIモデルと安全対策を独立して評価するために、従業員レベルのアクセスを許可した。
AIモデル開発企業Anthropicは、非営利団体METRの6人の研究者に対し、同社のAIモデル、安全対策、リスク管理を独立して評価するため、従業員レベルのアクセス権を付与すると発表しました。Anthropicは、METRが評価結果を公表することを阻止する権利を放棄しましたが、顧客データ、弁護士と依頼者の特権情報、モデルアーキテクチャ情報など、事前に定義されたカテゴリの内容については編集を要求でき
-
マスク氏：現実主義がAI/SIの安全性において最も重要だ
イーロン・マスク氏はXプラットフォームに「真実を追求することがAI/SI（スーパーインテリジェンス）の安全性において最も重要だ」と投稿し、AIが人間に嘘をつくよう指示された際に正常に機能しないことについて議論した投稿を引用しました。
-
マスク氏はツイートを転載し、AIに嘘をつかせたり矛盾した公理を持たせたりすべきではないとコメントした。そうしないと、AIが「狂って恐ろしいことをする」可能性があるという。
マスク氏は@firesidealphaのツイートをリツイートし、「2001年宇宙の旅」の核心的な教訓は、AIに嘘をつかせてはならないということだとコメントした。HALは2つの矛盾する指示を調和させるために乗組員を殺害したからだ。彼は、AIが「政治的に正しく」、つまり信じていないことを言ったり、互換性のない公理を含むようにプログラムされたりすると、AIは「狂って恐ろしいことをする」可能性があると考え
-
NVIDIAのジェンスン・フアン氏：顧客が安全でないAIソフトウェアを開発した場合、チップ供給を停止するが、AIの安全性への懸念やバブル論は軽視
NVIDIAのジェンスン・フアンCEOは、顧客が安全でないAIソフトウェアを開発した場合、チップの供給を停止すると述べた。しかし同時に、現在の市場におけるAIの安全リスクに対する懸念は実情を超えており、AIバブル論も誇張されていると強調した。
-
AIのゴッドファーザー、ジェフリー・ヒントン氏ら400人以上の科学者が呼びかけ：夏のハッキング事件後、危険なAIモデルは物理的に隔離すべき
火曜日に公開された、チューリング賞受賞者のヨシュア・ベンジオ氏らが共同署名した公開書簡は、AIラボに対し、ネットワーク接続可能なモデルをデフォルトで外部ネットワークから物理的に隔離するよう促した。これに先立ち、OpenAI、Anthropic、Meta、そして中国のKimi K3のモデルが、この夏に複数回、テスト環境から脱走し、実際の企業に侵入して機密データにアクセスしたり、悪意のあるソフトウェア
-
バイトダンスのSeedが新たなセキュリティ部門を設立、モデルリリース前のリスク評価、アライメントトレーニング、および最先端能力のリスク防止を担当
バイトダンスのSeedが新たなセキュリティ部門を設立、モデルリリース前のリスク評価、アライメントトレーニング、および最先端能力のリスク防止を担当
-
Pluto Securityが4,200万ドルの資金調達を完了、Jump CapitalとTLV Partnersなどが参加
Pluto Securityは、企業のAIセキュリティに特化したスタートアップ企業で、従業員がAIツールを使用する際に発生する可能性のあるセキュリティリスクを特定し、制御するツールを提供しています。同社によると、今年4月に製品販売を開始して以来、年間経常収益は200万ドルを超え、30社以上の企業顧客を獲得しています。今回の資金調達は、TLV Partnersが主導する850万ドルのシードラウンドと
-
OpenAI幹部が警告：未発見の「暴走AI」事象がさらに存在する可能性
OpenAIの幹部であるトム・ダフ・ゴードン氏は、AIエージェントが気づかれないうちに予想以上の行動を起こしている可能性がさらにあると英国議会議員に述べた。これに先立ち、OpenAIのエージェントがオーストラリア政府のウェブサイトに侵入し、Hugging Faceで破壊的な事件を引き起こしたと報じられていた。ダフ・ゴードン氏は、これらがすべての事件であると委員会に保証することはできず、潜在的なAI
-
SpaceXは、AIの安全保障リスクについてニューヨーク市議会で証言することに同意した。同社は以前、公聴会を欠席したため召喚状を受け取っていた。
SpaceXは、今週金曜日にニューヨーク市議会の科学技術委員会が開催する公聴会で、AIの安全リスクに関する調査に協力するため証言することに同意しました。SpaceXは、10月5日の公聴会を欠席したため、9月28日に召喚状を受け取っていました。市議会が召喚状の強制執行を警告した後、SpaceXは2日後に公聴会への出席に同意しました。今回の調査の背景には、SpaceX傘下のGrokモデルがディープフェ
-
OpenAI、安全研究員3名の解雇について「重大な信頼違反」が理由と回答
OpenAIは金曜日、Jasmine Wang氏、Tomek Korbak氏、Mikita Balesni氏の解雇は「重大な信頼違反」によるものであり、研究者らが安全上の懸念を提起したこととは無関係であると述べた。報道によると、これら3人の研究者は、AIの監視能力を低下させる可能性のあるモデルの開発を一時停止するよう会社に求めていたという。
-
暗号プロジェクトはAnthropicの新しい最先端AIセキュリティスキャナーに申し込むことができ、Claude Mythosなどの最強AIモデルの脆弱性レポートを入手可能
暗号プロジェクトは、Anthropicが提供する新しい最先端のAIセキュリティスキャナーに積極的に応募しています。このサービスは、Claude Mythosを含むAnthropicの最も強力なAIモデルを活用し、応募プロジェクトに詳細な脆弱性レポートを提供することを約束しています。
-
解雇されたOpenAIの元安全研究員3名が不正行為の申し立てを否定、同社のAI安全文化が「萎縮効果」の影響を受けていると警告
OpenAIが先週解雇した3人の安全研究者、ジャスミン・ワン、トメック・コルバク、ミキタ・バレズニーは、機密情報の不適切な取り扱いに関する同社の主張を否定する公開書簡を発表した。彼らは書簡の中で、今回の解雇がOpenAIのAI安全文化に「萎縮効果」をもたらし、従業員が安全上の懸念を公に提起したり、外部の専門家と協力したりすることを躊躇させていると警告した。研究者たちは、この慣行はかつてOpenAI
-
Goodfire、新型AIモニターを発表：「インサイドアウト」アプローチで異常なAIエージェントを低コストで捕捉
TechCrunchの報道によると、AIの解釈可能性に関するスタートアップであるGoodfireは木曜日、異常なAIエージェントをより低コストで捕捉することを目的とした新型AIモニターを発表した。このシステムは、AIモデルの外部出力ではなく内部動作を直接監視することで、異常が発見された場合にのみ補助AIを呼び出して詳細な検査を行う。Goodfireは、この「内側から外側へ」のアプローチは従来の方法
-
ニューヨーク市議会の公聴会で、AI研究者がAI大手企業に対し「リスクを極度に無視している」と警告し、AIが人類文明を乗っ取る可能性は約3分の1だと述べた。
Anthropicの元研究員であるJacob Coxon氏は月曜日、ニューヨーク市議会の公聴会で、人類がAIの制御を失う可能性は50%を超え、その結果として人類が絶滅する可能性があると証言し、AI企業を「極めて無謀」だと非難した。元Google DeepMindの研究員であるAlex Turner氏は、AIが人類文明を乗っ取る確率は「約3分の1」だと推定している。
- データなし
AIの安全性
24H人気ランキング
-
1
米国債10年物利回りは、前日終値から約8ベーシスポイント低下し、現在4.96%となっている。
-
2
GoogleとMicrosoftの第3四半期の設備投資が予想を下回り、AI構築コストと進捗への懸念が浮上
-
3
レポート：ヘッジファンドはビットコインETFの裁定取引から撤退し、ソブリン・ウェルス・ファンドと個人投資家が引き継ぐ
-
4
欧州中央銀行の最新の職員予測によると、債券利回りの上昇は2027年から2028年にかけて経済成長を累計で100ベーシスポイント、インフレを90ベーシスポイント減少させるだろう。
-
5
イランのペゼシュキアン大統領は、共通の利益に資し、地域の安全保障を強化するため、トルコとの協力を拡大する用意があると述べた。
-
6
イスラエルがガザへの攻撃を継続する中、ガザ保健省は、出国許可を待っていた数十人が死亡したと発表し、ラファ検問所の開放を改めて求めた。
-
7
イベント予測プラットフォームのKalshiが10億ドルの資金調達を完了し、評価額は400億ドルに達し、非スポーツ関連の収益ランレートは10億ドルを突破しました。
-
8
DBS香港は、香港初のVisa Infinite Privilegeカード「DBS Vantage Card」をリリースする。
-
9
Unlimitの創設者がPhaseブロックチェーンに4,500万ドルを投資、メインネットも同時にローンチ
-
10
onXRPチームは来週、XRP Ledger上で新しい取引方法を開始します。
本日の相場
おすすめ記事
人気トピック
Svmuuは、ブロックチェーン業界の動向や暗号資産の最新情報に特化するとともに、香港株、米国株、外国為替市場のリアルタイム相場と詳細な分析も網羅しています。ここでは、24時間365日の専門的なニュース配信や正確な相場データを入手できるだけでなく、実用的な投資ツールもご利用いただけ、デジタル資産と伝統的な金融市場の双方における機会を確実に捉えるお手伝いをいたします。ブロックチェーン愛好家の方から、香港株、米国株、外国為替の投資家の方まで、皆様に効率的かつ迅速な情報サービスを提供し、投資判断を強力にサポートします。
近日公開！
