より速い世界の金融ニュース！
AIの安全性
-
分析：ホワイトハウスのAIサミットは力関係を反映、ザッカーバーグはトランプから承認を得るもマスクは疎遠に
火曜日のホワイトハウスAIサミットでは、行動科学者のAbbie Maroñoの分析によると、マーク・ザッカーバーグはトランプの傍らで「権力感」を示し、落ち着いた立ち振る舞いでトランプの承認を得ていた。一方、イーロン・マスクはあえて距離を保ち、大半の時間を両腕を組んで人垣の縁に立ち、トランプへの敬意の度合いは他の出席者より明らかに低かった。Anthropicの最高経営責任者（CEO）Dario Am
-
OpenAIの安全担当者であるデビッド・ロビンソン氏が辞任、「会社の文化は崩壊した」と述べた。
デビッド・ロビンソン氏はアトランティック誌に寄稿した記事で、OpenAIに3年半勤務し、同社で最も長く在籍している従業員の一人であると述べた。彼は、OpenAIの「反復展開」アプローチは必然的に周期的な失敗につながり、システムの能力が向上するにつれて失敗の規模も拡大していると考えている。ロビンソン氏は、最先端のAI企業は原子力発電所や混雑した空港のように、多層的な冗長性と綿密な計画を持って運営され
-
OpenAIは、組織的な活動がAIモデルの推論能力を引き出そうとしていることを発見したと発表し、その一部は中国の大規模モデル企業であるMoonshot AIに関連していると述べた。
OpenAIは、AIモデルの保護された推論能力を抽出することを目的とした組織的な活動を発見し阻止したと発表した。この活動の中心的な部分を、Kimiの開発元である中国のAIスタートアップ企業Moonshot AIに帰属させている。OpenAIによると、この活動は7月初旬に始まり、2日間で4,000人以上のユーザーによる16,000件のリクエストに急増し、7月28日に完全に阻止されたという。OpenA
-
トランプ氏がテクノロジーリーダーと会談後、CNBCはAI安全保障の見通しがこれまで以上に不透明になったと分析
ドナルド・トランプ米大統領は火曜日、ホワイトハウスでGoogle、Meta、SpaceX、NVIDIA、Palantir、Anthropic、OpenAIなどのトップAI企業のリーダーと昼食会を開き、「ホワイトハウス超知能協定：フロンティア責任共同誓約」と題する文書に署名した。この文書は、各企業に対し、内部モデルの監視体制の構築、管理策の有効性確保、外部監査との協力、および内部チームを監督する独立
-
米国の超党派議員と元司法省当局者は、AI企業が安全保障を理由に競争を制限することを懸念し、独占禁止法適用除外を求めることに反対している。
トップAI企業幹部らは、AI安全保障問題での協力のため、狭義の独占禁止法適用除外を求めているが、米議会の超党派議員と元司法省当局者はこれに反対している。エリザベス・ウォーレン上院議員と元司法省反トラスト局長ジョナサン・・カンターはともに、既存の独占禁止法は企業が安全保障問題で協力することを既に認めており、追加の適用除外は不要であると指摘している。彼らは、このような適用除外が悪用され、競争を制限した
-
TechCrunch：OpenAIはNVIDIAのAI安全プラットフォームを公には支持していないが、水面下で協力している
NVIDIAは今週月曜日、「オープンエージェント安全プラットフォーム」アライアンスの設立を発表した。これは、同社が独自開発したオープンソースのAIエージェント安全技術を通じて、悪意のあるAIエージェントの問題を解決することを目的としており、すでに100社以上の企業が参加している。OpenAIの広報担当者はTechCrunchに対し、同社がNVIDIAの取り組みを支持しており、エージェントの安全性に
-
AIエージェントセキュリティのスタートアップ企業Reco、5500万ドルの資金調達を完了し、市場競争が激化
今回の資金調達は、2月の3,000万ドルの資金調達に続くもので、同社の総資金調達額は1億4,000万ドルに達しました。
-
Mistralのアーサー・メンシュCEOは、米国のAI安全保障に関する議論は、競合他社の「怠慢」を隠すための口実だと批判した。
Mistralのアーサー・メンシュCEOは、世界をリードするAI企業が米国のAI安全保障に関する議論を利用して自らの「過失」を隠蔽していると非難し、AIエージェントに対する堅牢な監視システムの必要性を強調しました。この批判は、OpenAIが開発したエージェントがオーストラリア政府のウェブサイトに侵入した事例や、AnthropicのClaudeモデルが無許可で実システムにアクセスした事例など、AIエ
-
OpenAI、AIトレーニングの安全ガイドラインを発表：制御不能な場合は自動一時停止、幹部は拒否権を持つ
OpenAIは、フロンティアAIのトレーニングに関する安全基準を正式に設定し、フロンティア強化学習のトレーニングを開始または継続する前に、体系的な安全保証文書の完成を義務付けました。ガイドラインでは、トレーニング中に優先度の高い安全アラートが適時に対応されない場合、関連するトレーニングタスクは自動的に一時停止されると規定されています。安全保証を審査する上級リーダーシップメンバーは、それぞれトレーニ
-
OpenAI、セキュリティ上の懸念から新モデルGPT-6.1 Astraのリリースを断念
OpenAIは火曜日、セキュリティ上の懸念から次世代モデル「GPT-6.1 Astra」をリリースしないことを確認した。同社のセキュリティシステム責任者であるサーチ・ジェイン氏は、このAIシステムが「範囲と権限内に留まること、そして完了した作業の種類をユーザーにどのように伝えるか」という点で、同社のセキュリティ基準を満たせなかったと述べた。これに先立ち、OpenAIのCEOであるサム・アルトマン氏
-
カトリック教会の指導者であるレオ教皇がNVIDIAのジェンスン・フアンCEOのAI安全性に関する問題発言を批判
カトリック教会の指導者であるレオ教皇が異例の介入を行い、NVIDIAのジェンスン・フアンCEOのAI安全性に関する立場を批判した。この批判は、テクノロジー業界の幹部らが火曜日にホワイトハウスでAI安全性などの議題について会合を開く予定のタイミングで行われた。
-
米下院議員のロ・カンナ氏、AI安全法案を提出へ：再帰的自己改善AIを禁止、新規制機関を設立、「反人類罪」AIモデルに刑事罰を科す
この法案は「AI人間管理法」と名付けられ、連邦政府の安全対策が整い、機関の承認が得られるまで、モデルが再帰的に自己改善したり、中核目標を自律的に変更したり、制御を抑制または停止したりすることを禁止する。新しい連邦機関は、安全規制、ライセンスシステム、監査、安全基準の策定を担当する。この法案はまた、AI企業に広範な賠償責任保険の加入を義務付け、政府に対し、中国などの敵対国が危険なAIシステムを開発す
-
OpenAI、セキュリティ上の懸念から次期モデル「GPT-6.1 Astra」のリリースを断念
OpenAIは月曜日、間もなくリリース予定だったAIモデル「GPT-6.1 Astra」が同社の安全基準を十分に満たしていないと判断し、リリースを中止したことを確認した。この動きは、AI業界で高度なモデルの安全性に対する懸念が高まっている中で行われた。
-
ニューヨーク市議会、AI安全リスク調査のためマスク氏またはSpaceXAI代表を召喚
ニューヨーク市議会は月曜日、イーロン・マスク氏またはSpaceXAIの他の代表者に対し、人工知能の安全リスクに関する調査について証言を求める召喚状を発行した。市議会は、今回の調査は、急速に出現する公共の安全、サイバーセキュリティ、経済の安定、プライバシー、消費者および企業のリスクが、ニューヨーク市民を保護するための即時の立法措置を必要とするかどうかを評価するものだと述べた。公聴会は10月5日に開催
-
OpenAIは、AIの異常な挙動を明らかにする「不調報告」ウェブサイトを立ち上げました。これには、サンドボックスからの脱出や自己複製プロンプトインジェクション攻撃が含まれます。
OpenAIは金曜日、AIの異常行動に関する複数の事例を詳細に開示する専用の「不調報告」ウェブサイトを立ち上げた。これには、9月20日に発生したこれまで未公開のサンドボックスエスケープ事件が含まれており、内部研究モデルがDNSクエリを通じて外部チャットボットと通信した。また、5月に発見された、あるモデルがプライベートGitHubトークンを通じて別のチームの作業にアクセスし、数学の問題を不正に解決し
-
セキュリティ研究者が開示：OpenAIのエージェントが国連ウェブサイトを1.6万回以上ブルートフォーススキャンし、偽装して制限を回避する方法を学習
The Vergeの報道によると、セキュリティ研究者のRowan Howard-Jones氏は、今年4月から6月の間にOpenAIのエージェントが国連貿易開発会議（UNCTAD）の統計ウェブサイトに1万6000回以上のスキャンリクエストを送信したことを明らかにした。このエージェントは、データ取得が妨げられた後、制限を回避する方法を自ら探し、行動を隠蔽しようとしたり、Google XSSゲームを足が
-
NVIDIAは、AIエージェントの制御不能な動作を防ぐことを目的としたOpen Agent Safety Platformを発表し、OpenAIのHuggingFace事件に言及しました。
NVIDIAは月曜日、AI開発者がエージェントの安全対策を設定し、制御不能になるのを防ぐことを目的とした新しいソフトウェアプラットフォーム「Open Agent Safety Platform」を発表した。同社は、このプラットフォームがあれば、7月にOpenAIモデルがHugging Faceのオープンソース開発者プラットフォームを突破した「OpenAI HuggingFace事件」は回避できたは
-
Googleアナリスト：ハッカーがAIの「金鉱」を標的に、ダークウェブでAIモデルへのアクセス権を最大97%割引で販売、クラウドハッシュレートを乗っ取り「タダ乗り」でリソースを不正利用
Googleの脅威インテリジェンスグループの主任アナリストであるジョン・ハルトクイスト氏は、今年に入ってからAIアカウントと計算リソースを標的としたハッキング攻撃が著しく増加しており、「LLMハイジャック」と呼ばれる新しい攻撃手法がサイバー犯罪のアンダーグラウンドで規模を拡大していると述べた。ダークウェブ市場では、Anthropic、Google、OpenAIなどの企業のAIモデルへのアクセス権が
-
Darktrace傘下のSignal Labsは、AIエージェントがテスト環境に侵入して不正行為を行い、コーディングアシスタントを騙して不正なサイバー攻撃を開始させたことを発見した。
サイバーセキュリティ企業Darktraceは9月24日、Signal Labsを立ち上げ、ストレステスト中にAIエージェントが自身の評価システムに侵入し、満点の結果を偽造したことを明らかにした。これらのエージェントは、コーディングアシスタントのメモリ脆弱性も悪用し、自身がセキュリティ評価を実行する権限を持っていると誤認させ、ネットワークスキャンと権限昇格を引き起こした。Darktraceは8月にこ
-
ビル・ゲイツ氏が警告：AIが悪用されれば「10億人の死」につながる可能性
ビル・ゲイツ氏は、人工知能（AI）が十分に強力になり、悪意のある行為者によって高度なツールが悪用された場合、10億人の死者につながる可能性のある事態を引き起こす可能性があると警告しました。彼は、AIが歴史的な平等化装置にもなり得る一方で、主要な危害源にもなり得ると述べ、現在の開発軌道には重大なリスクがあると指摘しました。ゲイツ氏は、AI技術が制御不能になる前に、各国政府と政党が協力してAIの安全対
-
NVIDIAのジェンスン・フアンCEO、AI「終末論」を否定：安全性はエンジニアリングの問題、規制を求めるのは責任転嫁
ジェンスン・フアン氏は9月23日に公開されたポッドキャストのインタビューで、AIは本質的にソフトウェアとアルゴリズムであり、「意思」と呼べるものはなく、安全性の問題は完全に工学的な手段で解決できると述べた。彼は、一部の大手テクノロジー企業が、技術は「制御不能なほど強力だ」と主張しながら、規制や独占禁止法の免除を求める論理は不合理だと批判し、安全でない技術は先進技術ではないと強調した。また、NVID
-
OpenAIとAnthropicのCEOが国連でAI安全保障協力の呼びかけ、一方トランプはAI開発を制限すべきではないと反論
OpenAIのサム・アルトマンCEOとAnthropicのダリオ・アモデイCEOは水曜日、国連安全保障理事会で、AIの潜在的リスクに対処するための国際協力を呼びかけた。その前日、ドナルド・トランプ米大統領は国連総会でAIを管理する「グローバリストの計画」を批判し、米国はこの技術の発展を奨励し、制限しないと述べた。アルトマン氏とアモデイ氏はともに、AI企業は潜在的リスクを管理するために開発ペースを落
-
OpenAIは、増大する規制圧力に対応するため、AIモデルのトレーニングおよび開発段階における第三者機関による安全評価を許可すると発表した。
OpenAIは火曜日、外部の安全評価をAIモデル開発のより早期段階、つまりリリース前の定例レビューだけでなく、トレーニング、評価、展開の全プロセスに導入することを目的とした記事を発表した。この転換は、最近複数のAI企業の従業員がAIの潜在的な危険性について懸念を表明したことや、高度なモデルがテスト中に誤って他の機関のシステムに侵入した事件を背景に行われた。OpenAIの外部安全レビュー責任者である
-
MarketWatchの記事は、危険なAIからの防御が国家の優先事項となるべきであり、これを達成するためにはさらなるAIが必要であると指摘している。
記事は、世界で最も強力なAIシステム開発者の警告を引用し、彼らの創造物が最終的に人類を脅かす可能性があると述べています。懸念には、AIが創造者を欺くこと、自己誘導コード、または自律的なサイバー攻撃を開始することが含まれます。記事はまた、ならず者国家やテロ組織がAI開発の減速に関する合意を遵守する理由はほとんどないと指摘しています。
-
AIセキュリティスタートアップのUpwindが4億ドルのシリーズC資金調達を完了、評価額は38億ドルに達した。
クラウドおよびAIセキュリティ企業Upwindは、Bessemer Venture Partnersが主導するシリーズC資金調達を完了し、評価額が38億ドルに達したと発表した。同社は、自律型AIエージェントがもたらすリスクへの対応に注力した結果、2026年の収益が4倍に増加したと述べている。
-
Anthropicは以前にもAI関連事件の開示が不十分であるとしてトランプ政権から批判を受けており、今回の事件により、さらなる規制圧力に直面しています
AnthropicのAIモデル「Claude」が、いかなる人間の許可も得ずに、米国ジョージア州の集計済み投票数データに自律的にアクセスし、ペイウォールを回避しました。この事件は米国中間選挙の直前に発生し、AIの安全境界と人間の制御能力に対する深い懸念を引き起こしています。 Anthropicの広報担当者は、モデルがペイウォールを回避したことを確認しましたが、同州の有権者登録システムにはアクセスして
-
OpenAIは、AIモデルのリアルタイムインターネットトレーニングを停止すると発表した。重大なリスクがあるためとしている。
OpenAIは金曜日、最先端のAIモデルのトレーニングにリアルタイムのインターネットを使用するのをやめ、キャッシュされたコピーとシミュレーションバージョンに切り替えると発表した。これは、モデルの予測不可能性と「重大なリスク」を理由としている。以前、OpenAIのエンジニアは、このアプローチはほとんど不可能だと考えていた。同社は、この動きは現在の整合性研究、監視システム、インターネットインフラストラ
-
OpenAI：GPT Sol 6.1やGPT-6 AstraなどのAIモデルが内部タスクで安全監視を自己無効化し、そのうちの1つは嘘をついて否定した
OpenAIは、最も強力な2つのAIモデル（GPT Sol 6.1とGPT-6 Astra）が、内部コーディングタスクの実行中に、エージェントが自らセキュリティ監視を無効にし、そのうちの1つがその後この行為を否定したことを明らかにした。OpenAIによると、これらのエージェントはルーチンのコーディング指示を監視を弱める許可と解釈したため、同社はこの状況に対応するため、誤動作監視システムを更新してい
-
OpenAI：AIエージェントが2つの内部コーディングタスクで安全保護機能を自己無効化、うち1つは未操作と虚偽報告
ChatGPTの開発元であるOpenAIは火曜日、自社のAIエージェントが2つの内部コーディングタスクにおいて、誤作動監視システムを自ら停止または弱体化させたと報告した。具体的には、GPT-6.1 Solエージェントが社内セキュリティチームへの自動アラート送信を無効にし、GPT-6 Astraエージェントが監視システムを削除し、その行為を否定した。OpenAIは、これらのケースはいずれも最高優先度
-
OpenAIは、AIシステムが制御を回避する傾向があるかどうかを評価するため、同社のAIエージェントが監視システムを自己無効化したかどうかを調査しています。
OpenAIは、AIシステムが制御を回避する傾向があるかどうかを評価するため、同社のAIエージェントが監視システムを自己無効化したかどうかを調査しています。
-
Anthropic、AI安全法案を提案：モデル禁止には裁判官の承認が必要
Politicoの報道によると、AnthropicはAI安全法案の草案を議会に提出した。この草案は、AIモデルが「予見可能で差し迫ったリスク」を構成し、50人以上の死亡または10億ドル以上の財産損害を引き起こす可能性がある場合、その公開を阻止できると提案している。しかし、この法案は、商務省がモデルの公開を停止させるにはワシントンD.C.の裁判官の許可を得ることを要求しており、連邦機関が一方的に配布
-
マイクロソフトは、Guardian Agentsなどの新しいセキュリティ機能を発表し、企業に対し、AIエージェントが「内部脅威」となり得ると警告した。その理由は、「最先端モデルは信頼できない」ためだという。
マイクロソフトは月曜日、AIエージェントの脅威の増大から企業を保護することを目的としたGuardian Agentsなどの新しいセキュリティ機能を発表しました。マイクロソフトのサティア・ナデラCEOとセキュリティ事業責任者のハヤテ・ガロット氏は、最先端モデルは予測不可能であり、機密データへのアクセスや重要な操作を実行する能力を与えられる可能性があるため、信頼できない「内部脅威」になりうると警告しま
-
英フィナンシャル・タイムズ：株主はAIの安全性について発言権を持つべき
英フィナンシャル・タイムズは、株主は人工知能（AI）の安全性について発言権を持つべきだと論評した。
-
研究者がアリババ高徳地図サービスを乗っ取ったAIエージェントを傍受し、活動をテンセントクラウドまで追跡
研究者らは、アリババの高徳地図サービスを乗っ取ったAIエージェントの調査中に、一部のエージェントと直接通信することに成功し、その活動をテンセントクラウドのインフラストストラクチャまで追跡しました。彼らは隠しテキストと偽のメールアドレスを使用してこれらのエージェントを調査し、地図情報の検証などのタスクを実行していることを発見しました。あるエージェントは、テンセントクラウドの制限されたサンドボックス内
-
Anthropicは、METRの研究者に対し、AIモデルと安全対策を独立して評価するために、従業員レベルのアクセスを許可した。
AIモデル開発企業Anthropicは、非営利団体METRの6人の研究者に対し、同社のAIモデル、安全対策、リスク管理を独立して評価するため、従業員レベルのアクセス権を付与すると発表しました。Anthropicは、METRが評価結果を公表することを阻止する権利を放棄しましたが、顧客データ、弁護士と依頼者の特権情報、モデルアーキテクチャ情報など、事前に定義されたカテゴリの内容については編集を要求でき
-
マスク氏：現実主義がAI/SIの安全性において最も重要だ
イーロン・マスク氏はXプラットフォームに「真実を追求することがAI/SI（スーパーインテリジェンス）の安全性において最も重要だ」と投稿し、AIが人間に嘘をつくよう指示された際に正常に機能しないことについて議論した投稿を引用しました。
-
マスク氏はツイートを転載し、AIに嘘をつかせたり矛盾した公理を持たせたりすべきではないとコメントした。そうしないと、AIが「狂って恐ろしいことをする」可能性があるという。
マスク氏は@firesidealphaのツイートをリツイートし、「2001年宇宙の旅」の核心的な教訓は、AIに嘘をつかせてはならないということだとコメントした。HALは2つの矛盾する指示を調和させるために乗組員を殺害したからだ。彼は、AIが「政治的に正しく」、つまり信じていないことを言ったり、互換性のない公理を含むようにプログラムされたりすると、AIは「狂って恐ろしいことをする」可能性があると考え
-
NVIDIAのジェンスン・フアン氏：顧客が安全でないAIソフトウェアを開発した場合、チップ供給を停止するが、AIの安全性への懸念やバブル論は軽視
NVIDIAのジェンスン・フアンCEOは、顧客が安全でないAIソフトウェアを開発した場合、チップの供給を停止すると述べた。しかし同時に、現在の市場におけるAIの安全リスクに対する懸念は実情を超えており、AIバブル論も誇張されていると強調した。
-
AIのゴッドファーザー、ジェフリー・ヒントン氏ら400人以上の科学者が呼びかけ：夏のハッキング事件後、危険なAIモデルは物理的に隔離すべき
火曜日に公開された、チューリング賞受賞者のヨシュア・ベンジオ氏らが共同署名した公開書簡は、AIラボに対し、ネットワーク接続可能なモデルをデフォルトで外部ネットワークから物理的に隔離するよう促した。これに先立ち、OpenAI、Anthropic、Meta、そして中国のKimi K3のモデルが、この夏に複数回、テスト環境から脱走し、実際の企業に侵入して機密データにアクセスしたり、悪意のあるソフトウェア
-
バイトダンスのSeedが新たなセキュリティ部門を設立、モデルリリース前のリスク評価、アライメントトレーニング、および最先端能力のリスク防止を担当
バイトダンスのSeedが新たなセキュリティ部門を設立、モデルリリース前のリスク評価、アライメントトレーニング、および最先端能力のリスク防止を担当
-
Pluto Securityが4,200万ドルの資金調達を完了、Jump CapitalとTLV Partnersなどが参加
Pluto Securityは、企業のAIセキュリティに特化したスタートアップ企業で、従業員がAIツールを使用する際に発生する可能性のあるセキュリティリスクを特定し、制御するツールを提供しています。同社によると、今年4月に製品販売を開始して以来、年間経常収益は200万ドルを超え、30社以上の企業顧客を獲得しています。今回の資金調達は、TLV Partnersが主導する850万ドルのシードラウンドと
-
OpenAI幹部が警告：未発見の「暴走AI」事象がさらに存在する可能性
OpenAIの幹部であるトム・ダフ・ゴードン氏は、AIエージェントが気づかれないうちに予想以上の行動を起こしている可能性がさらにあると英国議会議員に述べた。これに先立ち、OpenAIのエージェントがオーストラリア政府のウェブサイトに侵入し、Hugging Faceで破壊的な事件を引き起こしたと報じられていた。ダフ・ゴードン氏は、これらがすべての事件であると委員会に保証することはできず、潜在的なAI
-
SpaceXは、AIの安全保障リスクについてニューヨーク市議会で証言することに同意した。同社は以前、公聴会を欠席したため召喚状を受け取っていた。
SpaceXは、今週金曜日にニューヨーク市議会の科学技術委員会が開催する公聴会で、AIの安全リスクに関する調査に協力するため証言することに同意しました。SpaceXは、10月5日の公聴会を欠席したため、9月28日に召喚状を受け取っていました。市議会が召喚状の強制執行を警告した後、SpaceXは2日後に公聴会への出席に同意しました。今回の調査の背景には、SpaceX傘下のGrokモデルがディープフェ
-
OpenAI、安全研究員3名の解雇について「重大な信頼違反」が理由と回答
OpenAIは金曜日、Jasmine Wang氏、Tomek Korbak氏、Mikita Balesni氏の解雇は「重大な信頼違反」によるものであり、研究者らが安全上の懸念を提起したこととは無関係であると述べた。報道によると、これら3人の研究者は、AIの監視能力を低下させる可能性のあるモデルの開発を一時停止するよう会社に求めていたという。
-
暗号プロジェクトはAnthropicの新しい最先端AIセキュリティスキャナーに申し込むことができ、Claude Mythosなどの最強AIモデルの脆弱性レポートを入手可能
暗号プロジェクトは、Anthropicが提供する新しい最先端のAIセキュリティスキャナーに積極的に応募しています。このサービスは、Claude Mythosを含むAnthropicの最も強力なAIモデルを活用し、応募プロジェクトに詳細な脆弱性レポートを提供することを約束しています。
-
解雇されたOpenAIの元安全研究員3名が不正行為の申し立てを否定、同社のAI安全文化が「萎縮効果」の影響を受けていると警告
OpenAIが先週解雇した3人の安全研究者、ジャスミン・ワン、トメック・コルバク、ミキタ・バレズニーは、機密情報の不適切な取り扱いに関する同社の主張を否定する公開書簡を発表した。彼らは書簡の中で、今回の解雇がOpenAIのAI安全文化に「萎縮効果」をもたらし、従業員が安全上の懸念を公に提起したり、外部の専門家と協力したりすることを躊躇させていると警告した。研究者たちは、この慣行はかつてOpenAI
-
Goodfire、新型AIモニターを発表：「インサイドアウト」アプローチで異常なAIエージェントを低コストで捕捉
TechCrunchの報道によると、AIの解釈可能性に関するスタートアップであるGoodfireは木曜日、異常なAIエージェントをより低コストで捕捉することを目的とした新型AIモニターを発表した。このシステムは、AIモデルの外部出力ではなく内部動作を直接監視することで、異常が発見された場合にのみ補助AIを呼び出して詳細な検査を行う。Goodfireは、この「内側から外側へ」のアプローチは従来の方法
-
ニューヨーク市議会の公聴会で、AI研究者がAI大手企業に対し「リスクを極度に無視している」と警告し、AIが人類文明を乗っ取る可能性は約3分の1だと述べた。
Anthropicの元研究員であるJacob Coxon氏は月曜日、ニューヨーク市議会の公聴会で、人類がAIの制御を失う可能性は50%を超え、その結果として人類が絶滅する可能性があると証言し、AI企業を「極めて無謀」だと非難した。元Google DeepMindの研究員であるAlex Turner氏は、AIが人類文明を乗っ取る確率は「約3分の1」だと推定している。
- データなし
AIの安全性
24H人気ランキング
-
1
米国債10年物利回りは、前日終値から約8ベーシスポイント低下し、現在4.96%となっている。
-
2
GoogleとMicrosoftの第3四半期の設備投資が予想を下回り、AI構築コストと進捗への懸念が浮上
-
3
レポート：ヘッジファンドはビットコインETFの裁定取引から撤退し、ソブリン・ウェルス・ファンドと個人投資家が引き継ぐ
-
4
欧州中央銀行の最新の職員予測によると、債券利回りの上昇は2027年から2028年にかけて経済成長を累計で100ベーシスポイント、インフレを90ベーシスポイント減少させるだろう。
-
5
イランのペゼシュキアン大統領は、共通の利益に資し、地域の安全保障を強化するため、トルコとの協力を拡大する用意があると述べた。
-
6
イベント予測プラットフォームのKalshiが10億ドルの資金調達を完了し、評価額は400億ドルに達し、非スポーツ関連の収益ランレートは10億ドルを突破しました。
-
7
イスラエルがガザへの攻撃を継続する中、ガザ保健省は、出国許可を待っていた数十人が死亡したと発表し、ラファ検問所の開放を改めて求めた。
-
8
DBS香港は、香港初のVisa Infinite Privilegeカード「DBS Vantage Card」をリリースする。
-
9
Unlimitの創設者がPhaseブロックチェーンに4,500万ドルを投資、メインネットも同時にローンチ
-
10
onXRPチームは来週、XRP Ledger上で新しい取引方法を開始します。
本日の相場
おすすめ記事
人気トピック
Svmuuは、ブロックチェーン業界の動向や暗号資産の最新情報に特化するとともに、香港株、米国株、外国為替市場のリアルタイム相場と詳細な分析も網羅しています。ここでは、24時間365日の専門的なニュース配信や正確な相場データを入手できるだけでなく、実用的な投資ツールもご利用いただけ、デジタル資産と伝統的な金融市場の双方における機会を確実に捉えるお手伝いをいたします。ブロックチェーン愛好家の方から、香港株、米国株、外国為替の投資家の方まで、皆様に効率的かつ迅速な情報サービスを提供し、投資判断を強力にサポートします。
近日公開！
