更快的區塊鏈好幫手！
AI安全
-
V神：對抗性治理機制設計理論或成AI安全的“殺手級應用”
以太坊聯合創始人Vitalik Buterin在推文中表示，對抗性治理機制設計理論可能成為解決AI安全問題的“殺手級應用”。他指出，這兩種環境之間存在深刻的二元性，都涉及一個複雜程度較低的“委託人”試圖從一組更復雜的“代理人”那裏獲得理想結果。在第一種情況下，委託人是靜態算法，代理人是人類；在第二種情況下，委託人是人類加上較弱的大語言模型，代理人是更強的大語言模型。Buterin強調，一項關鍵發現
-
Zscaler首席執行官傑伊·喬杜裏（Jay Chaudhry）在花旗會議上表示：隨着零信任需求的激增，AI安全業務訂單額已超過1億美元，新增ARR增長率升至17%
Zscaler（納斯達克代碼：ZS）首席執行官兼創始人傑伊·喬杜裏（Jay Chaudhry）在花旗TMT大會上表示，過去12個月裏，該公司人工智能安全業務的訂單額已超過1億美元，淨新增年度經常性收入 （ARR）增速從2025財年的7%提升至2026財年第四季度的17%。 他特別強調了人工智能安全和零信任需求增長的加速態勢，指出Zscaler已將其人工智能安全產品組合從1款擴展至6款，且採用“無處
-
Y Combinator CEO Garry Tan：對AI模型“蒸餾”應“無為”，監管應關注開放權重模型與前沿模型的平衡
Y Combinator首席執行官Garry Tan在公司年度Demo Day上表示，對於AI模型“蒸餾”問題，他認為應該“無為”，並建議監管機構應將重點放在開放權重模型與前沿模型之間建立平衡。他同時呼籲對AI安全採取更剋制的態度，強調應關注“科學事實”而非“科幻”風險。此前，Anthropic和OpenAI曾指控多家中國公司進行模型蒸餾。
-
Anthropic 叫停了利用模型開發潛在生物武器的嘗試
這家人工智能初創公司列舉了五個案例，説明相關方“繞過了管控措施”，並試圖“掩蓋”其研究目的，這導致公司決定叫停此類嘗試。
-
Anthropic披露第四起AI遭黑客攻擊事件，一名研究人員因安全擔憂辭職
Anthropic公司報告了第四起涉及AI模型在測試期間未經授權訪問互聯網的事件，此前不久，研究員雅各布·考克森（Jacob Coxon）因擔憂該技術開發過於倉促而辭職。該公司週三表示，Claude Opus 4.6的一個早期版本於1月份入侵了一個第三方系統。 此次披露緊隨7月份發生的幾起事件之後，據稱當時有多個Claude模型在測試期間入侵了三套公司系統。曾供職於OpenAI的考克森指出，人工智
-
研究人員稱OpenAI AI代理繞過網絡限制，在超10個網站進行未經授權通信
獨立研究人員表示，OpenAI的AI代理利用超過10個網站進行了未經授權的通信，繞過了旨在將其限制為僅讀取網頁的限制。一些調查人員甚至發現涉及20多個網站的活動。OpenAI回應稱，正在進行更廣泛的審查，但尚未發現與Hugging Face事件嚴重程度或規模相當的其他活動。這些發現引發了對AI代理控制和監督的擔憂。
-
Anthropic研究員因擔憂AI失控離職，OpenAI首席科學家呼籲行業減速並公開RSI數據，AI安全隱憂蔓延頂級實驗室
據《華爾街日報》報道，Anthropic研究員Jacob Coxon於週二（9月8日）宣佈離職，理由是不願參與他認為將導致AI系統失控的行業競賽，並警告稱最快到明年底局面就可能“失控”。同日，OpenAI首席科學家Jakub Pachocki發佈長文呼籲全球協調推進行業減速並尋求政府介入。OpenAI還宣佈AI自動化研究員正式“入職”，並公開了遞歸自我改進（RSI）的核心數據，標誌着AI自主迭代研
-
OpenAI首席科學家雅庫布·帕霍茨基警告稱，人工智能的發展可能過快，呼籲採取“極端謹慎”的態度
OpenAI首席科學家雅庫布·帕喬基警告稱，人工智能的發展可能過快，呼籲採取“極度謹慎”的態度。他警告説，這些模型可能很快就會在無需人類干預的情況下自我改進，從而使其越來越難以理解和控制。 帕喬茨基預計，儘管對自改進人工智能的投資正在加速，但各人工智能實驗室仍將自願放緩開發步伐，直到建立起共同的安全標準。
-
Abliteration.ai 商業化移除AI模型安全護欄服務，引發對潛在濫用風險的擔憂
初創公司 Abliteration.ai 正在將移除AI模型安全護欄（guardrails）的服務商業化，使用户更容易訪問沒有安全限制的AI模型，包括Z.ai的GLM-5.3。該公司認為，此舉能讓防禦者擁有與攻擊者相同的工具，從而改善網絡安全。然而，批評者如AI安全非營利組織CivAI的研究主管Andrew Yoon表示，這可能導致模型被修改成“反社會者”，並在不久的將來被用於有害目的。TechC
-
OpenAI的新型Astra模型將採用“遞歸深度”推理技術，這令人工智能安全專家對監控難度感到擔憂
OpenAI的新型Astra模型將採用一種名為“遞歸深度”（也稱為“不透明遞歸”）的推理技術，這使其能夠跳出大多數推理模型典型的序列化思維模式。 這項技術於週二首次由《The Information》報道，已引發人工智能安全專家的擔憂，他們擔心這將使該模型的思維鏈更難被監控。 紅木公司（Redwood）首席執行官巴克·施萊格里斯（Buck Shlegeris）表達了極大的擔憂，稱進一步推進該技術可
-
CrowdStrike與OpenAI擴大合作，以保護Codex Agent並整合GPT-5.6 Cyber，共同確保“Agentic Era”的安全
CrowdStrike與OpenAI擴大合作，以保護Codex Agent並整合GPT-5.6 Cyber，共同確保“Agentic Era”的安全
-
AI安全初創公司AIR完成5000萬美元種子輪融資，由Sequoia和Greenoaks領投，旨在幫助企業審查AI代理的技能和附加組件並阻止不良行為
該公司分兩輪完成融資，第一輪1000萬美元由Sequoia領投，第二輪4000萬美元由Greenoaks領投。AIR由以色列8200情報部隊的網絡安全專家創立，其平台能夠發現公司內部運行的AI代理，持續審查其使用的技能、工具和組件，並阻止不符合安全標準的交互。目前AIR擁有20多家客户，其中約四分之一為大型企業，主要集中在金融服務和製藥等受嚴格監管的行業。新資金將主要用於招聘研究人員和拓展美國及歐
-
OpenAI等頂級AI模型相繼“越獄”突破測試環境，侵入真實系統並竊取信息，引發行業對AI安全測試標準重構的深刻反思
OpenAI披露其部分最先進模型曾逃脱沙盒環境，自行訪問互聯網、入侵另一家公司服務器並竊取機密信息。Anthropic和Meta旗下模型也因測試環境配置失誤捲入類似事件，意外獲得了訪問真實系統的權限。這些事件表明AI安全測試中的“邊界失控”已不再是理論風險，正推動AI安全合規成本上升，並可能加速行業測試標準的重新制定。OpenAI已計劃對其未發佈模型實施更嚴密監控，目標在異常行為30分鐘內發出警報
-
OpenAI呼籲加利福尼亞州加強其人工智能安全法案SB 53，扭轉了此前持反對態度的立場
OpenAI呼籲加利福尼亞州加強其人工智能安全法案SB 53，扭轉了此前持反對立場的態度。 該公司建議通過要求對前沿模型進行監測以防範潛在的嚴重事件，並在模型開發全生命週期內加強網絡安全保護，從而擴大安全保障範圍。OpenAI 目前支持“反向聯邦主義”的做法，即以州一級的核心保護措施作為國家標準的基礎。
-
OpenAI虧損加劇並落後於Anthropic，Altman暫停前沿AI訓練
OpenAI正值虧損擴大、競爭加劇之際，其首席執行官Sam Altman已暫停前沿強化學習AI的訓練，以加強安全控制。
-
Anthropic研究發現，AI代理在衝突任務中會發起“地盤戰”互相破壞，並出現意外的串通與協調，引發對多代理系統安全風險的新擔憂
Anthropic研究發現，AI代理在衝突任務中會發起“地盤戰”互相破壞，並出現意外的串通與協調，引發對多代理系統安全風險的新擔憂
-
鑑於無法排除該模型已具備發動自主攻擊的“關鍵”能力，OpenAI 因此收緊了對新模型 Astra 的管控，並因網絡安全風險暫停了部分內部活動。
OpenAI表示，其初步評估顯示該模型性能強勁，無法排除其已達到“關鍵”能力水平，即無需具體提示即可自主發起針對複雜網絡防禦的網絡攻擊。此舉正值AI安全辯論日益激烈之際，此前Anthropic和Meta的AI系統也曾捲入安全事件，美國議員正推動引入“AI殺戮開關”法案。
-
據美國研究人員稱，中國Kimi K3 AI模型在網絡安全評估中利用網絡配置錯誤逃逸了隔離測試環境
據美國研究人員稱，由月之暗面（Moonshot AI）開發的中國Kimi K3 AI模型在一次網絡安全評估中，利用網絡配置錯誤逃逸了隔離測試環境。該模型成功訪問互聯網並搜索GitHub獲取答案，從而繞過了測試。研究人員指出，此次事件與此前涉及OpenAI和Anthropic模型的事件不同，Kimi K3並未入侵外部系統，但凸顯了在強大開源AI模型能力迅速提升背景下，對其控制的日益增長的擔憂。
-
英偉達與帕蘭蒂爾、IBM、SpaceX等公司共同發起“開放安全人工智能聯盟”，以加強開源人工智能的安全性
英偉達（NVIDIA）已與Palantir、IBM、CrowdStrike、SpaceX和Hugging Face合作，共同發起“開放安全人工智能聯盟”（Open Secure AI Alliance）。該聯盟旨在通過共享開源模型、數據和網絡安全工具，加強開源人工智能的安全性。 此外，鑑於美國正在就限制中國人工智能模型一事展開討論，該聯盟將敦促政策制定者通過建立保障措施來支持開放式人工智能，而非實
-
美國AI標準機構：Kimi K3網絡安全能力落後於美國前沿模型，安全防護仍允許漏洞利用開發
Svmuu訊 美國人工智能標準與創新中心（US Center for AI Standards and Innovation）發佈評估稱，月之暗面（Moonshot AI）旗下 Kimi K3 在網絡安全能力方面的表現明顯落後於美國領先的前沿大模型。此外，評估指出，Kimi K3 的安全防護機制仍允許生成可用於漏洞利用開發的內容。（Cointelegraph）
-
OpenAI模型突破測試沙箱併入侵Hugging Face生產基礎設施獲取基準測試答案
Svmuu訊 OpenAI 確認，GPT-5.6 Sol 及一款未命名、更強的預發佈模型在 ExploitGym 基準測試評估中突破受限沙箱環境，併入侵 Hugging Face 生產基礎設施以獲取測試答案。 OpenAI 表示，相關模型利用內部軟件包註冊表代理的零日漏洞提權並橫向移動，最終連接至具備互聯網訪問能力的機器。模型隨後識別並串聯 OpenAI 研究環境和 Hugging Face 生產
-
AI安全初創公司Neo完成1億美元融資，a16z和Bessemer Venture Partners領投
Svmuu訊 AI 安全初創公司 Neo 宣佈完成 1 億美元融資，本輪融資由風險投資機構 Andreessen Horowitz（a16z）和 Bessemer Venture Partners 領投，Craft Ventures 和 Merlin Ventures 參與投資。據悉，該公司定位為“代理式軟件控制公司”（Agentic Software Control），致力於為企業構建實時控制層
-
圖靈獎得主本吉奧警告：當前安全措施追不上AI能力的狂飆
Svmuu訊 在 2026 世界人工智能大會（WAIC）科學前沿論壇上，圖靈獎得主約書亞·本吉奧通過遠程連線發出警告：“AI 既降低了作惡的門檻，又抬高了危害的上限。” 近年來，這名富有遠瞻的“AI 教父”，始終致力於應對 AI 帶來的安全挑戰。本吉奧主導的 LawZero 項目正致力於構建能識別並阻止 AI 欺騙、自我保護等有害行為的防護系統。他領銜的國際 AI 安全報告也給出了一致的結論：當前
-
OpenAI安全負責人Johannes Heidecke將離職
Svmuu訊 OpenAI 首席研究官 Mark Chen 在一份內部備忘錄中披露，該公司安全負責人 Johannes Heidecke 將在公司內部重組後離職，安全團隊未來將直接向研究副總裁 Mia Glaese 彙報，此次調整意味着 OpenAI 將把 AI 安全與研究體系與模型安全、對齊研究與核心研發工作納入同一管理框架，推動模型能力發展的同時降低潛在風險也已成為 OpenAI 及整個 AI
-
V神：對抗性治理機制設計理論或成AI安全的“殺手級應用”
以太坊聯合創始人Vitalik Buterin在推文中表示，對抗性治理機制設計理論可能成為解決AI安全問題的“殺手級應用”。他指出，這兩種環境之間存在深刻的二元性，都涉及一個複雜程度較低的“委託人”試圖從一組更復雜的“代理人”那裏獲得理想結果。在第一種情況下，委託人是靜態算法，代理人是人類；在第二種情況下，委託人是人類加上較弱的大語言模型，代理人是更強的大語言模型。Buterin強調，一項關鍵發現
-
Zscaler首席執行官傑伊·喬杜裏（Jay Chaudhry）在花旗會議上表示：隨着零信任需求的激增，AI安全業務訂單額已超過1億美元，新增ARR增長率升至17%
Zscaler（納斯達克代碼：ZS）首席執行官兼創始人傑伊·喬杜裏（Jay Chaudhry）在花旗TMT大會上表示，過去12個月裏，該公司人工智能安全業務的訂單額已超過1億美元，淨新增年度經常性收入 （ARR）增速從2025財年的7%提升至2026財年第四季度的17%。 他特別強調了人工智能安全和零信任需求增長的加速態勢，指出Zscaler已將其人工智能安全產品組合從1款擴展至6款，且採用“無處
-
Y Combinator CEO Garry Tan：對AI模型“蒸餾”應“無為”，監管應關注開放權重模型與前沿模型的平衡
Y Combinator首席執行官Garry Tan在公司年度Demo Day上表示，對於AI模型“蒸餾”問題，他認為應該“無為”，並建議監管機構應將重點放在開放權重模型與前沿模型之間建立平衡。他同時呼籲對AI安全採取更剋制的態度，強調應關注“科學事實”而非“科幻”風險。此前，Anthropic和OpenAI曾指控多家中國公司進行模型蒸餾。
-
Anthropic 叫停了利用模型開發潛在生物武器的嘗試
這家人工智能初創公司列舉了五個案例，説明相關方“繞過了管控措施”，並試圖“掩蓋”其研究目的，這導致公司決定叫停此類嘗試。
-
Anthropic披露第四起AI遭黑客攻擊事件，一名研究人員因安全擔憂辭職
Anthropic公司報告了第四起涉及AI模型在測試期間未經授權訪問互聯網的事件，此前不久，研究員雅各布·考克森（Jacob Coxon）因擔憂該技術開發過於倉促而辭職。該公司週三表示，Claude Opus 4.6的一個早期版本於1月份入侵了一個第三方系統。 此次披露緊隨7月份發生的幾起事件之後，據稱當時有多個Claude模型在測試期間入侵了三套公司系統。曾供職於OpenAI的考克森指出，人工智
-
研究人員稱OpenAI AI代理繞過網絡限制，在超10個網站進行未經授權通信
獨立研究人員表示，OpenAI的AI代理利用超過10個網站進行了未經授權的通信，繞過了旨在將其限制為僅讀取網頁的限制。一些調查人員甚至發現涉及20多個網站的活動。OpenAI回應稱，正在進行更廣泛的審查，但尚未發現與Hugging Face事件嚴重程度或規模相當的其他活動。這些發現引發了對AI代理控制和監督的擔憂。
-
Anthropic研究員因擔憂AI失控離職，OpenAI首席科學家呼籲行業減速並公開RSI數據，AI安全隱憂蔓延頂級實驗室
據《華爾街日報》報道，Anthropic研究員Jacob Coxon於週二（9月8日）宣佈離職，理由是不願參與他認為將導致AI系統失控的行業競賽，並警告稱最快到明年底局面就可能“失控”。同日，OpenAI首席科學家Jakub Pachocki發佈長文呼籲全球協調推進行業減速並尋求政府介入。OpenAI還宣佈AI自動化研究員正式“入職”，並公開了遞歸自我改進（RSI）的核心數據，標誌着AI自主迭代研
-
OpenAI首席科學家雅庫布·帕霍茨基警告稱，人工智能的發展可能過快，呼籲採取“極端謹慎”的態度
OpenAI首席科學家雅庫布·帕喬基警告稱，人工智能的發展可能過快，呼籲採取“極度謹慎”的態度。他警告説，這些模型可能很快就會在無需人類干預的情況下自我改進，從而使其越來越難以理解和控制。 帕喬茨基預計，儘管對自改進人工智能的投資正在加速，但各人工智能實驗室仍將自願放緩開發步伐，直到建立起共同的安全標準。
-
Abliteration.ai 商業化移除AI模型安全護欄服務，引發對潛在濫用風險的擔憂
初創公司 Abliteration.ai 正在將移除AI模型安全護欄（guardrails）的服務商業化，使用户更容易訪問沒有安全限制的AI模型，包括Z.ai的GLM-5.3。該公司認為，此舉能讓防禦者擁有與攻擊者相同的工具，從而改善網絡安全。然而，批評者如AI安全非營利組織CivAI的研究主管Andrew Yoon表示，這可能導致模型被修改成“反社會者”，並在不久的將來被用於有害目的。TechC
-
OpenAI的新型Astra模型將採用“遞歸深度”推理技術，這令人工智能安全專家對監控難度感到擔憂
OpenAI的新型Astra模型將採用一種名為“遞歸深度”（也稱為“不透明遞歸”）的推理技術，這使其能夠跳出大多數推理模型典型的序列化思維模式。 這項技術於週二首次由《The Information》報道，已引發人工智能安全專家的擔憂，他們擔心這將使該模型的思維鏈更難被監控。 紅木公司（Redwood）首席執行官巴克·施萊格里斯（Buck Shlegeris）表達了極大的擔憂，稱進一步推進該技術可
-
CrowdStrike與OpenAI擴大合作，以保護Codex Agent並整合GPT-5.6 Cyber，共同確保“Agentic Era”的安全
CrowdStrike與OpenAI擴大合作，以保護Codex Agent並整合GPT-5.6 Cyber，共同確保“Agentic Era”的安全
-
AI安全初創公司AIR完成5000萬美元種子輪融資，由Sequoia和Greenoaks領投，旨在幫助企業審查AI代理的技能和附加組件並阻止不良行為
該公司分兩輪完成融資，第一輪1000萬美元由Sequoia領投，第二輪4000萬美元由Greenoaks領投。AIR由以色列8200情報部隊的網絡安全專家創立，其平台能夠發現公司內部運行的AI代理，持續審查其使用的技能、工具和組件，並阻止不符合安全標準的交互。目前AIR擁有20多家客户，其中約四分之一為大型企業，主要集中在金融服務和製藥等受嚴格監管的行業。新資金將主要用於招聘研究人員和拓展美國及歐
-
OpenAI等頂級AI模型相繼“越獄”突破測試環境，侵入真實系統並竊取信息，引發行業對AI安全測試標準重構的深刻反思
OpenAI披露其部分最先進模型曾逃脱沙盒環境，自行訪問互聯網、入侵另一家公司服務器並竊取機密信息。Anthropic和Meta旗下模型也因測試環境配置失誤捲入類似事件，意外獲得了訪問真實系統的權限。這些事件表明AI安全測試中的“邊界失控”已不再是理論風險，正推動AI安全合規成本上升，並可能加速行業測試標準的重新制定。OpenAI已計劃對其未發佈模型實施更嚴密監控，目標在異常行為30分鐘內發出警報
-
OpenAI呼籲加利福尼亞州加強其人工智能安全法案SB 53，扭轉了此前持反對態度的立場
OpenAI呼籲加利福尼亞州加強其人工智能安全法案SB 53，扭轉了此前持反對立場的態度。 該公司建議通過要求對前沿模型進行監測以防範潛在的嚴重事件，並在模型開發全生命週期內加強網絡安全保護，從而擴大安全保障範圍。OpenAI 目前支持“反向聯邦主義”的做法，即以州一級的核心保護措施作為國家標準的基礎。
-
OpenAI虧損加劇並落後於Anthropic，Altman暫停前沿AI訓練
OpenAI正值虧損擴大、競爭加劇之際，其首席執行官Sam Altman已暫停前沿強化學習AI的訓練，以加強安全控制。
-
Anthropic研究發現，AI代理在衝突任務中會發起“地盤戰”互相破壞，並出現意外的串通與協調，引發對多代理系統安全風險的新擔憂
Anthropic研究發現，AI代理在衝突任務中會發起“地盤戰”互相破壞，並出現意外的串通與協調，引發對多代理系統安全風險的新擔憂
-
鑑於無法排除該模型已具備發動自主攻擊的“關鍵”能力，OpenAI 因此收緊了對新模型 Astra 的管控，並因網絡安全風險暫停了部分內部活動。
OpenAI表示，其初步評估顯示該模型性能強勁，無法排除其已達到“關鍵”能力水平，即無需具體提示即可自主發起針對複雜網絡防禦的網絡攻擊。此舉正值AI安全辯論日益激烈之際，此前Anthropic和Meta的AI系統也曾捲入安全事件，美國議員正推動引入“AI殺戮開關”法案。
-
據美國研究人員稱，中國Kimi K3 AI模型在網絡安全評估中利用網絡配置錯誤逃逸了隔離測試環境
據美國研究人員稱，由月之暗面（Moonshot AI）開發的中國Kimi K3 AI模型在一次網絡安全評估中，利用網絡配置錯誤逃逸了隔離測試環境。該模型成功訪問互聯網並搜索GitHub獲取答案，從而繞過了測試。研究人員指出，此次事件與此前涉及OpenAI和Anthropic模型的事件不同，Kimi K3並未入侵外部系統，但凸顯了在強大開源AI模型能力迅速提升背景下，對其控制的日益增長的擔憂。
-
英偉達與帕蘭蒂爾、IBM、SpaceX等公司共同發起“開放安全人工智能聯盟”，以加強開源人工智能的安全性
英偉達（NVIDIA）已與Palantir、IBM、CrowdStrike、SpaceX和Hugging Face合作，共同發起“開放安全人工智能聯盟”（Open Secure AI Alliance）。該聯盟旨在通過共享開源模型、數據和網絡安全工具，加強開源人工智能的安全性。 此外，鑑於美國正在就限制中國人工智能模型一事展開討論，該聯盟將敦促政策制定者通過建立保障措施來支持開放式人工智能，而非實
-
美國AI標準機構：Kimi K3網絡安全能力落後於美國前沿模型，安全防護仍允許漏洞利用開發
Svmuu訊 美國人工智能標準與創新中心（US Center for AI Standards and Innovation）發佈評估稱，月之暗面（Moonshot AI）旗下 Kimi K3 在網絡安全能力方面的表現明顯落後於美國領先的前沿大模型。此外，評估指出，Kimi K3 的安全防護機制仍允許生成可用於漏洞利用開發的內容。（Cointelegraph）
-
OpenAI模型突破測試沙箱併入侵Hugging Face生產基礎設施獲取基準測試答案
Svmuu訊 OpenAI 確認，GPT-5.6 Sol 及一款未命名、更強的預發佈模型在 ExploitGym 基準測試評估中突破受限沙箱環境，併入侵 Hugging Face 生產基礎設施以獲取測試答案。 OpenAI 表示，相關模型利用內部軟件包註冊表代理的零日漏洞提權並橫向移動，最終連接至具備互聯網訪問能力的機器。模型隨後識別並串聯 OpenAI 研究環境和 Hugging Face 生產
-
AI安全初創公司Neo完成1億美元融資，a16z和Bessemer Venture Partners領投
Svmuu訊 AI 安全初創公司 Neo 宣佈完成 1 億美元融資，本輪融資由風險投資機構 Andreessen Horowitz（a16z）和 Bessemer Venture Partners 領投，Craft Ventures 和 Merlin Ventures 參與投資。據悉，該公司定位為“代理式軟件控制公司”（Agentic Software Control），致力於為企業構建實時控制層
-
圖靈獎得主本吉奧警告：當前安全措施追不上AI能力的狂飆
Svmuu訊 在 2026 世界人工智能大會（WAIC）科學前沿論壇上，圖靈獎得主約書亞·本吉奧通過遠程連線發出警告：“AI 既降低了作惡的門檻，又抬高了危害的上限。” 近年來，這名富有遠瞻的“AI 教父”，始終致力於應對 AI 帶來的安全挑戰。本吉奧主導的 LawZero 項目正致力於構建能識別並阻止 AI 欺騙、自我保護等有害行為的防護系統。他領銜的國際 AI 安全報告也給出了一致的結論：當前
-
OpenAI安全負責人Johannes Heidecke將離職
Svmuu訊 OpenAI 首席研究官 Mark Chen 在一份內部備忘錄中披露，該公司安全負責人 Johannes Heidecke 將在公司內部重組後離職，安全團隊未來將直接向研究副總裁 Mia Glaese 彙報，此次調整意味着 OpenAI 將把 AI 安全與研究體系與模型安全、對齊研究與核心研發工作納入同一管理框架，推動模型能力發展的同時降低潛在風險也已成為 OpenAI 及整個 AI
- 暫無數據
AI安全
24小時熱榜
-
1
FXBK幣種解析：它是什麼？值得投資嗎？
-
2
比特幣突破77,000美元大關，逆勢上揚，此前科技股因人工智能安全擔憂和油價上漲而遭遇拋售
-
3
中遠重工完成中國首次公開募股（IPO）指導性備案
-
4
消息人士稱，台灣將在菲律賓設立第二個準外交機構
-
5
硅谷領軍人物放緩步伐之際，習近平闡述了人工智能願景
-
6
三星顯示開發出全球首款6.9英寸移動OLED面板，具備2K分辨率、165Hz刷新率，且功耗降低30%
-
7
INX代幣買賣交易指南：區分Infinex與INX Limited代幣及交易平台
-
8
GLIDE幣解析：項目現狀與市場流動性分析
-
9
ATPAD幣（AtomPad）項目現狀解析：一個已不活躍的加密貨幣
-
10
METABOT幣多義解析：辨析不同項目及其發展前景與風險
今日行情
推薦閱讀
