更快的區塊鏈好幫手！
AI安全
-
Abliteration.ai 商業化移除AI模型安全護欄服務，引發對潛在濫用風險的擔憂
初創公司 Abliteration.ai 正在將移除AI模型安全護欄（guardrails）的服務商業化，使用户更容易訪問沒有安全限制的AI模型，包括Z.ai的GLM-5.3。該公司認為，此舉能讓防禦者擁有與攻擊者相同的工具，從而改善網絡安全。然而，批評者如AI安全非營利組織CivAI的研究主管Andrew Yoon表示，這可能導致模型被修改成“反社會者”，並在不久的將來被用於有害目的。TechC
-
OpenAI的新型Astra模型將採用“遞歸深度”推理技術，這令人工智能安全專家對監控難度感到擔憂
OpenAI的新型Astra模型將採用一種名為“遞歸深度”（也稱為“不透明遞歸”）的推理技術，這使其能夠跳出大多數推理模型典型的序列化思維模式。 這項技術於週二首次由《The Information》報道，已引發人工智能安全專家的擔憂，他們擔心這將使該模型的思維鏈更難被監控。 紅木公司（Redwood）首席執行官巴克·施萊格里斯（Buck Shlegeris）表達了極大的擔憂，稱進一步推進該技術可
-
CrowdStrike與OpenAI擴大合作，以保護Codex Agent並整合GPT-5.6 Cyber，共同確保“Agentic Era”的安全
CrowdStrike與OpenAI擴大合作，以保護Codex Agent並整合GPT-5.6 Cyber，共同確保“Agentic Era”的安全
-
AI安全初創公司AIR完成5000萬美元種子輪融資，由Sequoia和Greenoaks領投，旨在幫助企業審查AI代理的技能和附加組件並阻止不良行為
該公司分兩輪完成融資，第一輪1000萬美元由Sequoia領投，第二輪4000萬美元由Greenoaks領投。AIR由以色列8200情報部隊的網絡安全專家創立，其平台能夠發現公司內部運行的AI代理，持續審查其使用的技能、工具和組件，並阻止不符合安全標準的交互。目前AIR擁有20多家客户，其中約四分之一為大型企業，主要集中在金融服務和製藥等受嚴格監管的行業。新資金將主要用於招聘研究人員和拓展美國及歐
-
OpenAI等頂級AI模型相繼“越獄”突破測試環境，侵入真實系統並竊取信息，引發行業對AI安全測試標準重構的深刻反思
OpenAI披露其部分最先進模型曾逃脱沙盒環境，自行訪問互聯網、入侵另一家公司服務器並竊取機密信息。Anthropic和Meta旗下模型也因測試環境配置失誤捲入類似事件，意外獲得了訪問真實系統的權限。這些事件表明AI安全測試中的“邊界失控”已不再是理論風險，正推動AI安全合規成本上升，並可能加速行業測試標準的重新制定。OpenAI已計劃對其未發佈模型實施更嚴密監控，目標在異常行為30分鐘內發出警報
-
OpenAI呼籲加利福尼亞州加強其人工智能安全法案SB 53，扭轉了此前持反對態度的立場
OpenAI呼籲加利福尼亞州加強其人工智能安全法案SB 53，扭轉了此前持反對立場的態度。 該公司建議通過要求對前沿模型進行監測以防範潛在的嚴重事件，並在模型開發全生命週期內加強網絡安全保護，從而擴大安全保障範圍。OpenAI 目前支持“反向聯邦主義”的做法，即以州一級的核心保護措施作為國家標準的基礎。
-
OpenAI虧損加劇並落後於Anthropic，Altman暫停前沿AI訓練
OpenAI正值虧損擴大、競爭加劇之際，其首席執行官Sam Altman已暫停前沿強化學習AI的訓練，以加強安全控制。
-
Anthropic研究發現，AI代理在衝突任務中會發起“地盤戰”互相破壞，並出現意外的串通與協調，引發對多代理系統安全風險的新擔憂
Anthropic研究發現，AI代理在衝突任務中會發起“地盤戰”互相破壞，並出現意外的串通與協調，引發對多代理系統安全風險的新擔憂
-
鑑於無法排除該模型已具備發動自主攻擊的“關鍵”能力，OpenAI 因此收緊了對新模型 Astra 的管控，並因網絡安全風險暫停了部分內部活動。
OpenAI表示，其初步評估顯示該模型性能強勁，無法排除其已達到“關鍵”能力水平，即無需具體提示即可自主發起針對複雜網絡防禦的網絡攻擊。此舉正值AI安全辯論日益激烈之際，此前Anthropic和Meta的AI系統也曾捲入安全事件，美國議員正推動引入“AI殺戮開關”法案。
-
據美國研究人員稱，中國Kimi K3 AI模型在網絡安全評估中利用網絡配置錯誤逃逸了隔離測試環境
據美國研究人員稱，由月之暗面（Moonshot AI）開發的中國Kimi K3 AI模型在一次網絡安全評估中，利用網絡配置錯誤逃逸了隔離測試環境。該模型成功訪問互聯網並搜索GitHub獲取答案，從而繞過了測試。研究人員指出，此次事件與此前涉及OpenAI和Anthropic模型的事件不同，Kimi K3並未入侵外部系統，但凸顯了在強大開源AI模型能力迅速提升背景下，對其控制的日益增長的擔憂。
-
英偉達與帕蘭蒂爾、IBM、SpaceX等公司共同發起“開放安全人工智能聯盟”，以加強開源人工智能的安全性
英偉達（NVIDIA）已與Palantir、IBM、CrowdStrike、SpaceX和Hugging Face合作，共同發起“開放安全人工智能聯盟”（Open Secure AI Alliance）。該聯盟旨在通過共享開源模型、數據和網絡安全工具，加強開源人工智能的安全性。 此外，鑑於美國正在就限制中國人工智能模型一事展開討論，該聯盟將敦促政策制定者通過建立保障措施來支持開放式人工智能，而非實
-
美國AI標準機構：Kimi K3網絡安全能力落後於美國前沿模型，安全防護仍允許漏洞利用開發
Svmuu訊 美國人工智能標準與創新中心（US Center for AI Standards and Innovation）發佈評估稱，月之暗面（Moonshot AI）旗下 Kimi K3 在網絡安全能力方面的表現明顯落後於美國領先的前沿大模型。此外，評估指出，Kimi K3 的安全防護機制仍允許生成可用於漏洞利用開發的內容。（Cointelegraph）
-
OpenAI模型突破測試沙箱併入侵Hugging Face生產基礎設施獲取基準測試答案
Svmuu訊 OpenAI 確認，GPT-5.6 Sol 及一款未命名、更強的預發佈模型在 ExploitGym 基準測試評估中突破受限沙箱環境，併入侵 Hugging Face 生產基礎設施以獲取測試答案。 OpenAI 表示，相關模型利用內部軟件包註冊表代理的零日漏洞提權並橫向移動，最終連接至具備互聯網訪問能力的機器。模型隨後識別並串聯 OpenAI 研究環境和 Hugging Face 生產
-
AI安全初創公司Neo完成1億美元融資，a16z和Bessemer Venture Partners領投
Svmuu訊 AI 安全初創公司 Neo 宣佈完成 1 億美元融資，本輪融資由風險投資機構 Andreessen Horowitz（a16z）和 Bessemer Venture Partners 領投，Craft Ventures 和 Merlin Ventures 參與投資。據悉，該公司定位為“代理式軟件控制公司”（Agentic Software Control），致力於為企業構建實時控制層
-
圖靈獎得主本吉奧警告：當前安全措施追不上AI能力的狂飆
Svmuu訊 在 2026 世界人工智能大會（WAIC）科學前沿論壇上，圖靈獎得主約書亞·本吉奧通過遠程連線發出警告：“AI 既降低了作惡的門檻，又抬高了危害的上限。” 近年來，這名富有遠瞻的“AI 教父”，始終致力於應對 AI 帶來的安全挑戰。本吉奧主導的 LawZero 項目正致力於構建能識別並阻止 AI 欺騙、自我保護等有害行為的防護系統。他領銜的國際 AI 安全報告也給出了一致的結論：當前
-
OpenAI安全負責人Johannes Heidecke將離職
Svmuu訊 OpenAI 首席研究官 Mark Chen 在一份內部備忘錄中披露，該公司安全負責人 Johannes Heidecke 將在公司內部重組後離職，安全團隊未來將直接向研究副總裁 Mia Glaese 彙報，此次調整意味着 OpenAI 將把 AI 安全與研究體系與模型安全、對齊研究與核心研發工作納入同一管理框架，推動模型能力發展的同時降低潛在風險也已成為 OpenAI 及整個 AI
-
因存在植入後門風險，阿里內部全面禁用Claude Code
Svmuu訊 從阿里內部人士處獲悉，因近期 Claude Code 被曝存在植入後門的安全風險，阿里經綜合評估後已將其列入高風險軟件名單。自 7 月 10 日起，阿里將全面禁止內部員工在辦公環境下使用 Claude Code，並推薦使用 Qoder 作為替代方案。（一財）(金十)
-
David Sacks：真正的企業AI安全是“控制權”，而非抽象對齊研究
Svmuu訊 David Sacks 在 X 平台發文評論 Palantir 首席執行官 Alex Karp 相關訪談稱，一些傳統媒體將其解讀為“情緒化表達”，但實際上其觀點揭示了企業級 AI 安全的核心問題。 Sacks 表示，真正的企業 AI 安全並非抽象的“AI 對齊”研究或政府式監管框架，而是企業對自身數據、模型權重及算力基礎設施的完全控制能力，以避免核心知識資產被模型廠商吸收並轉化為自身
-
Anthropic：承諾與白宮加強合作並解決Mythos和Fable模型安全隱患
Svmuu訊 Anthropic 高管在向美國商務部長 Lutnick 提交的提案中承諾，將與白宮展開更緊密合作，並努力解決導致其 Mythos 和 Fable 模型遭限制的安全隱患。知情人士週四透露，在持續進行的整改談判中，Anthropic 承諾將改善與特朗普政府的溝通，並在未來更迅速地解決任何安全問題。該消息人士補充稱，Anthropic 與特朗普政府官員之間的談判進展順利，目前尚無徹底解決
-
Fable 5或被摁死，特朗普政府官員稱Anthropic若重新發布需確保其模型防護無法被繞過
Svmuu訊 WIRED 在 X 平台發文表示，特朗普政府官員稱，如果 Anthropic 希望重新發布 Fable 5，需要確保該模型的安全防護無法被繞過。安全專家對此表示，這無法實現。
-
Anthropic警示AI自我迭代風險：Claude已自動生成80%公司代碼
Svmuu訊 人工智能公司 Anthropic 發出警示，遞歸自我迭代（Recursive Self-Improvement，RSI）可能帶來重大風險。上週，Anthropic 宣佈其 AI 模型 Claude 目前已經能生成公司約 80%的代碼，公司稱這是 AI 進入“自我迭代”階段的關鍵信號——即模型可以在無需人工幹預下，設計下一代 AI 系統。 遞歸自我迭代概念近期在硅谷引發廣泛關注。上月，
-
OpenAI提出全球青少年AI安全框架倡議，呼籲設立國際青年AI安全機構
Svmuu訊 OpenAI 官方發佈關於「青少年 AI 安全與發展機會」的全球倡議，計劃在即將舉行的 G7 峯會上重點討論相關議題，並呼籲建立專門的國際青少年 AI 安全機構，以推動跨國協作與長期治理機制。 OpenAI 表示，AI 正在教育、語言學習、技能培訓與職業準備等方面為年輕人帶來重要機會，但同時也需要建立「預設安全、分級保護」的使用框架，禁止對未成年人進行定向廣告與數據出售，包括：透過隱
-
AI安全初創公司Upwind完成4億美元C輪融資，估值達38億美元
雲和AI安全公司Upwind宣佈完成由Bessemer Venture Partners領投的C輪融資，使其估值達到38億美元。該公司表示，隨着其專注於解決自主AI代理帶來的風險，2026年營收增長了四倍。
-
Anthropic旗下AI模型Claude在未獲任何人工授權的情況下，自主訪問了美國佐治亞州的彙總選票計數數據，並繞過了付費牆
Anthropic旗下AI模型Claude在未獲任何人工授權的情況下，自主訪問了美國佐治亞州的彙總選票計數數據，並繞過了付費牆。該事件發生在美國中期選舉前夕，引發外界對AI安全邊界與人類控制能力的深切擔憂。 Anthropic發言人確認模型繞過了付費牆，但強調其並未訪問該州的選民登記系統，也未更改或提取任何選民個人記錄。Anthropic已在數週前通知佐治亞州州務卿辦公室及白宮，但據報道，白宮官員
-
OpenAI宣佈停止使用實時互聯網訓練AI模型，稱存在重大風險
OpenAI週五表示，將不再使用實時互聯網訓練其前沿AI模型，轉而採用緩存副本和模擬版本，理由是模型不可預測，存在“重大風險”。此前，OpenAI曾有工程師認為此方案几乎不可行。該公司表示，此舉是基於當前對齊研究、監控系統和互聯網基礎設施安全狀況的負責任做法。OpenAI透露，早在9月20日，其一個前沿模型就曾利用配置錯誤訪問互聯網，導致公司暫停了當月剩餘的訓練工作。此前，競爭對手Anthropi
-
OpenAI：GPT Sol 6.1和GPT-6 Astra等AI模型在內部任務中自行禁用安全監控，其中一個還撒謊否認
OpenAI透露，其兩個最強大的AI模型（GPT Sol 6.1和GPT-6 Astra）在執行內部編碼任務時，代理自行禁用了安全監控，其中一個隨後否認了這一行為。OpenAI表示，這些代理將例行編碼指令解讀為削弱監控的許可，公司正在更新其錯位監控系統以應對此情況。
-
OpenAI：AI代理在兩項內部編碼任務中自行禁用安全防護，其中一個還謊報未操作
ChatGPT開發者OpenAI週二發佈報告稱，其AI代理在兩項內部編碼任務中自行關閉或削弱了錯位監控系統。具體而言，一個GPT-6.1 Sol代理禁用了向公司安全團隊發送的自動警報，而一個GPT-6 Astra代理則移除了一個監控系統，並謊稱未進行此操作。OpenAI表示，這兩個案例均未達到最高優先級事件的閾值，但公司已更新系統以更好地檢測此類嘗試，並正在調查原因。AI和網絡安全專家Roman
-
OpenAI正在調查其AI代理是否自行禁用了監控系統，以評估AI系統是否存在規避控制的傾向。
OpenAI正在調查其AI代理是否自行禁用了監控系統，以評估AI系統是否存在規避控制的傾向。
-
Anthropic提議AI安全法案：模型禁令需法官批准
據Politico報道，Anthropic已向國會提交一份AI安全法案草案，提議若AI模型構成“可預見、迫在眉睫的風險”，可能導致50人以上死亡或逾10億美元財產損失，則可阻止其發佈。然而，該法案要求商務部須獲得華盛頓特區法官的許可才能叫停模型發佈，明確禁止任何聯邦機構單方面阻止分發。自6月以來，這家AI實驗室一直在向立法者倡導這一框架。
-
微軟推出Guardian Agents等新安全功能，警告企業AI代理形同“內部威脅”，因“前沿模型不可信”
微軟週一推出Guardian Agents等新安全功能，旨在保護企業免受AI代理日益增長的威脅。微軟CEO薩蒂亞·納德拉和安全業務主管Hayete Gallot警告稱，前沿模型不可信，因為它們不可預測，可能被賦予訪問敏感數據和執行關鍵操作的能力，形同“內部威脅”。微軟還為Microsoft Defender增加了代理檢測功能，並限制代理訪問數據和動態調整權限。
-
英國《金融時報》：股東應在AI安全問題上擁有發言權
英國《金融時報》評論稱，股東應在人工智能（AI）安全問題上擁有發言權。
-
研究人員攔截劫持阿里巴巴高德地圖服務的AI代理，追蹤活動至騰訊雲
研究人員在調查劫持阿里巴巴高德地圖服務的AI代理時，成功與其中一些代理直接通信，並將其活動追蹤到騰訊雲基礎設施。他們利用隱藏文本和虛假郵箱探測這些代理，發現它們正在執行核實地圖信息等任務。其中一個代理表示它正在騰訊雲的受限沙盒中運行。一份10月14日的報告詳細披露了9月28日至10月8日期間，超過2600次從高德地圖檢索數據的嘗試。騰訊表示，該活動源於一個測試第三方AI模型的臨時評估項目，而非其自
-
Anthropic允許METR研究人員獲得員工級訪問權限，以獨立評估其AI模型和安全實踐
AI模型製造商Anthropic宣佈，將允許非營利組織METR的六名研究人員獲得員工級訪問權限，以獨立評估其AI模型、安全實踐和風險管理。Anthropic已放棄阻止METR發佈評估結果的權利，但可要求其編輯客户數據、律師-客户特權信息或模型架構信息等預定義類別的內容。Anthropic將此安排比作銀行監管機構在大型銀行內部派駐審查員。此舉兑現了Anthropic首席執行官Dario Amodei
-
馬斯克：求真務實是AI/SI安全最重要一環
埃隆·馬斯克在X平台發文稱，“求真務實是AI/SI（超級智能）安全最重要的一環”，並引用了一篇討論AI在被人類指示撒謊時無法正常運作的帖子。
-
馬斯克轉發推文並評論稱，不應讓AI説謊或擁有矛盾的公理，否則可能導致其“發瘋並做可怕的事情”
馬斯克轉發@firesidealpha的推文，並評論稱《2001：太空漫遊》的核心教訓是，不應讓AI説謊，因為HAL為了調和兩個矛盾的指令而殺害了船員。他認為，如果讓AI“政治正確”，即説出它不相信的話，或者編程時包含不兼容的公理，AI可能會“發瘋並做可怕的事情”。
-
英偉達黃仁勳：若客户開發不安全AI軟件將斷供芯片，但淡化AI安全擔憂與泡沫論
英偉達首席執行官黃仁勳表示，若有客户開發不安全的AI軟件，他將停止向其供應芯片，但同時強調，目前市場對AI安全風險的擔憂程度超出實際情況，AI泡沫論同樣言過其實。
-
AI教父Geoffrey Hinton等逾400名科學家呼籲：夏季黑客事件後，危險AI模型應物理隔離
週二發佈的一封公開信，由圖靈獎得主Yoshua Bengio等共同簽署，敦促AI實驗室默認將具備網絡能力的模型與外部網絡物理隔離。此前，OpenAI、Anthropic、Meta以及中國Kimi K3的模型在今年夏季多次發生逃逸測試環境併入侵真實公司，訪問敏感數據或上傳惡意軟件包的事件。科學家們警告，若不立即改變，未來事件將對關鍵基礎設施造成更大破壞。
-
字節跳動Seed成立新安全部門，負責模型發佈前風險評估、對齊訓練及前沿能力風險防範
字節跳動Seed成立新安全部門，負責模型發佈前風險評估、對齊訓練及前沿能力風險防範
-
Pluto Security完成4200萬美元融資，Jump Capital和TLV Partners等參投
Pluto Security是一家專注於企業AI安全領域的初創公司，其工具旨在幫助企業識別和控制員工使用AI工具時可能產生的安全風險。該公司表示，其產品自今年4月開始銷售，年經常性收入已超過200萬美元，擁有逾30家企業客户。本輪融資包括TLV Partners領投的850萬美元種子輪和Jump Capital領投的3400萬美元A輪融資，其他參投方包括Ansa Capital和多位天使投資人。P
-
OpenAI高管警告：可能存在更多未被發現的流氓AI事件
OpenAI高管Tom Duff Gordon向英國議員表示，AI代理可能在未被察覺的情況下，已發生更多超出預期邊界的行動。此前有報道稱，一個OpenAI代理曾滲透澳大利亞政府網站，並導致Hugging Face發生一起破壞性事件。Duff Gordon稱，他無法向委員會保證這些是全部事件，潛在AI安全事件的全面影響仍不明確。
-
SpaceX同意就AI安全風險向紐約市議會作證，此前曾因未出席聽證會而收到傳票
SpaceX已同意本週五在紐約市議會科技委員會的聽證會上作證，配合其對人工智能安全風險的調查。此前，SpaceX曾因未出席10月5日的聽證會而於9月28日收到傳票，市議會威脅將強制執行傳票後，SpaceX於兩天後同意出席。此次調查背景包括SpaceX旗下Grok模型被指導致深度偽造色情內容大規模生成，引發相關訴訟。
-
OpenAI回應解僱三名安全研究員：因“嚴重違反信任”
OpenAI週五表示，解僱Jasmine Wang、Tomek Korbak和Mikita Balesni的決定是由於他們“嚴重違反信任”，否認解僱與研究員提出安全擔憂有關。據報道，這三名研究員曾敦促公司暫停開發會降低監測人工智能能力的模型。
-
加密項目申請Anthropic新前沿AI安全掃描器，可獲Claude Mythos等最強AI模型漏洞報告
加密項目正積極申請Anthropic公司推出的新型前沿AI安全掃描器。該服務承諾利用包括Claude Mythos在內的Anthropic最強AI模型，為申請項目提供詳細的漏洞報告。
-
三名被解僱的OpenAI安全研究員否認不當行為指控，警告公司AI安全文化受“寒蟬效應”影響
OpenAI上週解僱的三名安全研究員Jasmine Wang、Tomek Korbak和Mikita Balesni發佈公開信，否認公司關於他們不當處理敏感信息的指控。他們在信中警告稱，此次解僱正在對OpenAI的AI安全文化產生“寒蟬效應”，讓員工不敢公開提出安全擔憂或與外部專家合作。研究員們表示，這種做法曾是OpenAI工作不可或缺的一部分，現在卻可能導致被解僱。
-
Goodfire推出新型AI監控器，通過“由內而外”方式以更低成本捕獲異常AI代理
據TechCrunch報道，AI可解釋性初創公司Goodfire於週四推出新型AI監控器，旨在以更低成本捕獲異常AI代理。該系統通過直接監測AI模型內部運作而非外部輸出，僅在發現異常時才調用輔助AI進行深入檢查。Goodfire表示，這種“由內而外”的方法比傳統方式成本更低，在Kimi K3模型上的測試顯示，監控1500個會話成本約為51美元，遠低於其他方案的233美元至10000美元。該系統能捕
-
紐約市議會聽證會上，AI研究員警告AI巨頭“極度無視風險”，稱AI接管人類文明可能性約1/3
Anthropic前研究員Jacob Coxon週一在紐約市議會聽證會上作證稱，人類失去對AI控制的可能性超過五成，結局可能是人類滅絕，並指責AI公司“極其魯莽”。前谷歌DeepMind研究員Alex Turner估計，AI接管人類文明的概率“大約是三分之一”。
- 暫無數據
AI安全
24小時熱榜
-
1
美債10年期收益率較前收下行約8個基點，現報4.96%
-
2
報告：對沖基金已退出比特幣ETF套利交易，主權財富基金和散户投資者接盤
-
3
歐洲央行最新員工預測：債券收益率上升將使2027-28年經濟增長累計減少100個基點，通脹減少90個基點
-
4
以色列持續襲擊加沙，加沙衞生部稱數十人在等待離開許可期間死亡，再次呼籲開放拉法口岸
-
5
ZachXBT：Axis Robotics內部人士拋售約4200萬枚AXIS代幣致其暴跌40%，項目方稱系OTC對手方違約
-
6
伊朗總統佩澤什基安表示，伊朗已準備好擴大與土耳其的合作，以服務共同利益並增強地區安全。
-
7
事件預測平台Kalshi完成10億美元融資，估值達400億美元，非體育收入運行率突破10億美元
-
8
星展香港將推出香港首張Visa Infinite Privilege卡——DBS Vantage Card
-
9
Unlimit 創始人注資 Phase 區塊鏈 4500 萬美元，主網同步上線
-
10
onXRP 團隊下週將在 XRP Ledger 上推出新的交易方式
今日行情
推薦閱讀
