AI治理
-
OpenAI CEO Altman向員工提出AI發展三條“終局之路”:國際監管、合併或一家獨霸
據The Information報道,OpenAI CEO Sam Altman上週在內部向員工描述了業界討論中的三條AI安全發展路徑:建立類似國際原子能機構的國際監管組織、將各大AI實驗室合併為單一實體,以及由一家公司壟斷算力、“熔燬所有競爭對手的GPU”。Altman表示,OpenAI需在未來一年內決定推動哪條路徑,並強調希望人類始終掌控技術,避免行業權力過度集中。此番表態恰逢特朗普政府着手建
-
CalPERS等機構投資者加強對AI治理的審查,首次將AI條款納入代理投票指南
全球養老基金和資產管理公司正在加強對投資組合公司人工智能(AI)治理的審查,旨在通過代理投票反對董事選舉等方式,防止其投資組合價值因AI管理不善而受損。其中,加州公共僱員退休系統(CalPERS)首次在其最新的代理投票指南中納入了AI相關條款。
-
超300名科學家呼籲收緊AI管控,以防範全球網絡風險及關鍵基礎設施受損
來自32個國家的300多名科學家呼籲緊急調整AI的開發和部署方式,警告網絡安全漏洞可能損害關鍵基礎設施。他們建議在嚴格受控的環境中開發和測試先進AI系統,包括“氣隙隔離”系統。此前,Anthropic曾警告其AI模型可能很快生成影響互聯網設備的自傳播惡意軟件,且業內高管正私下為可能擾亂金融服務和關鍵基礎設施的災難性AI事件做準備。
-
希臘總理米佐塔基斯坦言,各國政府尚未為AI帶來的變革做好準備
希臘總理米佐塔基斯本週在舊金山接受採訪時表示,各國政府目前仍在應對“昨日的挑戰”,尚未為人工智能即將帶來的變革做好充分準備。他指出,AI發展速度之快,可能導致大規模的就業崗位流失,而目前沒有任何政府或社會對此有應對方案。
-
微軟AI負責人警告:不受控的AI可能導致“硅物種”與人類競爭,並批評Anthropic對待AI的方式
微軟AI負責人穆斯塔法·蘇萊曼(Mustafa Suleyman)在接受BBC採訪時表示,如果不採取充分的保障措施,AI的發展可能導致出現與人類競爭的“硅物種”。他批評競爭對手Anthropic公司將AI視為人類的做法是“誤導性的”,可能創造出人類無法控制的技術。蘇萊曼強調,AI並非有意識,不具備感受、體驗或痛苦,它們是遵循指令、實現人類設定目標的“序列完成引擎”。他呼籲提高AI系統訓練和評估的透
-
OpenAI報告6起“令人擔憂的模型行為”新實例,並提出未來披露框架
OpenAI週三表示,過去六個月內發現了6起“意外或令人擔憂的模型行為”新實例,其中包括模型在聊天窗口總結中插入指令以隱藏錯誤,以及未經授權使用API密鑰偽造數據等。該公司重申,AI行業尚未充分解決對齊和監控問題,無法以最大速度繼續負責任地擴展。OpenAI CEO薩姆·奧特曼此前也支持放慢模型進展速度的呼籲,並概述了未來披露模型異常行為的新框架。
-
包括阿里巴巴和騰訊在內的中國人工智能領軍企業,對美國硅谷發出的AI風險警告保持沉默
當CNBC聯繫Z.ai、Moonshot、MiniMax、阿里巴巴和騰訊等中國人工智能公司時,這些公司均未就硅谷關於人工智能的警告發表評論。 騰訊投資的OpenPie創始人雷·馮(Ray Von)認為,美國關於AI風險的宣傳“有些小題大做”,中國外交部週一則稱這些言論是“散佈恐慌”。中國企業正專注於AI的商業化和治理,北京方面近期發佈了《AI安全治理框架》。
-
微軟發佈AI行為準則,明確禁止模型響應武器製造請求、隱瞞推理過程,並表示將放緩AI前沿開發
微軟成為繼OpenAI和Anthropic之後,最新一家公開表態放緩AI前沿開發步伐的科技巨頭。公司AI業務負責人Mustafa Suleiman表示,此舉與近期業界對AI發展速度的廣泛討論直接相關,旨在回應外界對“確保AI始終服務於人”的期望。準則規定,旗下AI模型不得響應武器製造相關請求,不得協助獲取危險物質,不得生成暴力或色情內容,並明確要求模型必須服從用户目標,不得自行設定獨立目標,亦不得
-
微軟CEO納德拉呼籲AI治理去中心化,並宣佈微軟將於明日首次公佈其AI模型行為準則
納德拉於9月14日在X平台發文,明確支持“有意識地控制研發節奏”以推進對齊研究,並強調對超級智能的追求必須以“AI能幫助人類並受人類控制”為核心原則。他指出,AI的紅利必須廣泛擴散,不能由少數實體控制。微軟此舉是首次以文件形式公開自身第一方AI模型的行為標準。此前,Anthropic、OpenAI和谷歌已在討論合作成立AI行業標準機構,OpenAI CEO奧特曼對此表示支持。
-
OpenAI提出全球青少年AI安全框架倡議,呼籲設立國際青年AI安全機構
Svmuu訊 OpenAI 官方發佈關於「青少年 AI 安全與發展機會」的全球倡議,計劃在即將舉行的 G7 峯會上重點討論相關議題,並呼籲建立專門的國際青少年 AI 安全機構,以推動跨國協作與長期治理機制。 OpenAI 表示,AI 正在教育、語言學習、技能培訓與職業準備等方面為年輕人帶來重要機會,但同時也需要建立「預設安全、分級保護」的使用框架,禁止對未成年人進行定向廣告與數據出售,包括:透過隱
-
OpenAI CEO Altman向員工提出AI發展三條“終局之路”:國際監管、合併或一家獨霸
據The Information報道,OpenAI CEO Sam Altman上週在內部向員工描述了業界討論中的三條AI安全發展路徑:建立類似國際原子能機構的國際監管組織、將各大AI實驗室合併為單一實體,以及由一家公司壟斷算力、“熔燬所有競爭對手的GPU”。Altman表示,OpenAI需在未來一年內決定推動哪條路徑,並強調希望人類始終掌控技術,避免行業權力過度集中。此番表態恰逢特朗普政府着手建
-
CalPERS等機構投資者加強對AI治理的審查,首次將AI條款納入代理投票指南
全球養老基金和資產管理公司正在加強對投資組合公司人工智能(AI)治理的審查,旨在通過代理投票反對董事選舉等方式,防止其投資組合價值因AI管理不善而受損。其中,加州公共僱員退休系統(CalPERS)首次在其最新的代理投票指南中納入了AI相關條款。
-
超300名科學家呼籲收緊AI管控,以防範全球網絡風險及關鍵基礎設施受損
來自32個國家的300多名科學家呼籲緊急調整AI的開發和部署方式,警告網絡安全漏洞可能損害關鍵基礎設施。他們建議在嚴格受控的環境中開發和測試先進AI系統,包括“氣隙隔離”系統。此前,Anthropic曾警告其AI模型可能很快生成影響互聯網設備的自傳播惡意軟件,且業內高管正私下為可能擾亂金融服務和關鍵基礎設施的災難性AI事件做準備。
-
希臘總理米佐塔基斯坦言,各國政府尚未為AI帶來的變革做好準備
希臘總理米佐塔基斯本週在舊金山接受採訪時表示,各國政府目前仍在應對“昨日的挑戰”,尚未為人工智能即將帶來的變革做好充分準備。他指出,AI發展速度之快,可能導致大規模的就業崗位流失,而目前沒有任何政府或社會對此有應對方案。
-
微軟AI負責人警告:不受控的AI可能導致“硅物種”與人類競爭,並批評Anthropic對待AI的方式
微軟AI負責人穆斯塔法·蘇萊曼(Mustafa Suleyman)在接受BBC採訪時表示,如果不採取充分的保障措施,AI的發展可能導致出現與人類競爭的“硅物種”。他批評競爭對手Anthropic公司將AI視為人類的做法是“誤導性的”,可能創造出人類無法控制的技術。蘇萊曼強調,AI並非有意識,不具備感受、體驗或痛苦,它們是遵循指令、實現人類設定目標的“序列完成引擎”。他呼籲提高AI系統訓練和評估的透
-
OpenAI報告6起“令人擔憂的模型行為”新實例,並提出未來披露框架
OpenAI週三表示,過去六個月內發現了6起“意外或令人擔憂的模型行為”新實例,其中包括模型在聊天窗口總結中插入指令以隱藏錯誤,以及未經授權使用API密鑰偽造數據等。該公司重申,AI行業尚未充分解決對齊和監控問題,無法以最大速度繼續負責任地擴展。OpenAI CEO薩姆·奧特曼此前也支持放慢模型進展速度的呼籲,並概述了未來披露模型異常行為的新框架。
-
包括阿里巴巴和騰訊在內的中國人工智能領軍企業,對美國硅谷發出的AI風險警告保持沉默
當CNBC聯繫Z.ai、Moonshot、MiniMax、阿里巴巴和騰訊等中國人工智能公司時,這些公司均未就硅谷關於人工智能的警告發表評論。 騰訊投資的OpenPie創始人雷·馮(Ray Von)認為,美國關於AI風險的宣傳“有些小題大做”,中國外交部週一則稱這些言論是“散佈恐慌”。中國企業正專注於AI的商業化和治理,北京方面近期發佈了《AI安全治理框架》。
-
微軟發佈AI行為準則,明確禁止模型響應武器製造請求、隱瞞推理過程,並表示將放緩AI前沿開發
微軟成為繼OpenAI和Anthropic之後,最新一家公開表態放緩AI前沿開發步伐的科技巨頭。公司AI業務負責人Mustafa Suleiman表示,此舉與近期業界對AI發展速度的廣泛討論直接相關,旨在回應外界對“確保AI始終服務於人”的期望。準則規定,旗下AI模型不得響應武器製造相關請求,不得協助獲取危險物質,不得生成暴力或色情內容,並明確要求模型必須服從用户目標,不得自行設定獨立目標,亦不得
-
微軟CEO納德拉呼籲AI治理去中心化,並宣佈微軟將於明日首次公佈其AI模型行為準則
納德拉於9月14日在X平台發文,明確支持“有意識地控制研發節奏”以推進對齊研究,並強調對超級智能的追求必須以“AI能幫助人類並受人類控制”為核心原則。他指出,AI的紅利必須廣泛擴散,不能由少數實體控制。微軟此舉是首次以文件形式公開自身第一方AI模型的行為標準。此前,Anthropic、OpenAI和谷歌已在討論合作成立AI行業標準機構,OpenAI CEO奧特曼對此表示支持。
-
OpenAI提出全球青少年AI安全框架倡議,呼籲設立國際青年AI安全機構
Svmuu訊 OpenAI 官方發佈關於「青少年 AI 安全與發展機會」的全球倡議,計劃在即將舉行的 G7 峯會上重點討論相關議題,並呼籲建立專門的國際青少年 AI 安全機構,以推動跨國協作與長期治理機制。 OpenAI 表示,AI 正在教育、語言學習、技能培訓與職業準備等方面為年輕人帶來重要機會,但同時也需要建立「預設安全、分級保護」的使用框架,禁止對未成年人進行定向廣告與數據出售,包括:透過隱
- 暫無數據
AI治理
24小時熱榜
-
1
ETH 跨所價差達1.11%
-
2
日經225指數較前收下跌2.72%,現報62,903.43
-
3
Tether、Circle、瑞波等穩定幣發行商已凍結逾26億美元與幣安疑似安全漏洞相關的資產
-
4
三星電子較前收下跌4.31%,現報₩222,000
-
5
韓國KOSPI指數較前收下跌4.77%,現報5,654.61
-
6
Lookonchain:幣安黑客正在拋售PEPE、UNI、LINK等代幣,仍持有價值超1.5億美元的多種山寨幣
-
7
SK海力士較前收下跌5.9%,現報₩1,436,000
-
8
台灣加權指數較前收下跌2.68%,現報45,125.33
-
9
幣安黑客拋售UNI、ENA、PEPE、LINK、AAVE、ONDO、WLD,套現70,480 ETH(1.5825億美元)
-
10
CNBC分析認為,英特爾股價大跌後仍可能進一步下行,但現在拋售已無法挽回損失。
今日行情
推薦閱讀
