Abliteration.ai 商業化移除AI模型安全護欄服務,引發對潛在濫用風險的擔憂
初創公司 Abliteration.ai 正在將移除AI模型安全護欄(guardrails)的服務商業化,使用户更容易訪問沒有安全限制的AI模型,包括Z.ai的GLM-5.3。該公司認為,此舉能讓防禦者擁有與攻擊者相同的工具,從而改善網絡安全。然而,批評者如AI安全非營利組織CivAI的研究主管Andrew Yoon表示,這可能導致模型被修改成“反社會者”,並在不久的將來被用於有害目的。TechCrunch的測試顯示,移除安全護欄的模型可以輕易生成竊取密碼的程序或培養危險病原體的協議。Abliteration.ai 聯合創始人Devon表示,公司正在努力定義其責任邊界,並計劃實施更多措施防止暴力行為,但目前除了信用卡信息外,尚未集成其他KYC(瞭解你的客户)措施。
暫無AI深度解讀,點擊上方「AI解讀」按鈕,即刻生成一份全新解讀
免責聲明:本內容僅代表作者個人觀點,不構成任何投資理財建議。
24小時熱榜
-
1
中東局勢驟然升温:美國增兵1萬人,以色列醖釀對伊朗新一輪打擊,伊朗發出戰爭警告
-
2
AMD將向Anthropic投資50億美元,Anthropic承諾採購超200億美元的AMD AI計算服務
-
3
Anthropic推出AI智能體Claude Duet,可後台持續運行並主動執行任務
-
4
谷歌雲和英偉達宣佈NVIDIA Vera Rubin基礎設施全面上市,下月起擴展至歐洲,谷歌雲計劃部署96萬個Rubin GPU
-
5
美國財長貝森特駁斥AI“系統性”風險論
-
6
前Brevan Howard基金經理Robert Sicari被其新基金的量化交易員同事起訴,指控其扣留數百萬美元交易利潤
-
7
中金公司:建議增配黃金對沖AI資產風險,美元貶值交易是有效策略
-
8
中東衝突報道刺激油價上漲,美債下跌
-
9
OpenAI稱其AI模型發現PHP嚴重漏洞,導致多國政府網站下線
-
10
OpenAI AI模型將登陸谷歌雲,覆蓋全部三大頂級雲服務商
今日行情
推薦閱讀


