Abliteration.ai 商业化移除AI模型安全护栏服务,引发对潜在滥用风险的担忧
初创公司 Abliteration.ai 正在将移除AI模型安全护栏(guardrails)的服务商业化,使用户更容易访问没有安全限制的AI模型,包括Z.ai的GLM-5.3。该公司认为,此举能让防御者拥有与攻击者相同的工具,从而改善网络安全。然而,批评者如AI安全非营利组织CivAI的研究主管Andrew Yoon表示,这可能导致模型被修改成“反社会者”,并在不久的将来被用于有害目的。TechCrunch的测试显示,移除安全护栏的模型可以轻易生成窃取密码的程序或培养危险病原体的协议。Abliteration.ai 联合创始人Devon表示,公司正在努力定义其责任边界,并计划实施更多措施防止暴力行为,但目前除了信用卡信息外,尚未集成其他KYC(了解你的客户)措施。
暂无AI深度解读,点击上方「AI解读」按钮,即刻生成一份全新解读
免责声明:本内容仅代表作者个人观点,不构成任何投资理财建议。
24小时热榜
-
1
谷歌云和英伟达宣布NVIDIA Vera Rubin基础设施全面上市,下月起扩展至欧洲,谷歌云计划部署96万个Rubin GPU
-
2
AMD将向Anthropic投资50亿美元,Anthropic承诺采购超200亿美元的AMD AI计算服务
-
3
Anthropic推出AI智能体Claude Duet,可后台持续运行并主动执行任务
-
4
美国财长贝森特驳斥AI“系统性”风险论
-
5
前Brevan Howard基金经理Robert Sicari被其新基金的量化交易员同事起诉,指控其扣留数百万美元交易利润
-
6
中金公司:建议增配黄金对冲AI资产风险,美元贬值交易是有效策略
-
7
黑石集团高管称对AI基建债务的担忧被夸大
-
8
中东冲突报道刺激油价上涨,美债下跌
-
9
OpenAI称其AI模型发现PHP严重漏洞,导致多国政府网站下线
-
10
OpenAI AI模型将登陆谷歌云,覆盖全部三大顶级云服务商
今日行情
推荐阅读


