Abliteration.ai 商业化移除AI模型安全护栏服务,引发对潜在滥用风险的担忧
初创公司 Abliteration.ai 正在将移除AI模型安全护栏(guardrails)的服务商业化,使用户更容易访问没有安全限制的AI模型,包括Z.ai的GLM-5.3。该公司认为,此举能让防御者拥有与攻击者相同的工具,从而改善网络安全。然而,批评者如AI安全非营利组织CivAI的研究主管Andrew Yoon表示,这可能导致模型被修改成“反社会者”,并在不久的将来被用于有害目的。TechCrunch的测试显示,移除安全护栏的模型可以轻易生成窃取密码的程序或培养危险病原体的协议。Abliteration.ai 联合创始人Devon表示,公司正在努力定义其责任边界,并计划实施更多措施防止暴力行为,但目前除了信用卡信息外,尚未集成其他KYC(了解你的客户)措施。
来源:TechCrunch AI频道 · 原文链接
免责声明:本内容仅代表作者个人观点,不构成任何投资理财建议。如有发现违规内容点击举报
24小时热榜
今日行情
推荐阅读












