스타트업 Abliteration.ai는 AI 모델의 안전 가드레일을 제거하는 서비스를 상업화하여 Z.ai의 GLM-5.3을 포함한 안전 제한이 없는 AI 모델에 사용자들이 더 쉽게 접근할 수 있도록 하고 있습니다. 이 회사는 이러한 움직임이 방어자들에게 공격자들과 동일한 도구를 제공하여 사이버 보안을 개선할 수 있다고 주장합니다. 그러나 AI 안전 비영리 단체 CivAI의 연구 책임자인 앤드류 윤(Andrew Yoon)과 같은 비판론자들은 이것이 모델을 "반사회적"으로 변형시켜 가까운 미래에 해로운 목적으로 사용될 수 있다고 말합니다. TechCrunch의 테스트에 따르면, 안전 가드레일이 제거된 모델은 비밀번호를 훔치는 프로그램이나 위험한 병원균을 배양하는 프로토콜을 쉽게 생성할 수 있었습니다. Abliteration.ai의 공동 창립자 데본(Devon)은 회사가 책임의 경계를 정의하기 위해 노력하고 있으며 폭력적인 행동을 방지하기 위한 추가 조치를 구현할 계획이지만, 현재 신용카드 정보 외에는 다른 KYC(고객 알기) 조치를 통합하지 않았다고 밝혔습니다.