오픈웨이트 AI 모델 안전장치 제거, 상용 서비스로 등장

오픈웨이트(open-weight) 인공지능 모델의 안전 거부 기능을 제거한 뒤 이를 서비스 형태로 제공하는 상용 사업이 등장했다. 미국 스타트업 Abliteration.ai는 최근 Z.AI의 GLM-5.3을 기반으로 한 수정 모델 ‘abliterated-model-large-v2’를 공개하고, 이를 API 방식으로 제공하고 있다. 회사는 이 모델이 민감한 요청을 덜 거부하도록 조정됐다고 설명하면서도, 코딩·사이버·에이전트 기능은 대체로 유지된다고 주장했다.

이 회사가 적용한 방식은 ‘애블리테이션(abliteration)’으로 불린다. 모델 내부에서 거부 반응을 유발하는 활성 패턴을 찾아 이를 억제하는 방식으로, 단순한 프롬프트 우회가 아니라 모델 자체를 수정하는 것이다. Abliteration.ai는 이 기술을 통해 보안 테스트, 레드팀 평가, 에이전트 검증 등에 활용할 수 있다고 내세우고 있다. 실제로 회사는 사이버 관련 평가에서 일정 수준의 성능을 제시했지만, 비교 대상마다 평가 환경과 연산 자원이 달라 직접 비교에는 한계가 있다고도 인정했다.

이번 서비스가 주목받는 이유는 오픈웨이트 모델의 라이선스 구조와 맞물려 있기 때문이다. GLM 계열은 수정과 파생 모델, 상업적 ‘모델 as a 서비스’ 제공을 허용하는 라이선스를 갖고 있어, Abliteration.ai는 이를 기반으로 모델을 수정하고 호스팅한 뒤 유료로 판매할 수 있다. 회사는 수정된 모델을 공개 다운로드 형태로 배포하지는 않고, 대신 인프라 운영까지 맡는 방식으로 접근성을 높였다. 표준 요금은 입력·출력 토큰 100만 개당 5달러다.

다만 이런 구조는 보안 연구자에게는 편의성을 주지만, 악용 가능성도 함께 낮춘다. 회사는 공격적 사이버 보안 테스트, AI 레드팀, 악성코드 분석, 피싱 시뮬레이션 등을 주요 활용 사례로 제시하고 있다. 익명의 창업자는 대형 조직과 은행이 배치한 AI 에이전트가 프롬프트 인젝션이나 탈옥 공격에 취약한지 점검하려는 수요가 초기부터 있었다고 밝혔다. 반면 일부 보안 업계 관계자들은 이런 수정 모델이 일상적인 업무에 꼭 필요하지는 않다고 보고 있으며, 다른 방식의 모델 미세조정을 선호하는 사례도 있는 것으로 전해졌다.

Abliteration.ai는 프롬프트와 응답을 저장하지 않는다고 밝히는 대신, 토큰 수와 접속 시각, 모델 ID, 결제 정보 등 운영 메타데이터는 보관한다. 기업 고객은 추가 정책 게이트웨이를 통해 허용·차단·수정·기록 규칙을 설정할 수 있고, 정부 고객용 기능도 별도로 안내하고 있다. 그러나 신원 확인 절차는 일반적인 수준에 그쳐, 문제가 발생했을 때 사후 추적이 쉽지 않다는 지적도 나온다. 결국 이번 서비스는 강력한 오픈웨이트 모델을 보안 연구용으로 쉽게 쓰게 하는 동시에, 위험한 활용의 문턱도 함께 낮춘 사례로 평가된다.