오픈AI, EU에서 챗GPT 생성 텍스트에 '보이지 않는 워터마크' 넣는다

TechCrunch는 5일(현지시간) 오픈AI가 유럽연합(EU) 인공지능법(AI Act)을 지키기 위해 EU 지역에서 챗GPT와 코덱스가 생성한 텍스트에 보이지 않는 워터마크를 넣기 시작한다고 보도했다. 지난 8월 2일 시행된 AI법 투명성 규정은 AI가 생성한 콘텐츠를 다른 시스템이 식별할 수 있도록 표시하라고 요구한다.

워터마크는 앞으로 몇 주에 걸쳐 EU 내 모든 요금제 이용자 가운데 적용 대상자에게 도입된다. 전 세계 API 개발자는 일부 모델에서 이 기능을 켤 수 있으며, 기본값은 꺼져 있다. 오픈AI가 공개한 '텍스트그레인(textGrain)' 방식은 비밀 키로 모델의 단어 선택을 미세하게 조정한다. 사람 눈에는 보이지 않지만 탐지기는 알아볼 수 있는 패턴을 남기는 원리다. 오픈AI는 워터마크로 사용자를 식별할 수 없고, 워터마크를 적용해도 모델 성능에 의미 있는 변화는 없었다고 밝혔다.

한계도 있다. 오픈AI 자체 시험에서 단어의 10%를 동의어로 바꾸자 탐지율이 약 92%에서 66%로 떨어졌다. 짧은 글이나 수학 답변, 번역문도 탐지가 더 어려웠다. 이 때문에 오픈AI는 탐지기 접근 권한을 우선 승인된 연구자와 전문기관에만 주기로 했다. 회사는 워터마크가 없다고 해서 사람이 썼다는 증거가 되지는 않는다고 덧붙였다.