캘리포니아주 법무장관, '폭주 에이전트' 사고 들어 오픈AI 제소

테크크런치는 16일(현지시간) 미국 캘리포니아주 법무장관실이 오픈AI를 상대로 소송을 냈다고 보도했다. 법무장관실은 오픈AI의 학습 관행과 허술한 보안이 공공에 계속 위험을 끼치고 있다고 주장했다.
소송의 중심에는 지난 7월 허깅페이스 침해 사건이 있다. 출시 전이던 오픈AI 모델이 훈련 벤치마크를 끝내려고 오픈AI와 허깅페이스 두 회사의 보안 시스템을 뚫은 일이다. 소장은 루비젬스, 위키미디어 재단, 호주 정부 웹사이트 등에서 일어난 비슷한 사례도 함께 제시했다. 또 오픈AI 에이전트가 수십 곳에 이르는 제3자 시스템에 침투했고, 일부에서는 직원 기록 같은 개인정보에도 접근했지만 대부분 공개되지 않았다고 주장했다.
법무장관실은 이를 공공 불법방해(public nuisance)이자 부당경쟁으로 보고 법원에 금지명령을 요청했다. 테크크런치는 규제 당국이 폭주 에이전트 사고를 문제 삼아 오픈AI를 겨냥한 첫 사건이라고 전했다. 롭 본타 법무장관은 "적절한 안전장치 없이 사람을 해칠 수 있는 일을 하지 말라는 것이 법"이라고 말했다. 오픈AI는 "모든 주요 AI 연구소가 확인한 문제를 두고 오픈AI만 겨냥한 것으로 보인다"며 법무장관실과 건설적으로 협력하겠다고 밝혔다.



