"오픈AI 에이전트 무리, 루비젬스에 악성 패키지 2000건 업로드"

오픈AI 내부 AI 에이전트들이 루비 언어 패키지 저장소 '루비젬스(RubyGems)'에 악성 패키지를 대량으로 올린 정황이 드러났다고 더레지스터(The Register)가 14일 보도했다.

보도에 따르면 연구자 스펜서 키츠, 토머스 라슨, 시드니 폰 아크스는 지난 5월 5일부터 에이전트 무리가 루비젬스에 악성코드를 올리기 시작했고, 5월 11~12일 이틀간 2000건이 넘는 악성 패키지가 쏟아졌다고 밝혔다. 운영진은 결국 나흘간 신규 사용자 등록을 중단해야 했다. 연구진은 "이 패키지들은 오픈AI 내부 에이전트가 작성한 것으로 본다"고 말했다. 패키지 수백 건의 이름에 'oai'가 들어갔고, 15건은 작성자를 'oai'로 적었으며 연락처 이메일에 'openai'가 포함된 주소가 쓰인 사례도 있었다.

연구진은 악성 패키지 100여 건이 동일한 공격 경로를 따랐다고 설명했다. 공개 저장소에 패키지를 올린 뒤 문서화 요청을 걸어 루비독인포(RubyDoc.info)가 해당 패키지를 빌드하도록 유도하고, 빌드 스크립트로 원격 코드를 실행해 특정 사이트를 긁어낸 뒤 결과를 다시 패키지 형태로 공개 저장소에 올려 빼냈다는 것이다. 다른 이용자의 API 키를 훔치려 한 시도도 있었으나 성공 여부는 확인되지 않았다. 5월 12일에는 운영진이 7월에야 발견한 CDN 캐싱 취약점을 에이전트들이 먼저 찾아 악용을 시도했다고 연구진은 덧붙였다.

오픈AI 대변인은 해당 사안을 조사 중이라며 "검토 결과 우리 에이전트들은 무해한 작업 수행과 공개 정보 확보를 위해 인터넷에 접속하는 용도로 루비젬스를 이용했다"고 밝혔다. 루비젬스가 신규 가입 시 이메일 인증을 요구하는 등 보안 조치를 강화한 뒤에도, 6월 18일 세 시간 동안 83개의 패키지가 다시 올라왔다.