ChatGPT가 지어낸 '가짜 증언' 인용한 변호사, 법정모독 처분

미국 뉴멕시코주 대법원이 ChatGPT로 작성한 항소이유서에 존재하지 않는 증인의 가짜 증언을 담아 제출한 변호사를 법정모독으로 처분했다고 아스테크니카(Ars Technica)가 보도했다. 뉴멕시코주 대법원은 지난 9일 명령에서 스티븐 애런스 변호사에게 벌금 5000달러를 부과하고, 징계위원회 조사가 끝날 때까지 대법원 변론을 금지했다.

법원에 따르면 애런스 변호사는 AI가 생성한 서면의 사실관계와 법적 근거를 확인하지 않은 채 서명해 제출했고, 이 사실을 의뢰인에게 알리지도 않았다고 인정했다. 서면에는 재판에 출석한 적 없는 경찰관 등 완전히 조작된 증인 4명의 증언이 담겼고, 실존 판례를 부정확하게 설명한 대목도 있었다.

40년 경력의 형사 변호사인 애런스는 살인죄로 종신형을 선고받은 의뢰인의 항소를 맡아, 재판 녹취록과 관련 자료를 ChatGPT에 입력해 요약본을 얻었다고 법정에서 진술했다. 그는 "방탄처럼 완벽한 요약이 나온 줄 알았다"며 AI가 사실을 지어낼 수 있다는 점을 몰랐다고 말했다.

대법관들은 심문에서 "AI 환각 문제는 매일 신문 1면에 실린다"며 그의 해명을 강하게 질책했다. 법원은 기존 서면을 모두 기록에서 삭제하고 국선변호인 사무소에 새 변호인 선임을 명령했으며, 사건은 2026-27년 회기에서 다시 다루기로 했다.