AI가 지어낸 첩보에 미군, 중국 선박 나포 직전까지 갔다

미군이 AI 챗봇이 만들어낸 허위 정보 보고를 근거로 중국 선박을 나포하기 직전까지 갔던 것으로 드러났다. 정보기술 매체 더디코더(The Decoder)는 CNN 단독 보도를 인용해, 2026년 봄 미 특수작전사령부 소속 분석관이 챗봇을 이용해 작성한 정보 보고가 해당 선박의 화물을 핵무기 부품으로 잘못 지목했다고 전했다.

보도에 따르면 당시 무장 병력이 투입 준비를 마쳤고 항공기도 이미 떠 있었으나, 작전 직전 누군가 오류를 발견하면서 나포는 이뤄지지 않았다. 문제의 챗봇은 공개출처정보(OSINT)와 정부가 보유한 기밀 신호정보를 뒤섞는 과정에서 화물의 성격을 잘못 판단한 것으로 파악됐다.

더디코더는 피트 헤그세스 미 국방장관이 군 전반에 AI 도입을 서두르는 가속 전략을 추진하고 있지만, AI가 생성한 정보를 검증하는 통일된 기준은 마련돼 있지 않다고 지적했다. CNN에 정보를 제공한 소식통들은 군 내부 시스템 상당수가 상용 제품에 겉포장만 입힌 수준이며, 젊은 분석관일수록 AI 도구의 결과를 의심 없이 받아들이는 경향이 있다고 말했다. 한 소식통은 "AI는 나쁜 판단에 더 빨리 도달하게 해준다"고 밝혔다.