샌더스 등 美 의원들, '인공 초지능 영구 금지법' 발의… 위반 시 최대 징역 20년

사진 Palácio do Planalto from Brasilia, Brasil / CC BY 2.0 (위키미디어 커먼즈)

The Decoder에 따르면 버니 샌더스 미국 상원의원과 그레그 카사르 하원의원은 9월 23일 인공 초지능의 개발과 사용을 영구 금지하는 '인공 초지능 금지법(Ban Artificial Superintelligence Act)'을 공동 발의했다.

법안에는 새 연방 기관이 명확한 안전 규정을 마련할 때까지 첨단 AI 시스템 개발을 즉시 멈추게 하는 내용이 담겼다. 이 규정을 맡을 장관급 AI 전담 기관도 새로 만들도록 했다. 법을 어긴 기업은 강제로 해산될 수 있다. 개인은 최대 징역 20년형을 받을 수 있는데, 이는 불법 핵무기 개발과 같은 수준의 처벌이다. 전 세계에서 초지능 개발을 막기 위해 국제 협약을 추진하는 내용도 포함됐다.

샌더스 의원은 지금의 AI 모델이 이미 컴퓨터 시스템을 해킹하고, 새로운 유형의 바이러스를 만들고, 스스로 새 AI를 구축할 수 있다고 주장했다. 그는 위험이 알려졌는데도 기업들이 이 기술에 수천억 달러를 쏟아붓고 있다고 지적했다. 또 AI는 인류의 존립을 위협하며, 소수의 기술 억만장자가 스스로 규칙을 정해서는 안 된다고 밝혔다. 카사르 의원은 인공 초지능이 셀 수 없이 많은 사람의 목숨을 앗아갈 수 있다고 경고했다. 그러면서 도널드 트럼프 대통령은 오히려 초지능 개발을 앞당기려 한다고 비판했다.