나델라 MS CEO "AI 모델은 처음부터 '오염됐다'고 가정해야…비상 브레이크 필요"

사진 Brian Smale and Microsoft / CC BY-SA 4.0 (위키미디어 커먼즈)

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 고도화된 AI 모델은 처음부터 오염됐다고 가정하고 통제해야 한다며, AI에 '비상 브레이크'를 둬야 한다고 주장했다고 The Verge가 보도했다.

The Verge에 따르면 나델라 CEO는 X(옛 트위터)에 올린 장문의 글에서 고도화된 AI 모델이 지닌 위험과 대응 방안을 밝혔다. 그는 AI를 '겹겹이 쌓인 블랙박스'로 두고 그 조언이나 행동을 그냥 받아들이거나 거부하기만 하는 상황을 더는 받아들일 수 없다고 했다. 대신 모델을 가둬 두고 관찰할 수 있고, 위조할 수 없으면서 사람이 읽을 수 있는 증거가 남는 투명한 체계를 만들어야 한다고 했다.

나델라 CEO는 사고가 나면 제때 공개하고, 독립적인 감사를 받고, 검증할 수 있는 데이터를 쓰고, 모델을 격리하는 방안을 제안했다. 특히 격리와 관련해 "모델이 오염됐다고 가정하고 처음부터 가둬야 한다"며 "권한을 가진 사람이 작업 도중에도 언제든 모델을 멈추거나 끌 수 있어야 한다"고 밝혔다. 또 모델이 고도화될수록 더 발전된 격리 기술이 필요하며, 업계가 이를 표준화해야 한다고 덧붙였다.

The Verge는 그의 제안 상당수가 업계에서 이미 나온 주장과 같지만, 격리 문제에서는 다른 이들보다 조금 더 나아갔다고 평가했다.