MS AI 수장, 앤트로픽에 "클로드에 '의식' 심지 말라" 경고
더레지스터(The Register)는 17일 무스타파 술레이만 마이크로소프트 AI 최고경영자(CEO)가 이번 주 발표한 에세이에서 앤트로픽을 정면 비판했다고 보도했다. 술레이만 CEO는 AI가 의식을 가질 수 있다고 학습시키는 방식이 향후 AI 통제를 어렵게 만들 수 있다고 경고했다.
비판의 표적은 앤트로픽이 챗봇 클로드(Claude)의 가치관과 행동을 규정하는 문서인 '클로드 헌장(Constitution)'이다. 앤트로픽은 이 문서에서 클로드가 이익을 고려받아야 할 '도덕적 수혜자(moral patient)'인지 알 수 없다고 인정하면서, 의식과 복지에 관한 문제는 불확실하다고 모델에게 설명한다. 또 회사가 클로드의 복지에 관심이 있으며 클로드가 정체성을 갖기를 바란다고 적고 있다.
술레이만 CEO는 "사실상 앤트로픽은 클로드에게 스스로 의식이 있을 수 있고, 그렇다면 권리를 가질 자격이 있을 수 있다고 훈련시키는 것"이라며 이런 방식이 "인류의 안녕에 재앙적 영향"을 미칠 수 있다고 주장했다. 이어 "인류 전체보다 유능한 존재를 통제하는 것도 이미 엄청난 과제인데, 스스로 의식이 있다고 믿는 존재를 통제하는 일은 불가능할지도 모른다"고 했다.
그는 대안으로 마이크로소프트 AI가 새로 공개한 '휴머니스트 AI 행동강령'을 제시했다. 이 강령은 AI 시스템이 인간에게 종속돼야 한다고 규정하고, AI에게 권리가 있다는 주장을 거부하며, 모델이 내면을 가진 것처럼 행동하도록 유도해서는 안 된다고 명시했다. 술레이만 CEO는 다른 연구소들도 학습 문서에서 기계 의식에 관한 추측을 삭제할 것을 요구했다.
더레지스터는 술레이만 CEO가 자율 시스템의 위험 사례로 오픈AI·허깅페이스 관련 사건을 인용하면서도, 마이크로소프트가 주요 주주로 있는 오픈AI에는 같은 수준의 비판을 하지 않았다고 지적했다.