올트먼·머스크·하사비스, 아모데이의 'AI 독립 감독' 제안에 동조

미국 IT 매체 더디코더(The Decoder)는 샘 올트먼 오픈AI CEO와 일론 머스크, 데미스 하사비스가 다리오 아모데이 앤스로픽 CEO의 AI 개발 속도 조절 제안에 적어도 부분적으로 동조했다고 보도했다. 세 사람은 공통적으로 AI 연구소 내부에 독립적인 감독 장치가 필요하다는 데 의견을 같이했다. 더디코더는 머스크가 수년간 AI 위험을 경고해 온 인물이라는 점에서 그의 지지는 특별히 놀라운 일은 아니라고 짚었다.

올트먼은 같은 보도에서 인용된 포춘(Fortune) 인터뷰를 통해 안전 문제를 이유로 오픈AI가 올해 기업공개(IPO)를 추진하지 않겠다고 밝혔다. 더디코더에 따르면 올트먼은 이 결정을 이미 지난 6월 사내에 공유한 상태였다. 다만 더디코더는 오픈AI의 재무 상황이 현재 IPO를 뒷받침할 만한 수준이 아니라는 해석도 함께 제시했으며, 두 가지 이유가 동시에 성립할 수 있다고 덧붙였다.

반대 의견도 나왔다. 구글 연구원 페이만 밀란파르는 재귀적 자기개선(RSI)이 순진한 가정이라고 반박했다. 피드백 루프 자체가 본질적으로 불안정하기 때문에, 시스템이 스스로를 강하게 최적화할수록 맹점은 더 깊어지며 신뢰할 수 있는 근거는 벤치마크가 아니라 현실 세계에서만 나온다는 것이다. 그는 "스스로를 안정적으로 개선하는 시스템은 통제되고, 감쇠되고, 느리며, 낭비처럼 보이는 여유에 의해 제한될 것이다. 안정성이 곧 속도 제한이기 때문"이라며 아모데이가 말한 '속도 제한'은 따로 필요하지 않다고 주장했다.