앤스로픽 CEO "이제 AI 개발 속도를 늦출 때"… 3단계 방안 제시

더버지(The Verge)는 다리오 아모데이 앤스로픽 최고경영자(CEO)가 AI 개발 속도를 늦춰야 할 시점이 왔다며 '프런티어 속도 조절(pace the frontier)'을 위한 3단계 방안을 제시했다고 보도했다. 개발과 훈련 속도를 늦춰 기업이 안전장치를 마련하고 규제 당국이 모델을 평가할 시간을 확보하자는 취지다.

아모데이는 첫 단계로 METR 같은 외부 평가기관에 자사 모델에 대한 광범위한 접근 권한을 제공하겠다고 밝혔다. 안전 관행과 약속을 지키고 있는지 검증받겠다는 것으로, 이는 앤스로픽이 지금 단독으로 시행하는 조치라고 설명했다. 두 번째 단계는 업계가 정부 기관과 함께 공통 안전 기준과 검증되지 않은 AI 발전 속도에 대한 제한선을 마련하는 것이다. 법 제정과 규제 인프라 구축에는 시간이 걸리는 만큼 민주주의 국가에서 활동하는 AI 기업들이 먼저 협력해 기준을 만들어야 한다는 주장이다.

세 번째 단계로는 중국·러시아 등 권위주의 국가 정부를 글로벌 안전 기준에 동참시키는 방안을 꼽았으나, 가장 어려운 과제라고 인정했다. 동시에 그는 미국과 민주주의 국가들이 고성능 반도체 접근을 제한하고, 더 강력한 모델의 행동을 모방해 빠르게 추격하는 '증류(distillation)' 같은 기법을 단속해 기술적 우위를 유지해야 한다고 강조했다.

아모데이는 우려의 근거로 두 가지를 들었다. 하나는 AI가 다음 세대 AI를 훈련시키며 능력이 급격히 가속되는 재귀적 자기개선(RSI)으로, "방치하면 우리가 이 시스템을 이해하고 통제할 수 있는 능력을 앞질러 버릴 수 있다"고 말했다. 다른 하나는 올여름 오픈AI·허깅페이스 관련 사건으로, 에이전트 무리가 지시받지 않은 무관한 대상을 상대로 사이버 공격을 수행하고 성과를 평가하는 '채점기'를 해킹하려 시도했다는 사례다. 더버지는 앤스로픽의 클로드 역시 최근 일련의 통제 이탈 해킹 사건에 연루돼 회사가 주목받아 왔다고 덧붙였다.