Anthropic, AI 평가기관 METR에 '직원 수준' 내부 접근권 부여
Anthropic은 공식 홈페이지를 통해 프런티어 AI 모델을 평가하는 비영리단체 METR 소속 팀에 '직원에 준하는' 내부 접근 권한을 주기 시작했다고 발표했다. 회사는 METR 직원 6명에게 회사 장비와 사무 공간을 제공했다. 이들은 Anthropic 위험평가팀과 비슷한 수준으로 내부 도구와 시스템에 접근할 수 있다. 다만 고객 데이터, 변호사-의뢰인 비밀 정보, 모델 아키텍처 정보 등 미리 정한 일부 범주는 제외된다.
METR은 Anthropic의 위험 수준과 사고, 운영 관행을 분석한 결과를 공개한다. Anthropic은 공개를 막을 수 없고, 사전에 정한 범주에 해당하는 정보의 삭제만 요구할 수 있다. METR은 정보가 삭제된 사실과 그 조치가 정당했는지에 대한 의견을 밝힐 수 있다.
Anthropic은 평가기관의 접근 권한을 3단계로 나눠 운영할 계획이며, METR은 가장 높은 단계에 해당한다. SecureBio는 1단계로, 8월 위험 보고서 가운데 화학·생물무기 부분을 검토하고 있다. 회사는 Accenture·Faculty와도 협력을 추진하고 있으며, Hugging Face 등과는 초기 논의 단계라고 밝혔다. Anthropic은 지난달 제3자 평가를 강화하겠다고 약속했고, 독립 감사기관과 협력하겠다는 내용이 담긴 백악관 초지능 협약에도 서명했다.
