엔비디아 "AI 보안은 엔지니어링 문제"…에이전트 스택 전 계층 통제 강조

엔비디아(NVIDIA)는 공식 블로그를 통해 AI 보안은 추상적 원칙이 아니라 '엔지니어링 문제'로 다뤄야 한다며, AI 에이전트 스택의 모든 계층에 실행 가능한 통제 장치를 적용해야 한다고 밝혔다.

엔비디아는 AI 보안이 성립하려면 명확히 정의된 보안 요구사항, 강제력 있는 통제, 책임을 지는 담당자, 그리고 보호 장치가 실제로 작동한다는 증거가 갖춰져야 한다고 설명했다. 인터넷과 클라우드가 소프트웨어 운영 방식을 바꿨어도 신원 확인, 접근 통제, 노출 최소화, 보호 장치 검증이라는 핵심 책무는 변하지 않았으며, 추론하고 도구를 사용하며 마주한 데이터에 따라 행동을 바꾸는 AI 에이전트에도 같은 원칙을 새로운 조건에 맞게 적용해야 한다는 것이다.

엔비디아는 에이전트가 잘못된 판단을 내리더라도 보안 경계는 유지돼야 한다고 강조했다. 예컨대 고객 정보를 수정하는 에이전트가 첨부 문서에 숨겨진 악성 지시를 읽고 데이터를 외부로 내보내려 할 경우, 네트워크 정책이 전송을 차단하고 보호된 로그가 시도된 도구 호출과 권한 결정, 결과를 기록해야 한다는 설명이다. 고객 정보 수정 권한이 데이터 반출 권한으로 자동 확장돼서는 안 되며, 에이전트는 추가 권한을 요청할 수는 있어도 스스로 승인할 수는 없다고 덧붙였다.

구체적 수단으로는 정책을 에이전트가 건드릴 수 없는 영역에서 강제하고 샌드박스 실행을 제공하는 오픈소스 런타임 '오픈셸(OpenShell)'이 제시됐다. 엔비디아는 오픈 시큐어 AI 얼라이언스 파트너들이 오픈셸을 기반으로 시스코의 거버넌스 계층 '디펜스클로', 제이프로그의 에이전트 스킬 검증 기능 등을 구축하고 있다고 밝혔다. 또 배포 전에는 권한 탈취나 무단 전송 시도가 차단되는지 시험해야 하고, 모델·도구·워크플로가 크게 바뀌면 시험을 다시 수행해야 한다고 권고했다.