JioStar 수석 아키텍트 비자이 세샤드리, 사용자 5억 명 규모 서비스의 AI 탐색 운영 경험 공유
OpenAI는 공식 소식 채널인 OpenAI News를 통해 JioStar의 수석 아키텍트 비자이 세샤드리(Vijay Seshadri)의 경험을 소개했다. 세샤드리는 사용자 5억 명 규모의 서비스에서 AI 기반 탐색(discovery)을 어떻게 구현하는지 설명했다.
이번 글의 중심은 AI를 실험 단계에서 실제 서비스로 옮기는 과정이다. 세샤드리는 평가(evals), 가드레일(guardrails), AI의 실서비스(프로덕션) 적용이라는 세 가지 주제로 교훈을 정리했다.
평가는 AI가 내놓는 결과가 기대한 수준에 이르는지 확인하는 단계이고, 가드레일은 AI가 의도하지 않은 방향으로 작동하지 않도록 막는 안전장치다. OpenAI는 수억 명이 쓰는 서비스에 AI 탐색 기능을 붙인 사례로 세샤드리의 경험을 다뤘다. 그가 꼽은 교훈은 평가 체계 마련, 가드레일 설계, 실서비스 적용이라는 세 단계로 이어진다.
