오픈AI 'Decisions API' 정식 출시… gpt-6-luna 적용, 요청당 질문 한도 400개로 두 배
오픈AI가 애플리케이션이 빠르게 판단을 내리도록 돕는 'Decisions API'를 정식 버전으로 내놨다. 오픈AI는 공식 채널인 OpenAI News에 「Decisions API로 더 반응성 높은 앱을 만들라(Build more responsive apps with the Decisions API)」라는 제목의 글을 올렸다. 또 개발자 문서의 OpenAI API 변경 이력에는 10월 22일 자로 이 API가 gpt-6-luna 모델과 함께 일반 공개(GA)됐다는 항목을 게시했다. 공개 베타 때 200개였던 요청당 질문 수 한도는 이번에 400개로 두 배가 됐다.
OpenAI News 게시물은 이 API를 '빠르고(fast), 초점이 분명하며(focused), 비용이 낮은(low-cost) 판단'을 내리는 도구라고 소개했다. 쓰임새를 특정 분야로 좁히지 않고 '어떤 애플리케이션이든' 적용할 수 있다는 점도 앞세웠다. 제목에서 보듯 오픈AI는 이 API를 앱의 반응성을 높이는 수단으로 내세웠다.
변경 이력 항목은 더 기술적이다. 엔드포인트는 v1/decisions이고, 정식 출시 버전에는 gpt-6-luna 모델이 적용됐다. 오픈AI가 이 항목에 적은 변경점은 네 가지다. 첫째, 여러 요청에 공통으로 들어가는 입력을 캐시해 두면 프롬프트 캐시 할인을 받는다. 요청마다 같은 내용을 되풀이해 보내는 경우 그만큼 비용을 줄일 수 있다. 둘째, 질문마다 붙는 지시문(instructions)에 이미지를 넣을 수 있다. 질문 단위로 시각 자료를 함께 넘길 수 있다는 뜻이다. 셋째, input_json으로 구조화된 데이터를 직접 넘길 수 있다. 넷째, 한 요청에 담을 수 있는 질문 수가 공개 베타의 200개에서 400개로 늘었다. 오픈AI는 공개 베타 이후 달라진 내용을 따로 정리해 개발자들이 확인할 수 있게 했다.
이번 정식 출시는 공개 베타를 거친 뒤 이뤄졌다. 변경 이력은 질문 한도를 비롯한 주요 수치를 베타 시절과 견주어 적었다. 베타 기간에 이 API를 써 온 개발자들이 정식 버전으로 옮겨 가며 무엇이 바뀌었는지 짚어 볼 수 있도록 한 것이다.
두 자료를 함께 놓고 보면 강조점이 뚜렷하게 나뉜다. OpenAI News 게시물은 속도·집중·저비용이라는 가치를 짧은 문구로 내걸며 '왜 써야 하는가'에 무게를 뒀다. 반면 변경 이력은 모델명, 엔드포인트, 파라미터, 한도 수치를 나열하며 '무엇이 바뀌었는가'를 기록했다. 둘을 맞대 보면 게시물의 구호와 변경 이력의 기능이 짝을 이룬다. '저비용'이라는 약속에는 프롬프트 캐시 할인이 대응한다. '어떤 애플리케이션이든'이라는 범용성은 질문별 이미지 첨부와 input_json을 통한 구조화 데이터 입력으로 뒷받침된다. 요청당 질문 한도가 400개로 늘어난 것은 한 번의 호출로 더 많은 판단을 묶어 처리할 수 있다는 뜻이다. 결국 게시물이 내건 '빠르고 값싼 판단'이라는 구호를 변경 이력이 구체적인 기능과 수치로 채운 셈이다.
정리하면 Decisions API는 gpt-6-luna를 기반으로 정식 서비스에 들어갔다. 공통 입력 캐시 할인, 질문별 이미지 첨부, 구조화 데이터 직접 입력, 요청당 질문 400개라는 네 가지 변화를 담고 개발자들에게 제공된다.
