zai-glm-5-3-flash, 미스트랄 API로 등록…입력 100만 토큰당 0.15달러
오픈소스 프로젝트 LiteLLM이 관리하는 AI 모델 가격표에 미스트랄의 대화형 API 모델 'zai-glm-5-3-flash'가 새로 올라왔다. LiteLLM 모델 가격표에 따르면 이 모델의 이용료는 100만 토큰당 입력 0.15달러, 출력 0.5달러다. 한 번에 넣을 수 있는 입력은 최대 105만 토큰이다. 이번에 가격표에 추가된 API 모델은 이 모델 하나다.
가격표에서 이 모델은 대화(chat) 모델로 분류돼 있다. 사용자가 질문이나 지시문을 보내면 모델이 답을 만들어 돌려주는 방식이다. 이용료는 모델에 보내는 텍스트(입력)와 모델이 만들어 내는 텍스트(출력)를 토큰 단위로 따로 센다. 토큰은 AI 모델이 글을 처리하는 기본 단위로, 단어나 단어의 일부에 해당한다.
가격을 실제 사용량에 대입해 보면 이렇다. 입력 10만 토큰을 보내고 출력 1만 토큰을 받으면 입력 비용 0.015달러에 출력 비용 0.005달러를 더해 약 0.02달러가 든다. 최대치인 105만 토큰을 한 번에 입력하면 입력 비용만 약 0.16달러다. 출력 단가는 입력 단가의 3배를 조금 넘는다. 긴 자료를 넣고 짧은 답을 받는 작업일수록 전체 비용에서 입력 비용이 차지하는 비중이 커진다.
최대 입력 105만 토큰은 이 모델이 한 번의 요청에서 읽을 수 있는 분량의 상한이다. 이 한도가 크면 긴 문서나 여러 파일을 나눠 보내지 않고 한 번에 넣어 요약하거나 질문할 수 있다. 모델 이름 끝의 'flash'는 업계에서 가볍고 빠른 모델에 흔히 붙이는 이름이다. 입력 0.15달러라는 단가도 대량의 요청을 저렴하게 처리하려는 용도에 맞춰져 있다.
LiteLLM은 여러 AI 공급사의 API를 같은 방식으로 호출할 수 있게 해 주는 오픈소스 프로젝트다. 공급사마다 따로 공개하는 가격표를 한 목록으로 모아 관리하며, 이 목록은 MIT 라이선스로 공개돼 있다. 개발자들은 이 목록으로 공급사별 모델 이름과 가격, 입력 한도를 한곳에서 비교하고, 서비스에 들어갈 비용을 계산하는 데도 쓴다. 새 모델이 목록에 언제 올라오는지를 보면 공급사들이 API 모델을 얼마나 자주 내놓는지도 가늠할 수 있다.
다만 LiteLLM 가격표에 새 모델이 올라온 날짜는 목록에 반영된 날을 기준으로 한다. 공급사가 실제로 모델을 공개한 날과는 며칠 차이가 날 수 있다. 정확한 가격과 이용 조건은 각 공급사가 공식 가격표에 공개한 내용을 따른다. 이 모델을 서비스에 쓰려는 개발자는 미스트랄 공식 가격표에서 단가와 사용 한도를 다시 확인하는 것이 좋다.
