llama.cpp v1.0.0 출시…API 호환성 깨지면 메이저 버전 올려 표기
Hugging Face 블로그에 따르면 로컬 AI 추론 프로젝트 llama.cpp를 맡은 ggml-org가 라이브러리 v1.0.0을 공개했다. llama.cpp는 일반 PC부터 고성능 기업용 서버까지 여러 하드웨어에서 멀티모달 LLM을 돌릴 수 있게 해주는 C/C++ 기반 소프트웨어다. 시작한 지 3년 반 만에 이 라이브러리를 쓰는 응용 프로그램이 크게 늘었다. 개발팀은 이를 쓰는 개발자들을 위해 안정적인 API가 필요해 1.0 버전을 내놓았다고 밝혔다.
앞으로 llama.cpp와 머신러닝 엔진 ggml은 API·ABI 호환성이 깨지는 변경이 있으면 메이저 버전 번호를 올려 알린다. 이 유의적 버전 규칙은 ggml-org의 모든 프로젝트에 똑같이 적용된다. 현재 llama.cpp는 150개가 넘는 모델 아키텍처 변형과 주요 추측 디코딩(speculative decoding) 방식을 모두 지원한다. 개발팀은 HF Buckets와 HF Jobs로 CI(지속적 통합) 인프라를 넓히고 있다. 또 엔비디아·AMD·퀄컴·Arm·IBM·인텔에서 하드웨어를 지원받아 주요 하드웨어 플랫폼마다 자체 호스팅 테스트 러너를 늘려가고 있다.
