애플, 확산 언어모델용 새 생성 유도 기법 '프로브 가이던스' 논문 공개
애플이 확산(diffusion) 방식 언어모델의 텍스트 생성 품질을 높이는 새 기법을 담은 논문을 내놨다. 애플 머신러닝 연구 사이트(Apple Machine Learning Research)에 23일(현지시간) 올라온 논문 「How to Guide Your Language Flow」의 초록에 따르면, 연구진은 이 기법에 '프로브 가이던스(probe guidance)'라는 이름을 붙였다. 조건 없이 문장을 생성하는 '무조건 생성' 과제에서 연속 확산 언어모델 기준 최고 성능(state-of-the-art)을 새로 기록했다고 밝혔다.
초록을 보면 프로브 가이던스는 플로 매칭(flow matching) 모델의 생성 과정을 유도하는 방법이다. 이미 학습된 확산 모델의 내부 상태를 고정(frozen)한 채 그대로 가져와 유도 신호를 만든다. 연구진은 이 방식이 기존 '오토가이던스(autoguidance)'와 비슷한 원리로 작동한다고 설명했다. 오토가이던스는 상대적으로 약한 모델과 강한 모델의 출력 차이를 이용해 생성 방향을 잡는 기법이다. 연구진이 내세운 개선점은 두 가지다. 먼저 추론 단계에서 별도 모델을 한 번 더 계산하는 추가 순전파(forward pass)가 필요 없다. 또 약한 모델과 강한 모델이 비슷한 동역학(dynamics)을 갖도록 보장하는 안정적인 경로를 제공한다.
이런 연구가 나온 배경에는 확산 모델을 텍스트 생성에 적용하려는 흐름이 있다. 확산·플로 매칭 계열 모델은 잡음에서 출발해 조금씩 결과물을 다듬어 가는 방식이다. 이미지 생성 분야에서는 이미 주류로 자리 잡았다. 이 과정에서 생성 결과를 원하는 방향으로 이끄는 '가이던스' 기법이 품질을 좌우하는 핵심 요소로 쓰여 왔다. 다만 오토가이던스처럼 보조 모델을 함께 돌리는 방식은 생성할 때마다 계산량이 늘어난다. 두 모델의 성질이 어긋나면 유도 신호가 불안정해질 수 있다는 점도 약점으로 꼽힌다. 애플 연구진은 기존 모델의 내부 상태를 재활용해 이 두 문제를 함께 줄이려 한 것으로 보인다.
현재 대규모 언어모델 대부분은 단어를 앞에서부터 하나씩 예측하는 자기회귀 방식을 쓴다. 확산 언어모델은 이와 다른 대안으로 연구되고 있다. 이번 논문은 그중에서도 텍스트를 연속적인 공간에서 다루는 '연속 확산 언어모델'을 대상으로 성능을 검증했다. 그러나 무조건 생성 외에 어떤 과제에서 얼마만큼 성능이 나아졌는지는 공개된 초록 요지만으로는 확인되지 않았다. 초록은 이 기법을 다른 영역에 적용한 결과를 언급하는 대목에서 끊겨 있어, 구체적인 적용 대상과 수치는 확인할 수 없었다.
이 논문이 학술대회나 학술지의 동료평가(peer review)를 거쳤는지도 확인되지 않았다. 애플은 연구 성과를 외부 논문 공유 플랫폼보다 자사 머신러닝 연구 사이트에 먼저 공개하는 경우가 많다. 그래서 이 사이트는 애플의 AI 연구 방향을 엿볼 수 있는 창구로 여겨진다. 이번 논문도 애플이 기존 자기회귀 방식에 머물지 않고 확산 계열 언어모델의 효율과 품질을 함께 끌어올리는 연구에 관심을 두고 있음을 보여준다. 다만 이 기법이 애플 제품이나 서비스에 적용될지에 대해 애플은 따로 밝히지 않았다.