AI

"AI 동반자는 사람을 얼마나 이해하나"…실제 대화 2만7천 건으로 만든 벤치마크 'RealCompanion' 공개

몇 달씩 사람과 대화하는 AI 동반자(컴패니언)가 상대를 실제로 얼마나 이해하는지 평가하는 벤치마크가 나왔다. 사전공개 논문 저장소 arXiv에 공개된 논문에 따르면, Quis Lab 소속 아르만 베남(Arman Behnam) 등 연구진 3명은 실제 사람과 AI 동반자의 장기 대화 기록으로 만든 벤치마크 'RealCompanion'을 발표했다. 연구진은 실제 기록을 분석해 보니 과거 대화가 필요한 경우는 드물었고, 기존 평가 방식은 AI의 기억 능력을 부풀려 보이게 할 수 있다고 밝혔다.연구진이 문제 삼은 것은 기존 벤치마크의 구조다. 사람을 오래 상대하는 AI라면 상대가 한 말을 기억하고, 그가 어떤 사람인지 추론하고, 지금 받은 메시지에 과거 대화가 언제 관련되는지 알아야 한다. 이를 검증하려면 실제 사람의 대화 기록이 필요하지만 이런 기록은 사생활 정보라 공개하기 어렵다. 그래서 기존 벤치마크는 가상의 인물과 질문을 만들어 쓰고, 무엇이 중요한지도 미리 정해 두는 경우가 많았다는 것이 연구진의 설명이다.RealCompanion에는 실제 사용자 10명이 AI 동반자와 맺은 관계가 담겼다. 최장 120일 동안 오간 메시지 2만7218건이다. 연구진은 대화 원본과 함께 이를 바탕으로 만든 파일 4종도 공개했다. 프로필, 페르소나, 대화 정답 레이블, 질문 세트이며, 각 파일에는 근거가 된 메시지가 표시돼 있다. 대화 레이블마다 그 레이블을 도출한 추론 과정이 붙어 있고, 이 과정은 단계별로 실제 대화와 대조해 검증했다고 한다.연구진은 세 가지 결과를 내놨다. 첫째, 과거 대화가 필요한 경우는 드물고, 필요할 때는 대개 오래전 대화였다. 연구진은 전체를 뭉뚱그린 지표가 착시를 일으킨다고 지적했다. 최근 대화만 보는 방식으로도 전체 검증 질의의 95.9%에서 필요한 메시지를 찾았지만, 실제로 기억이 필요한 질의에서는 성공률이 2.2%에 그쳤다. 또 실제 대화에서 나타나는 비율 그대로 따져 보면, 기록된 증거를 넣어줬을 때 생긴 성능 향상의 96%는 애초에 기억이

"32B 모델도 마라티어로 풀면 영어 10B 수준"…덴마크 연구진, 다국어 수학 데이터셋으로 언어 간 능력 전이 요인 분석

대형언어모델(LLM)이 한 언어에서 익힌 능력이 다른 언어로 얼마나 옮겨 가는지, 그리고 그 정도를 무엇이 좌우하는지를 수치로 분석한 연구가 나왔다. 사전공개 논문 저장소 arXiv에 따르면, 덴마크 연구 그룹 Danish Foundation Models 소속 케네스 에네볼센(Kenneth Enevoldsen) 등 25명은 「Multilingual GSM-Symbolic: What determines capability transfer across languages?」 논문을 공개했다. 저자들이 공개한 초록을 보면, 언어별 성능을 가장 크게 좌우한 요인은 모델 크기였다. 이어 해당 언어의 자원 수준, 추론 기능, 언어 유형론적 거리 순이었다.연구진은 분석을 위해 'Multilingual GSM-Symbolic'이라는 다국어 수학 데이터셋을 새로 만들었다. 15개 언어에 걸쳐 언어끼리 문항이 1대1로 대응되는 질문·답변 3만 쌍으로 구성됐다. 기호 템플릿 방식을 적용해 예제 하나에서 수백만 개의 변형 문제를 만들 수 있다. 모델이 특정 문제를 외워 점수를 올리는 과적합을 막고, 진짜 일반화 능력을 측정하기 위한 설계다. 연구진은 언어를 계속 추가할 수 있는 확장형 데이터셋이라는 점도 강조했다.이 연구가 나온 배경에는 다국어 평가 방식의 한계가 있다. 연구진은 언어 간 능력 전이에 대해 알려진 것이 많지 않다고 지적했다. 기존 평가는 서로 비교하기 어렵고 금세 점수가 포화되는 데이터셋에 의존해 왔고, 전이를 결정하는 요인들을 함께 검토한 사례도 드물었다는 설명이다. 어떤 요인이 전이를 예측하는지 알면 모든 언어 조합을 일일이 평가하지 않아도 된다. 개발자는 저자원 언어의 성능을 떨어뜨리는 요인을 골라 개선할 수 있다. 데이터가 적은 언어일수록 모델 성능이 처진다는 문제를 정량적으로 접근하려는 시도인 셈이다.분석 결과 각 요인의 회귀계수(β)는 모델 크기 1.77, 언어 자원 수준 0.77, 추론 0.67, 유형론적 거리 -0.25였다. 여러 요인을 한꺼번에 추정했

애플 "성능 좋은 AI 에이전트에 복잡한 '하네스'가 얼마나 필요한가"…자율 ML 엔지니어링 논문 공개

애플이 머신러닝(ML) 엔지니어링을 스스로 수행하는 AI 에이전트에 갈수록 복잡해지는 보조 장치가 정말 필요한지 묻는 논문을 내놨다. 애플 머신러닝 연구(Apple Machine Learning Research) 사이트에 따르면 애플은 지난 1일 「How Much of a Harness Does a Strong Agent Need for Autonomous ML Engineering?」 논문을 올렸다. 제목은 '성능 좋은 에이전트가 자율 ML 엔지니어링을 하려면 하네스가 얼마나 필요한가'라는 뜻이다.자율 머신러닝 엔지니어링(MLE) 에이전트는 사람이 하던 ML 개발 업무를 대형언어모델(LLM) 기반 AI가 직접 처리하도록 만든 시스템이다. 데이터 처리, 모델 학습, 실험 반복 같은 일이 여기에 해당한다. 논문 초록은 이런 에이전트들이 최근 공개 리더보드에서 큰 진전을 이뤘다고 짚었다.연구진이 문제로 본 것은 이 성과를 내는 방식이다. 초록에 따르면 최신 MLE 에이전트는 점점 더 정교한 장치 위에서 돌아간다. 여러 에이전트를 조율하는 '멀티 에이전트 오케스트레이터', 정보 검색만 따로 맡는 '하위 에이전트' 등이 대표적이다. 이렇게 모델을 감싸 작업 흐름을 관리하는 외부 구조를 업계에서는 '하네스(harness)'라고 부른다. 원래 말에 채우는 마구(馬具)를 뜻하는 단어다.초록은 하네스가 커진 배경으로 두 가지를 들었다. 하나는 긴 작업 주기를 거치는 동안 성과가 정체되는 문제다. 다른 하나는 LLM이 기본으로 제공하는 기능, 즉 '프리미티브'가 제한적이라는 점이다. 모델 혼자서는 오래 걸리는 복잡한 작업을 끝까지 해내기 어려우니 바깥에 구조를 덧붙여 보완해 왔다는 것이다.연구진은 반대 방향에 주목했다. 더 원시적이지만 성능이 좋아진 코딩 에이전트다. 이런 에이전트에서는 LLM이 파일 읽기(read)·쓰기(write)와 배시(bash) 명령만으로 실행 환경에 직접 접근한다. 초록은 하네스가 계속 커지는 동안 이 단순한 방식은 학계와 업계에서 거의 주목받지 못했

autotrust, 이미지·텍스트 멀티모달 모델 'JEV-27B-VL' 허깅페이스 공개… 내려받기 127만 회 넘어

autotrust가 이미지와 텍스트를 함께 입력받아 텍스트를 생성하는 AI 모델 'JEV-27B-VL'을 공개했다. 허깅페이스(Hugging Face) 모델 정보에 따르면 이 모델은 2026년 9월 30일 허깅페이스에 등록됐다. 이후 내려받기는 1,278,569회, 즐겨찾기는 498회로 집계됐다. 라이선스는 아파치 2.0(apache-2.0)이다.허깅페이스 모델 정보상 JEV-27B-VL의 용도는 '이미지·텍스트 입력 텍스트 생성'이다. 사진이나 문서 이미지를 글과 함께 넣으면 그 내용을 설명하거나 질문에 답하는 식으로 쓰이는 이른바 시각-언어 모델 계열로 분류된다. 모델 이름의 '27B'는 업계에서 보통 매개변수 약 270억 개를 뜻하고, 'VL'은 시각-언어(Vision-Language)를 뜻하는 표기로 쓰인다. 다만 이번에 공개된 자료에는 정확한 매개변수 수나 학습 데이터, 기반 모델, 성능 평가 결과가 나와 있지 않다. 이 부분은 확인되지 않았다.눈에 띄는 것은 내려받기 수다. 공개 후 일주일이 채 안 돼 127만 회를 넘었다. 반면 즐겨찾기는 498회에 그쳐 두 수치 사이에 차이가 크다. 허깅페이스의 내려받기 수에는 개발자가 직접 받은 경우뿐 아니라 자동화된 배포 파이프라인이나 서버의 반복 호출이 포함될 수 있다. 그래서 이 숫자를 실제 사용자 수와 같은 것으로 보기는 어렵다. 즐겨찾기는 사용자가 직접 눌러야 쌓이는 지표여서 개발자 커뮤니티의 관심을 보여주는 데 더 가깝다. 이번 내려받기 가운데 사람이 직접 받은 비중이 얼마인지, 특정 서비스에서 대량으로 호출한 것인지는 자료에서 확인되지 않았다.라이선스도 이번 공개에서 중요한 대목이다. 아파치 2.0은 대표적인 허용형 오픈소스 라이선스다. 저작권 고지와 라이선스 사본을 함께 배포하는 등의 조건만 지키면 상업적 이용, 수정, 재배포가 폭넓게 허용된다. 사용 규모나 용도를 제한하는 별도 약관을 붙이는 일부 공개 모델과 달리, 기업이 자체 서비스에 넣거나 목적에 맞게 추가 학습(파인튜닝)하기가 비교적 자유

메타·MS, 사내 '클로드' 사용 대폭 축소… 앤트로픽, 협력사에서 경쟁자로

The Decoder는 미국 IT 전문매체 디 인포메이션(The Information)을 인용해, 앤트로픽의 대형 기업 고객인 메타와 마이크로소프트가 사내에서 '클로드' 사용을 크게 줄이고 있다고 보도했다.보도에 따르면 마이크로소프트의 클로드 지출은 원래 연간 10억 달러를 넘을 것으로 예상됐다. 그러나 경영진인 스콧 거스리와 제이 파리크가 직원들에게 깃허브 코파일럿과 오픈AI 모델 같은 사내 도구를 쓰라고 지시했다. 이에 따라 지출은 3분의 1 넘게 줄었고, 클라우드 부문의 직원 1인당 월 예산은 10만 달러에서 약 1만 달러로 낮아졌다.메타에서는 클로드 코드 사용자가 약 6만 명에서 3만 명으로 줄었다. 정리해고의 영향도 있고, 메타가 뮤즈 코드(Muse Code)와 메타코드(MetaCode) 등 자체 도구 사용을 밀어붙인 결과이기도 하다. 메타는 28일 동안 클로드 코드에만 1억500만 달러 이상을 쓴 적이 있으며, 지난 6월에는 AI 비용 절감 조치를 도입했다.The Decoder는 비용 절감 외에 앤트로픽이 두 회사의 경쟁자로 떠오른 점도 이유로 들었다. 메타는 경쟁 제품을 팔려는 상황에서 앤트로픽이 자사 학습 데이터에 접근하지 못하도록 제한하려 한 것으로 전해졌다. 마이크로소프트 역시 클로드 코워크 같은 도구가 오피스를 대신할 수 있는 제품으로 자리 잡아 가는 상황에 놓여 있다고 매체는 설명했다.

애플 "LLM 출력 제어에는 대가가 따른다"… 효과와 유창성의 상충 관계 체계 분석 논문 공개

애플이 대규모언어모델(LLM)의 출력을 원하는 방향으로 조정하는 기법들이 문장 품질을 얼마나 떨어뜨리는지 체계적으로 따져본 연구를 내놓았다. 애플 머신러닝 연구(Apple Machine Learning Research) 사이트에 따르면, 애플은 지난 9월 30일 「On the Effectiveness-Fluency Trade-Off in LLM Conditioning: A Systematic Study(LLM 조건화에서 효과와 유창성의 상충 관계에 관한 체계적 연구)」라는 제목의 논문을 공개했다. 공개된 초록을 보면, 연구진은 효율적인 '스티어링(steering)' 기법이 원하는 조건화는 이뤄내지만 그 대가로 유창성이 크게 떨어지는 경우가 잦다고 밝혔다.연구진은 초록에서 LLM의 출력을 제어하는 일이 모델을 믿고 배포하는 데 가장 중요한 과제라고 짚었다. 그런데도 이 과정에 어떤 상충 관계가 있는지는 아직 분명히 밝혀지지 않았다고 했다. 특히 지금까지의 조건화 기법은 목표 개념을 출력에 '주입'하거나 '제거'하는 효과만 좁게 평가했을 뿐, 생성된 문장의 품질은 제대로 따지지 않았다고 지적했다.이를 확인하려고 연구진은 여러 조건화 기법을 주입과 제거 두 상황에서 모두 체계적으로 비교했다. 그 결과 효율적인 스티어링 기법은 조건화에 성공하더라도 유창성을 크게 희생하는 경우가 많았다는 것이 초록의 핵심이다. 초록에는 연구진이 '결정적인' 무언가를 추가로 찾아냈다는 대목도 있다. 다만 공개된 요약본은 이 부분에서 끊겨 있어, 무엇을 찾았는지는 이번 자료로는 확인되지 않았다. 어떤 기법들을 비교했는지, 어느 모델로 실험했는지, 유창성을 어떤 지표로 쟀는지도 초록만으로는 알 수 없다.'조건화(conditioning)'는 모델이 특정 주제나 어조, 개념을 담아 답하게 하거나 반대로 특정 내용을 빼고 답하게 만드는 기법을 두루 이르는 말이다. 그중 스티어링은 모델을 다시 학습시키지 않고, 추론할 때 모델 내부 표현을 직접 건드려 출력 방향을 바꾸는 방식으로 주로 쓰인다. 재

애플, 장기간 학습하는 AI 에이전트용 공통 실행 기반 'SCLATE' 논문 공개

애플이 지난 9월 30일 자사 머신러닝 연구 사이트(Apple Machine Learning Research)에 지속학습(continual learning) 에이전트의 훈련과 평가를 위한 실행 기반 'SCLATE'를 다룬 논문을 올렸다. 논문 제목은 「SCLATE: A Substrate for Continual-Learning Agent Training and Evaluation」이다. 공개된 초록을 보면 SCLATE는 벤치마크와 별도로 수정하지 않은 에이전트가 각자 어댑터를 거쳐 하나의 공개 이벤트 스케줄러에 자신의 이벤트를 등록하는 구조다. 벤치마크와 에이전트를 짝지을 때마다 따로 만들어야 했던 일정 관리 코드를 공통 기반 하나로 대신하겠다는 것이다.초록은 지속학습 에이전트를 모델과 하네스(harness), 메모리가 결합된 시스템으로 정의한다. 이런 시스템은 여러 세션에 걸쳐 오랜 기간 작동한다. 하네스는 모델을 감싸 도구 호출과 실행 흐름을 관리하는 실행 환경을 뜻한다. 애플은 이런 에이전트를 제대로 평가하고 훈련하려면 벤치마크가 내는 과제 사이사이에 에이전트 쪽에서 생기는 사건들을 끼워 넣어야 한다고 설명했다. 초록이 예로 든 사건은 세션 종료와 재시작, 정해진 시각에 실행되는 예약 작업(크론), 쌓인 기억을 정리하는 메모리 통합(consolidation)이다.애플이 짚은 문제는 기존 도구가 이 부분을 다루지 못한다는 점이다. 초록에 따르면 지금의 벤치마크와 훈련 프레임워크는 벤치마크 자체의 이벤트만 스케줄링한다. 그래서 연구자는 벤치마크와 에이전트 조합마다 맞춤형 스케줄링 루프를 직접 짜야 한다. 이렇게 되면 같은 벤치마크라도 연구팀마다 실행 조건이 조금씩 달라질 수 있고, 새 에이전트나 새 벤치마크를 붙일 때마다 연결 작업을 다시 해야 한다. SCLATE는 양쪽 이벤트를 하나의 스케줄러에서 함께 관리하게 해 이 부담을 덜려는 시도다. 에이전트를 수정하지 않고도 붙일 수 있도록 설계했다는 점도 초록에 명시됐다.초록에는 '하이브리드 시뮬레이션 시계(hy

구글, 10월부터 제미나이 무료 이용자에 최하위 모델만 제공…월 5달러 구독자도 '프로' 못 써

The Decoder는 구글이 2026년 10월부터 개인 계정 이용자가 쓸 수 있는 제미나이 모델을 구독 등급에 따라 줄인다고 보도했다.보도에 따르면 구독하지 않은 무료 이용자는 가장 작은 모델인 '플래시-라이트(Flash-Lite)'만 쓸 수 있다. 상위 모델인 '플래시'와 '프로'는 무료로 제공되지 않는다. 지금은 무료 등급에서도 제미나이 3.6 플래시를 쓸 수 있고, 3.1 프로도 일정 범위 안에서 이용할 수 있다. 변경 후에는 무료로 쓸 수 있는 모델이 이보다 줄어든다.월 4.99달러인 'AI 플러스' 구독자도 프로 모델을 쓸 수 없게 되고, 플래시-라이트와 플래시만 이용할 수 있다. 세 모델을 모두 쓰려면 월 19.99달러인 'AI 프로'나 월 99.99달러 또는 199.99달러인 'AI 울트라'에 가입해야 한다. The Decoder는 이런 등급 구성이 오픈AI가 챗GPT에 적용한 부분 유료화(프리미엄) 방식과 비슷하다고 전했다.

"트랜스포머는 너무 일찍 생각을 멈춘다"… 초소형 LoRA 하나로 참조 추적 정확도 15%→99%

대형 언어모델이 문맥 안의 참조를 몇 단계 따라가다 멈추는 이유가 모델 능력 부족이 아니라, 이미 갖춘 연산 능력을 다 쓰지 못하기 때문이라는 연구가 나왔다. Zehao Jin 등 연구자 3명은 사전공개 논문 저장소 arXiv에 「Transformers Stop Thinking Too Early, and a Tiny LoRA Fixes It(트랜스포머는 너무 일찍 생각을 멈추며, 작은 LoRA가 이를 고친다)」를 공개했다. 저자들이 공개한 초록에 따르면, 모델의 가중치는 모두 고정한 채 초기 층 하나에 아주 작은 어댑터만 붙여도 참조를 따라가는 거리가 크게 늘었다. 이 논문은 연구자 커뮤니티 플랫폼 허깅페이스의 일일 논문 목록에서 추천 54회를 받았다.연구진이 다룬 과제는 문맥 속 참조를 연달아 따라가는 일이다. 한 줄이 앞의 다른 줄을 가리키고, 그 줄이 또 다른 줄을 가리키는 사슬을 끝까지 추적해 답을 찾아야 한다. 초록에 따르면 사전학습된 트랜스포머는 이 과제에 자기 깊이(층 수)를 거의 활용하지 못했다. 기본 모델 13종을 시험한 결과 안정적으로 따라간 사슬은 1.4~3.6줄에 그쳤다. 사전학습 단계에서 루프(반복 연산)를 더해도 개선 폭은 작았다.연구진의 해법은 랭크 8짜리 LoRA다. LoRA는 원래 가중치는 그대로 두고 작은 보조 행렬만 학습하는 경량 미세조정 기법으로, 랭크 8이면 매우 작은 규모에 속한다. 연구진은 이 LoRA를 과제에 맞춰 학습시켜 초기 층 한 곳에만 붙였다. 그러자 알리바바의 Qwen3-8B는 24줄짜리 사슬에서 완전일치 정확도가 15.5%에서 99%로 올랐다. 더 오래 학습한 LoRA를 쓰면 50줄까지 추적했다. 반복 연산 구조인 Ouro-1.4B는 루프를 네 번 돌렸을 때 60줄, 여덟 번 돌렸을 때는 최소 160줄까지 따라갔다.연구진은 성능이 오른 이유도 분석했다. 초록은 LoRA가 일종의 '릴레이'를 시작한다고 설명한다. 프로그램의 각 줄이 자신이 어느 사슬에 속하는지를 중간 층 몇 개를 거치며 다음으로 넘겨주고, 고

SupersonicLabs, 텍스트 분류 AI 모델 'Julia-1' 허깅페이스 공개… 열흘 만에 내려받기 3,251회

SupersonicLabs가 텍스트 분류용 AI 모델 'Julia-1'을 지난달 24일 AI 모델 공유 플랫폼 허깅페이스(Hugging Face)에 공개했다. 허깅페이스에 등록된 모델 정보에 따르면 Julia-1은 공개 뒤 내려받기 3,251회, 즐겨찾기(좋아요) 397회를 기록했다. 라이선스는 아파치 2.0(apache-2.0)이다.텍스트 분류는 입력된 문장이나 문서를 미리 정한 범주로 나누는 작업이다. 리뷰의 긍정·부정을 가르는 감성 분석, 스팸 메일 걸러내기, 고객 문의를 주제별로 나누는 일, 유해 게시물 탐지가 대표적인 쓰임새다. 긴 글을 새로 써내는 생성형 대형언어모델(LLM)만큼 주목받지는 않지만, 실제 서비스에서는 많이 쓰이는 기능이다. 대량의 텍스트를 빠르고 싸게 처리해야 하는 기업에서는 큰 범용 모델보다 분류에 특화된 모델이 더 실용적일 때가 적지 않다.이번 수치는 오늘(10월 4일) 기준으로 공개 후 약 열흘 동안 쌓인 것이다. 허깅페이스의 내려받기 수는 개발자와 연구자가 모델을 실제로 받아 시험해 본 횟수를, 즐겨찾기 수는 관심을 표시한 정도를 보여주는 지표다. 내려받기 대비 즐겨찾기 비율은 약 12%다. 허깅페이스에는 날마다 수많은 모델이 올라오고, 상당수는 내려받기 수십 회 안팎에 그친다. 이를 감안하면 Julia-1은 초기에 비교적 눈에 띄는 반응을 얻었다고 볼 수 있다. 다만 내려받기 수에는 자동화된 테스트나 반복 다운로드가 섞일 수 있어, 실제 사용자 규모를 그대로 보여주는 숫자는 아니다.라이선스도 눈여겨볼 대목이다. 아파치 2.0은 대표적인 허용형 오픈소스 라이선스로, 저작권·라이선스 고지 등 기본 조건만 지키면 상업적 이용과 수정, 재배포가 폭넓게 허용된다. 연구 목적으로만 쓰도록 묶어 두거나 이용 규모에 따라 별도 계약을 요구하는 일부 공개 모델과 달리, 기업이 자사 서비스에 바로 붙여 쓰기 쉬운 조건이다. 초기 내려받기가 빠르게 늘어난 데는 이런 라이선스 조건도 영향을 줬을 가능성이 있지만, 실제 원인은 확인되지 않았다.현재

애리조나주립대 연구진, 영상 생성 AI '사후학습·정렬' 기법 총정리…"이 분야 첫 종합 서베이"

미국 애리조나주립대(Arizona State University) 소속 연구진이 영상 생성 인공지능(AI) 모델의 '사후학습(post-training)'과 '정렬(alignment)' 기법을 종합 정리한 서베이 논문을 내놨다. 논문 사전공개 사이트 arXiv에 올라온 「Video Generation Models: A Survey of Post-Training and Alignment」(arXiv:2610.00812)에 따르면, 연구진은 이 분야의 기존 연구를 네 갈래로 분류했다. 저자는 Chaoyu Li 등 13명이며, 스스로 이 논문을 영상 생성 모델의 사후학습·정렬을 다룬 '첫 종합 리뷰'라고 소개했다. 이 논문은 AI 연구자 커뮤니티 허깅페이스의 일일 논문 목록에서 추천 43회를 받았다.연구진이 초록에서 짚은 배경은 이렇다. 영상 생성 기술은 짧고 화질이 낮은 클립에서 시작해, 시간과 공간에 걸친 복잡한 움직임을 담은 고해상도·장시간 영상으로 빠르게 발전했다. 대규모 사전학습으로 강한 생성 능력을 갖췄지만, 사전학습만 마친 모델은 사람의 의도를 제대로 따르지 못하거나, 시간이 흐르면서 장면의 일관성이 흐트러지거나, 물리 법칙과 안전 기준을 지키지 못하는 경우가 많다는 것이다.연구진은 영상의 정렬이 이미지나 텍스트보다 까다로운 이유로 네 가지를 들었다. 프레임이 이어지면서 오류가 쌓이는 문제, 움직임과 외형이 서로 얽혀 있어 한쪽만 고치기 어려운 문제, 여러 목표를 동시에 맞출 때 생기는 상충 관계, 그리고 시간적 특성을 가르칠 감독 데이터가 부족하다는 점이다. 모델을 처음부터 다시 학습시키는 데는 막대한 비용이 들기 때문에, 이미 학습된 모델을 고쳐 쓰는 체계적인 사후학습 전략이 필요하다는 게 연구진의 설명이다.논문은 사후학습을 하나의 통합된 틀로 보고, 정렬 신호를 어떤 방식으로 적용하느냐에 따라 '암묵적 정렬'과 '명시적 정렬'로 나눴다. 이를 바탕으로 기존 기법을 △지도 미세조정(SFT) △자기학습·증류 △선호·보상 기반 방법 △추론 시점(infer

애플, 언어모델이 수식 구조를 말로 옮기면 얼마나 남는지 측정하는 '왕복' 실험 논문 공개

애플이 대형 언어모델(LLM)이 구조화된 정보를 자연어로 바꿔 주고받을 때 내용이 얼마나 보존되는지를 측정하는 연구 논문을 내놨다. 애플 머신러닝 연구 사이트(Apple Machine Learning Research)에 따르면, 애플은 지난 9월 29일 「The Communication Bottleneck: A Round-Trip Study of Tree-Structured Expression Serialization in Language Models」(소통의 병목: 언어모델의 트리 구조 표현 직렬화에 대한 왕복 연구)라는 제목의 논문을 이 사이트에 올렸다.논문이 다루는 문제는 언어모델의 '말로 생각하기' 방식이다. 초록에 따르면 언어모델은 사고의 사슬(chain-of-thought) 방식으로 추론하거나 자유 형식 텍스트로 중간 결과를 주고받을 때 구조화된 정보를 자연어로 '직렬화'한다. 연구진은 이 과정을 일종의 병목으로 보고, 트리 구조를 가진 조합적 내용이 이 병목을 거친 뒤 얼마나 살아남는지를 물었다.이 질문에 답하려고 연구진은 '왕복(round-trip)' 프로토콜을 제안했다. 먼저 생성 모델이 절차적으로 만든 산술식을 문장형 문제(word problem)로 바꾼다. 이어 별도의 추출 모델이 원래 식은 보지 못한 채 문장형 문제만 읽고 식을 복원한다. 복원한 식이 원래 식과 같은지는 기호적 동치(symbolic equivalence)로 판정한다. 산술식은 수학적으로 같은지 아닌지를 정확히 가릴 수 있어서, 사람의 평가나 다른 모델의 판단에 기대지 않고 정답 여부를 분명하게 정할 수 있다는 점이 이 설계의 특징이다.초록에 따르면 연구진은 모델 16종을 생성 모델과 추출 모델로 짝지을 수 있는 모든 조합을 평가했다. 다만 공개된 초록 요약은 이 대목에서 끊겨 있어, 구체적인 실험 결과와 결론은 확인되지 않았다. 평가에 쓴 16종이 어떤 모델인지, 애플 자체 모델이 포함됐는지도 초록만으로는 확인되지 않는다. 논문이 동료평가를 거쳤는지나 학회에 채택됐는지도