[2025/W09] 🤗 Weekly AI Research

2025년 9주차에 공개된 주목할만한 AI 분야의 논문들을 소개합니다.

TL;DR

LLM 해석 분야에서는 LLM-Microscope를 통해 기존에는 중요하지 않다고 여겨진 관사, 쉼표 등의 사소한 토큰이 실제로 맥락 유지에 필수적임을 밝혀냈으며, SWE-RL과 자기 보상 기반 수학 추론 강화 방법처럼 강화학습과 자체 오류 수정을 이용해 LLM의 추론 능력을 획기적으로 향상시키고 있습니다. 또한, LLM의 긴 맥락(long-context)의 처리 능력을 구조, 인프라, 훈련 및 평가 관점에서 종합적으로 분석하여, 장기 맥락 처리를 위한 연구 방향성을 체계적으로 제시했습니다.

멀티모달 분야에서는 OmniAlign-V와 MedVLM-R1이 인간 선호도 및 설명 가능성 향상을 목표로 발전하고 있고, VideoGrain 및 GHOST 2.0은 영상 내 객체 및 인물의 정교한 편집 기술을 제시했습니다. 또한, DICEPTION은 소량 데이터로 여러 시각 인지 작업을 통합적으로 수행하는 확산 모델을 제안했습니다.

효율적인 학습 측면에서는 Slamming이 단 하나의 GPU로 하루 만에 음성 언어 모델(SLM)을 학습하는 혁신적인 방법을 제시했고, SpargeAttn은 희소 어텐션을 통해 다양한 모델의 추론을 빠르게 가속화했으며, Kanana는 한국어 및 영어 모델을 효율적으로 학습하여 비용 대비 성능을 극대화했습니다.

마지막으로 기타 응용분야에서는 SurveyX는 학술 설문조사를 자동으로 생성하는 고성능 시스템을 개발했고, Mol-LLaMA는 범용적 분자 이해를 위한 멀티모달 분자 언어모델을 통해 분자 분석의 활용도를 넓히고 있습니다.

LLM 해석 및 추론 능력 강화 분야

LLM-Microscope: Uncovering the Hidden Role of Punctuation in Context Memory of Transformers*

Paper, Project

본 논문은 최근 활발히 연구되고 있는 대형 언어 모델(LLM)의 맥락 기억(context memory) 원리를 탐구하는 연구입니다. 기존에는 주로 의미적 내용이 풍부한 주요 단어들이 맥락 유지에 중요하다고 생각했지만, 본 연구에서는 관사나 쉼표 같은 일견 사소해 보이는 토큰들이 의외로 매우 중요한 역할을 한다는 것을 밝혀냈습니다. 실험 결과, 문장 내에서 의미적 정보가 적다고 간주되어온 관사, 불용어(stopwords), 문장부호 등을 제거했을 때, 모델의 성능이 현저하게 저하되는 현상이 관찰되었습니다. 또한, 이들 토큰은 변환기(Transformer) 층 간의 '선형성(linearity)'과 높은 상관을 나타냈는데, 이는 각 층의 표현(embedding)이 다음 층으로 넘어갈 때 비교적 간단한 선형 변환으로 근사될 수 있음을 의미합니다. 연구진은 이러한 현상을 깊이 분석하기 위해 오픈소스 분석 도구인 LLM-Microscope를 공개했습니다. 이 도구는 각 토큰의 중요도, 비선형성 수준, 그리고 중간층에서의 기여도를 시각화하여, 모델 내부에서 이른바 '필러(filler) 토큰'이라고 불렸던 사소한 토큰들이 실제로는 장기적인 문맥 유지에 결정적임을 드러냅니다. 이를 통해 LLM이 맥락을 저장하고 유지하는 방식에 대한 근본적 이해를 넓히는 데 기여했습니다.

SWE-RL: Advancing LLM Reasoning via Reinforcement Learning on Open Software Evolution

Paper, Project

본 논문은 실제 소프트웨어 엔지니어링의 풍부한 데이터를 활용하여 대형 언어 모델(LLM)의 일반적 추론 능력을 크게 개선하는 새로운 강화학습(RL) 방법인 SWE-RL을 소개합니다. 기존의 연구들이 경쟁적 코딩이나 수학 문제 해결 등에 초점을 맞췄던 반면, SWE-RL은 소프트웨어 개발의 실제 이슈, 코드 변화, Pull Request 등 실제 데이터를 기반으로 학습을 진행합니다. 그 결과, SWE-RL로 훈련된 모델인 Llama3-SWE-RL-70B는 실제 GitHub의 다양한 문제를 해결하는 벤치마크인 SWE-bench에서 이전 중형 모델의 성능을 뛰어넘으며, 심지어 GPT-4o와 같은 대형 독점 모델에 필적할 정도의 성능을 기록했습니다. 더 놀라운 점은, 소프트웨어 데이터만을 사용하여 훈련했음에도 수학, 코드 추론, 일반 언어 이해 등 다양한 분야에서도 뛰어난 성능 향상이 나타났다는 것입니다.

Self-rewarding correction for mathematical reasoning

Paper, Project

이 연구는 외부의 피드백이나 보상 없이 스스로 자신의 추론 결과를 평가하고 오류를 발견하여 수정하는 '자기 보상(self-rewarding)' 방식을 통해 수학적 추론 능력을 높이는 대형 언어 모델(LLM)의 학습 방법을 소개합니다. 기존의 자기 수정(self-correction) 모델들은 주로 외부의 레이블이나 보상 신호에 의존하지만, 이 연구에서는 모델 자체가 스스로 판단하여 오류를 발견하고, 그 오류를 자체적으로 수정하는 두 단계의 알고리즘을 제안했습니다. 첫 번째 단계에서는 모델이 직접 생성한 데이터를 기반으로 긴 추론 경로(chain-of-thought)를 스스로 평가하고, 오류가 포함된 답변을 반복적으로 수정하는 과정을 통해 자기 수정의 패턴을 학습합니다. 두 번째 단계에서는 규칙 기반의 보상 신호를 활용한 강화학습을 수행해 모델이 더 정확히 오류를 판단하고 교정하도록 유도합니다. 실험 결과 이 방법은 기존의 자기 수정 방식보다 현저히 우수한 성능을 달성했고, 심지어 외부 보상 모델을 이용한 방식과도 비슷한 수준의 성능을 기록했습니다.

Thus Spake Long-Context Large Language Model

Paper

긴 맥락 처리는 최근 자연어 처리(NLP) 분야에서 가장 활발한 연구 주제 중 하나이며, 특히 대형 언어 모델(LLM)의 경쟁력을 높이는 핵심 요소로 떠오르고 있습니다. 이 논문에서는 최근 2년 동안 LLM의 맥락 처리 길이가 수천 토큰에서 수백만 토큰 단위까지 확장된 현황을 조망하고, 이를 단순히 길이를 늘리는 차원을 넘어 구조(architecture), 인프라(infrastructure), 훈련 방법(training), 평가 방법(evaluation) 등 종합적인 관점에서 분석했습니다. 연구진은 긴 맥락 처리라는 도전 과제를 인간이 생명의 한계를 초월하려는 노력에 비유하여, 마치 인간의 유한성을 극복하려는 시도가 결국 유한성 자체를 받아들여야 하는 것처럼 LLM 또한 긴 맥락에 대한 무한한 욕구와 현실적 한계 사이에서 고군분투하고 있음을 시사했습니다. 논문의 마지막 부분에서는 긴 맥락 처리 LLM 연구가 직면하고 있는 미해결 문제 10가지를 구체적으로 정리하여 향후 연구 방향성을 명확히 제시했습니다. 이는 긴 맥락 처리를 연구하는 모든 연구자들에게 유용한 안내서로 작용할 수 있습니다.

멀티모달 모델 및 비디오 생성 기술

VideoGrain: Modulating Space-Time Attention for Multi-grained Video Editing

Paper, Project

최근 영상 편집 기술은 급속히 발전했으나, 영상의 클래스 수준(예: 사람, 자동차 등), 객체 수준(특정 인물), 부분 수준(예: 얼굴 일부나 사물의 세부 부품) 등 다양한 수준에서 동시에 세밀하게 편집하는 것은 여전히 큰 어려움으로 남아 있습니다. 본 논문에서는 이러한 난제를 해결하기 위해 VideoGrain이라는 혁신적인 영상 편집 방식을 개발했습니다. VideoGrain은 사전에 훈련된 확산 모델(diffusion model)의 시공간 어텐션(space-time attention) 메커니즘을 정교하게 조정함으로써, 영상 내 각 영역에 대해 텍스트 설명과 매우 정확하게 매칭할 수 있게 합니다. 이 과정에서 영상 내 서로 다른 영역 간의 간섭 현상을 최소화하여, 원하는 영역에만 세밀하게 편집이 가해지도록 합니다. 연구진은 실제 세계의 다양한 시나리오에서 VideoGrain이 기존 영상 편집 기술을 뛰어넘는 우수한 성능을 보임을 입증했고, 실제 사용 가능한 데모를 공개하여 기술의 가능성을 제시했습니다.

OmniAlign-V: Towards Enhanced Alignment of MLLMs with Human Preference

Paper, Project

최근 멀티모달 언어 모델(Multi-modal LLM)은 이미지와 텍스트를 결합한 복합적 추론 능력 면에서 큰 발전을 이루었으나, 아직 인간의 선호나 가치 판단과의 정렬(alignment)은 부족한 상태입니다. 이 논문은 인간의 가치와 선호를 보다 정확히 반영하는 멀티모달 LLM을 개발하기 위해 OmniAlign-V라는 대규모 고품질 데이터셋(약 20만 개 샘플)을 새롭게 구축했습니다. 다양한 이미지와 복잡한 질문, 그리고 다양한 답변 형식을 포함한 이 데이터셋을 이용해 Supervised Fine-Tuning(SFT)과 직접 선호 최적화(DPO)를 수행한 결과, 기존의 멀티모달 모델 대비 인간 선호와의 정렬이 크게 향상되었습니다. 연구진은 이 모델이 기본적인 멀티모달 능력까지 유지하거나 오히려 개선하며 인간과의 상호작용에 더욱 적합한 AI 시스템으로 진화했다고 강조합니다. 관련 데이터셋과 벤치마크는 오픈소스로 공개되었습니다.

DICEPTION: A Generalist Diffusion Model for Visual Perceptual Tasks

Paper, Project

이 논문은 여러 종류의 시각적 인지 작업(예: 객체 분할, 의미적 분할 등)을 단 하나의 모델로 효율적으로 처리하기 위한 범용적 확산(diffusion) 모델인 DICEPTION을 소개합니다. DICEPTION은 기존의 막대한 데이터와 계산 자원이 필요한 시각 모델과 달리, 수십억 개의 이미지로 미리 학습된 텍스트-이미지 생성 모델을 활용하여 훨씬 적은 데이터로 다양한 인지 과제를 처리할 수 있습니다. 특히 컬러 인코딩(color encoding)을 통해 다양한 시각 작업을 통합한 방식이 탁월한 효과를 보였으며, 적은 양의 추가 데이터(50장 이미지 정도)와 파라미터의 단 1%만 미세 조정함으로써 새로운 작업에 손쉽게 적응할 수 있었습니다. 연구진은 DICEPTION이 향후 시각적 지각 과제를 위한 효율적이고 유연한 일반화 모델로 주목받을 수 있다고 강조합니다.

MedVLM-R1: Incentivizing Medical Reasoning Capability of Vision-Language Models (VLMs) via Reinforcement Learning

Paper

최근 의료 영상 분석 분야에서는 모델이 단순히 진단 결과만 제시하는 것이 아니라, 그 진단에 이른 과정과 이유를 명확하게 설명할 수 있는 능력이 더욱 중요해지고 있습니다. 이 논문은 이러한 설명 가능한 추론 능력을 강화학습을 통해 획기적으로 향상시킨 의료 특화 시각-언어 모델(Vision-Language Model, VLM)인 MedVLM-R1을 소개합니다. 기존의 지도학습 방식(supervised fine-tuning)은 훈련 데이터에 과적합되어 실제 추론 과정을 잘 학습하지 못하는 한계가 있었습니다. 본 연구에서는 인간이 사전에 정의한 추론 경로 없이 모델 스스로 인간이 이해 가능한 형태의 추론을 발견하도록 강화학습 프레임워크를 도입했습니다. 실험 결과 MedVLM-R1 모델은 단 600개의 영상 질의응답 데이터와 작은 모델 크기(2B 파라미터)에도 불구하고, MRI, CT, X-ray 영상 분석에서 기존의 큰 모델들보다 뛰어난 성능을 보였으며, 데이터가 부족한 환경에서도 탁월한 일반화 능력을 발휘했습니다. 이 연구는 의료 영상 분석에서 AI의 신뢰성 및 투명성을 높이는 중요한 발걸음이 될 것으로 기대됩니다.

GHOST 2.0: generative high-fidelity one shot transfer of heads

Paper, Project

최근 얼굴 교체(face swap) 기술은 많은 발전을 이루었으나, 얼굴뿐 아니라 머리 전체를 자연스럽게 교체하는 헤드 스왑(head swap)은 아직 어려움이 큰 분야로 남아 있습니다. 특히 머리 전체의 교체 작업에서는 피부색 조정뿐 아니라 머리의 구조적 정보 보존, 배경과의 자연스러운 연결(인페인팅) 등 추가적이고 복잡한 문제를 해결해야 합니다. 이 논문에서는 헤드 스왑 작업에서 발생하는 이러한 문제들을 해결하기 위해 특화된 두 가지 모듈로 구성된 GHOST 2.0을 개발했습니다. 첫 번째 모듈인 Aligner는 다양한 자세와 각도 변화에도 사람의 얼굴과 머리의 구조적 정보를 여러 스케일에서 정확히 유지하며 대상 인물로 자연스럽게 바꿔주는 역할을 수행합니다. 두 번째 모듈인 Blender는 교체된 머리를 목표 배경에 자연스럽게 융합시켜 피부색을 정밀하게 조정하고 경계 부분의 빈 공간이나 부자연스러운 영역을 깔끔하게 인페인팅하여 최종 완성도를 높입니다. 실험 결과, GHOST 2.0은 다양한 배경과 극단적인 자세, 헤어스타일 차이 등 어려운 조건에서도 기존의 기술보다 현저히 뛰어난 품질의 결과물을 만들어냈습니다.

효율적인 학습 및 추론 가속화

Slamming: Training a Speech Language Model on One GPU in a Day

Paper, Project

이 논문은 음성 언어 모델(Speech Language Model, SLM)의 학습 비용을 획기적으로 줄이고자 단 하나의 학술용 GPU로 단 하루(24시간) 만에 고성능 SLM을 학습할 수 있는 혁신적인 방법인 Slam을 제안합니다. 일반적으로 대형 모델 학습은 막대한 자원과 시간을 요구하지만, Slam은 모델 구조 최적화, 효과적인 초기화 방법 탐색, 합성 데이터(synthetic data)의 전략적 활용, 그리고 학습 효율을 극대화하는 튜닝 기법을 결합하여 극도의 효율성을 달성했습니다. 실험 결과, Slam은 제한된 자원에서도 최신의 성능을 가진 SLM에 근접하거나 능가하는 결과를 얻었습니다. 연구진은 이 방법론이 더 많은 연구자들이 쉽게 접근할 수 있는 음성 언어 모델 연구를 촉진할 것이라고 기대하며 코드와 데이터를 공개했습니다.

SpargeAttn: Accurate Sparse Attention Accelerating Any Model Inference

Paper, Project

어텐션(Attention)은 최근 AI 모델의 핵심 요소이지만, 연산 복잡도가 높아 계산 속도의 병목이 됩니다. 이 논문은 SpargeAttn이라는 새로운 형태의 희소 어텐션 기법을 제안하여 다양한 모델에서 추론 속도를 크게 높이면서도 성능 저하가 없는 범용적인 솔루션을 제공합니다. SpargeAttn은 두 단계의 온라인 필터를 통해 빠르고 정확하게 어텐션 값을 예측하여 많은 계산을 건너뛰도록 설계되었습니다. 언어 모델, 이미지 모델, 비디오 모델 등 다양한 모델 실험에서 뛰어난 속도 향상을 보였으며, 실질적인 성능 손실도 없었습니다. 연구진은 이 방법이 앞으로 더 많은 모델의 효율성을 크게 높이는 데 기여할 것으로 기대하고 있습니다.

Kanana: Compute-efficient Bilingual Language Models

Paper, Project

이 논문은 한국어에서 뛰어난 성능을 보이면서 동시에 영어에서도 경쟁력 있는 성능을 갖추고 있는 이중언어(bilingual) 언어 모델 시리즈인 Kanana를 소개합니다. Kanana 모델은 최신 언어 모델과 비슷한 성능을 가지면서도 학습에 필요한 계산 비용이 크게 낮다는 점이 특징입니다. 연구진은 고품질의 데이터 필터링, 단계적으로 규모를 확대하는 학습 기법(staged pre-training), 모델의 깊이를 전략적으로 증가시키는 기법(depth up-scaling), 그리고 파라미터 제거(pruning) 및 지식 증류(distillation) 기법 등을 통해 효율성을 극대화했습니다. 또한 후속 학습 단계(post-training)에서는 사용자의 의도에 맞는 더 자연스러운 상호작용을 위한 세밀한 지도학습(supervised fine-tuning) 및 사용자 선호 기반 최적화(preference optimization)까지 진행했습니다. 연구진은 또한 특정 응용 시나리오(임베딩, 검색 기반 생성, 함수 호출 등)에 특화된 모델 조정 기법도 소개했으며, 공개된 Kanana 모델(2.1B 파라미터 규모)이 한국어 NLP 연구 활성화에 기여할 것으로 기대합니다.

기타 응용분야

SurveyX: Academic Survey Automation via Large Language Models*

Paper, Project

이 논문은 대형 언어 모델(LLM)의 뛰어난 이해력과 방대한 지식을 활용하여 학술적 설문조사를 자동으로 생성하는 혁신적인 시스템을 소개합니다. 기존의 자동 설문 생성 연구는 맥락 창의 제한성이나 심도 있는 내용 부족 등 다양한 한계가 있었습니다. 이를 극복하기 위해 연구진은 인간이 실제로 설문을 작성할 때 사용하는 단계적 접근법을 본뜬 체계적인 시스템인 SurveyX를 개발했습니다. SurveyX 시스템은 크게 준비 단계와 생성 단계라는 두 단계로 구분됩니다. 준비 단계에서는 온라인에서 실시간으로 참고자료를 자동으로 검색하여 풍부한 학술 정보를 수집하고, AttributeTree라는 독자적인 정보 구조화 기법을 통해 이를 체계적으로 정리합니다. 이어지는 생성 단계에서는 이렇게 준비된 자료를 기반으로 설문 문항을 생성한 뒤, 최종적으로 결과물을 한 번 더 정교하게 다듬는(re-polishing) 과정을 거칩니다. 실험 결과 SurveyX는 콘텐츠 품질과 인용 품질 면에서 모두 기존의 설문 자동화 시스템을 큰 차이로 능가했으며, 일부 지표에서는 인간 전문가 수준의 성능에 근접했습니다. 연구진은 실제 예시들을 공개하여 학술적 설문 연구를 수행하는 연구자들에게 실질적인 도움을 제공하고 있습니다.

Mol-LLaMA: Towards General Understanding of Molecules in Large Molecular Language Model

Paper, Project

분자를 잘 이해하는 것은 생명체의 이해나 신약 개발 등 다양한 분야에서 핵심적인 역할을 합니다. 최근 분자 구조를 언어 모델 형태로 해석하는 연구들이 많았지만, 기존의 분자 언어 모델들은 특정 작업(task-oriented)에 특화된 제한된 데이터셋만을 사용하여 훈련되어 있어, 분자의 본질적인 특성에 대한 일반적 이해가 부족했습니다. 이 연구는 그러한 한계를 극복하고자 범용적인 분자 이해를 목표로 하는 새로운 분자 언어 모델인 Mol-LLaMA를 제안했습니다. Mol-LLaMA는 멀티모달 지시 학습(multi-modal instruction tuning) 기법을 활용해 분자 구조에서 유래하는 본질적 특성들을 포괄적으로 학습하며, 다양한 형태의 분자 표현법을 결합한 다중 인코더 모듈을 탑재하여 보다 깊이 있는 분자 특성을 학습합니다. 그 결과, 사용자의 질의에 대해 분자의 일반적인 특성을 기반으로 상세하고 명확한 설명을 제공할 수 있는 수준으로 발전했습니다. 연구진은 이 모델이 향후 일반 목적의 분자 분석을 위한 범용 AI 도구로 발전할 가능성을 강조했습니다.