[2025/W32] 🤗 Weekly AI Research

확산 모델과 동적 미세조정 DFT로 추론 효율의 새로운 기준을 제시
연쇄적 사고 CoT의 한계를 넘어 통합 모델 스카이워크와 VeriGUI로 실용적 일반화 능력 증명

Is Chain-of-Thought Reasoning of LLMs a Mirage? A Data Distribution Lens

Paper, Project
대규모 언어 모델(LLM)이 보여주는 연쇄적 사고(Chain-of-Thought, CoT) 능력은 진정한 추론 과정이 아닐 수 있다는 문제의식에서 이 연구는 시작된다. 논문은 LLM의 CoT가 인간과 유사한 추론이 아니라, 훈련 데이터에 내재된 패턴을 조건부로 생성하는 것에 가깝다고 주장한다. 따라서 CoT 능력의 효과는 훈련 데이터와 테스트 질문 간의 분포 차이에 의해 근본적으로 제한된다. 연구진은 이러한 가설을 검증하기 위해 'DataAlchemy'라는 독립적이고 통제된 환경을 구축하여 LLM을 처음부터 훈련시켰다. 이 환경을 통해 과제의 유형, 추론의 길이, 형식이라는 세 가지 차원에서 데이터 분포를 체계적으로 조작하며 모델의 반응을 관찰했다. 실험 결과, LLM의 CoT 추론 능력은 훈련 데이터의 분포를 벗어나는 순간 급격히 저하되는 취약한 신기루임이 드러났다. 이 연구는 CoT가 왜 그리고 언제 실패하는지에 대한 깊은 이해를 제공하며, 진정으로 일반화 가능한 추론 능력 확보가 AI 분야의 지속적인 과제임을 강조한다.

Qwen-Image Technical Report

Paper, Project
본 보고서는 이미지 생성 분야에서 복잡한 텍스트 렌더링과 정밀한 이미지 편집 능력을 크게 발전시킨 파운데이션 모델 'Qwen-Image'를 소개한다. 기존 모델들은 이미지 내에 정확한 텍스트, 특히 한자와 같은 표어 문자를 표현하는 데 어려움을 겪었다. 이 문제를 해결하기 위해 연구진은 대규모 데이터 수집, 필터링, 주석, 합성을 포함하는 포괄적인 데이터 파이프라인을 설계했다. 또한, 간단한 텍스트 렌더링에서 시작하여 점차 문단 수준의 복잡한 텍스트를 처리하도록 하는 점진적 학습 전략을 채택하여 모델의 기본 텍스트 렌더링 능력을 크게 향상시켰다. 이미지 편집의 일관성을 높이기 위해서는 전통적인 텍스트-이미지 변환(T2I) 및 텍스트-이미지-이미지 변환(TI2I) 작업에 더해, 이미지-이미지 복원(I2I) 작업을 통합하는 개선된 다중 작업 훈련 패러다임을 도입했다. 이를 통해 'Qwen-Image'는 여러 벤치마크에서 최고 수준의 성능을 달성하며, 이미지 생성과 편집 양쪽 모두에서 강력한 역량을 입증했다.

VeriGUI: Verifiable Long-Chain GUI Dataset

Paper, Project
최근 자율적으로 복잡한 그래픽 사용자 인터페이스(GUI) 기반 컴퓨터 작업을 수행하는 AI 에이전트 연구가 활발히 진행되고 있다. 하지만 기존 연구들은 주로 단기적인 상호작용에 초점을 맞추고 최종 결과만으로 성공 여부를 검증하여, 긴 시간 동안 여러 단계를 수행해야 하는 실제 GUI 환경으로 확장하는 데 한계가 있었다. 이러한 문제를 해결하기 위해 본 연구는 현실적인 컴퓨터 환경에서 범용 GUI 에이전트의 개발과 평가를 촉진하기 위한 새로운 데이터셋 'VeriGUI'를 제안한다. 'VeriGUI'는 두 가지 핵심 차원에 중점을 둔다. 첫째, 장기 복잡성으로, 수백 단계에 이르는 작업을 상호 의존적인 하위 작업의 순서로 분해하여 설계했다. 둘째, 하위 작업 수준의 검증 가능성으로, 각 하위 작업의 목표 달성 여부를 명확히 검증할 수 있도록 하여 에이전트의 수행 과정을 정밀하게 평가할 수 있다. 다양한 파운데이션 모델을 기반으로 한 에이전트들을 'VeriGUI'에서 실험한 결과, 장기 작업을 처리하는 데 있어 상당한 성능 격차가 발견되었으며, 이는 GUI 에이전트에게 더 강력한 계획 및 의사결정 능력이 필요함을 시사한다.

Seed Diffusion: A Large-Scale Diffusion Language Model with High-Speed Inference

Paper, Project
이 논문은 이산 상태 확산(discrete-state diffusion) 기술에 기반하여 매우 빠른 추론 속도를 제공하는 대규모 언어 모델 'Seed Diffusion' 프리뷰 버전을 제시한다. 기존의 언어 모델들은 토큰을 하나씩 순차적으로 생성하여 본질적인 지연 시간을 가졌지만, 이산 확산 모델은 비순차적이고 병렬적인 생성 방식을 통해 이 문제를 해결한다. 'Seed Diffusion'은 H20 GPU 환경에서 초당 2,146 토큰이라는 놀라운 추론 속도를 달성했다. 이는 동시대의 다른 확산 모델들보다 훨씬 빠른 속도다. 동시에, 표준 코드 평가 벤치마크 전반에서 경쟁력 있는 성능을 유지하며 코드 모델의 '속도-품질 파레토 프론티어'에서 새로운 최고 기술 수준(SOTA)을 확립했다. 이 모델은 특히 코드 생성과 같이 긴 결과물이 필요한 작업에서 지연 시간을 획기적으로 줄일 수 있는 가능성을 보여준다.

Cognitive Kernel-Pro: A Framework for Deep Research Agents and Agent Foundation Models Training

Paper, Project
범용 AI 에이전트는 차세대 인공지능의 핵심 프레임워크로 인식되고 있다. 그러나 현재 에이전트 시스템은 대부분 비공개 소스이거나 유료 API 및 독점 도구에 크게 의존하여 연구 커뮤니티의 접근성과 재현성을 제한한다. 이러한 문제를 해결하고자 본 연구는 고급 AI 에이전트의 개발과 평가를 민주화하기 위해 설계된 완전한 오픈소스 무료 다중 모듈 에이전트 프레임워크 'Cognitive Kernel-Pro'를 공개한다. 이 프레임워크 내에서 연구진은 에이전트 파운데이션 모델을 위한 고품질 훈련 데이터 생성 방법을 체계적으로 연구했다. 특히 웹, 파일, 코드, 일반 추론의 네 가지 핵심 영역에 걸쳐 질의, 실행 궤적, 검증 가능한 답변을 구축하는 데 집중했다. 또한 에이전트의 견고성과 성능을 향상시키기 위해 테스트 시간에 스스로를 평가하고 투표하는 새로운 전략을 탐구했다. 'Cognitive Kernel-Pro'는 GAIA 벤치마크에서 다른 오픈소스 무료 에이전트들을 능가하는 최고 수준의 결과를 달성하며, 접근성 높은 고성능 AI 에이전트의 새로운 성능 표준을 제시했다.

On the Generalization of SFT: A Reinforcement Learning Perspective with Reward Rectification

Paper, Project
본 논문은 대규모 언어 모델 훈련에 널리 쓰이는 지도 미세조정(SFT) 방식이 강화학습(RL)에 비해 일반화 성능이 제한되는 문제를 해결하기 위해, 이론에 기반한 간단하면서도 효과적인 개선책을 제시한다. 수학적 분석을 통해, 표준 SFT의 그래디언트가 모델의 일반화 능력을 심각하게 제한할 수 있는 문제적인 보상 구조를 암묵적으로 학습한다는 사실을 밝혔다. 이를 바로잡기 위해 연구진은 동적 미세조정(Dynamic Fine-Tuning, DFT)을 제안한다. 이 방법은 각 토큰이 생성될 확률을 이용해 목적 함수의 크기를 동적으로 조절함으로써 그래디언트 업데이트를 안정시킨다. 놀랍게도 이 단 한 줄의 코드 변경만으로 표준 SFT의 성능을 여러 어려운 벤치마크와 다양한 기반 모델에서 크게 능가하며, 월등히 향상된 일반화 성능을 입증했다. 이 접근법은 이론적 통찰과 실용적 해결책을 연결하여 SFT의 성능을 실질적으로 발전시켰다.

Efficient Agents: Building Effective Agents While Reducing Cost

Paper, Project
LLM 기반 에이전트의 놀라운 능력은 복잡한 다단계 작업을 해결하는 정교한 시스템을 가능하게 했지만, 급증하는 비용은 확장성과 접근성을 위협한다. 이 연구는 성능 저하 없이 비용 효율적인 설계를 모색하며, 현대 에이전트 시스템의 효율성-효과성 상충 관계에 대한 최초의 체계적인 연구를 제시한다. 연구는 LLM 백본 선택, 에이전트 프레임워크 설계, 테스트 시간 확장 전략의 영향을 GAIA 벤치마크에서 '통과 비용(cost-of-pass)' 지표를 사용하여 정량적으로 평가했다. 이 분석 결과를 바탕으로, 작업 요구사항에 최적화된 복잡도를 가진 새로운 에이전트 프레임워크 'Efficient Agents'를 개발했다. 'Efficient Agents'는 선도적인 오픈소스 에이전트 프레임워크인 OWL 성능의 96.7%를 유지하면서도, 운영 비용을 크게 절감하여 비용 효율성을 28.4% 개선했다. 이 연구는 효율적이고 고성능인 에이전트 시스템 설계를 위한 실질적인 통찰을 제공하며, AI 기반 솔루션의 접근성과 지속 가능성을 높이는 데 기여한다.

Beyond Fixed: Variable-Length Denoising for Diffusion Large Language Models

Paper, Project
확산 언어 모델(DLLM)은 효율적인 병렬 생성과 전역적 문맥 모델링 능력으로 주목받고 있으나, 생성 길이를 정적으로 미리 정의해야 하는 치명적인 구조적 제약을 가지고 있다. 이로 인해 길이가 부족하면 복잡한 작업에 실패하고, 과도하게 길면 계산 비용이 낭비되는 문제가 발생한다. 본 연구는 모델 자체가 최적의 응답 길이에 대한 내부 신호를 가지고 있다는 점에 착안하여, 이 잠재적 신호를 활용하는 새로운 훈련 없는 노이즈 제거 전략 'DAEDAL'을 제안한다. DAEDAL은 두 단계로 작동한다. 첫째, 노이즈 제거 전에 짧은 초기 길이에서 시작하여 시퀀스 완성도 지표를 통해 작업에 적합한 대략적인 길이까지 반복적으로 확장한다. 둘째, 노이즈 제거 과정 중에 동적으로 개입하여 불충분한 생성 영역을 찾아내 마스크 토큰을 삽입함으로써 최종 결과물이 완전히 생성되도록 길이를 확장한다. 실험 결과 DAEDAL은 정교하게 조정된 고정 길이 모델과 비슷하거나 더 우수한 성능을 달성하면서도, 유효 토큰 비율을 높여 계산 효율성까지 동시에 향상시켰다.

Skywork UniPic: Unified Autoregressive Modeling for Visual Understanding and Generation

Paper, Project
본 연구는 이미지 이해, 텍스트-이미지 생성, 이미지 편집 기능을 단일 아키텍처 내에서 통합한 15억 매개변수 규모의 자기회귀 모델 'Skywork UniPic'을 소개한다. 이 모델은 작업별 어댑터나 모듈 간 연결 장치 없이 모든 기능을 수행하며, 비교적 작은 시스템으로도 최고 수준의 성능을 달성할 수 있음을 보여준다. 'Skywork UniPic'은 RTX 4090과 같은 일반 소비자용 하드웨어(15GB 미만 GPU 메모리)에서 1024x1024 해상도의 이미지를 생성할 수 있다. 이러한 성과는 합성을 위한 마스킹된 자기회귀 인코더와 이해를 위한 SigLIP2 인코더를 분리하여 공유 디코더에 공급하는 분리 인코딩 전략, 그리고 256x256에서 1024x1024 해상도로 확장하며 파라미터를 동적으로 활성화하는 점진적, 해상도 인식 훈련 방식 덕분이다. 고품질의 멀티모달 통합이 반드시 막대한 자원을 요구하지 않는다는 것을 증명함으로써, 'Skywork UniPic'은 배포 가능한 고성능 멀티모달 AI의 실용적인 패러다임을 확립했다.