[2025/W02] 🤗 Weekly AI Research

2025년 2주차에 공개된 주목할만한 AI 분야의 논문들을 소개합니다.

로보틱스/물리적 AI 분야

EnerVerse: Envisioning Embodied Future Space for Robotics Manipulation

Paper, Project

EnerVerse는 로봇 조작 작업을 위한 실체화된 미래 공간 생성 프레임워크입니다. 내부 청크 공간 모델링을 위해 합성곱과 양방향 주의 메커니즘을 통합하고, 영상 데이터의 중복성을 고려하여 희소 메모리 컨텍스트와 청크 단위 단방향 생성 패러다임을 도입함으로써 무한히 긴 시퀀스 생성을 가능하게 합니다. 특히 자유 앵커 뷰(FAV) 공간을 통해 유연한 관찰 시점을 제공하여 로봇의 적응성을 향상시키고, 4D 가우시안 스플래팅과 생성 모델을 결합한 데이터 엔진 파이프라인으로 다중 카메라 관찰의 비용 문제를 해결했습니다. 실험 결과, 이 접근방식이 특히 장거리 로봇 조작 작업에서 정책 예측 능력을 크게 향상시켰습니다.

Cosmos World Foundation Model Platform for Physical AI

Paper, Project

Cosmos World Foundation Model Platform은 물리적 AI 시스템을 위한 디지털 트윈 월드 모델을 구축할 수 있게 돕는 플랫폼입니다. 물리적 AI가 실제 환경에서 작동하기 전에 디지털 환경에서 먼저 훈련되어야 하는데, 이를 위해 AI 자체의 디지털 트윈(정책 모델)과 세계의 디지털 트윈(월드 모델)이 필요합니다. 이 플랫폼은 비디오 큐레이션 파이프라인, 사전 훈련된 월드 기반 모델, 사후 훈련 예제, 비디오 토크나이저를 제공하며, 다양한 응용 분야에 맞춤화할 수 있는 범용 월드 모델을 오픈소스로 제공함으로써 물리적 AI 개발자들을 지원합니다.

컴퓨터 비전/생성 모델 분야

STAR: Spatial-Temporal Augmentation with Text-to-Video Models for Real-World Video Super-Resolution

Paper, Project

STAR는 실제 비디오의 해상도를 높이기 위해 텍스트-비디오(T2V) 모델을 활용하는 새로운 접근법입니다. 기존의 이미지 기반 확산 모델들이 시간적 일관성을 유지하는데 어려움을 겪고, T2V 모델들은 실제 환경의 복잡한 화질 저하와 과도한 생성력으로 인한 충실도 손실 문제가 있었습니다. STAR은 이를 해결하기 위해 지역 정보 강화 모듈(LIEM)을 도입하여 세부 디테일을 풍부하게 하고 화질 저하 현상을 줄이며, 동적 주파수(DF) 손실 함수를 통해 확산 단계별로 다른 주파수 성분에 집중하도록 모델을 유도합니다. 실험 결과, 합성 및 실제 데이터셋 모두에서 최신 기법들보다 우수한 성능을 보여주었습니다.

LLaVA-Mini: Efficient Image and Video Large Multimodal Models with One Vision Token

Paper, Project

LLaVA-Mini는 시각 토큰을 최소화하여 대규모 다중 모달 모델(LMM)의 효율성을 크게 향상시킨 새로운 프레임워크입니다. 연구진은 LMM이 시각 토큰을 어떻게 이해하는지 분석한 결과, 대부분의 시각 토큰이 LLM 백본의 초기 층에서만 중요한 역할을 한다는 것을 발견했습니다. 이를 바탕으로 모달리티 사전 융합(modality pre-fusion)을 도입하여 시각 정보를 텍스트 토큰에 미리 융합함으로써, LLM 백본에 공급되는 시각 토큰을 단 하나로 압축할 수 있게 했습니다. 실험 결과, 기존 LLaVA-v1.5가 576개의 시각 토큰을 사용한 것과 달리 단 1개의 토큰으로도 더 나은 성능을 보여주었으며, 연산량을 77% 줄이고 40밀리초 내의 빠른 응답 시간을 달성했습니다.

The GAN is dead; long live the GAN! A Modern GAN Baseline

Paper, Project

R3GAN은 GAN(생성적 적대 신경망)이 학습하기 어렵다는 통념을 반박하고, 더 체계적인 방식으로 현대적인 GAN 기준을 제시합니다. 연구진은 모드 누락과 비수렴 문제를 해결하는 잘 정의된 정규화된 상대론적 GAN 손실 함수를 도출했으며, 이 손실 함수가 수학적으로 지역 수렴을 보장한다는 것을 증명했습니다. 이를 통해 기존의 임시방편적인 기법들을 제거하고 구식 구조를 현대적 아키텍처로 대체할 수 있게 되었습니다. StyleGAN2를 기반으로 단순화와 현대화를 진행한 결과, FFHQ, ImageNet, CIFAR, Stacked MNIST 데이터셋에서 StyleGAN2를 능가하고 최신 GAN 및 확산 모델들과 견줄 만한 성능을 보여주었습니다.

LLM 추론 및 최적화 영역

REINFORCE++: A Simple and Efficient Approach for Aligning Large Language Models

Paper, Project

REINFORCE++는 인간의 선호도에 맞게 대규모 언어 모델을 조정하는 인간 피드백 기반 강화학습(RLHF)의 새로운 방법입니다. 기존의 REINFORCE 알고리즘을 개선하여 PPO의 핵심 최적화 기법들을 통합하면서도 비평가 네트워크(critic network)의 필요성을 제거했습니다. 이를 통해 단순성, 향상된 학습 안정성, 감소된 계산 부하라는 세 가지 주요 목표를 달성했으며, 실험을 통해 GRPO보다 더 나은 안정성을 보이고 PPO보다 더 효율적인 계산을 하면서도 비슷한 수준의 성능을 유지함을 입증했습니다.

Search-o1: Agentic Search-Enhanced Large Reasoning Models

Paper, Project

Search-o1은 대규모 추론 모델(LRM)의 지식 부족 문제를 해결하기 위한 새로운 프레임워크입니다. 모델이 불확실한 지식에 직면했을 때 동적으로 외부 지식을 검색할 수 있는 에이전트 기반 검색-증강 생성(RAG) 메커니즘을 도입하고, 검색된 문서를 정제하는 Reason-in-Documents 모듈을 통해 추론 과정에 노이즈를 최소화하면서 필요한 정보를 통합합니다. 과학, 수학, 코딩 등의 복잡한 추론 작업과 6개의 오픈 도메인 QA 벤치마크에서 실시한 광범위한 실험을 통해 우수한 성능을 입증했으며, 이는 복잡한 추론 작업에서 LRM의 신뢰성과 적용 가능성을 크게 향상시켰습니다.

Towards System 2 Reasoning in LLMs: Learning How to Think With Meta Chain-of-Though

Paper

Meta Chain-of-Thought(Meta-CoT)는 전통적인 Chain-of-Thought(CoT) 방식을 확장하여 특정 사고 과정에 도달하는데 필요한 근본적인 추론 과정을 명시적으로 모델링하는 새로운 프레임워크입니다. 최신 모델들이 맥락 내 검색과 일치하는 행동을 보인다는 경험적 증거를 제시하고, 과정 감독, 합성 데이터 생성, 검색 알고리즘을 통해 Meta-CoT를 생성하는 방법을 탐구합니다. 특히 선형화된 검색 추적과 강화학습 사후 훈련을 포함한 구체적인 모델 훈련 파이프라인을 제시하며, 이는 인공지능의 더 강력하고 인간다운 추론을 위한 이론적, 실용적 로드맵을 제공합니다.

Agent Laboratory: Using LLM Agents as Research Assistants

Paper, Project

Agent Laboratory는 인간이 제공한 연구 아이디어를 바탕으로 전체 연구 과정을 자동으로 수행할 수 있는 대규모 언어 모델(LLM) 기반 프레임워크입니다. 문헌 검토, 실험, 보고서 작성이라는 세 단계를 거쳐 코드 저장소와 연구 보고서를 생성하며, 각 단계에서 사용자의 피드백과 지침을 반영할 수 있습니다. 다양한 최신 LLM을 통한 실험 결과, o1-preview가 가장 우수한 연구 결과를 생성했으며, 생성된 기계학습 코드는 기존 방법들과 비교해 최고 수준의 성능을 달성했습니다. 특히 각 단계에서의 인간 피드백이 연구의 전반적인 품질을 크게 향상시켰고, 기존 자동 연구 방법 대비 84%의 비용 절감을 달성했습니다.

AI 응용 시스템 분야

rStar-Math: Small LLMs Can Master Math Reasoning with Self-Evolved Deep Thinking

Paper, Project

rStar-Math는 작은 언어 모델(SLM)이 몬테카를로 트리 탐색(MCTS)을 통한 "깊은 사고"를 활용하여 OpenAI o1과 견줄만한 수학 추론 능력을 달성할 수 있음을 보여주는 연구입니다. 세 가지 혁신적인 방법을 도입했는데, 1) 코드 증강된 CoT 데이터 합성 방법으로 검증된 단계별 추론 경로를 생성하고, 2) 단순한 단계별 점수 주석을 피하는 새로운 과정 보상 모델 학습 방법을 개발하며, 3) 정책 SLM과 과정 선호도 모델을 처음부터 구축하여 반복적으로 진화시키는 자가 진화 방식을 적용했습니다. 74.7만 개의 수학 문제에 대한 수백만 개의 합성 해법을 통해 4라운드의 자가 진화를 거친 결과, MATH 벤치마크와 미국 수학 올림피아드(AIME)에서 최고 수준의 성능을 달성했습니다.

URSA: Understanding and Verifying Chain-of-thought Reasoning in Multimodal Mathematics

Paper, Project

이 연구는 다중 모달 수학 추론에 시스템 2 스타일의 사고를 도입하는 새로운 프레임워크를 제안합니다. Chain-of-Thought(CoT) 데이터 합성을 위해 CoT 증류, 궤적 형식 재작성, 형식 통합이라는 세 가지 모듈을 도입하여 고품질의 CoT 추론 학습 데이터셋인 MMathCoT-1M을 생성했습니다. 또한 시각적 접지 충실도와 연역적 체인 유효성을 모두 고려하는 이중 관점 궤적 라벨링 자동화를 구현하여 DualMath-1.1M 데이터셋을 만들었습니다. 이를 통해 학습된 URSA-8B 모델은 6개의 추론 벤치마크에서 유사한 크기의 다중 모달 LLM들 중 최고 성능을 달성했으며, DualMath-1.1M으로 추가 학습된 URSA-RM-8B는 GPT-4o와 같은 강력한 비공개 모델들도 능가했습니다.