
2024년 Sakana AI가 연구 아이디어 제안부터 코드 작성, 실험, 논문 집필, 자동 리뷰까지 전 과정을 하나의 루프로 연결한 The AI Scientist를 공개한 이래, AI 기반 연구 에이전트 분야는 매우 빠른 속도로 진화해 왔습니다.
이 진화 과정을 관통하는 핵심 축은 크게 세 가지로 요약할 수 있습니다.
| 핵심 축 | 핵심 질문 | 대표 연구 계보 |
|---|---|---|
| 탐색 (Exploration) | 어떤 연구 가설을 탐색할 것인가? | AI Scientist AI Scientist-v2 DeepScientist |
| 적응 (Adaptation) | 과거의 실패와 경험에서 어떻게 배울 것인가? | EvoScientist NanoResearch AutoSci / Sibyl |
| 신뢰성 (Reliability) | 도출된 연구 주장을 논리적으로 어떻게 검증할 것인가? | EviGraph Trustworthy Autonomous Science |
하지만 이러한 가파른 발전과 함께 근본적인 의문도 함께 제기되고 있습니다.
"대규모 자동 탐색이 과연 인류 지식의 과학적 지평을 실제로 넓혀주고 있는가?"
2026년 발표된 논문 AI Research Agents Narrow Scientific Exploration은 이 문제에 대해 매우 냉정한 실증적 경고를 던집니다.
결국 지난 2년간의 역사는 단순히 LLM의 성능이 좋아진 과정이 아니라, "AI 연구 시스템이 내부적으로 유지·관리해야 하는 '연구 상태(Research State)'가 고도화되어 온 과정"으로 해석하는 것이 가장 정확합니다.
The AI Scientist(코드: SakanaAI/AI-Scientist)의 가장 큰 공헌은 파편화되어 있던 연구 작업들을 하나의 자동화된 엔드투엔드(E2E) 루프로 묶어냈다는 점입니다.

디퓨전 모델, 트랜스포머, 학습 동역학 등 3가지 머신러닝 분야에서 논문 1편을 작성하는 데 드는 비용을 15달러 미만으로 낮추며 가능성을 시연했습니다.
[현재 아이디어 + 현재 코드 + 현재 실험 결과] 수준에 머물렀으며, 실행 세션이 끝나면 시스템의 모든 맥락이 초기화되는 비저장형(Stateless) 구조였습니다.AI Scientist-v2(코드: SakanaAI/AI-Scientist-v2)는 고정된 일직선 파이프라인을 점진적 에이전틱 트리 검색(Progressive Agentic Tree Search) 구조로 전환했습니다.

실험 관리자(Experiment Manager)가 여러 연구 경로를 동시 다발적으로 생성한 뒤, 중간 결과를 평가하며 유망한 가지(Branch)를 확장해 나가는 방식입니다. 인간의 코드 템플릿 의존성도 완전히 제거했습니다.
아이디어 → {경로1, 경로2, 경로3...} → 평가 및 선택 → 확장 구조로 바뀌면서, 연구 프로세스가 '탐색 및 검색 문제(Search Problem)'로 재정의되었습니다.DeepScientist(코드: ResearAI/DeepScientist)는 과학적 발견 자체를 평가 비용이 비싼 블랙박스 최적화 문제로 정의했습니다.

아이디어()를 저비용 가설 검증부터 시작하여 유망한 후보만 고충실도(High-fidelity) 실험으로 승격시키는 베이지안 최적화(Bayesian Optimization) 매커니즘을 도입했습니다.
5,000개 생성 → 1,100회 실험 → 21건 성공이라는 수치가 보여주듯, 연구의 핵심 병목이 아이디어 양산이 아니라 '유망한 후보를 선별하는 필터링(Validation & Filtering)'으로 이동했습니다.EvoScientist(공식 사이트: EvoScientist)는 이전 실행(Run)이 끝나면 경험이 소멸하던 상태 비저장(Stateless) 한계를 극복하고자 했습니다.

연구자(Researcher), 엔지니어(Engineer), 진화 관리자(Evolution Manager) 에이전트가 역할을 분담하고, 시스템 내에 두 가지 형태의 지속성 메모리(Persistent Memory)를 구축했습니다.
경험 체득 → 메모리 구조화 → 검색 → 행동 변화를 구현하는 '시스템 수준의 경험적 학습(System-level Experiential Learning)'을 완성했습니다.NanoResearch는 "자동화 시스템이 누구를 위해 작동하는가?"라는 질문을 던집니다. 모든 연구자는 선호하는 가설 검증 방식, 해석 가능성에 대한 비중, 요구하는 증거의 수준이 다릅니다.

NanoResearch는 연구자 개인화를 세 가지 레이어로 분리하여 관리합니다. (위 그림에서 오른쪽 위의 세 가지 항목)
💡 주의점: 인식론적 에코 챔버 (Epistemic Echo Chamber) > 지나친 개인화는 연구자의 기존 편향과 선입견을 AI가 그대로 강화해 버리는 부작용을 낳을 수 있습니다. 뛰어난 연구 에이전트는 연구자의 취향에 맞추면서도, 때로는 기존 틀을 깨는 반대 가설과 낯선 시도를 의도적으로 제안하는 탐색과 적응 사이의 밸런스를 가져야 합니다.
단순히 실패 기록을 DB에 저장해 둔다고 해서 AI가 실제로 학습했다고 볼 수 있을까요? 이 의문에 답하기 위해 두 연구가 등장했습니다.

AutoSci(코드: skyllwt/AutoSci)는 지식 메모리(SciMem), 생애주기 관리(SciFlow), 멀티에이전트 워크플로우(SciDAG), 시스템 진화(SciEvolve)의 4개 계층을 통해 시스템 전체를 버전 관리되는 연구 전용 운영체제(Research OS)로 확장했습니다.

Sibyl-AutoResearch(코드: AutoResearch-SibylSystem)는 부실한 증거가 과장된 주장으로 이어지거나, 메모리는 축적되면서도 행동은 바뀌지 않는 '착시 현상'을 감지하기 위한 엄밀한 평가 기준을 제시했습니다.
사후 감사를 통해 8건의 고신뢰 전환 사건을 확인했으며, 진정한 학습 평가의 기준을 "무엇을 기억했는가"에서 "그 경험으로 인해 다음 행동이 실제로 어떻게 변했는가"로 전환했습니다.
EviGraph는 AI가 생성해 낸 그럴듯한 서술 속에 숨겨진 논리적 단절 문제를 해결하고자 합니다.

연구의 핵심 상태를 문제 정의 → 연구 공백 → 가설 → 실험 → 발견 → 최종 주장으로 이어지는 유형화된 증거 그래프(Typed Evidence Graph)로 유지하며 작동합니다.
그렇다면 AI Scientist의 규모를 무한히 확장하면 인류의 과학적 발견 범위도 그만큼 넓어질까요?
21만 개 이상의 연구 아이디어를 정밀 분석한 연구 AI Research Agents Narrow Scientific Exploration은 그렇지 않을 수 있다는 결과를 보여줍니다.

이는 국소 최적화를 잘 하는 도구(Local Optimizer)가 광범위한 과학적 탐색을 잘 하는 도구(Scientific Explorer)는 아니라는 점을 명백히 보여줍니다.
지난 2년간 AI Scientist의 진화는 모델 자체의 단일 성능 향상이 아니라, 에이전트가 유지 관리하는 '연구 상태(Research State)'의 고도화 과정이었습니다.
| 세대 / 대표 연구 | 확장된 핵심 연구 상태 (Core State) | 핵심 전환점 |
|---|---|---|
| 1세대 (The AI Scientist) | 단일 실행 건의 아이디어·코드·실험 | 연구 전 과정의 단순 워크플로우 자동화 |
| 2세대 (AI Scientist-v2) | 연구 브랜치 및 탐색 트리 | 고정 파이프라인에서 탐색 공간 검색으로 전환 |
| 3세대 (DeepScientist) | 후보 가설 + 가치 평가 + 결과 저장소 | 연구 자원 배분을 고려한 베이지안 최적화 |
| 4세대 (EvoScientist) | 프로젝트 간 실패/성공 경험 이력 | 단발성 실행을 넘어선 지속성 메모리 도입 |
| 5세대 (NanoResearch) | 경험 + 사용자의 성향 + 재사용 스킬 | 연구자 맞춤형 정책 적응(Policy Adaptation) |
| 6세대 (AutoSci / Sibyl) | 연구 생애주기 + 가변적 실행 프레임워크 | 메모리 저장을 넘어 시스템 자가 진화(Research OS) |
| 7세대 (EviGraph) | 가설-실험-발견-주장 간 증거 구조 | 논문 생성을 넘어 주장의 논리적 증거 체인 검증 |
오크리지 내셔널 랩에서 최근 공개한 로드맵 보고서 Toward Trustworthy Autonomous Science 에 수록된 내용 등을 종합할 때, 차세대 자율 과학 시스템은 다음 7가지 계층이 유기적으로 결합되어야 합니다.
초기 AI Scientist의 평가 기준이 단순히 "논문 한 편을 완성할 수 있는가?"였다면, 앞으로 자율 과학 시스템의 가치를 평가하는 성과 지표(KPI)는 다음과 같은 형태로 바뀌어야 합니다.
단순히 수만 개의 아이디어를 생성하거나 수백 편의 논문을 자동 작성하는 양적 수치는 더 이상 핵심 지표가 될 수 없습니다.
앞으로 AI Scientist 연구의 본질적인 프런티어는 다음 두 가지 질문으로 집약될 것입니다.
결국 AI Scientist의 진화는 '논문을 대신 써주는 AI'에서, '경험을 축적하고, 탐색 전략을 스스로 교정하며, 연구자에게 적응하고, 자신의 주장에 대해 명확한 증거를 제시하는 신뢰할 수 있는 과학적 발견 시스템'으로 나아가고 있습니다.