SAai

Leopold Aschenbrenner의 2024년 6월 에세이 시리즈 《Situational Awareness: The Decade Ahead》(약 165페이지)를 요약합니다.

원문은 웹사이트(situational-awareness.ai)와 PDF로 공개됐으며, 도입부 + 5개 파트로 구성됩니다. 핵심 메시지는 “딥러닝 트렌드라인만 믿어도 AGI(인공일반지능)가 2027년경 도달할 가능성이 매우 높고, 그 직후 초지능(superintelligence)으로 빠르게 폭발할 것이며, 이를 제대로 인식하는 사람은 아직 극소수”라는 것입니다.

도입부

• 샌프란시스코(특히 AI 랩)에 있는 소수만이 “상황 인식(situational awareness)”을 가지고 있다.
• 세상은 아직 “다음 단어 예측일 뿐”이라거나 “인터넷 수준의 기술 변화” 정도로만 보고 있다.
• 실제로는 이미 AGI 경쟁이 시작됐고, 2025~26년이면 많은 대졸자 수준을 넘고, 2030년 전후로 인간을 초월하는 초지능이 등장할 것이라고 주장.
• 국가안보 차원이 개입되고, 중국(CCP)과의 전면 경쟁(운이 좋으면) 또는 전쟁(운이 나쁘면) 가능성도 언급.

I. From GPT-4 to AGI: Counting the OOMs

• GPT-2(2019, 유치원 수준) → GPT-4(2023, 똑똑한 고등학생 수준)의 도약이 4년 만에 이뤄졌다.
• 이 도약은 유효 컴퓨트(effective compute)의 꾸준한 증가로 설명 가능:
  • 물리적 컴퓨트: 연 ~0.5 OOM(10배 규모)
  • 알고리즘 효율: 연 ~0.5 OOM
  • “Unhobbling”(챗봇 → 에이전트화, 도구 사용, 추론 강화 등 제약 해제): 추가 이득
• 같은 트렌드가 이어지면 2027년까지 또 한 번의 GPT-2→GPT-4급 질적 도약이 가능하고, 이는 AI 연구자/엔지니어 수준의 원격 동료(drop-in remote worker) 수준에 도달할 수 있다.
• “직선 그래프를 믿어라”가 핵심 메시지. 딥러닝은 계속 작동해 왔고, “벽에 부딪혔다”는 주장은 매년 틀려 왔다.

II. From AGI to Superintelligence: the Intelligence Explosion

• AGI에 도달해도 멈춘다기보다, 수백만~수억 개의 AGI가 AI 연구 자체를 자동화하면 알고리즘 진보가 극적으로 가속된다.
• 10년치 알고리즘 진보(5+ OOM)가 1년 이내로 압축될 수 있고, 인간 수준에서 훨씬 초월하는 초지능으로 빠르게 넘어간다.
• 이 과정의 힘과 위험은 모두 극단적이다.

III. The Challenges (세부 파트)

• IIIa. Racing to the Trillion-Dollar Cluster: AI 수익 급증에 따라 조 단위(trillions) GPU·데이터센터·전력 인프라 투자가 이뤄질 것이다. 미국 전력 생산이 수십 % 늘어나는 수준의 산업 동원이 필요하다.
• IIIb. Lock Down the Labs: 현재 주요 AI 랩의 보안은 매우 취약하다. AGI 핵심 비밀·모델 가중치가 중국 등 국가 행위자에게 사실상 넘어갈 위험이 크다. 국가 수준 보안이 시급하다.
• IIIc. Superalignment: 인간보다 훨씬 똑똑한 시스템을 신뢰성 있게 통제하는 문제는 아직 풀리지 않았다. 지능 폭발 과정에서 쉽게 통제 불능이 될 수 있고, 실패 시 재앙적일 수 있다.
• IIId. The Free World Must Prevail: 초지능은 결정적인 경제·군사 우위를 준다. 중국이 완전히 밀린 상태가 아니며, 자유 세계의 생존이 걸린 경쟁이다. 자기 파괴를 피하면서 우위를 유지할 수 있는가?

IV. The Project

• AGI 경쟁이 심화되면 미국 정부가 개입할 것이다.
• 2027~28년경 일종의 정부 주도 AGI 프로젝트(“The Project”)가 등장할 가능성이 높다. 스타트업만으로는 초지능을 다룰 수 없고, SCIF(비밀 시설) 안에서 최종 국면이 펼쳐질 것이다.

V. Parting Thoughts

• “우리가 맞다면 어떻게 될까?”를 묻는다.
• 2030년대는 세계가 완전히 알아볼 수 없게 변하고, 새로운 세계 질서가 형성될 것이라고 전망.

전체 톤과 영향

에세이는 공개 정보·필드 지식·SF 가십을 바탕으로 하며, 과장된 미래 예측이 아니라 스케일링 법칙과 트렌드라인의 외삽을 강조한다. 발표 직후 실리콘밸리·AI 정책 서클에서 널리 공유됐고, “AGI by 2027” 포지션의 대표 텍스트가 됐으며, 저자 본인이 같은 이름의 헤지펀드를 설립하는 투자 논거로도 활용됐다.

원문은 각 파트가 독립적으로도 읽히도록 쓰였지만, 전체를 순서대로 읽는 것을 권장한다. 요약은 핵심 주장만 압축한 것이며, 세부 계산·그래프·반론 대응은 원문을 참고하는 것이 좋다.

2024년 6월, 전 OpenAI 연구원 레오폴드 애션브레너가 165페이지짜리 에세이 《Situational Awareness: The Decade Ahead》를 발표했습니다.

핵심 주장은 단순하면서도 충격적이었습니다.

“딥러닝 트렌드라인만 믿어도 AGI는 2027년경 도달할 가능성이 매우 높다.”

GPT-2에서 GPT-4로 4년 만에 ‘유치원생 → 똑똑한 고등학생’ 수준으로 도약한 것처럼,
컴퓨트·알고리즘 효율·‘unhobbling’(챗봇 → 에이전트화)의 꾸준한 증가가 이어지면 또 한 번의 질적 도약이 가능하다는 논리입니다.

그 다음은 더 드라마틱합니다.
AGI가 AI 연구 자체를 자동화하면 지능 폭발이 일어나고, 초지능으로 빠르게 넘어간다는 것입니다.

동시에 그는 경고합니다.

• 조 단위 인프라 투자와 전력 수요 폭증
• AI 랩 보안의 취약성
• 아직 풀리지 않은 superalignment 문제
• 중국과의 지정학적 경쟁
• 결국 2027~28년경 미국 정부가 개입하는 ‘The Project’의 등장 가능성

당시 실리콘밸리와 테크 업계에 큰 파장을 일으켰고, 이후 그의 AI 인프라 투자 철학의 기반이 됐습니다.

2년이 지난 지금, 이 에세이의 예측 중 어디까지가 현실로 다가오고 있는지 다시 한 번 돌아볼 시점인 것 같습니다.

여러분은 어떻게 보시나요?

#AI #AGI #SituationalAwareness #LeopoldAschenbrenner

In June 2024, former OpenAI researcher Leopold Aschenbrenner dropped a 165-page essay: Situational Awareness: The Decade Ahead.

His core claim:
Trust the trendlines. AGI by ~2027 is strikingly plausible.

GPT-2 to GPT-4 took us from preschooler to smart high-schooler in 4 years. The same scaling in compute, algorithms, and “unhobbling” (chatbot → agent) points to another leap — models that can work as AI researchers.

Then comes the intelligence explosion: millions of AGIs automating AI R&D, rapidly pushing us to superintelligence.

He also flagged the massive infrastructure race, weak lab security, unsolved superalignment, and the geopolitical stakes with China — predicting a U.S. government “Project” by 2027–28.

Two years later, how much of this is already unfolding?

#AI #AGI #SituationalAwareness

Demis Hassabis (Google DeepMind CEO)의 최근 AGI 타임라인

Hassabis는 비교적 신중하고 일관된 목소리를 내는 편이었지만, 2026년에 들어 타임라인을 다소 앞당겼습니다.

주요 발언 정리 (2026년 기준)

• 가장 자주 쓰는 표현: “2030년 전후 (plus or minus a year)”

  • Stanford Graduate School of Business 인터뷰 등에서 반복:
    “I believe that we’re only a few years away from that, maybe 2030, plus or minus a year.”

• 2029년 가능성도 열어둠

  • 2026년 5월 Google I/O 이후 Axios 인터뷰:
    여전히 2030년 전후를 기본으로 보지만, 2029년도 가능하다고 언급.
    현재 에이전트(agent) 발전을 보고 “practice run”으로 표현하며 자신감이 높아진 모습.

• “A few short years away”

  • 2026년 7월 X/Substack 에세이에서:
    AGI가 “probably only a few short years away”라고 표현하며, 준비할 “precious window(소중한 시간창)”가 얼마 남지 않았다고 강조.

과거와 비교

• 이전에는 주로 5~10년 또는 2030년대 초반을 이야기했으나,
  2026년에는 2029~2031년 전후로 좁혀진 느낌입니다.
• 그는 여전히 “우리는 아직 AGI가 아니다”라고 선을 그으면서도,
  “singularity의 산기슭(foothills of the singularity)에 서 있다”고 표현할 정도로 임박감을 강조하고 있습니다.

요약

Hassabis의 현재 공개 입장은
“2030년 ±1년 (즉 2029~2031년 전후)이 합리적 추정치”이며,
“몇 년 안에 올 수 있다”는 쪽으로 무게가 실리고 있습니다.

(참고로 Leopold Aschenbrenner의 2027년 전망보다는 조금 더 보수적인 편입니다.)

Leopold Aschenbrenner의 “2027 예측”은 별도의 후속 보고서가 아니라, 2024년 6월에 발표한 165페이지 에세이 《Situational Awareness: The Decade Ahead》의 핵심 주장입니다.

핵심 내용 (2027년 관련)

에세이 1부 “From GPT-4 to AGI: Counting the OOMs”에서 가장 유명한 주장을 합니다.

“AGI by 2027 is strikingly plausible.”
(2027년까지 AGI가 도달하는 것이 매우 그럴듯하다.)

근거는 단순합니다:

• GPT-2(2019) → GPT-4(2023)까지 약 4년 만에 “유치원생 수준 → 똑똑한 고등학생 수준”으로 도약했다.
• 이 도약은 유효 컴퓨트(effective compute)의 꾸준한 증가로 설명된다.
  • 물리적 컴퓨트: 연 ~0.5 OOM
  • 알고리즘 효율: 연 ~0.5 OOM
  • Unhobbling(챗봇 → 에이전트화, 도구 사용 등 제약 해제)
• 같은 트렌드가 이어지면 2027년까지 또 한 번의 비슷한 질적 도약이 가능하고, 그 결과 AI 연구자/엔지니어 수준의 “drop-in remote worker”가 나올 수 있다.

이 AGI가 나오면:

• 수백만~수억 개의 AGI가 AI 연구 자체를 자동화
• 10년치 알고리즘 진보가 1년 이내로 압축되는 지능 폭발(intelligence explosion)
• 2028~2029년경 초지능(superintelligence) 도달 가능성

관련 다른 예측

예측	타임라인
AGI (drop-in AI researcher)	2027년 말
지능 폭발 → 초지능	2028–2029
조 단위 단일 클러스터	2030
연간 AI 인프라 투자 $8T 규모	2030
미국 정부 “The Project” (정부 주도 AGI 프로젝트)	2027–2028

현재 상황 (2026년 중반 기준)

• 컴퓨트 스케일링과 인프라 투자 쪽은 대체로 그의 예측 궤적에 근접하거나 앞서 가고 있다는 평가가 많습니다.
• 본격적인 “AGI by 2027”(자율적으로 AI 연구를 수행하는 수준)은 아직 미확인 상태이며, 남은 기간(약 1년 반) 동안의 진전이 관건입니다.
• 정부 주도 “The Project”는 아직 본격화되지 않았고, 보안·alignment 문제는 그가 경고한 대로 여전히 미흡하다는 평가가 많습니다.

요약하면, “Leopold Aschenbrenner 2027 Report”는 그의 2024년 에세이에서 제시한 “2027년 AGI 도달이 매우 그럴듯하다”는 트렌드라인 기반 예측을 가리키는 표현입니다.

아직 Aschenbrenner가 말한 “The Project” 수준은 아닙니다.

현재 미국 정부의 AI 관련 움직임 (2025~2026)

트럼프 2기 행정부는 2025년 7월 “America’s AI Action Plan” (Winning the Race)을 발표했습니다.
이건 실제로 나온 공식 정책입니다.

주요 내용:

• 3대 기둥: 혁신 가속화, AI 인프라 구축, 국제 외교·안보 주도
• 규제 완화, 데이터센터·반도체 인프라 허가 신속화, 오픈소스 장려
• AI 수출 패키지, 국방부 AI 도입 확대 등
• 90개 이상의 구체적 정책 액션 제시

이후 Genesis Mission(2025년 11월 행정명령으로 출범)도 나왔습니다.

• AI를 활용해 과학 발견을 가속화하는 국가 미션
• 에너지부(DOE) 주도로 15개 이상 기관 참여
• 2026년 7월 기준 50억 달러 이상 연방 예산 투입, 278개 프로젝트 선정
• 일부에서 “맨해튼 프로젝트급 동원”이라고 표현하기도 함

Aschenbrenner의 “The Project”와 비교

Aschenbrenner가 2024년 에세이에서 말한 The Project는 이보다 훨씬 더 강한 형태였습니다:

• 2027~28년경 미국 정부가 프론티어 AI 랩들을 사실상 통합·통제하는 수준의 국가 프로젝트
• 스타트업이 감당하기 어려운 초지능을 다루기 위해 정부가 직접 개입
• SCIF(비밀 시설) 안에서 진행되는 본격적인 국가 안보 프로젝트
• 민간 랩이 주도권을 넘기거나, 정부·민간 합작 형태로 재편되는 시나리오

현재 나온 AI Action Plan + Genesis Mission은:

• 방향성(국가 차원의 AI 경쟁 인식, 인프라·안보 강조)은 그의 예측과 일치하는 부분이 많습니다.
• 하지만 민간 랩(OpenAI, Anthropic, Google DeepMind 등)을 통합하거나 국유화하는 수준은 아닙니다.
• 민간 주도 구조를 유지하면서 정부가 지원·인프라·안보를 강화하는 쪽에 가깝습니다.

정리

구분	Aschenbrenner 예측 (The Project)	현재 실제 상황 (2026년 중반)
시기	2027~28년	2025년부터 본격화
성격	정부 주도 통합 프로젝트 (거의 국가화)	민간 주도 + 정부 지원·조율
강도	맨해튼 프로젝트급	큰 국가 미션이지만 아직 그 수준은 아님
랩 통제	프론티어 랩 통합/통제 시사	민간 랩 독립성 유지

결론적으로, 미국 정부는 이미 AI를 국가 전략 최우선 과제로 다루기 시작했고, AI Action Plan과 Genesis Mission을 통해 개입을 강화하고 있습니다.
다만 Aschenbrenner가 그린 “정부가 직접 초지능 개발을 장악하는 The Project”까지는 아직 도달하지 않은 상태입니다. 그의 타임라인(2027~28년)을 기준으로 보면, 아직 1~2년 남은 상황이라고 볼 수 있습니다.