[정리] SK AI SUMMIT 키노트 정리 - Day1 오전

서쿠·2024년 11월 8일

'24년 SK AI SUMMIT

목록 보기

1/3

'SK AI 서밋 2024'는 2024년 11월 4일부터 5일까지 서울 코엑스에서 개최된 대규모 인공지능 행사로, 국내외 AI 석학과 기업가들이 참여하여 AI 시대의 공존 방안을 논의하고 생태계 강화 방안을 모색했습니다.

이틀의 서밋 일정 동안, Day 1은 기술적 기반(인프라와 반도체)과 생태계 강화에 초점을 맞추어 "AI 혁신의 뼈대"를 구축하려는 논의였다면, Day 2는 이를 바탕으로 "AI의 활용과 확장"을 논의하며 개인화 및 국가 전략으로의 연결을 탐구했습니다.

Day 1 주요 컨셉 및 주제 정의

Key-Concept : "AI 생태계와 인프라의 혁신: 기술, 협력, 그리고 지속 가능성"
Day 1은 AI 기술의 발전을 위한 인프라와 생태계의 혁신, 글로벌 협력 방안에 중점을 두고 논의되었습니다. 특히 AI 인프라 구축, 반도체 기술, 에너지 자원 활용, 그리고 Generative AI의 잠재력이 핵심적으로 다뤄졌습니다.
핵심 키워드:
- AI 생태계 강화
- 반도체 및 AI 인프라
- 지속 가능 에너지 활용
- Generative AI
- 글로벌 협력

Day 2 주요 컨셉 및 주제 정의

Key-Concept : "AI의 개인화와 글로벌화: K-AI 생태계, 신사업, 그리고 정책 방향"
Day 2는 AI 기술의 개인화 서비스, K-AI 생태계의 글로벌화, 그리고 국가 전략과 정책 방향에 대한 논의가 이루어졌습니다. 특히 AI 에이전트 기술, 통신사 중심 생태계, 그리고 대한민국의 AI 경쟁력 강화가 주요 화두였습니다.
핵심 키워드:
- AI 에이전트 기술
- K-AI 생태계 글로벌화
- 디지털 신경망
- 정책 및 국가 경쟁력
- 신사업 기회

본 포스트는 Day 1 오전 세션 발표 주제 정리를 목적으로 작성되었습니다.

Day 1 오전 발표 주제 정리

1. 협력으로 만들어가는 AI 생태계: AI Tomorrow, AI Together

발표자: 최태원 (SK그룹 회장)
내용: AI 생태계를 강화하고 발전시키기 위한 글로벌 협력 방안 제시.

2. 대담: AI의 미래

참여자: Greg Brockman (OpenAI 회장 겸 사장, 공동창립자), 이준표 (SBVA 대표, Moderator)
내용: AI의 미래 기술과 발전 방향에 대한 대담 형식의 논의.

3. Embracing the Future: SK's Approach to Next Era of AI

발표자: 유영상 (SK텔레콤 CEO)
내용: SK텔레콤의 AI 전략과 향후 계획 소개.

4. 차세대 AI Memory의 새로운 여정, 하드웨어를 넘어 일상으로

발표자: 곽노정 (SK하이닉스 CEO)
내용: 차세대 메모리 기술을 통해 일상 생활에서의 AI 활용 가능성 탐구.

1. 협력으로 만들어가는 AI 생태계: AI Tomorrow, AI Together

발표자: 최태원 (SK그룹 회장)

내용: AI 생태계를 강화하고 발전시키기 위한 글로벌 협력 방안 제시.

최태원 회장은 AI 생태계의 발전과 글로벌 협력을 강조하며, AI 기술이 가져올 미래의 가능성과 이를 실현하기 위해 해결해야 할 과제를 제시했습니다.

이미지 출처 : 최태원 회장, SKT 뉴스룸 (링크)

1. AI 생태계의 현황과 중요성

AI는 아직 초기 단계이며, 기술적·사회적 난제들이 여전히 존재함.
AI 기술은 전 세계적으로 광범위한 영향을 미치며, 이를 긍정적으로 발전시키기 위해 다양한 협력이 필요함.
SK는 AI 생태계 강화를 위한 여러 글로벌 협력 사례를 소개.

2. 글로벌 협력 사례

OpenAI와 Microsoft:
- OpenAI와 Microsoft의 파트너십은 AI 혁신의 핵심적인 예시로 언급됨.
- SK는 OpenAI와 Microsoft와의 협력을 통해 AI 기술 및 에너지 문제에 대한 해결 방안을 모색 중.
- Microsoft와의 협업으로 탄소 중립 실현과 데이터 센터 에너지 문제 해결에 중점을 둠.
- Microsoft 사티아 나델라 회장은 SK와의 협력을 AI 생태계의 지속 가능성에 중요한 사례로 언급.

이미지 출처 : Satya Nadella MS 회장, SKT 뉴스룸 (링크)

TSMC:
- SK 하이닉스와 TSMC는 차세대 반도체 및 메모리 기술 개발을 통해 AI 발전에 기여.
- TSMC는 파트너십을 통해 3D 실리콘 스태킹 및 첨단 패키징 기술을 활용하여 AI 연산 성능과 에너지 효율성을 높이고 있음.
NVIDIA:
- NVIDIA의 젠슨 황과 협력하여 AI 가속기를 개발.
- HBM(High Bandwidth Memory)을 기반으로 한 협업을 통해 AI 데이터 센터의 효율성을 극대화.

3. AI 생태계의 주요 과제 (Bottlenecks)

사용 사례 (Use Case)의 부재:
- AI 기술에 대한 대규모 투자가 이루어지고 있으나, 이를 회수할 명확한 비즈니스 모델과 수익 사례가 부족함.
- SK텔레콤은 글로벌 통신사들과 협력해 B2B AI 솔루션(Telco LLM) 및 개인화 AI 에이전트 서비스(A-dot)를 개발 중.
AI 가속기 및 반도체:
- NVIDIA의 GPU가 압도적이지만, 수요를 충족하지 못하는 상황.
- HBM과 같은 고대역폭 메모리에 대한 필요성이 증가하며, SK 하이닉스는 이를 해결하기 위해 NVIDIA와 긴밀히 협력 중.
  
  이미지 출처 : NVIDIA의 Jensen Huang CEO와 David Patterson 교수, SKT 뉴스룸 (링크)

SK는 NVIDIA와 함께 탁월한 공정 기술력을 가진 전 세계 최고의 반도체 파운드리 회사인 TSMC와 긴밀히 협력하며 전 세계 AI Chip의 공급 부족 현상을 해결 중.

이미지 출처 : TSMC의 C.C. 웨이 회장, SKT 뉴스룸 (링크)

조금 더 디테일하게 각 기업체의 역할에 대해서 살펴보도록 하겠습니다.

GPU(그래픽 처리 장치)

GPU는 고성능 연산을 담당하는 핵심 부품으로, 특히 인공지능(AI) 및 고성능 컴퓨팅 분야에서 중요한 역할을 합니다.
(참고) 💡 GPU에 대해서 더 디테일하게 알고 싶으신 분은 아래 포스트 확인부탁드립니다~!
- 블로그 : CPU, GPU, 그리고 GPU 원리

이러한 GPU의 성능을 극대화하기 위해 고대역폭 메모리(HBM)가 사용되며, 이는 대용량 데이터의 빠른 전송을 지원합니다. 아래는 GPU 제조 공정 단계별 주요 기업의 역할을 정리해봤습니다.

제조 공정 단계별 주요 기업의 역할

설계(Design):
- NVIDIA: GPU의 설계와 아키텍처를 담당하는 팹리스(Fabless) 기업으로, 자체 생산 시설 없이 칩 설계에 집중합니다.
메모리 생산(Memory Production):
- SK하이닉스: HBM과 같은 고성능 메모리 칩을 생산하여, GPU와 결합하여 성능을 향상시킵니다.
제조(Manufacturing):
- TSMC: NVIDIA가 설계한 GPU를 실제 반도체 칩으로 제조하는 파운드리(Foundry) 기업으로, 첨단 공정 기술을 통해 칩을 생산합니다.
패키징 및 테스트(Packaging and Testing):
- TSMC: 제조된 GPU 칩과 SK하이닉스의 HBM을 결합하여 하나의 패키지로 조립하고, 이를 테스트하여 최종 제품을 완성합니다.

옆 길로 잠깐 빠져서 디테일하게 반도체 시장 조사를 좀 해보았습니다.

궁금하신 분들은 읽어보시고 SK SUMMIT 내용만 궁금하신 분들을 해당 파트는 스킵하시면 됩니다 ⭐:

🤔 흠.. 나 아직 반도체 잘 모르네? ㅎㅎ

반도체 산업의 기업 역할에 따라 아래와 같이 분류를 수행해보았습니다.

이미지 출처: 반도체 공급 단계 모식도 (출처: e4ds.com)

✅ 팹리스(Fabless) 기업: 'Fabless'는 "Fabrication" + "less" (제조 + 없음)의 합성어로, 자체 생산 시설 없이 반도체 설계와 개발에 집중하는 회사를 의미합니다.

이들은 칩의 설계와 개발을 담당하며, 실제 제조는 파운드리 기업에 위탁합니다.

대표적인 팹리스 기업으로는 엔비디아(NVIDIA), 퀄컴(Qualcomm), AMD 등이 있습니다.

NVIDIA: GPU 설계 및 아키텍처 개발을 담당하는 팹리스 기업입니다. 그래서 위 발표에서 젠슨 황 대표는 NVIDIA는 팹리스 기업으로써 타 기업들과의 공생이 중요하다고 이야기하고 있습니다.

✅ 파운드리(Foundry) 기업: 파운드리 기업은 반도체 제조를 전문으로 하며, 자체 제품 설계 없이 팹리스 기업이나 IDM(종합 반도체 기업)으로부터 설계를 받아 반도체를 생산합니다.

이들은 고도의 제조 기술과 대규모 생산 시설을 보유하고 있으며, 대표적인 기업으로는 TSMC(대만), 삼성전자(한국), 글로벌파운드리스(미국) 등이 있습니다.

TSMC: NVIDIA의 설계를 기반으로 GPU 칩을 제조하고, SK하이닉스의 HBM과 결합하여 패키징 및 테스트를 수행하는 파운드리 기업.

✅ 메모리 제조 기업: 메모리 반도체(DRAM, NAND 플래시, HBM(High Bandwidth Memory) 등)를 설계하고 생산하는 기업을 말합니다.

이들은 메모리 제품의 설계부터 제조까지 모두 담당하며, 대표적인 기업으로는 삼성전자, SK하이닉스, 마이크론 등이 있습니다. 이러한 기업들은 메모리 반도체 분야에서 강력한 경쟁력을 보유하고 있습니다.

SK하이닉스: HBM과 같은 고성능 메모리 칩을 생산하여, TSMC의 패키징 과정에서 GPU와 결합되는 메모리 제조 기업.

👓 (참고) 낸드 플래시(NAND Flash)
주로 SSD(Solid State Drive), USB 메모리, SD 카드 등과 같은 저장 장치에 사용됩니다. 이러한 장치는 데이터를 영구적으로 저장하는 역할을 하며, 하드 디스크 드라이브(HDD)를 대체하거나 보완하는 용도로 활용됩니다.

이미지 출처: 512Mb 낸드 NAND∙데이터저장형 플래시메모리, SK하이닉스 뉴스룸 (링크)

👓 (참고) 고대역폭 메모리(HBM)
GPU(그래픽 처리 장치)는 그래픽 연산과 데이터 처리를 담당하는 부품으로, 자체적으로 데이터를 저장하는 기능은 없습니다. GPU의 성능을 향상시키기 위해 고대역폭 메모리(HBM)와 같은 메모리가 함께 사용되며, 이는 GPU와 직접 결합되어 고속 데이터 처리를 지원합니다.

이미지 출처: 12단 적층 HBM3E
SK하이닉스 뉴스룸 (링크)

✅ IDM(Integrated Device Manufacturer, 종합 반도체 기업): IDM은 설계와 제조를 모두 수행하는 반도체 기업을 의미합니다.

이들은 반도체 칩 설계와 제조뿐만 아니라 일부는 후공정(패키징 및 테스트)까지 담당하며, 반도체 생산 전 과정을 내재화하여 진행합니다.

대표적인 IDM 기업으로는 삼성전자, 인텔(Intel), 텍사스 인스트루먼트(TI) 등이 있습니다.

이러한 기업들은 강력한 내부 통합성을 바탕으로 높은 품질의 반도체 제품을 제공합니다.

🤔 삼성전자, SK하이닉스, 마이크론은 메모리 제조 기업 아녔나?

삼성전자, SK하이닉스, 마이크론은 모두 메모리 반도체를 설계하고 제조하는 기업으로, 이러한 활동을 통해 메모리 제조 기업으로 분류됩니다.

또한, 이들은 반도체의 설계부터 제조, 패키징, 테스트, 판매까지 모든 과정을 자체적으로 수행하는 종합 반도체 기업(IDM, Integrated Device Manufacturer)이기도 합니다.

따라서, 이들 기업은 메모리 제조 기업이면서 동시에 IDM(Integrated Device Manufacturer, 종합 반도체 기업)으로서의 역할을 수행하고 있습니다.

다시 본론으로 넘어도록하겠습니다 :)

에너지 문제:
- AI 데이터 센터는 막대한 전력이 필요하며, 이를 충족하기 위한 새로운 에너지 자원 개발이 가히 필수적이라고 할 수 있음.
- AI 데이터 센터의 급격한 전력 수요 증가는 에너지 공급과 탄소 배출 측면에서 새로운 도전 과제를 제시하고 있습니다.
- 이를 해결하기 위해 SK는 다양한 에너지 솔루션을 모색하고 있습니다.를 제시하고 있습니다.

차세대 전력원 개발:

소형 모듈형 원자로 (Small Modular Reactor, SMR): SK는 2022년 TerraPower에 투자하여 SMR 기술 개발을 지원하고 있습니다. SMR은 기존 원전에 비해 안전성과 경제성이 높고, 탄소 배출이 없어 AI 데이터 센터의 대규모 전력 수요를 충족하는 데 이상적인 솔루션으로 평가받고 있습니다.

테라파워 (TerraPower):
테라파워는 차세대 원자로 기술을 개발하는 미국의 에너지 기업으로, 소형 모듈형 원자로(SMR) 분야에서 혁신적인 기술을 선도하고 있습니다. SMR은 기존 원전에 비해 안전성과 경제성이 높고, 탄소 배출이 없어 AI 데이터 센터의 대규모 전력 수요를 충족하는 데 이상적인 솔루션으로 평가받고 있습니다.

이미지 출처: https://www.seoul.co.kr/news/economy/industry/2024/06/12/20240612018002

분산형 전원 공급 솔루션:

연료전지: SK에코플랜트는 미국의 연료전지 제조사 블룸 에너지와 협력하여 데이터 센터의 분산형 전원 공급 솔루션을 개발하고 있습니다. 이를 통해 전력망과 인프라의 문제를 해결하고, 안정적인 전력 공급을 목표로 하고 있습니다.

블룸 에너지(Bloom Energy):
미국의 연료전지 제조사인 블룸에너지(Bloom Energy)는 고체산화물 연료전지(SOFC) 기술을 기반으로 한 고효율 연료전지 및 수소 생산 설비를 제공하는 기업입니다. 블룸에너지의 연료전지는 천연가스, 바이오가스, 수소 등을 연료로 사용하여 높은 효율로 전기를 생산하며, 데이터센터와 같은 에너지 집약적 산업 분야에서 활용되고 있습니다.

이미지 출처: https://news.skecoplant.com/sk-ecoplant/12545/

냉각 기술 혁신:

액침 냉각: SK엔무브는 액침 냉각 선도 기업 GRC와 함께 데이터 센터의 액침 냉각 사업을 추진하고 있습니다. 이 기술은 칩과 서버의 전력 효율을 높이고 발열 문제를 효과적으로 해결하는 데 기여합니다.

GRC(Green Revolution Cooling):
액침 냉각 선도 기업인 GRC(Green Revolution Cooling)는 2009년에 설립되어 데이터센터의 효율적인 열 관리 솔루션을 제공하는 글로벌 리더입니다. GRC는 전자 장비를 전기가 통하지 않는 특수 냉각유에 담가 발열을 효과적으로 제어하는 액침 냉각 기술을 개발하였으며, 이를 통해 데이터센터의 에너지 소비를 크게 절감하고 있습니다. 이러한 기술은 고성능 컴퓨팅 환경에서의 발열 문제를 해결하는 데 특히 유용합니다.

이미지 출처: https://www.newsis.com/view/NISX20240809_0002844347

고효율 칩 및 기판 개발:

저전력 고효율 칩: SK하이닉스는 저전력 고효율 칩 개발에 주력하고 있으며, 이를 통해 데이터 센터의 에너지 효율을 향상시키고자 합니다.
유리 기판: SK앱솔릭스와 Chipletz는 차세대 기판 소재로 주목받는 유리 기판을 개발하고 있습니다. 유리 기판은 기존 실리콘 기판에 비해 소비 전력이 낮고 발열을 감소시킬 수 있어 데이터 센터의 에너지 효율 개선에 도움이 됩니다.

칩플렛(Chipletz):
'칩플렛(Chipletz)'은 차세대 반도체 패키징 기술을 개발하는 기업으로, 특히 유리 기판을 활용한 솔루션에 주력하고 있습니다. 유리 기판은 기존의 실리콘 기판에 비해 전력 소비가 낮고 발열을 감소시킬 수 있어 데이터센터의 에너지 효율 개선에 기여할 수 있습니다.

이미지 출처: https://www.thelec.kr/news/articleView.html?idxno=22989

AI 클러스터 구축 및 운영:

Penguin Solutions: SK텔레콤이 투자한 Penguin Solutions는 대규모 AI 클러스터 구축 경험을 보유하고 있으며, 이를 통해 수만 개의 GPU 서버로 구성된 AI 클러스터의 설계, 구축, 운영을 지원합니다.

펭귄 솔루션즈 (Penguin Solutions):
펭귄 솔루션즈는 대규모 AI 솔루션▪클러스터 구축 경험을 보유한 기업입니다. AI 솔루션 구축 사업이란, AI 관련 서비스를 제공하는 기업의 요청을 받아 GPU, DataCenter, Server 등을 조합한 데이터 인프라를 구축하고 관리해 주는 일입니다.

이미지 출처: https://www.hankyung.com/article/202411049663i

GPU 자원의 효율적 활용:

GPU as a Service: SK텔레콤이 투자한 미국의 람다는 'GPU as a Service' 모델을 통해 한정된 GPU 자원을 효율적으로 활용할 수 있는 서비스를 제공합니다. 이를 통해 기업들은 고가의 GPU를 직접 구매하지 않고도 데이터 센터의 가상 환경에서 GPU를 임대하여 사용할 수 있습니다.

람다 (Lambda):
람다는 미국에 본사를 둔 기업으로, 'GPUaaS(GPU as a Service)' 모델을 통해 기업들이 고가의 GPU를 직접 구매하지 않고도 데이터 센터의 가상 환경에서 GPU를 임대하여 사용할 수 있는 서비스를 제공합니다. 이를 통해 AI 연구자와 기업들은 효율적으로 고성능 컴퓨팅 자원을 활용할 수 있습니다.

이미지 출처: https://www.thelec.kr/news/articleView.html?idxno=29737

데이터 품질과 규모:
- 양질의 데이터를 확보하는 것이 AI 발전의 핵심이라고 강조.
- SK는 데이터 프라이버시를 보장하는 AI 기술 개발에 집중하며, 데이터 확보와 활용 방안을 연구.

4. SK의 전략과 비전

SK는 에너지, 데이터 센터 운영, AI 서비스 개발 등 AI 생태계 전반을 아우르는 솔루션 제공자로서의 입지를 강화하고자 함.

글로벌 협력을 통해 AI 혁신을 가속화하고, AI 기술의 실질적 혜택을 전 세계로 확산.
AI 데이터 센터의 에너지 효율성을 개선하기 위해 새로운 냉각 기술(액침 냉각)과 글라스 기판 같은 혁신적 소재를 활용.
AI 기술 발전의 선순환을 위해 지속적인 협력과 연구 개발을 추진.

(후기) 전반적으로 SK에서 어떤식으로 AI를 바라보고 있으며, 요즘 가장 핫하다고 해도 과언이 아닌 NVIDIA에 단순히 편승하는 것이 아닌 다양한 방면에서 연구하고 있다는 인상을 주었습니다.

2. 대담: AI의 미래

참여자: Greg Brockman (OpenAI 회장 겸 사장, 공동창립자), 이준표 (SBVA 대표, Moderator)

내용: AI의 미래 기술과 발전 방향에 대한 대담 형식의 논의.

다음은 제가 기대하고 있던 OpenAI Greg Brockman 대담이었습니다!! ㄷㄱㄷㄱ

이미지 출처 : OpenAI의 Greg Brockman 회장 & SK 최태원 회장, SKT 뉴스룸 (링크)

OpenAI의 비전과 여정

1. OpenAI의 비전

인류를 위한 AI: OpenAI의 목표는 모든 인류에게 혜택을 줄 수 있는 AI를 개발하고, AI의 강점을 극대화해 사회적으로 긍정적인 영향을 미치는 것.
- "기술이 인간의 한계를 확장하고, 인류의 삶을 더 행복하고 긍정적으로 변화시킬 수 있다"고 믿음.
- 논리와 추론 강화: AI가 단순한 속도와 정확성을 넘어선 사고 능력을 갖추도록 발전시켜야 한다고 강조.
- AGI(Artificial General Intelligence): 인간처럼 생각하고 문제를 해결할 수 있는 범용 인공지능 개발을 최종 목표로 설정.

2. OpenAI의 여정

초기 시작: 2015년 OpenAI 설립 당시에는 명확한 전략이 없었으며, 단지 AI 기술이 세상을 바꿀 수 있다는 비전만 존재.
- Greg와 Sam Altman은 초기부터 "늦지 않게 시작하자"는 사명감으로 시작.
- 다양한 배경의 인재들이 모여 혁신을 이루는 연구 환경 조성.
기술적 도전과 실패: 초기에는 게임과 강화학습 분야에서 알고리즘 개발을 시도했으나 실패 경험도 많았음.
- 점진적으로 기술을 확장하며, 기존 기술을 최대로 활용하고 새롭게 스케일업(Scaling-up)을 추진.
GPT 모델 발전:
- GPT-3 이후, 개발자들에게 사용 사례를 발굴하도록 피드백 수집.
- GPT-4에서는 "진정한 대화"가 가능한 모델로 전환, 인간과 자연스러운 대화를 통해 사회적 문제를 해결할 수 있는 AI로 발전.

AI의 현재와 미래

1. 현재

AI 기술의 강점:
- 속도와 정확성: 인간이 수행하는 작업을 몇 초 만에 처리.
- 창의 및 논리 부족: 아직 인간의 창의성과 논리적 사고를 완전히 대체하지 못함.

사회적 기여: 특히 헬스케어 분야에서 혁신을 기대하고 있음.
- 희귀 질환 진단, 데이터 통합 분석 등에서 기존 의료 시스템의 한계를 극복.
- AI는 다양한 도메인의 정보를 통합해 인간이 놓치는 통찰을 제공할 수 있음.

2. 미래

도전 과제:
- AI가 논리와 추론 능력을 더욱 강화해야 함.
- 기술 발전 속도를 따라가기 위한 인프라 및 연산 자원의 확보가 필수적.

AGI(범용 인공지능):
- AGI는 특정 도메인을 넘어서 인간처럼 문제를 해결하고 사고할 수 있는 AI.
- Greg는 AGI가 인류의 행복한 삶에 기여하는 방향으로 개발되어야 한다고 강조.

표 출처: 삼성 SDS 블로그 (링크)

AI와 산업, 일자리

1. 산업

AI는 수평적 기술로 모든 산업에 영향을 미칠 가능성.
- 특히 헬스케어, 제조업, 법률, 금융 등에서 변화 예상.
- Greg는 AI가 인간의 역량을 확장하고, 새로운 가능성을 창출할 것으로 기대.

2. 일자리

변화하는 고용 환경:
- AI는 일부 일자리를 대체할 수 있으나, 동시에 새로운 형태의 일자리를 창출.
- 스타트업 진입 장벽이 낮아져 더 많은 기업 설립 가능.
- Greg는 사람들이 열정을 기반으로 하는 일에 더 집중할 수 있는 시대가 올 것으로 기대.
장기적 비전:
- 기본 소득 보장과 같은 시스템을 통해 사람들이 생계를 위해 일하지 않아도 되는 시대가 열릴 가능성.
- 이는 사람들이 진정으로 원하는 일에 몰두할 수 있는 기회를 제공.

AI 인프라와 소프트웨어 비즈니스

1. 인프라

AI 발전을 위해 연산 자원, 데이터, 알고리즘의 병목현상을 해결해야 함.
- 반도체, 전력, 데이터 센터 등 물리적 인프라가 AI 기술의 핵심 요소.
- SK와 같은 글로벌 파트너와 협업을 통해 대규모 데이터 센터 및 AI 인프라 구축.

2. 소프트웨어 비즈니스

AI가 소프트웨어 비즈니스뿐만 아니라 물리적 인프라와도 밀접하게 연결.
- Greg는 AI 기술이 기존 비즈니스 모델을 혁신하고, 새로운 가치를 창출할 것이라고 전망.

GPT 개발의 어려움과 Greg Brockman의 경험

초기 어려움:
- 2015년 설립 초기, 비전은 있었으나 명확한 전략과 전술 부재.
- "기술을 먼저 개발하고 사용 사례를 찾자"는 접근법을 선택.
개발 중 도전 과제:
- GPT-3를 개발했을 때, 사람들이 이 모델로 무엇을 할지 몰랐던 상황.
- API 개발 초기에는 사용자의 피드백이 부족해 시장 적합성을 확인하기 어려웠음.
혁신의 순간:
- GPT-4 개발 중 "진정한 대화"의 가능성을 깨닫고 대화형 AI로 전환.
- 데이터와 맥락을 활용해 AI가 자연스러운 대화와 추론을 가능하게 함.
끊임없는 스케일링:
- 모델의 한계를 극복하기 위해 데이터와 연산 자원을 최대한 활용하며, 기술을 확장.
- Greg는 초기 실패와 반복적인 시도를 통해 얻은 교훈을 강조.

국가 주도의 AI 모델 (Sovereign AI)

필요성:
- 국가 단위의 AI 모델은 각국의 데이터 통제와 도메인 특화에 필수적.
- Greg는 각국이 AI 기술을 주도적으로 개발하고, 국민에게 영향을 미치는 시스템을 관리해야 한다고 강조.
장점:
- AI 생태계의 다양성과 견고함을 확보.
- 국가별로 특화된 데이터 세트와 알고리즘으로, 지역적 필요에 부합하는 AI를 개발 가능.
단점:
- 국가별로 분리된 AI 시스템이 국제적 협력을 저해할 위험.
Greg의 접근법:
- OpenAI는 Sovereign AI와의 협력을 통해 시너지 효과를 기대.
- 다양한 접근법과 비전을 바탕으로 전 세계적인 AI 생태계 형성을 목표로 함.

Greg Brockman의 비전

긍정적 미래를 위한 AI:
- AI가 인류의 행복을 증진하고, 사회적 문제를 해결하는 데 기여할 수 있다고 믿음.
- 기술 발전은 단순한 효율 증대를 넘어 인류의 삶의 질을 향상시키는 방향으로 나아가야 함.
공동의 노력:
- Greg는 AI 발전이 "함께 손잡고" 이뤄져야 하며, 정부, 기업, 연구소 간 협력을 통해 더욱 긍정적인 미래를 만들어갈 수 있다고 주장.
10년 후 비전:
- Greg는 AI가 더 많은 사람들에게 행복한 삶을 제공하고, 지속 가능한 지구를 만드는 데 기여할 것으로 기대.
- 이는 기술적 혁신과 인류의 협력을 통해 가능하다고 강조.

3. Embracing the Future: SK's Approach to Next Era of AI

발표자: 유영상 (SK텔레콤 CEO)

내용: SK텔레콤의 AI 전략과 향후 계획 소개.

1. 대한민국 ICT 성공 방정식의 재조명

SKT 유영상 CEO는 대한민국 ICT 역사와 성공 사례를 AI 시대에 접목할 필요성을 강조하며 발표를 시작했습니다.

ICT 인프라의 성공 방정식:
- 세계 최고 수준의 통신 인프라와 스마트폰, 통신 장비, 플랫폼, 서비스가 글로벌 성과를 이루어냄.
- 이 성공 방식을 AI 시대에도 적용하여 "AI 인프라 슈퍼 하이웨이"를 구축할 필요성을 역설.

2. "AI 인프라 슈퍼 하이웨이"란 무엇인가?

AI 인프라 슈퍼 하이웨이는 다음의 3대 축으로 구성됩니다.

AI 데이터센터
- 지역 중심의 AI 데이터센터:
  - 수도권 전력 부족 문제를 극복하기 위해 지역에 데이터센터를 구축.
  - 신재생 에너지(태양광 등)와 저탄소 LNG 발전, 소형 모듈형 원자로(SMR) 활용.
  - 최신 기술 적용: 엔비디아 AI 반도체, 4세대 냉각 기술(액침 냉각 포함).
- AI 데이터센터 테스트베드:
  - 국내 최초의 AI 데이터센터 테스트베드.
  - 최신 반도체와 GPU 가상화 기술, 에너지 관리 솔루션 등 적용.
  - 12월 판교 오픈 예정.

GPU Azure 서비스
- 최신 GPU를 활용한 클라우드 서비스 제공.
- 엔비디아 H100 기반 GPU와 같은 첨단 하드웨어를 활용하여 성능을 극대화.
- 클라우드 기업 람다(Lambda)와의 협력을 통해 가산 데이터센터에서 GPU 서비스를 시작.
- H200도 내년에 도입 예정.

Edge AI 서비스
- 통신과 AI의 결합:
  - 통신 국사에 AI 서버와 맞춤형 설계를 도입하여 전국 단위 AI 인프라를 구축.
  - 분산된 자원을 통합 관리하는 AI 오케스트레이션 기술 연구.
- 엣지 AI 적용 사례:
  - 건설 현장에서 로봇 정밀 제어 기술 개발.
  - 헬스케어 분야에서 구급차 실시간 협진 시스템 구현.

4. 차세대 AI Memory의 새로운 여정, 하드웨어를 넘어 일상으로

발표자: 곽노정 (SK하이닉스 CEO)

내용: 차세대 메모리 기술을 통해 일상 생활에서의 AI 활용 가능성 탐구.

곽노정 CEO는 "넥스트 AI 메모리 하드웨어"라는 주제로 발표를 시작하며 AI 메모리의 정의와 역할, 그리고 SK하이닉스의 미래 AI 메모리 준비에 대해 소개했습니다.

발표는 두 가지 주요 챕터로 구성되었습니다:

메모리 반도체의 개념 변화 (과거, 현재, 미래)
SK하이닉스의 미래 AI 메모리 반도체 기술 및 제품

💌 들어가며...
발표 내용을 소개하기에 앞서 반도체 관련 개념 및 용어를 정리하고 넘어가겠습니다. 제가 잘 몰라서 내용을 정리하면서 조사한 부분들을 추가적으로 정리한 내용이므로 이미 알고 계신 분들은 스킵하고 넘어가셔도 무방합니다!

용어 정리

반도체, 반도체 칩:
1. 반도체 물질: 전기 전도성이 도체와 절연체의 중간인 물질을 말합니다.
  - 주로 실리콘(Si)이나 게르마늄(Ge) 같은 원소 반도체, 또는 갈륨비소(GaAs) 같은 화합물 반도체를 의미합니다.
  - 이 물질들은 온도, 빛, 전자, 전계 등에 따라 전기적 특성이 변화합니다.
2. 반도체 칩(집적회로): 반도체 물질을 가공하여 만든 전자 부품을 말합니다.
  - 트랜지스터, 다이오드 등의 전자 소자들이 집적된 형태입니다.
  - 흔히 '칩'이라고 부르며, 컴퓨터의 CPU나 메모리 등이 이에 해당합니다.
3. 구분 방법:
  - 반도체 물질: 원재료 상태를 의미하며, 가공되지 않은 상태입니다.
  - 반도체 칩: 반도체 물질을 가공하여 만든 최종 제품 또는 부품을 의미합니다.
반도체 칩 제조 공정 개요:

출처: 삼성 반도체 8대 공정 한 눈에 보기! (https://bit.ly/3yRQNiX)
위 그림을 참고해서 일반적인 반도체 칩 체조 공정의 각 단계를 정리해보았습니다.
1. 웨이퍼 제조: 웨이퍼는 반도체 소자의 "기초 재료"로, 모든 소자(트랜지스터, 다이오드 등)가 형성되는 물리적 기반입니다. 반도체의 기본 재료인 웨이퍼는 고순도의 실리콘 단결정으로 만들어집니다.

웨이퍼가 고순도 실리콘 단결정으로 만들어져야 하는 이유는, 결정 내 불순물이나 결함이 전기적 성질을 방해하기 때문입니다. 실리콘 원료를 고온에서 용해한 후, seed crystal을 사용하여 단결정을 성장시키는 Czochralski(CZ) 방법을 통해 실리콘 잉곳을 제작합니다. 이 잉곳을 얇게 절단하여 웨이퍼를 만들고, 표면을 연마하여 매끄럽게 처리합니다.

이러한 웨이퍼는 반도체 소자의 기반이 됩니다. 웨이퍼는 이후 공정(증착, 식각 등)에서 여러 층의 전자 소자를 정밀하게 쌓을 수 있는 기반을 제공합니다.

👍 공정의 기본 아이디어
좀 더 쉬운 이해를 위해서 스포일러를 해보겠습니다. 반도체 공정의 기본 아이디어는 "막아서 보호하고 필요한 곳만 깎기" 라고 표현할 수 있습니다.

산화 공정은 웨이퍼를 보호하기 위해 산화막이라는 얇은 층을 웨이퍼 전체에 입히는 작업입니다.

이후 포토 공정과 식각 공정을 통해 산화막을 선택적으로 제거하여, 필요한 부분만 드러냅니다.

드러난 영역에 도핑이나 증착 같은 작업을 수행한 뒤, 다시 보호와 가공을 반복합니다.

🤷‍♂️ 왜? 이런 "막고 깎는 방식"을 사용하는가?

웨이퍼를 보호하기 위해 ¹

웨이퍼는 매우 민감하며, 공정 중 물리적/화학적 손상에 쉽게 노출됩니다.

산화막은 이러한 손상으로부터 웨이퍼를 보호하고, 필요한 부분만 선택적으로 작업할 수 있게 해줍니다.

정밀도를 높이기 위해 ²

반도체 회로는 머리카락보다 수백 배 작은 나노미터(nm) 크기의 패턴으로 이루어져 있습니다.

전체를 덮어 보호하고, 특정 부분만 정밀하게 깎아내는 방식이 없으면, 이렇게 작은 크기의 패턴을 구현하기 어렵습니다.

공정을 반복하기 위해 ³

반도체 칩은 여러 층으로 구성됩니다(다층 구조). 산화막은 반복 작업의 기반이 됩니다.

한 층을 완성한 뒤, 다시 보호하고 깎는 과정을 반복하며 상하 구조를 쌓아 올립니다.

2. 산화 공정: 웨이퍼 표면에 얇은 산화막을 형성하는 과정으로, 주로 열산화(Thermal Oxidation) 방법을 사용합니다.

웨이퍼는 도핑(Doping)으로 인해 반도체 성질을 갖지만, 제조 공정 중 물리적 손상, 불순물 오염, 화학 반응 등에 노출되면 기능을 상실할 수 있습니다. 산화막은 이를 방지하기 위해 반도체에서 절연층 또는 보호층 역할을 합니다. 산화막은 전기적 간섭을 방지하고, 트랜지스터의 게이트 산화막으로 활용됩니다. 산화막은 웨이퍼 표면을 보호하고, 다른 공정을 안전하게 수행할 수 있는 기반을 제공합니다.

도핑(Doping)이란?

도핑은 실리콘에 특정 불순물(붕소, 인 등)을 주입하여, 전자가 이동할 수 있는 자유 전자 또는 정공(전자가 비어 있는 자리)을 형성하는 과정입니다.

웨이퍼에 이온 주입(Ion Implantation) 기술을 사용해 불순물을 삽입합니다.

이후 열처리(Annealing)로 불순물을 활성화시켜 웨이퍼가 "반도체" 특성을 갖게 합니다.

3. 포토 공정: 반도체 회로 패턴을 웨이퍼에 전사하는 과정입니다.

포토 공정은 집적회로를 구현하기 위해 웨이퍼 위에 설계된 회로 패턴을 정밀하게 새기는 과정입니다. 이 공정은 먼저 웨이퍼 표면에 감광성 물질인 포토레지스트(Photoresist)를 균일하게 도포하는 것으로 시작합니다.
- (참고 용어) 포토레지스트(Photoresist, PR): 빛에 반응(감광)해 특성이 변하는 화학물질로, 디스플레이에서는 TFT(박막트랜지스터)에 미세한 회로를 형성하는 포토리소그래피(Photolithography)공정에 사용됩니다. - 삼성디스플레이

이후 설계된 회로 패턴이 새겨진 포토마스크(Photomask)를 웨이퍼 위에 겹치고, 자외선(UV)을 사용해 노광(Exposure, 자외선을 통해 빛으로 처리해주는 작업)을 진행합니다. 포토마스크의 투명한 부분을 통해 자외선이 웨이퍼에 닿으면서 포토레지스트가 화학적으로 변화합니다.

(참고 용어) 포토마스크
- 포토마스크는 설계된 회로 패턴이 새겨진 유리판입니다. 마스크는 웨이퍼에 전사될 회로의 모양을 결정합니다.
- 포토마스크를 웨이퍼 위에 겹치고, 자외선을 웨이퍼에 투사합니다. "투명한 부분"은 자외선을 통과시키고, "불투명한 부분"은 자외선을 차단합니다.

노광된 웨이퍼(exposured wafer)는 현상액(Developer) 처리를 통해 선택적으로 포토레지스트를 제거하며, 회로 패턴이 드러납니다. 이후 뒤에 나오는 식각(Etching) 공정을 통해 드러난 웨이퍼 표면의 특정 부분을 물리적으로 제거하여 회로의 물리적 구조를 형성합니다.

4. 식각 공정: 포토 공정을 통해 형성된 패턴을 기반으로, 웨이퍼 표면의 불필요한 부분을 제거하는 과정입니다.

식각 공정은 웨이퍼 표면에 원하는 회로 패턴을 형성하기 위해 불필요한 부분을 제거하는 과정으로 습식 식각(Wet Etching)과 건식 식각(Dry Etching) 방법이 있습니다.
- 습식 식각: 웨이퍼를 화학 반응을 일으키는 부식액(용액)에 담가, 특정 물질을 용해시켜 제거.
- 건식 식각: 반응성 가스와 플라즈마(Plasma)를 이용하여 표면 물질을 화학적 또는 물리적으로 제거.
현대 반도체 공정에서는 미세 회로 구현과 높은 수율을 위해 주로 건식 식각 기술이 활용됩니다.

5. 증착 및 이온 주입 공정: 웨이퍼 표면에 얇은 박막을 증착하거나, 특정 불순물을 주입하여 반도체의 전기적 특성을 부여하는 과정입니다.

증착 공정(Deposition)과 이온 주입 공정(Ion Implantation)은 웨이퍼 표면에 새로운 층을 형성하거나, 웨이퍼에 전기적 특성을 부여하는 핵심 과정입니다.
- 증착 공정 : 웨이퍼 위에 절연층이나 전도층과 같은 박막(Thin Film)을 형성하여 소자 간의 전기적 연결, 분리, 보호 역할을 수행.
  - 화학 기상 증착(CVD): 반응성 가스를 사용하여 화학 반응을 통해 박막을 형성. 저온에서도 균일한 두께로 형성이 가능.
  - 물리 기상 증착(PVD): 금속 박막을 형성하는 방식으로, 타겟 물질을 고속으로 증발시켜 웨이퍼에 증착.
- 이온 주입 공정 : 고속으로 가속된 이온 빔을 웨이퍼에 쏘아 특정 깊이까지 이온을 주입해, 전기적 특성을 부여하여 n형, p형 반도체를 생성.
  - 고에너지 이온 빔을 웨이퍼에 쏘아 균일하게 불순물(ex. 인(P), 붕소(B), 비소(As))을 주입하여 전류를 통하게 하거나 제어 가능한 전기적 특성을 형성.

(좌) 증착 공정, (우) 이온 주입 공정

6. 금속 배선 공정: 반도체 소자 간의 전기적 연결을 위해 금속 배선을 형성하는 과정입니다.
- 금속 배선 공정은 반도체 칩의 전기적 연결성을 결정짓는 핵심 공정으로, 배선 품질에 따라 반도체의 성능과 신뢰성이 크게 좌우됩니다. 금속 재료의 선택, 증착 기술, 식각 기술 등 모든 단계가 정밀하게 조율되어야 고성능 반도체를 제조할 수 있습니다.
- 낮은 전기저항, 부착성, 가공성, 비용 효율성의 이유로, 알루미늄(Al)을 금속 배선으로 사용하며 금속 배선 공정 순서는 아래와 같습니다. (최근 구리도 많이 사용한다고는 합니다만, 저는 내부 사항은 전혀 모릅니다)

증착:

물리 기상 증착(PVD) 또는 화학 기상 증착(CVD) 기술을 통해 웨이퍼 표면에 알루미늄을 얇은 막 형태로 증착합니다.

포토 공정과 식각 공정:

증착된 알루미늄 막 위에 포토레지스트를 도포하고, 회로 패턴을 전사한 뒤 식각 공정을 통해 불필요한 부분을 제거하여 원하는 배선 패턴을 형성합니다.

베리어 메탈 추가:

알루미늄이 실리콘 또는 산화막과 화학적으로 반응하여 접합면이 파괴되지 않도록 베리어 메탈(Barrier Metal)을 증착합니다.

예: 티타늄(Ti), 텅스텐(W), 티타늄 나이트라이드(TiN) 등이 사용됩니다.

7. EDS 공정: EDS 공정은 반도체 제조 공정에서 웨이퍼 상의 개별 칩들이 설계된 대로 동작하는지 전기적 특성을 테스트하는 단계입니다. 이 과정에서 양품과 불량품을 선별하여 이후 공정의 효율을 높이고 생산성을 극대화합니다.

ET Test & WBI
- Electrical Test (ET):
  - 각 칩의 전기적 특성을 테스트하여 설계대로 동작하는지 확인.
  - 전압과 전류 특성을 측정하여 잠재적인 불량을 판별합니다.
- Wafer Burn-In (WBI):
  - 웨이퍼에 열과 전압을 가해 잠재적인 결함을 발견.
  - 초기 결함을 제거하고, 웨이퍼의 신뢰성을 향상시킵니다.
Hot/Cold Test
- 웨이퍼 상의 칩을 고온과 저온 환경에서 테스트.
- 극한 온도에서 정상적으로 작동하는지 확인하여, 온도 변화에 민감한 칩을 선별합니다.
Repair & Final Test
- 수선(Repair):
  - 불량으로 판정된 칩 중, 수선 가능한 칩을 복구.
  - 불량의 원인에 따라 재설정하거나 회로를 복구.
- Final Test:
  - 수선이 완료된 칩을 다시 테스트하여 최종적으로 양품인지 불량인지 판별.
Inking
- 불량 칩에 특수 잉크를 사용하여 표시.
- 표시된 칩은 이후 공정에서 제외되어 불필요한 자원 낭비를 방지.

😵 프로브 카드란?

프로브 카드(Probe Card)는 EDS 공정에서 웨이퍼와 전기적 접촉을 이루는 도구로, 각 칩에 전기 신호를 주입하고 응답을 측정하는 역할을 합니다.

프로브 카드는 EDS 공정의 모든 테스트 단계에서 사용됩니다.

핀(Pin): 웨이퍼의 칩 접점(Pad)과 직접 접촉하여 전기 신호를 주고받는 부분.

PCB: 프로브 카드 내부 회로로, 신호를 핀과 테스트 장비 간에 전달.

소켓: 프로브 카드를 테스트 장비에 연결하는 부분.

8. 패키징 공정 : 개별 칩을 외부 환경으로부터 보호하고, 전기적 연결을 가능하게 하는 패키지를 구성하는 과정입니다.

주요 공정 과정은 다음과 같습니다:
- 다이싱(Dicing): 웨이퍼를 개별 칩으로 절단합니다.
- 다이 어태치(Die Attach): 절단된 칩을 리드프레임이나 기판에 부착합니다.
- 와이어 본딩(Wire Bonding): 칩과 외부 단자를 금선 등으로 연결하여 전기적 신호 전달이 가능하도록 합니다.
- 몰딩(Molding): 칩을 에폭시 수지 등으로 감싸 외부 환경으로부터 보호합니다.
  
  이러한 패키징 과정을 통해 완성된 반도체 칩은 전자 기기에 탑재되어 다양한 기능을 수행하게 됩니다.

소재, 소자, 어플리케이션
- 소재 (Materials) : 반도체 소재는 반도체 제품을 만드는 데 사용되는 기본 물질을 의미합니다.
  - 예시: 실리콘(Si), 게르마늄(Ge), 갈륨 비소(GaAs) 등
  - 특징: 전기 전도성이 도체와 절연체의 중간 정도인 물질
  - 역할: 반도체 소자의 기본 재료로 사용되며, 전기적 특성을 결정짓는 핵심 요소
- 소자 (Devices): 반도체 소자는 반도체 소재를 이용해 만든 전자 부품을 말합니다.
  - 예시: 트랜지스터, 다이오드, 집적회로(IC) 등
  - 특징: 전기 신호를 제어, 증폭, 변환하는 기능을 수행
  - 역할: 전자기기의 핵심 부품으로 사용되며, 다양한 전기적 기능을 수행
- 어플리케이션 (Applications) : 반도체 어플리케이션은 반도체 소자를 활용한 최종 제품이나 시스템을 의미합니다.
  - 예시: 컴퓨터, 스마트폰, 자동차 전자장치, 가전제품 등
  - 특징: 반도체 소자의 기능을 활용하여 다양한 기능을 구현
  - 역할: 최종 소비자가 사용하는 제품으로, 반도체 기술의 실제 응용 분야를 나타냄

메모리 반도체 & 비-메모리 반도체
- 1. 메모리 반도체 (Memory Semiconductor): 메모리 반도체는 데이터를 저장하는 기능을 수행하며, 크게 휘발성 메모리와 비휘발성 메모리로 나뉩니다.
  - (1) 휘발성 메모리(RAM, Random Access Memory) : 전원이 공급되는 동안에만 데이터를 유지하며, 전원이 꺼지면 데이터가 사라집니다.
  - (2) 비휘발성 메모리(ROM, Read-Only Memory) : 전원이 꺼져도 데이터를 유지할 수 있는 메모리입니다.
- 2. 비메모리 반도체 (Non-Memory Semiconductor) : 비메모리 반도체는 데이터를 저장하지 않고 처리, 연산, 제어 등의 기능을 수행하며, 시스템 반도체라고도 불립니다.
  - (1) CPU (Central Processing Unit)
    - 컴퓨터의 중앙 처리 장치로 연산과 제어를 담당.
    - 예: Intel Core, AMD Ryzen.
  - (2) GPU (Graphics Processing Unit)
    - 그래픽 및 데이터 병렬 처리를 담당.
    - 예: NVIDIA GeForce, AMD Radeon.
  - (3) AP (Application Processor)
    - 스마트폰과 같은 모바일 기기에서 CPU, GPU, 모뎀 등을 통합한 칩.
    - 예: Qualcomm Snapdragon, Samsung Exynos.

정리

구분	메모리 반도체	비메모리 반도체
주요 역할	데이터 저장	데이터 처리, 연산, 제어
대표 제품	DRAM, NAND 플래시, SRAM 등	CPU, GPU, AI 프로세서, 이미지 센서 등
적용 분야	컴퓨터, 스마트폰, 서버, 저장 장치	스마트폰, 자동차, IoT, 가전제품, 데이터 센터
기술적 초점	고속 데이터 저장, 대용량	고성능 연산, 저전력 설계, 다기능 통합
생산 방식	대량 생산 가능 (표준화 공정)	맞춤형 설계 (Fabless와 Foundry 협업)

서두가 길었죠...^^7 😎 조사를 하다보니 계속 나와서 Related Works가 좀 길었습니다 ㅎㅎ 이제부터가 본 발표 내용입니다.

발표를 시작하기에 앞서 곽노정 CEO는 메모리 반도체의 역사에 대해서 이야기합니다. ~~(앞에 반도체에 대해서 열심히 공부한 이유)~~

그가 이야기 한 내용은 아래와 같습니다.

메모리 반도체의 개념 변화 (과거, 현재, 미래)
SK하이닉스의 미래 AI 메모리 반도체 기술 및 제품

1. 메모리 반도체의 개념 변화

메모리의 본질적 의미: 메모리란 "저장"이라는 본질적 의미를 가진 개념으로, 인간의 기록 본능에 기반한 발전 과정과 역할을 강조했습니다.
데이터 폭증 시대에서의 메모리 역할: 메모리 반도체는 데이터 저장과 이동의 핵심으로, 하이닉스는 이중에 낸드플레시(비휘발성 메모리(ROM)의 한 종류), 휘발성 메모리(RAM) 등을 생산하고 있습니다.
- DRAM은 데이터 이동 통로로의 역할을, 낸드플레시는 데이터 저장소의 역할을 수행합니다.

데이터 저장의 패러다임 변화: 디바이스에서 클라우드로 데이터 저장의 패더다임이 변화함.
- (Personal) 과거에는 개인 디바이스(PC, 모바일)에 데이터를 저장하는 퍼스널 메모리가 주를 이룸.
- (Connected) 현재는 클라우드 및 SNS를 통한 데이터 연결 및 공유가 일반화.
AI 시대의 등장과 메모리 요구사항 변화: 2022년 11월 ChatGPT-3.5의 등장은 AI 시대의 본격적 시작을 알림.
- AI 시대는 엄청난 양의 데이터를 연결하고 이동해야 하며, 이를 지원하기 위해 새로운 개념의 메모리 반도체가 필요.
- HBM(High Bandwidth Memory)이 AI 데이터의 이동 및 연결을 지원하는 주요 기술로 부각.

2. 메모리의 미래와 SK하이닉스의 AI 메모리 비전

기억의 미래와 크리에이티브 메모리: 과거의 데이터(기억)를 학습하여 새로운 데이터를 생성하는 AI의 역할 강조(기억의 미래) => (Creative)

새로운 데이터를 생성하는 과정은 트레이닝(Training)과 인퍼런스(Inference)로 구성.
SK하이닉스는 이러한 AI 시대에 적합한 크리에이티브 메모리 개발에 주력.

3. SK하이닉스의 미래 AI 메모리 기술

미래 로드맵: SK하이닉스의 AI 메모리는 세 가지 카테고리로 구분:
1. World’s First: 세계 최초 제품 (현재 개발/양산 중)
2. Beyond Best: 최고 성능 제품 (개발 예정)
3. Optimal Innovation: 시스템 최적화 제품

전체 제품군들을 그려보면 아래와 같이 그릴 수 있습니다.

각각에 대해서 한번 살펴보겠습니다:

① World’s First 제품군

제품명 및 주요 특징:
1. 1nm DDR5: 세계 최초의 최첨단 공정 DRAM.
2. PCIe Gen5 Client SSD (PCB01): 이전 세대 대비 전력 효율 30% 향상.
3. Zoned UFS 4.0: 차세대 모바일 스토리지 솔루션.
  - 장기 운용 시 사용량 51% 향상.
  - AI/LLM 로딩 47% 증가.
  - 제품 수명 37% 개선.
4. 321 Layered 4D NAND: 300+ 적층으로 고효율 스토리지 구현.
5. QLC 60TB eSSD: 세계 최초 AI 서버용 초고용량 SSD.

② Beyond Best 제품군

제품명 및 주요 특징:
1. LPCAMM2:
  - 저전력 및 고성능 메모리 모듈.
2. 1nm LPDDR5 & LPDDR6:
  - 저전력, 고성능 스마트폰 및 PC용 DRAM.
3. PCIe Gen6 eSSD:
  - 고성능 데이터 센터용 스토리지 솔루션.
4. QLC 120TB/240TB eSSD:
  - 초고용량 스토리지, 대규모 데이터 센터에 적합.
5. UFS 5.0:
  - On-device AI 솔루션에 최적화된 스토리지.
6. HBM4:
  - 세계 최고의 고대역폭 메모리.

③ Optimal Innovation

세 가지 키워드 중심의 기술 개발:
1. 퍼포먼스 최적화:
  - 커스텀 HBM 개발로 고객 시스템에 맞춘 성능 제공.
2. 용량 최적화:
  - CXL 메모리와 초고용량 QLCeSSD를 통해 데이터 공간 효율 및 전력 소비 개선.
3. 연산 최적화:
  - PIM(Processing In Memory) 및 컴퓨테이셔널 스토리지 개발로 메모리 병목 현상 해소.

이것으로 Day 1 오전 세션 발표 주제 정리를 마치겠습니다!

다음 포스트에서 오후 세션 정리해보겠습니다 ⭐

서쿠

Always be passionate ✨

다음 포스트