메인 기사 링크
참고 문헌 1 - 뜨거워진 ‘AI칩 개발경쟁’…미·중·일 ‘新 삼국지’
참고 문헌 2 - 그래프코어 강민우 한국지사장, “IPU 도입하면 연산속도 27배 빨라, AI 시대 현실화할 것”
CPU 시장은 인텔과 AMD 두 거대회사의 각축장이라 볼 수 있다. 두 회사의 기원은 1956년 페어차일드 반도체회사다. 페어차일드에서 나온 로버트 노이스, 고든 무어가 1968년에 설립한 게 인텔이고, 제리 센더스와 7인의 이사가 설립한 게 AMD다. 인텔과 AMD 사이의 본격적인 혈투는 20년 전부터 시작됐다.
2000년까지 인텔은 뛰어난 경영능력과 기술력으로 빠르게 성장하며 시장을 석권했다. 하지만 2000년 말에 출시한 펜티엄4는 당시 기술력의 한계로 인해 심각한 누설전류로 인한 발열 및 전력소모 이슈가 있었다. 인텔의 평가가 추락하는 틈을 타서 AMD는 2003년 애슬론64 시리즈를 발표하고 성공적인 평가를 받아 인텔의 시장점유율을 흡수할 수 있었다. (인텔 58.4% → 51.6%, AMD 41.6% → 48%)
인텔은 2006년 7월에 코어2 듀오를 출시하며 과거 실수를 만회하는데 성공한다. 같은 해 12월에 AMD는 브리즈번을 출시하며 인텔에 이기기 위해 판매가를 낮추는 전략을 사용한다. 아이러니하게도 이 전략은AMD의 제품을 보급형이라 인식하게 만들게 된다. (1차 패착) 또한 2011년에 출시한 불도저 아키텍처는 캐시 용량은 늘었지만 레이턴시, 누설전류가 모두 늘어나 인텔 CPU보다 모든 면에서 뒤쳐지게 된다. (2차 패착) 결과적으로 2006년 이후 인텔은 10여 년간 독주하게 된다.
2014년 AMD의 CEO로 리사수가 등장하고 애슬론64 설계 담당 짐 켈러도 AMD로 들어오며 젠(ZEN) 아키텍처 기반 라이젠(Ryzen)이 2017년 세상에 공개됐다. AMD는 공격적인 전략을 취하며 7nm 기반 데스크톱 및 노트북 프로세서들을 출시한다. 인텔은 AMD가 빠르게 추격해오는 2015~2019년 동안 14nm에서 발전하지 못하는 모습을 보였다. 결국 AMD는 20%대 점유율을 거의 40% 근접한 정도로 끌어올렸다.
GPU 시장은 외장GPU (GPGPU)와 내장GPU 시장으로 나뉘며 외장GPU는 엔비디아와 AMD가 점유율을 양분 (8:2)하고 있고 내장GPU는 인텔이 장악하고 있다. 최근 인텔은 TSMC의 6nm 공정을 채택한 xe-HP, xe-HPG 출시를 예고하며 외장 GPU에 대한 관심을 보이고 있다.
스마트팩토리, 자율주행차, IoT의 개발과 적용이 활발해 지면서 AI 칩은 가파른 성장세를 보이고 있다.
복잡한 계산에 특화된 CPU는 대량의 간단한 병렬 계산에는 적합하지 않아 최근까지 GPU가 사용돼 왔다. 하지만 대량의 GPU를 사용하는 것조차 학습에 오랜 시간이 걸리고 소비 전력이 크므로 심층학습 계산에 더욱 특화된 반도체인 NPU (또는 IPU)에 대한 수요가 증가한 것이다. AI칩의 용도는 클라우드 등을 통해 들어오는 대량의 데이터를 '학습'하는 것과 학습된 데이터를 통해 즉시 판단을 내리는 '추론'이 있다. 이때 연산의 빠르기와 소비전력 절감이 특히 중요하다. NPU의 신흥강자로 떠오르는 그래프코어는 엔비디아로부터 세계 최강 IPU 자리를 빼앗은 콜러서스 IPU를 출시했다. 메모리 블록을 직접 프로세서 내부에 배치한 IPU는 코어 당 메모리를 각각 배치한 새로운 아키텍처를 적용해 지연을 최소화하고 병렬계산에 특화돼 있다.
CPU 시장에서 인텔과 AMD의 경쟁 과정은 '정인선, 『반도체 제국의 미래』, 이레미디어(2019)'을 통해 자세히 배웠다. 세 번의 혈투 속에서 내가 배울 수 있는 점은 무수히 많지만, 한 줄로 요약하자면 다음과 같다.
"반도체 시장에서는 단 한 번의 실수도 용납되지 않는다."
인텔은 지난 5년 간 기술발전에 공격적으로 투자한 AMD에게 약 20%의 시장 점유율을 빼앗겼다. 인텔의 아이스레이크, 코멧레이크, 로켓 레이크, 타이거 레이크 제품이 등장했을 때 내가 활동하고 있는 하드웨어 커뮤니티에서는 인텔의 14nm에서 발전하지 않는 모습에 악평 투성이였던 것이 기억난다. 반면에 AMD는 7nm 노트북/데스크톱용 프로세서로 성능 면에서 인텔의 CPU를 뛰어넘으며 시장 점유율을 차지하는 것을 직접 체감했었다.
하지만 인텔이 당하고만 있진 않을 것이다. 인텔은 TSMC와의 밀월을 통해 파운드리 사업에서 돈을 쓸어 담을 계획이다. 동시에 자사 CPU 제품의 성능을 대폭 끌어올릴 것이다. TSMC의 파운드리 능력에 힘입어 외장 GPU 시장과 NPU 시장으로 진출한다면 다시 AMD를 위협할 좋은 전략이 되지 않을까 예상한다.
메모리-비메모리 기업 간에 영역 침범이 발생하고 있다는 점을 배웠다. 메모리 반도체 성능을 최적화할 수 있는 비메모리 기술, 비메모리 반도체의 연산 성능을 끌어올릴 수 있는 메모리 서포팅 기술 등 융합이 발생하고 있다.
그래프코어라는 회사와 IPU에 대해 얕게 배웠다. 엔비디아라는 대기업을 위협하는 큰 포텐셜을 가졌다는 점이 굉장히 인상 깊었다. 그래프코어는 20년 1월에 한국에 진출했는데, 만일 기회가 된다면 이런 기업에서 회사를 발전시키는 것을 가시적으로 확인하며 일하고 싶다고 생각했다.
NPU(IPU)와 GPU 사이의 관계에 대해서 배울 수 있었다. 강민우 그래프코어 한국지사장은 IPU와 GPU는 상보관계에 있다고 요약했다. GPU는 배치(Batch) 사이즈가 큰 대용량 이미지에서 유리하고, IPU는 배치 사이즈가 작은 경우와 NLP 그리고 분산 데이터에 유리하다. 따라서 고객이 요구하는 모델링이 무엇이냐에 따라 사용해야 하는 칩이 달라진다. 실시간 확률 계산과 NLP 영역에서 GPU보다 높은 성능, 절반 이하 전력소모를 보인다는 점이 인상깊었다. 현재 진행하고 있는 머신러닝 관련 영상처리 프로젝트에서 많은 것을 배워서 시스템반도체 기업에 취업해서 궁극적으로는 NPU(IPU)를 다룰 수 있는 역량을 가진 엔지니어가 되고 싶다.