Amazon Announces Supercomputer, New Server Powered by Homegrown AI Chips

원문 : Wallstreet Journal 24/12/03
이번 주 관심가는 기사가 많았다. 그래도 AI에 관련된 기사를 읽는 것으로..

아마존은 AI 슈퍼컴퓨터 계획을 발표했네요. 자체 칩인 Trainium을 구축한..
이 슈퍼컴은 아마존이 투자한 스타트업인 Anthropic에서 사용할 것이고요

64개 칩이 연결된 Ultraserver를 공개했네요. 애플이 이 칩의 고객인것도 같이

Trainium이 엔비디아외의 또 다른 선택임을 강조하고 있네요. 그래서 비용도 줄이고 제어권도 가지고 의존성도 줄이고..

아마존은 ARM기반의 CPU로 구동되는 H/W를 가지고 있었네요 (삼성은 무엇하고 있었나..)

2015년 이스라엘 기업 Annapurna를 매입하여 준비하고 있었네요
스타트업의 특성으로 필요한 일이면 무엇이든 하고 시간을 줄이기 위한 모든 노력을 경주하고 있네요

2018년 추론 칩을 먼저 발표했네요. 학습보다는 덜 까다롭다고 하네요
아마존은 자체 칩 Trainium 발전해 나가면서 그 칩에서 구동하는 AI모델을 만들기 위해 스타트업과 협업하고 있네요..
(삼성은 칩도 개발하지 않어.. AI모델도 구축하지 않어.. 그리고 문짝만 AI센터라는 곳을 만들어.. 계속 한숨만 나오네요.. )

서버를 확장하면 할수록 문제를 풀 필요도 없고 전체 학습 클러스터도 효과적이라고 하는데.. (왜 그런지는 이해가 안되네요.. ㅜㅜ)

엔비디아는 8개를 하나의 서버로 구성하는데, 아마존은 64개를 하나로 묶는다고 하네요 (그래서 얻는 장점이 무엇인지 자세한 설명은 없네요, 아니면 내가 이해하지 못하고 있는 것인지..)

열문제도 해결했고 네크워킹도 비장의 무기라고 하네요

고객은 학습의 핵심인 엔비디아 or 아마존의 칩 선택에는 관심이 없고 AI모델에서 어떤 가치를 얻을 수 있냐에 관심이 집중된다

회사의 리더는 현실적이네요. 아마존 CEO Garman도 엔비디아가 지존이고 아마존의 Trainium 칩이 틈새시장을 개척하기를 희망한다고 이야기 했네요.. (이런 계획도 없는 삼성은 암울하네요.. ㅜㅜ)

there is no shortage of companies angling for their share of Nvidia’s chip revenues
Nvidia의 칩 수익 지분을 노리는 회사가 부족하지 않습니다. (?)

Where it places its bets is key, because even a six-month hardware delay could mean the end of its business
6개월의 하드웨어 지연이라도 비즈니스 종료를 의미할 수 있기 때문에 베팅 위치가 중요합니다.(?)