무슨 일이 있었냐면
이번 주말은 "투자/인프라" 쪽이 정말 시끄러웠어요. Nvidia가 올해만 AI 지분 투자 약속을 400억 달러 위로 올렸고, ByteDance도 2026년 AI 설비 예산을 25% 더 늘리겠다고 합니다. 거기에 OSS 쪽에서는 llama.cpp가 NCCL 없이도 텐서 병렬을 돌릴 수 있는 내부 CUDA AllReduce 커널을 머지했어요. 개발자 입장에서 챙겨봐야 할 흐름들 정리했습니다.
※ 공개된 정보를 바탕으로 한 개인적인 정리입니다. 각 기업의 공식 입장이 아닙니다. 본 글은 투자 조언을 목적으로 하지 않습니다.
Nvidia, 2026년 AI 지분 투자 누적 400억 달러 돌파
5월 9일 TechCrunch와 CNBC 보도에 따르면, Nvidia가 2026년 들어 발표한 AI 관련 지분 투자 약속은 누적 400억 달러를 넘었습니다. 가장 큰 한 방은 OpenAI에 약속한 300억 달러예요.
여기에 데이터센터 운영사 IREN에 최대 21억 달러, 유리 기판으로 유명한 Corning에 최대 32억 달러를 투자할 권리도 새로 잡았습니다. 연초 5억 달러였던 Intel 지분도 보도 시점 기준 250억 달러 가치로 불어났다는 얘기까지 나오고 있어요.
핵심은 Nvidia가 자기 GPU를 사가는 쪽에도 자본을 넣고 있다는 점입니다. 추론 캐파를 미리 락인하는 효과는 분명한데, 일부 분석가는 "동일한 회사 사이에서 돈이 도는 구조 아니냐"는 지적도 같이 하고 있습니다.
ByteDance, 2026년 AI 인프라 예산 25% 증액 (약 294억 달러)
5월 9일 Bloomberg가 SCMP 취재를 인용해 보도한 바에 따르면, ByteDance가 2026년 AI 인프라 투자를 작년 말 계획보다 25% 늘려 약 2,000억 위안(약 294억 달러)으로 올리는 방향을 잡고 있다고 합니다.
이유는 단순합니다. 메모리 등 칩 가격이 오르고 있고, TikTok이나 Doubao 같은 모델/에이전트 운영 부담도 같이 커지고 있어서요. 아시아 쪽에서는 Alibaba, Tencent에 이어 또 한 번 큰 규모의 커밋이 들어온 셈이에요.
미국이든 중국이든 "추론 캐파를 먼저 잡은 쪽이 다음 분기 에이전트 가격을 정한다"는 그림이 점점 또렷해지는 중입니다.
llama.cpp에 CUDA용 내부 AllReduce 커널 추가, 텐서 병렬에서 NCCL 의존 제거 가능
오픈소스 추론 런타임 llama.cpp에 5월 10일(UTC), 텐서 병렬 모드(LLAMA_SPLIT_MODE_TENSOR)에서 쓸 수 있는 내부 AllReduce 커널이 추가됐어요. CUDA 백엔드 한정이지만 NCCL을 안 깔고도 멀티 GPU를 묶을 수 있다는 게 포인트입니다.
구현은 D2H 복사, 핀 메모리 플래그 기반 GPU 간 핸드셰이크, 리덕션을 한 번의 커널 런치 안에서 파이프라인으로 돌립니다. 벤치 CLI에는 --allreduce <auto|nccl|internal> 플래그가 붙어서, 내부/NCCL을 강제로 바꿔가며 행이나 회귀를 격리하기 좋아졌습니다.
NCCL 의존이 빠지면 도커 이미지나 의존성 관리가 한결 가볍고, 특히 Windows + WSL 류 컨슈머 멀티 GPU 환경에서 재현성이 올라갈 거예요. 텐서 병렬 자체는 4월의 build b8738에서 먼저 들어왔고, 이번 패치는 그 안에서 고를 수 있는 구현 옵션을 하나 더 늘려준 셈입니다.
CNN, "AI는 직무를 통째로 대체하기보다 업무 일부를 자동화 중"
CNN Business가 5월 10일 공개한 해설 기사에서, AI가 일자리에 어떤 영향을 주고 있는지를 데이터와 현장 코멘트로 다뤘습니다. 결론을 한 줄로 요약하면 "포지션 통째 대체"보다 "특정 태스크를 자동화하는 방향"이 주류라는 얘기예요.
물론 인력 감축 사유로 AI가 두 달 연속 1위로 꼽힌 건 사실이지만, 동시에 미국 전체 소프트웨어 개발자 고용은 2025년 약 220만 명으로 전년 대비 8.5% 늘면서 사상 최고치를 찍었다고 합니다. Anthropic의 Claude Code 책임자 Boris Cherny는 "연말쯤이면 '소프트웨어 엔지니어링'이라는 개념 자체가 흔들리기 시작할 것"이라는 코멘트도 남겼고요.
저는 이걸 "대체되냐 아니냐"로 보지 않고, 내 직무 안에서 어디까지를 에이전트에 맡기고 어디서 사람이 리뷰할지를 다시 짜는 문제로 받아들이고 있어요.
Google, 인도 AI 인프라/서버/드론 제조에 추가 투자 검토
5월 8~9일 인도 매체들(Outlook Business, Deccan Herald 등)에 따르면, 인도 전자·IT부 장관 Ashwini Vaishnaw 측과의 미팅 후, Google이 인도에서 AI 인프라, 서버, 드론 제조 영역에 추가 투자를 검토 중이라는 발표가 나왔습니다.
배경에는 2025년 10월 발표된 안드라프라데시주 비샤카파트남 AI 허브 프로젝트(5년 150억 달러)가 있어요. AdaniConneX, Airtel의 Nxtra와 함께 인도 최초의 기가와트급 AI 데이터센터를 짓는 큰 그림인데, 이번에는 거기에 더해 서버, GPU, 칩까지 인도에서 만들라는 요구가 같이 들어간 셈입니다.
인도에 본격적인 AI 인프라가 깔리면, 그동안 리전 선택지가 빠듯했던 아시아 엔터프라이즈 워크로드의 레이턴시·데이터 주권 요건에도 변수가 생길 가능성이 큽니다.
정리
- Nvidia의 2026년 AI 지분 투자 약속은 OpenAI 300억 달러를 중심으로 누적 400억 달러를 넘었어요. AI 공급망 위아래를 다 묶으려는 그림이 또렷해지고 있습니다.
- ByteDance도 2026년 AI 설비 예산을 25% 늘려 약 2,000억 위안으로 잡고 있어요. 미·중 양쪽에서 추론 캐파 락인 경쟁이 이어지는 중입니다.
llama.cpp에서 NCCL 없이 텐서 병렬을 돌릴 수 있는 내부 CUDA AllReduce 커널이 머지됐습니다. 멀티 GPU 검증 옵션이 하나 늘었어요.- AI에 의한 직무 변화는 "통째 대체"보다 "업무 일부 자동화" 쪽으로 정리되는 분위기입니다. 직무 내부 워크플로우 재설계 관점에서 읽는 게 더 실용적이에요.
- Google이 인도 AI 인프라/서버/드론 제조에 추가 투자를 검토 중이라, 아시아 AI 인프라의 지리적 분포에도 변수가 생길 수 있습니다.
참고
- Nvidia has already committed $40B to equity AI deals this year (TechCrunch)
- Nvidia embraces AI investor, topping $40 billion in equity bets 2026 (CNBC)
- ByteDance Targets 25% Rise in AI Infrastructure Spending: SCMP (Bloomberg)
- Releases · ggml-org/llama.cpp (GitHub)
- AI isn't actually 'taking' your job (CNN Business)
- Google Plans Major AI Infrastructure Investments in India (Outlook Business)
