소프트웨어, 그리고 하드웨어의 발전과 함께 디지털 시대는 중앙 집중화와 분산화라는 두 축을 중심으로 삼았다.
1970년대부터 15년간, 사용자들은 거대한 중앙 메인프레임에 터미널로서 접속해 작업을 진행했다. 그 즈음의 SF 영화를 머릿속에 그려보면 도시 중앙에 산처럼 놓여진 거대한 컴퓨터가 시민들을 지배하는 그림이 어렵지 않게 떠오를 것이다.
그리고 1980년대 중반부터의 15년은, PC의 보급과 함께 개인과 회사가 함께 작업을 처리하는 클라이언트-서버 모델이 각광받기도 했다. 인터넷 역시 이러한 분산형 모델을 이용해 전 세계를 연결시켰다.
그리고 2000년대부터는 스마트폰, 노트북 등 개인이 소유한 디바이스들의 성능이 압도적으로 증가했지만, 처리해야할 데이터와 서비스 또한 방대해지며 클라우드 컴퓨팅을 주축으로 한 중앙 컴퓨팅이 다시 부상하고 있다.
AI시대의 막이 오르며, 삼성 SDS의 인사이트 리포트에서는 미래의 컴퓨팅 시스템에 관해 이야기한다.
도로에 넘쳐나는 스마트 카와 이제는 사람들의 온 몸을 감싸버린 모바일 디바이스들, 그리고 각종 센서, 카메라까지. 셀 수 도 없이 많은 전자 장비들은 저마다의 데이터를 폭발적으로 뿜어낸다. 사람들은 클라우드 컴퓨팅보다 더욱 빠르고, 더욱 편리한 무언가를 원한다. 이러한 사람들의 요구에 발맞춰 엣지 컴퓨팅이 세상에 등장했다.
데이터를 생성한 장치와 가까운 곳에서 처리하는 기술로, 엣지 컴퓨팅을 활용하면 실시간에 가까운 빠른 분석과 응답이 가능해집니다.
클라우드 컴퓨팅 또한 눈부신 속도로 발전하며 21세기의 디지털화를 이끌어왔다. 하지만 클라우드 컴퓨팅의 한계점 또한 존재한다. 본문에서는 클라우드 컴퓨팅의 약점으로 지연, 대역폭 비용, 데이터 주권을 꼽는다.
인터넷 속도는 나날이 빨라지지만, 누군가는 0.01초의 기다림조차 아쉬운 법이다. 멀리 떨어진 클라우드 서버에서 응답을 기다리는 절대적인 시간은 반드시 존재하며, 이 과정에서의 보안 비용 또한 무시하지 못한다.
엣지 컴퓨팅은 이와 같은 문제를 해결하기 위해 중앙과 말단의 중간에 위치하며 데이터 생성 지점에서의 실시간 처리를 가능하게 한다. 또한, 클라우드의 강력한 처리 능력과 로컬 디바이스의 실시간성을 균형 있게 통합하며 데이터 중심 시대의 경쟁력을 확보할 수 있다.
엣지 컴퓨팅은 데이터 처리 속도와 효율성을 증대하고, 새로운 비즈니스 모델과 사용자 경험을 창출하며, 각 산업의 경쟁력을 높일 수 있다. 이를 통해 속도, 비용 절감, 보안 및 데이터 주권이라는 세 가지 축에서 새로운 가치를 창출하고 있다.
엣지 컴퓨팅은 클라우드 컴퓨팅에 비해 물리적으로 가까운 곳에 위치한다. 즉 요청에 대한 응답에 걸리는 시간이 훨씬 짧으며, 지연 단축에 큰 의미를 갖는 생산 공장, 의료, 도시, 교통 분야에서 필수적이다.
예컨데 스마트 공장에서는 제품의 결함 등 생산 문제를 빠르게 파악하여 대처할 수 있고, 웨어러블 디바이스를 통해 사용자의 데이터를 실시간 분석해 건강 이상 징후를 조기에 포착할 수 있겠다.
위의 속도와 비슷한 맥락에서, 엣지 컴퓨팅은 클라우드 컴퓨팅에 비해 훨씬 저렴한 네트워크 비용으로 유지할 수 있다.
민감한 데이터는 클라우드로 전송하지 않고 엣지 컴퓨팅을 이용해 내부에서 처리함으로써 보안과 데이터 주권 문제를 예방할 수 있다.
또한, 기업이나 공장들의 비용 절감과 서비스 개선은 최종 소비자에게도 클라우드나 네트워크 비용 부담을 덜고 양질의 서비스를 누릴 수 있는 기회로 이어질 수 있다.
실제로 Amazon GO 매장은 엣지 컴퓨팅을 활용하여 무인 계산 시스템을 구현하며 고객은 별도 계산 과정 없이 매장을 떠날 수 있다. 결과적으로 고객에게는 긍정적인 고객 경험을 제공하며, 네트워크 대역폭 사용량 또한 대폭 감소했다.
생성형 AI와 LLM의 등장은 디지털 생태에 큰 영향을 끼쳤으며, 엣지 컴퓨팅 또한 예외는 아니다. 기존에는 데리터 처리의 지연 시간과 비용, 보안 문제 해결에 주력하던 엣지 컴퓨팅은 지능형 의사결정의 실시간성과 개인화된 AI 서비스 제공이라는 새로운 가치에 발맞춰 발전되어 갈 것이다.
가트너의 AI 인프라스트럭처 수석 애널리스트 칼로스 멘데스는 "2025년까지 기업에서 생성되는 데이터의 75%가 중앙 데이터 센터가 아닌 엣지에서 처리될 것"이라 전망했다. 단순히 클라우드에서 처리되던 데이터들이 엣지로 옮겨옴을 시사하는 것만이 아닌, AI 시대에 맞춰 컴퓨팅 아키텍처의 근본적인 재구성을 의미한다.
특히 AI 모델의 추론 과정에서 엣지 컴퓨팅의 역할이 점점 중요해지고 있다. NVIDIA의 CEO 젠슨 황은 "AI의 학습은 데이터센터에서, 추론은 엣지에서 이루어지는 하이브리드 모델이 AI의 미래"라고 강조했다.
미래에도 여전히 AI의 대규모 학습은 클라우드에서 진행될 것이라고 예측되지만, 학습된 모델을 엣지로 배포함으로써 실사용자들에게 좀 더 즉각적이고 유효한 서비스를 제공할 수 있을 것이다. 예를 들어, TESLA의 차량은 엣지 디바이스에서 AI모델을 통해 센서 데이터를 실시간 처리하며, 클라우드로 보내는 데이터는 추후 학습 및 모델 업데이트를 위해 사용된다. 또한ChatGPT와 Bing AI와 같은 서비스도 모델 학습은 클라우드 환경에서, 사용자 응답은 엣지 컴퓨팅을 통해 안정적인 서비스를 제공한다.
이처럼 AI 모델의 추론 과정을 클라우드에서 엣지로 옮기며, 소비자들에게는 초저지연 처리를 제공하며, 데이터센터의 과부하를 줄여 비용을 절감하고 과부하를 방지할 수 있다.