온디바이스AI_20210319

Jiian·2021년 6월 23일

경제 및 시사 공부

목록 보기

10/42

1. 정의.

온디바이스(On-device) AI 는 단말 기기 자체적으로 작은 데이터를 기반으로 AI를 수행하는 기술로, 스몰 AI (Tiny AI) 라고도 한다.

기존의 방식은 컴퓨터에서 AI의 핵심인 ‘학습과 판단’은 대용량 서버로 구성된 클라우드 인프라에서 이루어진다. 스마트폰, 태블릿 등 스마트 기기에서 수집한 정보를 중앙 클라우드 서버로 전송하고 분석한 후 다시 기기에서 받는 방식으로 학습과 판단이 이루어지고 있다.

그러나 물리적으로 떨어져 있는 중앙 클라우드 서버를 거쳐야 하기에 ‘속도 저하, 개인정보 유출’ 등 여러 문제가 있기에 중앙 서버에 의존하는 기존의 방식은 한계가 있었다. 이에 따라 중앙 처리 방식과 물리적인 거리 문제를 해결하는 방식이 ‘온디바이스 AI’ 다.

중앙 클라우드 서버를 거치지 않고, 사용자가 보유하고 있는 기기 (스마트 기기 등) 내에서 자체적으로 정보를 수집하고 연산하여 판단을 바로 수행한다. 즉, 실시간으로 AI 서비스 제공이 가능한 것이다.

온디바이스(On-device) AI 의 장점으로는 이처럼 빠른 서비스가 가능하다는 점이 있다. 추가적으로, 데이터를 단말 중심으로 운영하기에 데이터 보안성이 강화된다는 점이 있으며, 단말기에서 직접 데이터를 처리하기에 클라우드 컴퓨터로의 에너지 집중과 과부하 문제를 해결해줄 수 있다는 점이 있다.

2. 온디바이스 AI 관련 사례

Case 1: 페이스북 AI, 온디바이스 AI 플랫폼 '디텍트론2Go' 오픈 소스 [2021.03.5]

페이스북 AI 연구소에서 이미 제공된 ‘Detectron2’는 머신러닝 모델을 훈련하기 위해 설계된 파이토치 기반 라이브러리다. 이를 통해 이미지 분류와 객체 탐지 작업을 쉽게 해올 수 있었다.
그러나 그동안 많은 비전 관련 시스템이 문제가 있었듯이, 서버나 클라우드 기반으로 진행이 되었기에 데이터를 수집하고 처리하기 위해 클라우드로 보내고, 작업을 실행을 하는 데까지 대기 시간이 오래 걸린다는 문제가 있었다.
페이스북 리얼리티 랩스의 모바일 비전팀에서는 Detectron2를 기반으로, 모바일 기기와 하드웨어에 효율적인 딥러닝 객체 탐지 모델을 학습하고 배포하는 ‘Detectron2Go (D2Go)’ 오픈소스를 공개했다. 이를 통해 기존의 서버 기반 모델에 비해 대기 시간이 단축되고 정확도가 향상되었다고 한다.

Case 2: SA "올해 스마트폰 71%, AI 디바이스 탑재할 것" [2021. 03. 12]

스트레티지 애널리틱스(SA)에서 발표한 연구 보고서인 '스마트폰 : 2025년 글로벌 AI 기술 예측'에 의하면 스마트폰 제조업체가 '온 디바이스 AI'를 빠르게 채택하고 있다고 한다. 온 디바이스 AI를 탑재한 스마트폰은 애플의 아이폰 12 프로와 삼성전자의 갤럭시s21 울트라 5G가 대표적이다.

아이폰12은 HDR 사진 보정 촬영 기능을 강화하였고, AI로 주변환경에서 들리는 알림음을 감지해 사용자에게 알려주는 ‘소리인식’ 기능 과 스마트 카메라로 사용자 얼굴 인식과 신원파악이 가능한 ‘ 홈킷’ 기능이 있다.

갤럭시s21 울트라에서도 AI 기반의 ‘장면최적화 기술’과 선이나 패턴의 디테일을 살려는 ‘AI 복원 기술’과 배경인물을 클릭해 사진에서 지울 수 있는 ‘오브젝트 레이저’에서 AI 가 사용되고 있다.

이처럼 객체 인식과 동작 감지와 같은 AI 기능이 프리미엄 스마트폰에서 중요해지고 있음과 동시에 ‘시리’와 같은 AI 기반의 가상비서의 활용도가 높아지고 있기에 온디바이스 AI의 필요성은 더욱 커질 것으로 예측된다.

4. 개인 견해 (5줄 이상)

사실 온디바이스 AI와 관련된 플랫폼인 Detectron2Go 오픈소스가 나왔다는 글을 봤을 때 기쁨과 동시에 아쉬움이 있었다. 학부생연구원 활동을 할 때 페이스북의 ‘Detectron2’를 활용해 연구를 했었는데 실험을 할 때 연구실 GPU 자원을 사용하면서 아쉬움을 많이 느꼈었기 때문이다. 향후 연구 활용방안을 논문에서 작성할 때 “모바일 기기상에서도 활용되기 좋을 연구” 라고 적은 부분이 있었는데, 만약 이 Detectron2Go 오픈소스가 1년만 더 빨리 공개되었어도, 직접 실험을 해서 실제로 더 활용도가 높은 연구 활동이었음을 입증할 수 있었기 때문이다. 그러하기에 내 입장에서는 아쉽기는 하지만, 이런 온디바이스 AI와 관련된 오픈소스도 공개되기도 하고, 온디바이스 AI를 활용한 연구와 서비스가 더 많이 나올 수 있을 거라는 생각에 기쁘기도 했다. 또한 데이터 보안이 중요한 요즘, 온디바이스 AI의 장점인 ‘데이터 보안 기능 강화’ 가 마음에 들었다.