🧑‍💻한국의 기업들은 Data-Centric AI에 얼마나 준비되어 있을까? 후기 및 정리

TL;DR

  Superb AI의 Whitepaper: "한국의 기업들은 Data-Centric AI에 얼마나 준비되어 있을까?"를 읽고 참고하여 작성되었습니다. Data-Centric AI에 대한 개념과 데이터에 대해서 시스템적으로 접근하기 위한 고려사항들을 포함하고 있습니다.

배경

  인공지능 연구를 진행하면서 데이터의 중요성을 느끼지 못한 사람은 없을 것 입니다. 하지만 중요도에 비해 대다수의 논문들에서는 알고리즘 개발에 집중되어 있는 것이 사실입니다 (Model-Centric AI). 최근에 딥러닝 모델들이 산업계에 도입되기 시작하면서 정해진 데이터로 고정된 모델을 학습하는 것이 아니라 지속적으로 추가되는 데이터, 데이터를 위한 레이블링을 포함한 전처리 등 유동적으로 변화는 데이터에 대한 핸들링 및 효율적인 파이프라인 구축의 필요성이 더욱 높아졌습니다. 이와 함께 데이터 중심으로 인공지능을 개발하고자 하는 Data-Centric AI란 개념이 대두 되었습니다.

  실제로 저명한 인공지능 전문가들이 Data-Centric AI에 공감하면서 모델에 편향된 연구보다 체계적으로 질 좋은 데이터셋 구축을 위한 연구가 필요하다고 말했습니다. Tesla에서 AI 디렉터를 맡고 있는 안드레이 카파시 (Andrej Karpathy)는 테슬라가 안전하고 높은 성능의 자율주행 인공지능을 만들기 위해 많은 양의 데이터가 요구되고 이를 위해 Tesla는 끊임 없이 수집되는 데이터를 효율적으로 레이블링 및 파이프라인을 개발했다고 밝혔습니다.

크고 (Large), 깨끗하고 (Clean), 다양한 (Diverse) 데이터셋을 거대한 신경망에 학습시킨다면, 성공은 담보되어 있습니다.
-안드레이 카파시 (2021 CVPR)

  또한 인공지능 업계에서 종사하는 전문가들 사이에서도 '인공지능 모델의 성능 향상의 가장 큰 요인은 데이터.'라는 공감대가 형성되어 있습니다. 실제로 지난 2021년 3월에 기업들의 인공지능 모델 도입을 돕는 Landing AI의 수장이며 유명교수인 Andrew Ng이 개최한 웨비나에서, '70% 성능 모델을 90% 성능의 모델로 개선하기 위해서 데이터, 모델 어떤 것이 중요한가?'에 대한 물음에 80%의 사람들이 데이터에 한표를 던졌습니다.

대체 실천은 어떻게?

  Data와 Data-Centric AI의 중요성은 두 번 말할 필요가 없지만 이에 대한 일반화되고 시스템적 솔루션을 제시하는 것은 무척 어려운 일입니다. 실제로 인공지능 모델 개발에는 모델의 목표, 타겟 성능 등 여러 변수가 작용하기 때문입니다. 모델 개발과 엮여지긴 하지만 데이터의 출생과 성장 그리고 관리는 수집-가공-랭글링-버져닝-관리로 다섯 단계로 나눌 수 있습니다. 그리고 실제로 Superb AI에서 설문조사한 바에 따르면,

데이터 가공과 관리, 수집 순으로 작업의 어려움을 평가했습니다. 저는 여기서 '데이터 가공'에 대한 시스템적 접근과 데이터 관리 차원에서의 고려점에 대해서 서술하겠습니다.

가공의 시스템적 접근의 예시

노동최소화 Instance-level 레이블링

  Segmentation mask는 이미지에 대한 풍부한 정보가 되지만 매뉴얼 레이블링하기에는 비싼 레이블입니다. 제가 연구하고 있는 Interactive segmentation 연구는 유저의 몇 번의 Interaction으로 Segmentation mask를 얻는 것을 목표로 하고 있습니다.

위의 그림은 Interactive segmentation 모델을 통해서 추론한 결과인데 빨간점이 물체가 있는 부분을 가르키는 Positive 클릭, 파란점이 물체가 없는 부분을 가르키는 Negative 클릭입니다. 보시는 것과 같이 몇 번의 클릭만으로 높은 성능의 Segmentation mask를 획득할 수 있음을 알 수 있습니다.

Auto-Labelling-레이블 컨펌

  하지만 Interactive segmentation과 작게나마 같이 사람의 노동이 투입되는 방법론은 근본적으로 대용량 데이터 구축에 한계를 가집니다. 따라서 비교적 우수한 성능의 인공지능을 개발한 이후에는 모델 추론 결과를 얻어진 레이블으로 여기고 (Auto-Labelling) 이를 수정하거나 컨펌하는 작업을 하여 데이터 구축의 효율성을 더하는 방식을 추구해야 할 것 입니다.

데이터 관리를 위한 고려점

  Superb AI의 이 Whitepaper를 통해 고성능 인공지능을 학습하기 위해서 ML 데이터셋이 어떻게 확보되어야 하는지 개념적으로 제시했습니다.

위 그림과 같이 라벨(Y) 차원에서는 라벨 질과 일관성을 위해서 힘쓰고 로우-데이터(X)차원에서는 꼼꼼히 메타정보를 확보와 실상황에서 마주할 수 있는 Edge case에 대한 분석 및 확보를 지속적으로 해나가야 합니다.