1.개요(Instroduction) 배경 및 동기 최근 NLP 연구는 모델 파라미터와 훈련 데이터의 규모 확장(Scaling)을 통해 뛰어난 성능을 달성 → 데이터, 시간, 저장 공간, 에너지 등의 자원 소비↑ 이러한 한계를 극복하고 리소스가 제한된 환경에서도 연구 성과에 접근 가능하도록 하기 위해, 더 적은 자원으로 유사한 결과를 얻는 효율적인 방법(...