Backbone이란 머신 러닝 및 컴퓨터 비전 분야에서 주로 사용되는 용어로, 신경망의 핵심 구조를 의미한다. 보통 딥 러닝 모델, 특히 컨볼루션 신경망(CNN)에서 이미지의 특징을 추출하기 위해 사용되는 기본 네트워크를 가리킨다. Backbone은 이미지에서 높은 수준의 추상화를 추출하여 더 복잡한 작업(예: 객체 탐지, 세그멘테이션 등)을 수행하는 다른 네트워크 컴포넌트에 정보를 제공한다.
NLP에서의 Backbone은 text data의 중요한 feature을 extracting하는 핵심 모델 구조를 의미한다. 주로 Transformer 기반의 모델들이 Backbone으로 사용되며, BERT, GPT, T5 등이 이에 해당한다. 이러한 모델들은 text input을 받아들여 단어들 간의 relation 및 context를 이해하는 데 사용된다. Text에서 high quality의 semantic extraction을 수행하고, 이를 기반으로 sentence classification, sentiment analysis, translation, QA 등 various tasks를 수행하는 데 활용된다.