사전학습(Pretrained) Transformer 모델 모음과 추론/학습 도구 세트이다.
제공 기능
1. Model Hub 연동: model_id만으로 가중치 자동 다운로드/캐시, safetensors 지원.
2. Auto 클래스: AutoTokenizer, AutoModel*로 아키텍처 자동 매칭.
3. Pipelines: 한 줄로 추론(예: pipeline("text-generation")).
4. Trainer API: 표준 학습 루프(로그·평가·체크포인트·DDP) 제공.
5. 토크나이저(Tokenizer): Rust 기반 fast tokenizer로 고속 전처리(BPE, WordPiece 등).
6. 다중 프레임워크: PyTorch, TensorFlow, Flax(선택).
7. 대형 모델 지원: device_map="auto", bitsandbytes(8/4비트), accelerate로 멀티-GPU/혼합정밀.
8. 생태계 연동: datasets(데이터), evaluate(지표), peft(LoRA/Prefix 등 경량 미세조정), optimum(ONNX/BetterTransformer/가속).
개발자