BERT

hotsun1508·2022년 2월 24일
0

Artificial Intelligence

목록 보기
9/10

BERT의 모델 구조

BERT 모델 공부 시급 !!

허깅페이스 토크나이저(Huggingface Tokenizer)

참고링크: https://wooono.tistory.com/413

자연어 처리 스타트업 허깅페이스가 개발한 패키지 tokenizers는 자주 등장하는 서브워드들을 하나의 토큰으로 취급하는 다양한 서브워드 토크나이저를 제공합니다. WordPiece Tokenizer로 실습.

다양한 트랜스포머 모델(transformer.models)과 학습 스크립트(transformer.Trainer)를 제공하는 모듈입니다.

공부 시급 !!

profile
나는 커서 무려 내가 되겠지

0개의 댓글