[오류] CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`

yoonene·2022년 4월 5일
1

CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling cublasCreate(handle)

부스트캠프 P-stage-2를 하며 이 오류를 자주 마주했는데,
special_token을 추가하고 token_embeddings를 resize하지 않아 발생했다.
따라서 다음과 같이 본인이 추가한 토큰만큼 추가해줘야 한다.

# num_added_token: 추가된 special tokens
model.resize_token_embeddings(num_added_token + tokenizer.vocab_size)
profile
NLP Researcher / Information Retrieval / Search

0개의 댓글