sparse_categorical_crossentropy

text data를 다룰때 label을 원한 인코딩으로 변환시켜야 하는 일들이 빈번하게 일어난다.

• ex) to_categorical(list(df['labels']))

하지만 매우 큰 데이터의경우 이러한 변환자체가 부담이되고 심지어 OOM을 발생하기도 한다.

이러한 이슈 때문에 to_categorical을 사용하지 않고 대신 loss function을 categorical_crossentropy가 아닌 sparse_categorical_crossentropy을 사용한다.

• ex) model.compile("adam", "sparse_categorical_crossentropy", metrics=["accuracy"])