[리뷰] 자연어 처리를 위한 허깅페이스 트랜스포머 하드 트레이닝

좋은 기회로 이 책을 읽게 되었는데, 왜 이런 책이 이제야 나왔나 싶다. 😂
이 책이 1년만 일찍 나와서 내가 작년 이맘때쯤에 이 책을 읽었더라면
내 커리어가 정말 많이 달라졌을 것 같다. 🥲

장점

• 자연어처리 거의 모든 태스크를 다룸
  • 문장분류, QA, NER, 번역 등등
  • 심지어 인코더, 디코더, 인코더-디코더 모델별로 각각!
• 현업에서 파인튜닝할 때 반드시 필요한 경량화(PEFT 및 양자화) 까지 쉬운 설명 + 코드 제시
• 위 장점들 덕분에 기술면접 앞두고 이 책 읽었더니 도움이 되었음.
  • 다양한 태스크 + 최신 기술까지 쉽게 설명해 주니 기술면접에서 특정 기술에 대해 쉽게 설명하라는 질문에 대처하기 좋았음.
• 허깅페이스 이용해서 개발할 때 매우 편리함
  • 요즘 허깅페이스 없이 AI 개발하는 경우가 거의 없는데 맞춤형 실용서인 셈.
• 실무에 즉시 활용 가능 (꼭 필요한 코드만 간추려서 쉽게 설명하기 때문)

아쉬운 점

• 책 내용을 소화하려면 자연어처리 기본 지식이 있어야 함
  • 일단 트랜스포머가 뭔지 아는 독자들을 대상으로 쓰여진 것 같다..
  • 자연어처리 모델이나 주요 태스크에 대한 이해가 없는 입문자라면 어렵게 느껴질 듯.
  • 반대로 실무자한테는 이만한 책이 없다!
• 경량화 측면에서는 설명을 조금 더 자세하게 해 주고 그림으로 이해를 도왔다면 더 좋았을 듯.
  • 특히 PEFT 와 LoRA 설명할 때 그림이 한개뿐이라 아쉬웠다.
  • 양자화에서 지수부 가수부도 그림을 넣어줬다면 더 좋았을 것 같다.
• 이제야 출판된 점
  • 이런 개쩌는 유용한 실용서가 왜 이제야 나옴 😂😂😂😂😂😂😂😂😂😂

아주 개인적인 생각으로 저자 두 분 모두 스타트업 근무 경험이 있으신데,
스타트업에서는 빠르게 개발하고 테스트해야 하고 자원은 한정적이라
이만큼 효율적으로 빠르게 개발할 수 있는 실용서를 집필하시게 된 건 아닐까... 🤭

개인적으로 작년 여름 즈음부터는 스터디 따라가기 바쁨 + 현업에서는 백엔드 개발을 더 많이 함
= 일단 코드 주워다 돌려보기 바빠서 뭐가 뭔지도 모르고 허깅페이스 써댔는데
이제는 주워 온 코드라 할지라도 어떤 기능을 하는 코드인지 제대로 알고
필요한 데이터셋을 알맞게 변형해서 모델 파인튜닝을 시킬 수 있을 것 같다!

#비제이퍼블릭 #자연어처리 #허깅페이스 #트랜스포머 #언어모델 #대규모언어모델 #LLM #모델경량화 #강화학습 #인공지능 #생성형AI #머신러닝 #딥러닝 #생성모델 #파이썬