감자 그리고 NLP
태그 목록
- 전체보기(90)
- naverboostcamp(46)
- viz(14)
- nlp_project2(8)
- 논문(6)
- TIL(4)
- 머신러닝(4)
- kaggle(1)
- aws(1)
- EDA(1)
[번역] Real-time machine learning: challenges and solutions
Real-time machine learning: challenges and solutions
2024년 12월 10일
·
0개의 댓글·
0LLM, PEFT, LoRA, (IA)^3
기존의 LLM 학습 방법론1: The 3 Conventional Feature-Based and Finetuning Approaches 언어모델을 target task에 맞게 adapting하거나 finetuning하는 방법론. Finetuning Large Language Models Feature-Based Approach 사전 학습된 LLM을 로드...
2024년 12월 9일
·
0개의 댓글·
0
[논문] Similarity is Not All You Need: Endowing Retrieval-Augmented Generation with Multi–layered Thoughts
논문
2024년 11월 29일
·
0개의 댓글·
0LoRA
효율적인 미세조정과 성능 최적화를 위해 LoRA와 SFT를 사용한다. LoRA(Low Rank Adaptation) 미세 조정 시에 메모리의 효율성을 개선하기 위한 방법이다. 기존 모델의 파라미터는 고정하고, 저차원 업데이트만 학습한다. 특히 LM의 경우, 모든 파라미터를 업데이트하는 것은 메모리와 계산 비용이 크기 때문에 LoRA를 통해 효율적인 미세 ...
2024년 11월 18일
·
0개의 댓글·
0
