자연어처리(NLP)
1.Mechanism of RAG
오늘은 LLM 응답 품질을 높이기 위한RAG(Retrieval-Augmented Generation)를 알아보려한다. RAG(Retrieval-Augmented Generation) LLM은 똑똑하지만 동시에 한계도 존재한다. Hallucination 없는 정보를 있는 것처럼 응답하는 현상 Train-based knowledge ...
2026년 1월 5일
2.SpecEdge
오늘은 최근 NeurIPS에 게재된 논문에서 제안한 SpecEdge(스펙엣지)에 대해 알아보자!
2026년 1월 8일
3.Multi Query Attention & Grouped Query Attention
오늘은 LLM 디코더의 Multi Head Attention 대신 사용하는 Multi-Query Attention. Grouped-Query Attention에 대해 알아보자!
2025년 12월 22일
4.Attention with Linear Biases(ALiBi)
오늘은 동시에 처리 가능한 토큰 길이를 늘릴 수 있기 한 ALiBi에 대해 알아보자!
2026년 3월 11일
5.PromptTopic (PBM)
오늘은 LLM을 활용한 토픽 모델인 PBM에 대해 알아보자!
2025년 10월 24일
6.Tokenizer 생성
오늘은 토크나이저를 직접 생성하는 방법에 대해 알아보자!
2025년 10월 28일
7.Attention machanism
어텐션 매커니즘에 대해 정리!
2023년 12월 29일
8.Text Augmentation (LLM) + PVTM
오늘은 LLM을 사용한 텍스트 증강과 PVTM 모델에 대해 알아보자!
2025년 10월 25일
9.LLM, Jailbreaking
오늘은 LLM의 jailbreak 문제에 대해 알아보자!
2025년 10월 24일
10.NPMI (UCI coherence)
평가지표 NPMI에 대해!
2023년 11월 16일
11.DistilBERT embedding vector
DistilBERT에서 각 레이어 별 임베딩 추출!
2023년 12월 1일
12.Sequence to Sequence (Seq2Seq)
seq2seq라고도 불리는 시퀀스 투 시퀀스 모델에 대해!
2023년 12월 28일
13.prompt engineering (for 토픽 모델링)
오늘은 토픽 모델링할 때 프롬프트 엔지니어링 사용 대해!
2024년 3월 20일
14.GloVe 모델
오늘은 대표적인 Static Word Embedding 모델인 GloVe에 대해서 알아보자!
2025년 11월 6일