LLM의 성능을 높여라 시리즈
1.[Thinking Model] 패러다임의 전환: System-1에서 System-2 Thinking으로
말하기 전에 먼저 생각하라! 기존 LLM의 한계를 넘어 스스로 오류를 교정하는 'System-2 Thinking' 패러다임을 분석합니다. 추론 연산(TTC)의 확장 원리부터 최적화 전략까지, AI가 문제 해결사로 진화하는 핵심 기술을 만나보세요.
2.[Hallucination] Part 1. 컨텍스트의 함정: 많이 알려주면 전부 다 기억할까? (Lost in the Middle)
LLM에 문서를 많이 줄수록 환각이 해결될까요? 이 글은 RAG의 한계인 '중간 정보 상실(Lost in the Middle)' 현상을 파헤칩니다. 긴 문맥 속에서 LLM이 겪는 인지적 한계를 분석하고, 환각을 억제하는 3가지 실전 최적화 전략을 제시합니다.
3.[Hallucination] Part 2. 무조건 검색하지는 마라, 스스로 판단하고 비판하라 (Self-RAG)
무조건 문서를 검색하는 기존 RAG의 한계를 넘어, 모델 스스로 검색 필요성을 판단하고 팩트를 검증하는 'Self-RAG'를 소개합니다. 내부의 비판(Critique) 메커니즘으로 환각을 원천 차단하는 능동적 AI의 진화 과정을 파헤쳐 봅니다.
4.[Hallucination] Part 3. 검색된 지식이 쓰레기라면? 스스로 교정하는 검색 (CRAG)
검색 엔진이 오답을 가져오면 어떻게 될까요? 문서의 품질을 스스로 평가 및 정제하고, 부족한 지식은 과감히 웹 검색으로 보완하는 CRAG 아키텍처를 소개합니다. 지식의 맹신을 거부하고 환각을 교정하는 능동적인 RAG의 진화를 확인해 보세요.
5.[Hallucination] Part 4. 지식의 지도를 그리다: GraphRAG의 인덱싱(Indexing) 원리
단순한 팩트 검색을 넘어 방대한 데이터 전체의 맥락을 조망하는 GraphRAG를 소개합니다.
6.[Long Context & Memory] Part 1. 위치 인코딩 최적화를 통한 컨텍스트 확장: YaRN
모델의 아키텍처 변경 없이 수학적인 '위치 인코딩(RoPE)' 최적화만으로 LLM의 문맥 창(Context Window)을 32배 이상 획기적으로 넓히는 YaRN 기술을 소개합니다. 기존 모델의 기억력 한계를 극복하는 놀라운 원리와 압도적인 성능을 지금 확인해 보세요.