공부

Hybrid Search란키워드 기반 검색인 Lexical Search와 유사도 기반 검색인 Semantic Search는 각각 장단점이 있고 사용이 유리한 상황이 서로 다르다.Lexical Search : OpenSearch와 같은 전통적인 검색 엔진에서 주로 사용되

공부 진짜 열심히 해서 실제로 그 지식 습득오픈북 시험 / 누가 질문하면 질문에 답변할 수 있는 부분을 찾아서 답변chatgpt는 이미 학습된 걸 바탕으로 답변rag 내가 올린 데이터 기반으로 답변새로운 지식에 관한 텍스트 데이터(pdf, txt … ) → Embed

Agent 사용목적? LLM 가지고는 대화형식의 질의응답방식 조금 더 자동화 목적 규칙을 정해놓지 x/ ai가 적절한 상황판단을 한 다음에 적절한 도구 활용해 내가원하는 결과물을 도출 Agent 구조 두뇌역할 추론능력을 부여하는 LLM 목표를 달성할수 있는 외부 도

파라미터 하이퍼 파라미터

PEFT Lora trl sftTrainer

한마디로, PEFT는 적은 수의 파라미터를 학습하는것만으로 모델 전체를 파인튜닝하는 것과 유사한 효과를 누릴 수 있도록 해줍니다. 1.Lora 2.Prefix Tuning: 3.Prompt Tuning 4.P-tuning: 5.Adapter Tuning 6.BitFi

인덱스(Index)는 사용자 쿼리에 대해 관련 있는 문맥을 빠르게 검색할 수 있도록 해주는 데이터 구조입니다. 라마인덱스(LlamaIndex)에서 인덱스는 검색-증강 생성(RAG) 사용의 기초입니다.높은 수준에서 인덱스는 문서(Document)에서 생성됩니다. 이들은

connectionsymbolic : 인간이 상징적 표현을 형성하여 주변세계를 이해하는 능력에 기반, 개념 처리를 위한 규칙을 만들고, 이 규칙은 일상적 지식을 포착하는 방식으로 공식화 symbolic: 규칙기반신경망: 데이터기반따라서 symbolic AI 시스템에 무

지식 그래프(Knowlege Graph)는 개체, 사건 또는 개념과 같은 실체에 대한 상호 연결된 설명 모음을 데이터를 스마트하게 만들기 위해서는 기계가 미리 정의된 데이터 스키마에 얽매이지 않아야 했다. 실제 세계에 얽히고설킨 관계를 나타낼 수 있는 데이터 저장소가