지식 그래프

지식 그래프(Knowlege Graph)는 개체, 사건 또는 개념과 같은 실체에 대한 상호 연결된 설명 모음을 데이터를 스마트하게 만들기 위해서는 기계가 미리 정의된 데이터 스키마에 얽매이지 않아야 했다. 실제 세계에 얽히고설킨 관계를 나타낼 수 있는 데이터 저장소가

2024년 11월 20일
·
0개의 댓글
·

Neuro Symbolic ai

connectionsymbolic : 인간이 상징적 표현을 형성하여 주변세계를 이해하는 능력에 기반, 개념 처리를 위한 규칙을 만들고, 이 규칙은 일상적 지식을 포착하는 방식으로 공식화 symbolic: 규칙기반신경망: 데이터기반따라서 symbolic AI 시스템에 무

2024년 11월 20일
·
0개의 댓글
·

[인턴일기]IT 스타트업

한 IT 회사 데이터구축업무로 3개월간 인턴을 하게 되었다.첫 인턴이다보니 면접이 엄청 떨렸었다. 자그마치 왕복 4시간... 이라는 엄청난 거리! 지만 회사에 일부분이 될수 있다는 것만으로도 배울것이 많다 생각해 뿌듯한 마음으로 출근중이다.다양한 it 관련 솔루션을 제

2024년 10월 1일
·
0개의 댓글
·

PEFT

한마디로, PEFT는 적은 수의 파라미터를 학습하는것만으로 모델 전체를 파인튜닝하는 것과 유사한 효과를 누릴 수 있도록 해줍니다. 1.Lora 2.Prefix Tuning: 3.Prompt Tuning 4.P-tuning: 5.Adapter Tuning 6.BitFi

2024년 9월 23일
·
0개의 댓글
·

파인튜닝 과정

PEFT Lora trl sftTrainer

2024년 9월 23일
·
0개의 댓글
·

파라미터, 하이퍼 파라미터

파라미터 하이퍼 파라미터

2024년 9월 20일
·
0개의 댓글
·
post-thumbnail

Agent

Agent 사용목적? LLM 가지고는 대화형식의 질의응답방식 조금 더 자동화 목적 규칙을 정해놓지 x/ ai가 적절한 상황판단을 한 다음에 적절한 도구 활용해 내가원하는 결과물을 도출 Agent 구조 두뇌역할 추론능력을 부여하는 LLM 목표를 달성할수 있는 외부 도

2024년 9월 18일
·
0개의 댓글
·
post-thumbnail

RAG

공부 진짜 열심히 해서 실제로 그 지식 습득오픈북 시험 / 누가 질문하면 질문에 답변할 수 있는 부분을 찾아서 답변chatgpt는 이미 학습된 걸 바탕으로 답변rag 내가 올린 데이터 기반으로 답변새로운 지식에 관한 텍스트 데이터(pdf, txt … ) → Embed

2024년 9월 13일
·
0개의 댓글
·
post-thumbnail

Hybrid Search

Hybrid Search란키워드 기반 검색인 Lexical Search와 유사도 기반 검색인 Semantic Search는 각각 장단점이 있고 사용이 유리한 상황이 서로 다르다.Lexical Search : OpenSearch와 같은 전통적인 검색 엔진에서 주로 사용되

2024년 9월 4일
·
0개의 댓글
·
post-thumbnail

라마인덱스 구성 개념

인덱스(Index)는 사용자 쿼리에 대해 관련 있는 문맥을 빠르게 검색할 수 있도록 해주는 데이터 구조입니다. 라마인덱스(LlamaIndex)에서 인덱스는 검색-증강 생성(RAG) 사용의 기초입니다.높은 수준에서 인덱스는 문서(Document)에서 생성됩니다. 이들은

2024년 9월 3일
·
0개의 댓글
·