지난주 개발코스 6주차에서 RAG검색 향상기법 중 re=ranking을 로컬에서 test하다 계속된 Error로 인해 헤맸던 내용을 기억하시나요?7주차에서는 해당 문제를 해결하고 test에 성공한 이야기를 다룰 예정입니다.기존에 설치한 llama3.1 8B를 모델로 적

지난 주차에 얘기했던 RAG 검색 향상기법 중 'Re-Ranking'을 로컬에서 테스트하며, 적용 전과 후의 차이를 비교해보는 작업을 가졌다.사실 몇일을 시간날 때마다 틈틈이 시도해봤으나 에러가 발생하며 실행이 되질 않아서,,애를 많이 먹고 있다. 도대체 뭐가 문제인건

GDG AI Project Track을 진행하던 중 RAG 검색기능 향상 기법에 대해 조사할 기회가 생겼다.이에 따라 이번주 블로그는 회고록 형식이자, 정보제공을 목적으로 작성할 예정이다.RAG란?RAG(검색 증강 생성)는 LLM이 학습하지 않은 최신 데이터나 특정 기

팀원들과 회의를 통해 앞으로 무엇을 해야할지 정리하였고,'평가지표, RAG 검색기능 성능향샹, WEB UI 만들기'로 크게 틀을 잡았다.회의 전, RAG 검색기능 향상기법에 대해서 조사하는 과정을 가졌으며,현재의 'LangChain + ChromaDB + Llama 3

전처리한 데이터를 vector DB(chroma DB)에 담는 작업을 진행하였다.처음에는 코랩에서 코드를 돌려 AWS EC2 서버로 데이터를 적재하려고 했으나 14만개의 데이터로 인해 생각보다 많은 시간이 걸렸고, 중간에 네트워크 유실로 끊길 우려가 발생할 수 있었을

파트스터디의 세미나를 진행중, 재밌는 탈옥 스토리를 듣게 됐다.아니,, 완벽한 줄 알았던 AI에 이런 허점이?? 라는 흥미가 유발됐고,이에 관련해 또 다른 스토리는 없을까? 관련된 개념과 문제점은 무엇일까? 해결방안은??이런 궁금증에 이번주 블로그글의 주제로 삼게 되었

기존에 내가 처리한 전처리 데이터와 다른 멤버들이 실행한 전처리를 함께 비교하며,내 전처리 항목 중 불필요한 것은 없애고, 필요한 것만 남기는 과정을 거쳐 버전2의 json 파일을 만들었다.유지할 항목 score / severity / attack_vector / p

1주차에서 각자 맡은 데이터셋을 전처리하기 위해,2022~2026년도 데이터(최근 5년치)RecentModified 를 가지고 진행하였다.2022~2026년도를 적용 -> Recent를 적용해 최근에 나온 부분까지 반영하여 최신화 시킴.이후 Modified를 적용해 전

앞으로의 진행단계 중 데이터 전처리를 하기 위한 데이터셋을 찾았다.팀원들과 각자 어떤 부분을 맡아서 전처리 해올지에 대해 4가지로 분류하였고,그에 맞는 분배 작업과 방향성에 대해 함께 이야기 하였다.어떤 과정을 통해 진행할지, 아래와 같이 논의하였고한 멤버가 예시로 일

Langchain Langgraph Orchestration Ollama

개발자가 할 수 있는 고민이 있다."어떻게 하면 비싼 GPU 서버 없이, 내 노트북에서 최신 AI 모델을 쉽고 빠르게 돌려볼까?""내가 만든 AI 서비스의 사용자가 10만 명으로 늘어났을 때, 어떻게 서버를 관리하고 확장할까?"이를 해결하기 위해, Ollama(올라마)

프로젝트 경험이 없고 AI 관련해 지식이 많지도 않다보니 어떻게 기획을 시작해야하고 어떤 기술스택을 사용해야할 지에 대해 막막하고 시작조차 하기 어려운 부분이 분명히 있었다. 다행히 팀에 플젝 경험이 많고 지식도 많은 친구들이 있어, 내가 도움이 되진 못 했지만 따라가

...

...

RNN(Recurrent Neural Network)이 어떻게 순서 정보를 반영할 수 있는지, 내부 구조와 함께 동작 원리를 정리 dense 기반 모델과 RNN 모델의 예측 차이가 의미하는 바를 두 모델의 차이점과 함께 정리 RNN의 한계에 대해서 설명 장기 의존성

''

하이퍼파라미터(Hyperparameter) [개념] 최적의 훈련 모델을 구현하기 위해, 모델에서 설정하는 변수 하이퍼파라미터 튜닝 기법을 적용하여 훈련 모델의 최적값들을 찾을 수 있다. [특징] 개발자에 의해서 수동으로 설정할 수 있다.(임의 조정 가능) 학습 알고리

Transformer가 RNN, LSTM과 다른 점? Transformer란? 텍스트와 같은 순차적 데이터를 처리하도록 설계된 일종의 신경망 아키텍처이다. RNN이란? 이전 시점의 정보를 기억하는 순환 구조를 통해 순차적 데이터(시계열 데이터)를 처리하는 딥 러닝 모델

'rb'가 파일을 바이너리 모드로 읽겠다는 뜻이며,'.decode('utf-8')'은 한국어가 깨지지 않도록 UTF-8 인코딩으로 변환하는 단계임을 알 수 있었다.실습을 진행하며 세번째 항목을 split을 통해 분류하였고 정답 라벨만 분류하여, numpy 배열 형태로

Numpy: 수치 연산(벡터, 행렬 등)을 빠르고 효율적으로 처리하기 위한 배열 기반 계산 라이브러리Pandas: 표(데이터프레임) 형태의 데이터를 다루기 위한 데이터 분석용 라이브러리엑셀처럼 행과 열을 기반으로 데이터 조작, 필터링, 통계 분석을 수행TensorFlo