LLM
1.LLM - AGI ANI
인간과 유사한 모든 지능적인 작업을 수행할 수 있는 인공지능 (=강인공지능)작업을 수행할 수 있는 범위가 일반적인 모든 영역을 포함하는 것 뿐 아니라 인간의 지능(기억, 학습, 추론, 문제해결, 창의성)을 모방한 인공지능을 의미. 진정한 의미의 인공지능이며, 정말 사람
2.LLM - Prompt 템플릿
이 프롬프트는 소스 코드에 인라인 주석을 배치하도록 설계되었습니다.I am working with a program written in Ensure that the explanations and comments adhere strictly to the syntax an
3.LLM - Rag Architecture
우리가 가진 정보를 Vector store에 저장해두고, 사용자의 질의가 들어올 때 관련된 정보를 검색하여 해당 정보가 담긴 문서들을 프롬프트를 통해 LLM에 전달하는 방식비즈니스 도메인 기반으로 대형 언어 모델 (LLM) 애플리케이션을 개발하고자 할 때 문제가 되는
4.OpenAI Embedding encoding_format
OpenAI의 text-embedding모델을 통해서 임베딩처리를 하려고 할때 다음과 같은 옵션이 존재한다. Request body이때 1536 벡터 기준, response 되어지는 글자수의 차이가 존재한다. Response float: 45661Response ba
5.NLP - 분류 평가에 대해서
모델 분류의 평가에 대해 알아보자. 해당 시간의 주요 목적은 다음과 같다.어려운 이야기를 제외하고, 분류 평가에 대한 설명 및 매번 혼동되는 평가 지표에 대해 이야기 해보자 현재 하나투어에서 서비스하고 있는 여행정보AI는 사용자의 질의에 따라 다양한 형태의 답변
6.LLM - 지연 시간 최적화
OpenAI에서 권장하는 지연시간을 줄이기 위한 방안이다. 실제 서비스를 하다보면 LLM에 요청해야하는 프롬프트가 한두가지가 아니다. 이런 프롬프트들을 각각의 시간에 맞춰서 기다리게 되면 점점 더 오랜시간을 기다리게 되는데 위의 글은 그 지연 시간을 최소한으로 하기 위
7.LLM - 지연 시간 최적화 예제
이전에 작성한 14. LLM - 지연 시간 최적화에서 어떤식으로 최적화를 진행하는지 확인합니다.OpenAI Docs사용자가 진행 중인 대화의 일부로 메세지를 보냅니다.마지막 메세지는 독립적인 쿼리로 변환됩니다.해당 질의에 응답하기 위해 추가(검색된) 정보가 필요한지 여