
Seq2Seq의 문제점으로 고정된 크기의 벡터에 정보를 압축하기 때문에 정보 손실(Bottle Neck)이 발생하고 입력 시퀀스의 길이가 길어지면 기울기 소실(vanising gradient)문제가 존재 하기 때문에 보완하기 위해 제안된 메커니즘이다.업로드중..메커니즘

Transformer 이해해보자
sLLM 이해하기

LLM RAG
CHASE-SQL은 자연어 텍스트를 SQL 쿼리로 변환하는 데 있어 기존 방법보다 뛰어난 성능을 보여주는 혁신적인 시스템입니다. 데이터 분석, 데이터베이스 쿼리 작성 등을 자동화하는 데 매우 유용합니다. 이 시스템은 특히 복잡한 쿼리와 다양한 조건을 처리할 때 강력한

문제 제기 : 복잡한 일들을 하나의 AI 에이전트가 혼자 해결하기는 어렵다. 그래서 여러명의 AI 에이전트가 협력하는 것이 중요하다.기존 방식의 한계 정적인 협력 : "1번 에이전트 끝나면 2번이 수행, 2번이 끝나면 3번이 수행한다" 규칙이 미리 정해져있어 예상치 못
마치 우리가 여러 전문가에게 일을 나누어 맡기듯, 다중 에이전트 시스템은 매우 효율적으로 보입니다. 하지만 기존의 시스템들은 몇 가지 뚜렷한 한계점을 가지고 있었습니다.경직된 협력 구조: 대부분의 시스템에서 어떤 에이전트가 어떤 작업을 처리할지 규칙이 미리 정해져 있습
이 논문은 대규모 언어 모델(LLM) 기반의 다중 에이전트 시스템(Multi-Agent Systems, MAS)이 가진 한계를 해결하기 위해 새로운 프레임워크인 HALO를 제안합니다.기존의 LLM 기반 에이전트 시스템들은 다음과 같은 두 가지 주요 문제점을 가지고 있습