🧐 Transformer를 기반으로 발전한 LLM, GPT, BERT 정리 🧐

BERT

Bidirectional Encoder Representations from Transformers

Transformer의 Encoder 기반 입력 문장의 앞뒤 문맥을 모두 고려해 단어를 이해하는 모델
양방향 문맥 이해, 단어가 문장에서 어떻게 연관되는지를 깊이 이해하는데 목적을 둔다.

Pre-Training Model

BERT는 대량의 데이터로 언어의 규칙과 의미를 학습한 사전 모델이다.

Fine Tuning

사전 학습된 BERT를 특정한 작업에 맞게 추가 학습시킨다.

Transfer Learning

BERT의 학습된 언어 지식을 바탕으로 새로운 작업에 적용하며, 필요시 Fine Tuning 실행한다.

---

LLM

Large Language Model

대량의 파라미터에 대량의 텍스트를 학습하여 뛰어난 언어 능력을 가진 모델
대규모 데이터 셋을 기반으로 훈련된 DL 모델을 사용해 컨텐츠를 생성하는 인공지능 기술 중 하나이다.

주어진 문장과 단어를 토대로 다음에 올 문장과 단어 등 맥락을 예측하는 방식(=Transformer의 Decoder)에 초점을 두었다. 따라서 역할 및 임무 부여, 현재 상황과 제시하는 맥락, 요청하는 결과물에 대한 포맷 등 정보를 제시해야 좋은 결과물을 생성한다.

Closed-Source LLM

저작권을 가지는 모델
ex) GPT, Claude, Gemini, Groq 등

Open-Weight LLM

완성된 모델(모델안의 가중치 값)만을 공유한 모델
ex) Meta Llama, Mistral Large, DeepSeek

SLLM

온리바이스/CPU 환경을 고려한 저사양 언어 모델
LLM을 경량화한 모델이며, 구성에 따라 성능이 달라진다.

Encoder-Decoder 구조

Encoder

입력 문장의 의미를 벡터로 추출

Decoder

인코더 결과를 해석해 목표 문장 생성

Prompt

LLM은 맥락(Attention)에 따라 다음 단어를 계속 출력하기 때문에 갑자기 돌발적인 출력을 하지 않는다. 따라서 LLM이 유익한 결과를 출력하는 상황을 이용해야 한다.

Homo Prompt
입력과 출력의 원리를 이해하고 최적의 질문을 구성하는 것이 중요

생성 결과물 특징

높은 유연성과 활용성

자연어 처리에 대한 깊은 이해와 높은 수준의 생성으로 높은 유연성과 활용성을 가진다.

높은 수준 != 정확성

수준이 높은 것이 정확한 것이라 보기 어렵다.
ex) Air Canada 패소
사용자에게 부정확한 정보를 제공해 배상금 지급을 판결한 사건

LLM의 답변은 학습 데이터에 전적으로 의존

익숙하지 않은 데이터에 대한 질문은 정확하지 않을 수 있다. 이유는 LLM은 Transformer의 Decoder, 즉 생성에 초점을 맞춘 모델이다. 따라서 학습한 내용을 바탕으로 지식을 '생성'하기 때문에 익숙하지 않은 데이터에 대한 답변은 정확하지 않으며, 입력이 동일하더라도 결과가 다르다. 이를 두고 🦜확률론적 앵무새🦜라고 한다.

앵무새는 사람의 말을 흉내낸다. LLM 또한 사람의 언어를 흉내내지만 확률에 따라 답변이 달라지기 때문에 확률론적 앵무새라고 한다.

이러한 정확하지 않은 확률론적 앵무새를 정확하게 만들고자 벡터DB, 즉 RAG를 사용한다.

벡터DB

데이터 객체의 수치적 표현인 벡터(또는 벡터 임베딩) 형태로 정보를 저장하는 데이터베이스
벡터 임베딩의 성능을 활용해 이미지, 텍스트, 센서 데이터 등의 데이터로 구성된 대규모 데이터 세트를 색인하고, 검색한다. 벡터 임베딩을 관리하기 위해 구축되었으므로 비정형 및 반정형 데이터 관리를 위한 완벽한 솔루션이다.

벡터 임베딩

주제, 단어, 이미지 또는 기타 데이터를 숫자로 표현한 것
대규모 언어 모델 및 AI 모델에 의해 생성된다. 각 벡터 임베딩 사이의 거리는 벡터DB 또는 벡터 검색 엔진이 벡터 간의 유사성을 결정할 수 있게 한다. 거리는 데이터 객체의 여러 차원을 나타낼 수 있으므로 AI가 패턴, 관계 및 기본 구조를 이해할 수 있다.

참고-벡터DB

RAG

검색 증강 생성, 검색과 생성을 결합한 시스템
검색 엔진의 정확성 + LLM과 같은 생성 모델의 유연성을 결합한 시스템으로, 벡터DB에서 질의와 관련된 정보를 검색해 이를 프롬프트에 함께 전달한다.

검색과 생성 2단계로 이루어진다.
1. 용자가 입력한 질문이나 쿼리를 반탕으로 지식 소스, 벡터DB, 외부 소스 등에서 관련 정보를 검색한다.
2. 검색된 정보가 지식 증강 생성기로 전달되고, 이 생성기가 질문에 대한 구체적이고 유의미한 답변을 생성한다.

이를 통해 할루시네이션을 예방하고, 정확성을 높인다.

참고-RAG

할루시네이션

AI 모델이 생성하는 잘못되거나 오해의 소지가 있는 결과
불충분한 학습 데이터, 모델의 잘못된 가정, 모델 학습에 사용된 데이터의 편향 등 다양한 요인으로 발생된다.

참고-할루시네이션

---

GPT

Generative Pre-trained Transformer

Pre-trained Language Model이란 레이블이 없는 많은 데이터를 비지도 학습 방법으로 학습해 모델이 언어를 이해할 수 있도록 한 후 특정 일에 적용해 좋은 성능을 내는 방법

Transformer의 Decoder 기반 Autoregressive 모델
단방향 텍스트 생성을 목적으로 하며, 이전 값을 기반으로 다음 값을 예측한다.
딥러닝을 활용해 인간과 유사한 텍스트를 생성하는 LLM의 한 유형이며, 방대한 데이터 셋으로 학습해 일관성 있고 맥락에 적합한 응답을 이해, 생성한다.

GPT 모델은 자연어와 코드를 이해하도록 훈련되었으며, 입력에 응답해 텍스트 출력을 제공한다. 이때 GPT에 대한 입력은 프롬프트이다.

참고-GPT 구현
참고-google Cloud-GPT
참고-Wikidocs-GPT models

---

증강 지능

AI를 이용하여 인간의 경험과 지식을 확장하며, 인간을 경쟁자가 아닌 도구로서 AI를 접근한다.

AGI

인간과 비슷한 수준의 지능을 가진 인공지능

Agentic Workflow

여러 역할로 정의된 AI(Agent)들을 바탕으로 workflow를 구성해서 협동의 결과를 얻어내는 방식
다양한 workflow를 설정하고, 이에 맞춘 복잡한 작업을 가능하게 한다.

ex) AI가 음악 산업에 미칠 영향에 대해 글을 쓴다. (Task)
A. Master AI Agent -> B.Writer Ai <-> C.Critic AI
A가 Task를 받아 계획을 세워 B에게 작업을 시킨다. B는 C에게 리뷰 의견을 구하고, B가 재작성하면서 음악 산업에 미칠 영향에 대한 글을 쓴다. 이 글을 A가 품질에 대한 평가를 내리고, 일정 수준 이상이라면 음악 산업에 미칠 영향에 대한 글을 도출한다.

장점

1. 정확성 강화
   일을 수행한 후 피드백을 주고 받으면서 더 정확하고 신뢰성 높은 결과를 만들어낸다.
2. 효율성 증가
   AI agent들 사이의 반복 작업 자동화 및 협업 간소화는 눈에 띄게 효율성을 향상시킨다.
3. 생산성 향상
   Agentic workflow는 다른 접근법과 관점들을 탐구함으로써 더 많은 생산성과 혁신적인 솔루션을 만들 수 있다.
4. 확장성
   AI agent는 많은 수의 작업을 동시에 처리 가능해 확장성이 뛰어나다.

참고-Agentic Workflow

이때 외부 도구나 API를 사용하기 위해 Tool Calling을 하기도 한다.

Tool Calling

LangChain에서 언어 모델이 외부 도구나 API를 사용할 수 있게 해주는 기능
이를 통해 AI 모델은 실시간 정보 검색, 계산, 데이터베이스 쿼리 등 다양한 작업을 수행한다.
특히 Agent 기반의 시스템을 만들 때 매우 중요한 역할을 한다.

중요성

1. 기능 확장
   언어 모델의 능력을 크게 확장한다.
2. 실시간 정보 접근
   웹 검색 도구를 통해 최신 정보를 얻어 항상 최신의 답변만 제공한다.
3. 정확성 향상
   계산기 도구, 데이터베이스 쿼리 도구를 사용해 정확한 수치나 데이터를 얻을 수 있다.
4. 다양한 작업 수행
   코드 실행, 파일 조작, API 호출 등 다양한 작업 수행이 가능하다.

작동 방식

1. 도구 정의
   개발자가 사용할 도구들을 정의하고 설정한다.
2. 프롬프트 설계
   모델이 도구를 적절히 사용할 수 있도록 프롬프트를 설계한다.
3. 모델 추론
   언어 모델이 주어진 일을 분석하고 필요한 도구를 결정한다.
4. 도구 호출
   모델이 선택한 도구를 호출하고, 결과를 받아온다.
5. 결과 통합
   도구 호출의 결과를 모델의 응답에 통합한다.

참고-Wikidocs-Tool Calling

LangChain

대규모 언어 모델(LLM)을 활용한 애플리케이션 개발에 특화된 오픈소스 프레임워크
다양한 외부 데이터 소스와 통합해 복잡하고 유용한 애플리케이션을 만들 수 있도록 설계되었다. LLM의 잠재력을 극대화하기 위해 데이터베이스, 파일 시스템 등과 같은 다양한 데이터 소스와의 통합을 지원해 실시간 데이터와 상호작용하도록 구축한다.

ChatGPT의 한계점인 정보 접근 제한, 토큰 제한, 할루시네이션을 보완하기 위해 사용한다.

Fine-tuning

기존 딥러닝 모델의 가중치를 조정하여 원하는 용도의 모델로 업데이트한다.

N-shot Learning

0개 ~ n개의 출력 예시를 제시해 딥러닝이 용도에 알맞은 출력을 하도록 조정한다.

In-Context Learning

문맥을 제시하고, 그 문맥을 기반으로 모델이 출력하도록 조정한다.

구조

• Prompt
  초 거대 언어 모델에게 지시하는 명령문
• Index
  LLM이 문서를 쉽게 탐색할 수 있도록 구조화하는 모듈
• Memory
  채팅 이력을 기억하도록 하여 이를 기반으로 대화가 가능하도록 하는 모듈
• Chain
  LLM 사슬을 형성하여 연속적인 LLM 호출이 가능하도록 하는 핵심 구성 요소
• Agent
  LLM이 기존 Prompt Template으로 수행할 수 없는 작업을 가능하게 하는 모듈

참고-LangChain 개념과 구조
참고-LangChain

---

AI 정리 완료 👀