Intro

마지막 네번째 세션은 ChatGPT 어플리케이션을 직접 만들어 보는 내용으로, 업스테이지의 김성훈 님이 진행하셨습니다. 이전엔 OpenAI API가 있다는 것 정도는 알고 있었지만, 이걸 이용해서 뭘 만들겠다는 생각은 못했네요 ㅠㅜ 이번에 챗봇, 플러그인 만드는 것도 배운 겸, 간단하게 나만의 챗봇을 만들어보는 프로젝트 내용도 추가했습니다!

1. ChatGPT (InstructGPT)

이전 세션과 중복되는 내용으로, ChatGPT에 대해 간단하게 설명합니다. 아래 그림에 대한 내용은 공식 OpenAI의 글에서 확인할 수 있습니다.

Step 1. 예제 프롬프트에 대한 라벨러가 적은 답(설명)을 학습 데이터로 삼아, GPT-3을 fine-tuning 시킵니다.
Step 2. 하나의 프롬프트를 모델에 입력하여, 여러 개의 답을 얻고, 사람이 직접 답에 대해 점수를 매깁니다. 이 데이터를 이용하여 강화 학습을 위한 Reward model(보상 모델)을 만듭니다.
Step 3. 모델의 아웃풋 글에 대해 Reward model이 점수를 매기고 이를 모델에 반영하는 방식으로 강화 학습을 진행합니다.

2. ChatGPT Applications 직접 만들어보기

여기에서는 Telegram의 Botfather를 이용한 챗봇과 ChatGPT의 Plugin을 직접 만들어 보는 내용을 알려줍니다. 기존 챗봇을 만든다고 하면, 채팅 기능을 만들고 서버를 운영해야 하기 때문에 쉽지 않습니다. Telegram의 Botfather를 이용하면, 쉽게 챗봇을 구현할 수 있습니다. 강의에서 제공한 코드를 돌리기만 해서 10분 만에 챗봇을 만들 수 있었습니다. 추가적으로, 다른 사람이 챗봇에 접근해서 토큰을 쓰는 일을 방지하기 위해, 비밀번호를 적용해보았습니다.

ChatGPT Plugin의 경우, 예시로 시간을 알려주는 Plugin을 직접 ChatGPT에 배포하는 것까지 알려줍니다만, 배포하기 위해서는 사전에 OpenAI에 권한을 신청해서 얻어야합니다.