[TIL] Open AI - PlayGround

📍 PLAYGROUND - OpenAI

⚙️ 옵션 설정

1️⃣ Temperature

모델이 생성하는 텍스트가 얼마나 랜덤하게 나올지 조정 (모델 출력의 창의성 정도)

• 값이 높을수록 다양하고 창의적인 응답 생성
• 값이 낮을수록 일관되고 이전과 거의 유사한 응답 생성

2️⃣ Max tokens

모델이 생성하는 텍스트 길이 조정 (길이 단위는 단어가 아닌 토큰)

📍 TOKENIZER - 입력한 문장의 토큰 개수 확인

3️⃣ Top P (상위 확률 단어)

확률 분포 기반으로 출력을 제어 (Temperature 와 유사한 개념)

• 0 에 가까울수록 유사한 텍스트 생성
• 1 에 가까울수록 창의적인 텍스트 생성

4️⃣ Frequency penalty

모델이 생성한 텍스트 안에서 중복된 단어가 나오지 않도록 유도

• 값이 높을수록 반복 감소

5️⃣ Presence penalty

모델이 생성한 단어가 다시 등장할 확률 조정. 새로운 주제를 도입할 가능성 (Presence penalty 와 유사한 개념)

• 값이 높을수록 다양한 주제 시도