LLM 설정

• temperature
  • 값이 낮을수록 항상 가장 확률이 높은 토큰이 선택되기 때문에 더 결정론적인 결과를 낳음 ⇒ 사실을 기반으로 하는 질의응답에 적합
  • 값이 높일수록 모델이 선택하는 토큰의 무작위성이 증가하여 보다 다양하고 창조적인 결과 촉진 ⇒ 창의적인 작업에 적합
• top_p
  • temperature를 활용하는 핵 샘플링 기법
  • 값이 낮을수록 정확하고 사실적인 답변, 값이 높을수록 다양한 반

프롬프트 구성요소

• 지시(Instruction): 모델이 수행할 특정 작업 또는 지시
• 문맥: 더 나은 응답을 위해 모델을 조종할 수 있는 외부 정보나 추가 문맥
• 입력 데이터: 응답 받고자 하는 입력이나 질문
• 출력 지시자: 출력의 유형이나 형식

프롬프트 설계 팁

지시

프롬프트 시작 부분에 지시 사항을 명시한다. 이 때, ‘###’와 같이 명확한 구분 기호를 사용하여 명령어와 지시 사항을 구분할 수 있다.

### 지시 ###
다음 텍스트를 스페인어로 번역해 줘.
텍스트: "안녕하세요!"

특이성

모델에게 실행시킬 지시와 작업을 구체적으로 설명한다.

특정한 출력이나 스타일을 얻고자 하는 경우 명확하게 작성한다.

다음 텍스트에서 장소의 이름을 추출해 줘.

원하는 형식:
Place: <comma_separated_list_of_places>
입력: "이러한 발전은 연구자들에게 격려가 되지만, 많은 것들이 여전히 수수께끼입니다. 리스본에 있는 샴팔리마우드 센터(CCU: Champalimaud Centre for the Unknown)의 신경면역학자인 Henrique Veiga-Fernandes는 "뇌와 주변부에서 보이는 효과 사이에 블랙박스가 있는 경우가 종종 있습니다."라고 말합니다. 그리고 다음과 같이 덧붙입니다. "치료적 맥락에서 이를 사용하고자 할 경우, 그 메커니즘을 실제로 이해할 필요가 있습니다."

부정확성 피하기

부정확한 설명을 작성하는 것을 피해야한다. 프롬프트는 구체적이고 직접적이어야 좋은 결과를 얻을 수 있다.

고등학생에게 프롬프트 엔지니어링의 개념을 2~3개의 문장으로 설명해 줘.

해야 하는 것과 하지 말아야 할 것

프롬프트를 설계할 때는 ‘하지 말아야 할 것’보다는 ‘해야 하는 것’에 초점을 둔다.

Prompt:

다음은 고객에게 영화를 추천하는 상담원입니다. 관심사를 묻지 마세요. 개인정보를 묻지 마세요.고객: 제 관심사를 바탕으로 영화를 추천해 주세요.상담원:

Output:

네, 당신의 관심사를 바탕으로 영화를 추천해 드리겠습니다. 액션, 코미디, 로맨스, 아니면 그 밖의 장르, 어떤 종류의 영화를 좋아하세요?

개선된 프롬프트는 다음과 같습니다.

Prompt:

다음은 고객에게 영화를 추천하는 상담원입니다. 상담원은 글로벌 인기 영화 중에서 영화를 추천해야 합니다. 사용자의 관심사를 묻지 않고, 개인 정보를 요구하지 않아야 합니다. 상담원이 추천할 영화가 없는 경우 "죄송합니다. 오늘 추천할 영화를 찾을 수 없습니다." 라고 응답해야 합니다.고객: 제 관심사를 바탕으로 영화를 추천해 주세요.상담원:

Output:

죄송합니다만, 당신의 관심사에 관한 정보를 찾을 수 없었습니다. 하지만 지금 가장 인기 있는 영화에 대한 목록이 있습니다: [영화 목록]. 좋아하는 것을 찾으시길 바랄게요!

---

출처

프롬프트 설계에 관한 일반적인 팁 – Nextra