LLM10-05

김경혜·2024년 10월 5일

http://lectureblue.pe.kr/reqtiles/read.jsp?bbsno=1678&nowPage=3&col=&word=&code=80

저번주 내용


챗지피티의 응답 품질을 높히기 위해서 매개변수를 추가로 사용한다

  • model : 모델의 이름 지정
  • temperature : 모델의 창의성을 증가시키려면 2.0쪽으로
    기본은 1.0이고 실용적이려면 0.0쪽으로
  • top_p : 핵심 확률 기반으로 응답을 잘라냄?
    이 말의 뜻은 값이 높을 수록 연관된 답변을 준다~ 라는 것이고 그로 인해서 값이 높으면 동일한 응답을 계속 받을 수도 있다 라는 것

-- 이 부분에서 응답 헤더 궁금하다 잡아볼까
8. stream

  • 챗GPT의 응답을 실시간으로 받을지 여부를 설정하는 매개변수
  • true : 문장생성 중 부분적으로 결과 반환
  • false : 문장을 모두 생성 후 한 번에 결과 반환

flask 로 서버를 만들고 그걸로 처리하는 법을 찾아봅시다앙~~

장고도 있는뎅 flask가 지금은 제일 간단함니당

번역기 기능 만들기 실습~~~

0개의 댓글