요즘 ChatGPT에 대한 이야기도 많고 개발을 진행할때 익스텐션으로 많은 도움을 받고 있다(변수명?).
이렇게 사용하는 것만 아니라 원티드앱의 커뮤니티같은 곳에서 글을 올리면 원티드 AI라는 봇이 제목, 사용자 이름 등을 기반으로 댓글을 달아주는 것을 경험할 수 있다.
내가 직접 생성 모델을 만들기엔 어렵지만 남이 잘 만든걸 가져다 쓰는 것이 바로 개발자 아니겠는가?
사실 필요한 코드는 이것이 전부다.
import openai
response = openai.ChatCompletion.create(
model="gpt-3.5-turbo",
messages=conversation_texts,
)
content = response["choices"][0]["message"]["content"]content로 내용을 받으면 그것이 바로 ai의 답변이다. 결국 중요한 것은 저 conversation_texts를 어떻게 구성하는지다.
conversation_texts = []
conversation_texts.append(
{"role": "system", "content": prompt}
)이와 같은 구조의 딕셔너리 리스트의 형태를 띄고 있고 저 프롬프트에는 우리가 ChatGPT를 사용하듯이 프롬프트를 추가해야한다. 해당 프롬프트에 글의 제목, 본문, 사용자 이름 등을 추가하여 GhatGPT에게 해당 사항들을 고려하여 댓글 형식으로 글을 작성해달라고 요청하면 끝이다.
프롬프트의 내용에 따라서 ChapGPT가 답변하는 형식, 퀄리티, 신뢰도?(할루시네이션 문제가 발생하는 빈도가 달라진다)가 천차만별로 달라지기에 프롬프트의 퀄리티가 제일 중요하다. 테스트해본 결과 한글도 나름 잘 받아들이긴 하는데 역시 베스트는 영어로 프롬프트를 작성하는게 최고다.
만약에 본문의 내용뿐만아니라 서로 댓글을 주고받게 만들고 싶으면 role에 "user"를 그리고 content에 댓글의 내용을 추가하고 해당 내용이 댓글이라는 것을 프롬프트를 통해 인지시켜주면 ChatGPT가 댓글의 내용까지 반영하여 댓글을 달아주는 서비스를 만들 수 있다.
