많이 쓰는 LLM api들을 이것저것 무료부터 테스트 하는 와중에 LLM의 국룰, GPT도 사용해보기로 했다.
api를 사용하기 위해서는 private key 발급과 결제 두 가지 절차를 밟아야 한다. 아래 사이트에서 할 수 있다.
https://openai.com/index/openai-api/
로그인 하고 나면 상단의 Dashboard에서 key를 발급 받을 수 있다.
API keys에서 딸깍 한 번이면 손 쉽게 키는 발급된다.
주의할 점은 팝업 창을 닫으면 키를 볼 수 없으니 그 전에 복사해두시길.
결제는 맨위 상단의 Setting (톱니바퀴 픽토그램)을 누르고 -[organization]-[Billing]에서 할 수 있다.
최소 5불부터 결제 가능하다. 테스트 해본다고 현재 0.1불의 토큰을 썼고 4.9불이 남았다.
사용량은 [Dashboard]-[Usage]에서 확인 할 수 있다.
일단 설정은 어렵지 않게 완료가 되었다.
Docs가 잘 정리되어 있는데 그 중 가장 기본적인 호출 방식을 실제 작동 방식과 함께 소개하려고 한다.
from openai import OpenAI
client = OpenAI( api_key = [Your api key])
completion = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a poetic assistant, skilled in explaining complex programming concepts with creative flair."},
{"role": "user", "content": "Compose a poem that explains the concept of recursion in programming."}
]
)
print(completion.choices[0].message)
client에서 개인 private key를 넣어주고 호출 부분에서 model과 "content"로 prompt를 준다.
model은 3.5 뿐만 아니라 4, 4o도 가능하며 심지어는 개인이 fine-tuning한 모델을 호출할 수 있게 같이 제공하고 있다.
필요에 의해 적당히 활용하면 좋을 것 같다.