지난 포스트 에서 Python 기반 프레임워크인 Streamlit과 Anthropic의 Claude Sonnet 모델을 활용한 파일 기반 질문 어플리케이션을 구현해보았습니다. 이번 포스트에서는 OpenAI의 최신 모델인 ChatGPT-4o를 활용하여 동일한 기능의 어플리케이션을 구현하고 배포해보겠습니다.
OpenAI
OpenAI는 2015년 인공지능을 연구하는 비영리 재단으로 시작되었으며, 현재는 전 세계에 언어 모델을 서비스하는 대표적인 AI 기업으로 자리 잡았습니다. 우리가 뉴스와 일상에서 수시로 접하는 ChatGPT가 바로 OpenAI의 언어 모델이죠.
OpenAI에서 2024년 7월 현재 기준으로 활용할 수 있는 최신 언어 모델은 GPT-4o 이며, 채팅 서비스와 API에서 모두 활용 가능합니다. 이전의 모델 대비 토큰 소모량을 획기적으로 줄였으며, 불편함으로 지적되었던 응답 속도 역시 개선되어 큰 환영을 받았습니다.
실습
버전 정보
- Python 3.11
- Streamlit 1.36.0
준비 사항
- GitHub 계정
- 클라우드타입 계정
- OpenAI Platform 계정 및 크레딧
GitHub 저장소
실습은 아래의 Python Streamlit 어플리케이션을 통해 진행됩니다. 저장소를 clone 하거나 fork 해주세요.
따라하기
OpenAI API Key 발급하기
-
OpenAI Platform 대시보드에서 API keys 버튼을 클릭합니다.
-
우측 상단의 Create new secret key 버튼을 누르고 Key의 용도를 식별할 수 있는 이름을 입력합니다.
-
Key는 생성 당시에 한하여 한 번만 확인할 수 있으므로 표시된 Key를 안전한 곳에 보관합니다.
Streamlit 앱 배포하기
-
클라우드타입의 프로젝트 페이지에서 ➕ 버튼을 누르고 Python Streamlit 을 선택한 후, 미리 fork 해놓은 streamlit-chatgpt-4o 를 선택합니다. 기타 설정은 아래를 참고하여 입력한 후 배포하기 버튼을 클릭합니다.
- Python 버전: 3.11
- Port: 8501
- Start Command:
streamlit run app.py --server.port=8501 --server.address=0.0.0.0
-
배포가 완료되면 접속하기 버튼을 눌러 정상적으로 Streamlit 앱이 구동되는지 확인합니다.
Streamlit 앱 사용하기
-
브라우저에서 배포된 Streamlit 앱에 접속하고 OpenAI API Key를 필드에 입력합니다. 이어서 엔터 키를 누릅니다.
-
Browse files 버튼을 누르고 질문의 바탕이 되는 문서 파일을 업로드합니다.
-
하단의 채팅창에 업로드 한 파일의 내용에 대한 질문을 입력하고 엔터 키를 누릅니다. 이어서 출력되는 답변을 확인합니다.
Reference
