카카오 koGPT 제가 써봤는데,,, (chatGPT에 맞설 수 있을까)

January·2023년 3월 22일
0
post-thumbnail

요즘 chatGPT로 세상이 변하는 속도가 더 빨라진 거 같다. 대답을 너무 잘해줘서 변호사 시험도 통과하고 대학 과제도 대신 써주고 인생의 지혜도 제시해 준다. 우리는 성인인 지금 ai가 실생활에 스며든 삶을 천천히 맞이할 텐데 현재 어린이들은 ai가 익숙해져서 우리와 다른 뇌 부위가 발달하며 성장할 거라고 한 기사를 본 적이 있다. 발달 부위가 달라진다니 충격적이기도 하다.

그러면서 요즘 개발할 때에 구글링 대신 chatGPT를 사용할 때가 종종 있는데 요긴하다. 질문하는 요구사항이 까다롭지 않고 편하게 말할 수 있다는 장점을 느꼈다. 개떡같이 말해도 찰떡같이 알아듣는다. 지금 와서 내 뇌가 달라질지는 모르겠지만 거부는 못하겠다.

카카오브레인 설명회

내가 좋아하는 채널에서 카카오브레인 설명회를 하고 카카오브레인의 조직문화와 AI 산업의 미래를 알려준다는 채널 공지를 보게 됐다. 이전부터 4차 산업에 흥미 있던 나는 그날 방송만 기다렸다. 기다리면서 한국에서 chatGPT가 나올 수 있을까 기대도 했다.

설명회는 만족스러웠고 특히 의료산업 쪽으로 ai 수준이 높고 개발이 잘 되고 있다는 근거 있는 자료 제시를 하면서 내 기대감도 높아졌다. 또한 카카오브레인의 GPT-3 기반의 인공지능 언어모델 koGPT도 기대가 많이 됐다. 이 기대감을 갖고서 경험해 보고자 직접 만들어봤다.

koGPT API 시작

koGPT API에 Request 중 prompt와 max_tokens는 필수 요구사항이다.

  • prompt: koGPT에게 전달할 제시어인 프롬프트. 한국어만 지원
  • max_tokens: koGPT가 생성할 결과의 최대 토큰 수. koGPT는 지정된 최대 토큰 수 이하 길이의 결과만 반환

쉽게 말하자면 AI에게 보낼 글과 답을 받을 최대 글자수이다. 나머지 속성들도 있고 유용하지만 설명하지 않겠다.
공식 문서

기대에 못미침

koGPT 공식문서를 보면 ai가 해줄 수 있는 기능에 따라 보내야할 텍스트 형식이 달랐다.

  • 기본값으로 형식 없이 문장을 보내면 해당 내용에 이어지도록 문장을 생성한다.

    // 요청
    prompt= "인간처럼 생각하고, 행동하는 '지능'을 통해 인류가 이제까지 풀지 못했던"
    response = kogpt_api(prompt, max_tokens=64, temperature=0.7, top_p=0.8)
    // 응답
    {
       'id': 'c0eb60ab-06c4-4d8d-a31a-454361e4fa4c', 
       'generations': [
           {
               'text': ' 난제들을 해결할 수 있을 것이다."-존 매카시(John McCarthy) 교수"인간은 생각하는 존재다. 인간은 스스로 생각하지 않고 행동하는 것은 불가능하다."-찰스 다윈(Charles Darwin) 교수"인간은 자신', 
               'tokens': 64
           }
       ], 
       'usage': {
           'prompt_tokens': 22, 
           'generated_tokens': 64, 
           'total_tokens': 86
       }
    }
  • 문장 분류하기

  • 뉴스 한 줄 요약하기

  • 질문에 답변하기

  • 특정 정보 추려내기

  • 말투 바꾸기

  • 채팅하기

문장 이어말하기 등 총 7가지 기능을 제시하고 있고 문장 이어말하기를 제외하고서 각 형식에 맞게 텍스트를 작성해야지 우리가 어느정도 예상하는 범위에서 대답을 한다.

하지만 koGPT의 가장 큰 불편함으로 요청하는 정보에 대해 우리가 근거가되는 정보를 함께 넘겨주어야하는 것과 제시하는 답의 정확도가 너무 낮다는 것이다. 그래서 chatGPT와 많은 차이를 느낄 수 있었다.

문장 분류하기의 경우

prompt='''상품 후기를 긍정 또는 부정으로 분류합니다.
가격대비좀 부족한게많은듯=부정
재구매 친구들이 좋은 향 난다고 해요=긍정
ㅠㅠ약간 후회가 됩니다..=부정
이전에 먹고 만족해서 재구매합니다=긍정
튼튼하고 잘 쓸수 있을 것 같습니다. 이 가격에 이 퀄리티면 훌륭하죠='''

긍정이 무엇이고 부정이 무엇인지 알려주고서 요청 해야했다. 또 문장 마지막에는 훌륭하죠= 이콜 기호로 마무리해야지 의도한 기능으로 응답이 온다.

뉴스 한 줄 요약하기

요약 기능은 한줄 요약:으로 문장 끝이 마무리가 되야지 요약된 문장으로 응답이 온다. 이 기능은 정확도가 비교적 높았지만 만족스럽지는 않았다. 요약을 해주기도하고 감상평을 내놓기도 했다.

"700조원 굴리는데 30~30년만기 시장금리보다 손해 나는건 같이 개손해임. 늦기전에 한국주식어플 크레디트스위스로 갈아타셈...<드라마 미스티>등에 나와ㅋ"

개손해라는 표현도 한다ㅋㅋㅋ

"장기적인 수익률 목표를 위해서라도 위탁 운용 수수로 효과를 의식해서라도 위탁 운용 수수료 내려!! (중년한국 중년화보앤 영화 편성표) 이 프로그램 SBS 힐링캠프 두 번째 이야기 YTN 에이스토리 새 드라마로 찾아온다"

금융시장과 국민연금의 안좋은 소식을 알리는 칼럼인데 정확하게 캐치하지 못한다. 지금 보여주는 예시 외에도 사용해보면서 chatGPT와 비교가 많이 되서 좀 아쉬웠다.

몇번 테스트를 해보니 공백미포함 800자 정도 내용을 제공해야지 깔끔하고 내용반영이 확실히 된 요약을 해준다. 한줄 두줄 몇줄 요약은 지정할 수 없는거 같다.

문장 이어말하기

이 기능은 어떤 점으로 쓸 수 있을까 고민을 해보다
창작 소설이 생각나서 주제나 시작되는 내용을 알려주면 이어서 소설을 쓰도록 해보았다.
주인공 설정과 장르를 설정하고서 이어말하도록 했다.

그런데 문장 구성이 좋지않게 답이 온다. 주인공 설정과 장르는 잘 반영이 되지만 문장을 구성하고 개연성있는 내용을 만들어내지 못한다. 문법적으로도 맞지 않는 표현도 많다.

그런데 다다음 서비스 시작?!

koGPT를 써보고서 기대를 많이 했어서인지 실망스러움이 컸다. 별점 5점 만점에 3점! 다른건 그렇다 쳐도 답이라도 잘했으면 하는데 원하는 답에 근접하지 못한 경우가 너무 많아서 도대체 얼만큼 사전정보를 제공해야하는지도 모를정도다. 더 나중에는 카카오ai가 실생활에 들어와서 자연스러운 대화가 됐으면 한다.....그런데?!

카카오브레인이 얼마전 카카오톡으로 이용할 수 있는 인공지는 챗봇 '다다음'을 베타 서비스 출시했다는데 나는 사용해보지 못해서 후기를 보니까 대화가 잘되는듯 하다?!

'다다음'은 koGPT와 Karlo를 활용한 프로토타입이라는데 내가 써본 koGPT는 왜 이런건지,,그런데 기사를 찾아보니까 다행히 내가 사용하면서 느낀점이 틀린거 같지는 않다고 생각이 든다.

카카오브레인 관계자는 “최신 정보 기반으로 정확한 답변을 드리기 위해 노력하고 있으나, 기술적 특성으로 인해 답변에 대한 정확도와 신뢰도를 보장하지는 않으며, 답변에 일부 부적절한 표현이 포함될 수 있다”면서 “많은 피드백을 주는 만큼 더 빨리 성장할 수 있으니 많은 참여 부탁드린다”고 밝혔다.

귀한 api

설레는 마음으로 "KoGPT를 활용해서 사이드 프로젝트 해볼까?" 생각 많이 했는데 포기했다. 오픈api에 한국어 언어 모델 ai는 귀한데 지금보다 똑똑해지면 유료가 될지 두고봐야겠다.

카카오 오픈api는 무료 토큰을 모두쓰면 추가 요청이 불가한걸로 알고있고 koGPT를 체험해볼 곳이 아직 없는거 같아 내가 배포한 링크를 공유한다.
koGPT Demo
openai로 api 변경되서 링크 닫습니다

0개의 댓글