1장. ChatGPT 개요

자연어 처리(Natural Language Processing, NLP)

• 인공지능이 사람의 언어를 처리하는 분야
• 자연어 처리 분야 2가지
  • NLU (Natural Language Understanging)
  • NLG (Natural Language Generation)
  • 여러 가지 보기 중에서 정답을 고르는 문제를 자연어 이해, 텍스트를 인공지능이 스스로 생성하는 문제를 자연어 생성이라고 함
• 자연어 처리는 '자연어 이해와 자연어 생성의 두 가지 문제를 인공지능이 어떻게 잘 처리할 수 있을까?'에 대한 고민과 함께 지속해서 발전해왔음

트랜스포머

• 인공신경망 (Artificial Neural Network, ANN)

  • 사람 뇌의 신경망으로부터 영감을 받아 만들어진 수많은 인공지능 기술 중 하나
  • 예) 알파고, 구글번역기, 파파고
  • 내부의 가장 작은 단위인 뉴런과 이 뉴런으로 구성된 층이 몇 개냐에 따라 다양한 구조름 가짐
  • 딥 러닝(Deep Learning)은 신경망이 층이 쌓이고 쌓여서 깊은 층을 이루는, 즉 층이 많은 신경망을 학습시킨다는 의미
  • 파라미터(Parameter)는 인간의 뇌로 비유하면 뉴런 간 정보를 전달하는 시냅스에 비유할 수 있음
  • 층이 아주 많은 신경망이 있을 때, '딥 러닝한다' 또는 '파라미터가 많은 거대한 신경망을 학습한다'라고 표현함

• 트랜스포머 (Transformer)

  • 구조와 용도에 따라 신경망마다 고유한 이름을 가지기도 함
    • 예) 이미지 분야의 컨볼루션 신경망 (Convolutional Neural Network, CNN)
    • 예) 주가 데이터, 텍스트 데이터 등과 같이 순서가 중요한 경우에 사용되는 순환 신경망 (Recurrent Neural Network, RNN)
  • 트랜스포머는 2017년 구글이 공개한 신경망
  • 트랜스포머는 제안 초기, 하나의 언어를 다른 나라 언어로 번역하기 위한 '번역기'의 용도로 만들어짐
  • 당시 많이 알려진 컨볼루션 신경망이나 순환 신경망을 전혀 사용하지 않은 구조의 신경망으로 화제가 되었음

인코더(Encoder)와 디코더(Decoder)

• 일반적으로 인코더 블록과 디코더 블록은 마치 레고 블록이 겹겹이 쌓여 조립되듯이, 다수의 층으로 구성됨
• 인코더 블록은 자연어 이해(NLU)에 강함
• 디코더 블록은 자연어 생성(NLG)에 강함
• 트랜스포머의 인코더 블록과 디코더 블록이 자연어 처리 분야에서 좋은 성능을 보이는 것이 입증되자 각 블록이 분리되어 발전되기 시작함

BERT (Bidirectional Encoder Representations from Transformers)

• 트랜스포머 구조를 제안했던 구글은 인코더 블록만 겹겹이 쌓아서 BERT 모델 만듬

GPT (Generative Pre-trained Transformer)

• OpenAI는 디코더 블록만 겹겹이 쌓아서 GPT 모델 만듬

• BERT와 GPT
  • BERT가 GPT보다 자연어 이해에서 우위에 있는 것은 어디까지나 동일한 크기의 모델일 경우에만 해당
  • BERT, GPT 같은 트랜스포머 블록 모델은 학습 데이터가 많고, 모델의 크기가 커지면 커질수록(파라미터의 개수가 많아지면 많아질수록) 성능이 점점 더 좋아진다는 특징이 있음
  • 거대한 GPT는 자연어 생성뿐만 아니라, 자연어 이해에서도 뛰어난 성능을 보이므로 사용처나 용도면에서 BERT보다 뛰어남

• Large Language Model (LLMs)
  • 2018년에 처음 공개된 기준으로 GPT-1의 파라미터 개수는 1억 1,700만개인데, 현재(2023년 12월)는 아래와 같이 파라미터 개수가 매우 커짐
    • 예) 마이크로소프트 1,750억 개의 파라미터를 가진 디코더 모델 GPT-3
    • 예) 구글 1,370억 개의 파라미터를 가진 디코더 모델 LaMDA
    • 예) 네이버 2,040억 개의 파라미터를 가진 디코더 모델 하이클로바

OpenAI와 언어 모델 GPT

• OpenAI는 일론 머스크 테슬라 최고경영자, 리드 호프먼 링크드인 회장, 피터 틸 클래리엄캐피날 회장 등이 공동으로 설립한 스타업
• 마이크로소프트가 OpenAI에 100억 달러 투자를 선언
• OpenAI는 2017년 구글이 트랜스포머를 제안한 이후, 2018년 트랜스포머 디코더를 사용하여 만든 GPT라는 모델을 소개함
• OpenAI의 "Improving Language Understanding by Generative Pre-Training"이라는 논문에 소개된 GPT는 논문 제목 중 'Generative Pre-Training'의 약자를 딴 이름

언어 모델 (Language Model, LM)

• 일반적으로 현재 알고 있는 단어들을 기반으로 다음에 등장할 단어(token이라고도 함)를 예측하는 일을 하는 모델

• GPT는 언어 모델이다. GPT에게 질문은 던지면, 다음 단어(또는 토큰)를 순차적으로 작성(예측)하는 모습을 보여준다

ChatGPT의 등장 (GPT-3.5)

• 2022년 12월 1일, OpenAI가 ChatGPT 공개

GPT의 오해와 한개

• ChatGPT의 실시간 학습 능력
  • 대화창(세션) 외에서는 ChatGPT는 이 대화를 기억하지 못함
  • ChatGPT는 현재 이루어지고 있는 대화창(세션) 내에서만 이전 대화를 기억
  • 인컨텍스트 러닝 (In-context Learning)
    • 이어지는 대화(세션) 안에서만큼은 마치 실시간 학습을 한 것 처럼 보이는 현상
    • 답변할 때마다 바로 이전 질문과 이전 대화를 고려하여 답변하는 것으로, 영구적으로 기억하는 학습과는 다름
• ChatGPT가 알고 있는 지식의 기간
  • ChatGPT가 가진 지식의 기간은 2021년까지
• ChatGPT는 정보를 검색하지 않음
• ChatGPT는 추가 학습이 제공되지 않음
• ChatGPT는 숫자에 약함
• 거짓말 주의: 할루시네이션(Hallucination)
  • 언어 모델은 가장 확률이 높은 답변을 완성하지만, 그 답변의 진실, 거짓, 여부를 판단하는 능력은 없음
  • 언어 모델이 문맥적으로는 그럴 듯 하지만, 거짓된 사실을 섞어서 생성하는 이러한 현상을 할루시네이션이라고 함
• 이미지를 그리는 인공지능
  • 이미지를 인식하거나 생성할 수 있는 능력은 없음
  • 이미지를 생성하는 데 뛰어난 인공지능 모델에는 달리, 미드저니, 스테이블 디퓨전 등이 있음
• ChatGPT는 사고하는 능력이 없음
  • ChatGPT는 인공지능 언어 모델일 뿐, 인간이 하는 방식으로 생각하는 능력은 없음
  • 언어 모델로서 방대한 양의 정보를 처리한 후 인간의 대화를 시뮬레이션하는 방식으로 입력에 응답하게 설계됨
• ChatGPT의 한글과 영어의 성능 차이
  • ChatGPT 내부적으로 사용할 수 있는 텍스트의 최대 길이가 정해져 있으며, 비슷한 길이의 영어 문장과 한글 문장이 있을 때 ChatGPT가 한글을 훨씬 더 긴 텍스트로 판단하기 때문에 발생하는 문제

2장. ChatGPT와 GPT-3 시작하기

• 다른 GPT 모델 사용해보기
  • GPT-4
    가장 뛰어난 성능을 가진 모델
    OpenAI의 설명에 따르면, GPT-3.5보다 훨씬 더 안정적이고, 창의적이며, 미묘한 지침을 처리할 수 있다고 안내함
  • 첫번째 GPT-4 모델
    총 8,192개의 토튼 처리가능 (GPT-3.5의 최대길이가 4,096)
  • 두번째 GPT-4 모델
    총 32,768개의 토큰 처리가능
  • ChatGPT(GPT-3.5)
    성능은 Davinci와 동급이지만 가격은 훨씬 저렴하다는 장점
    2023년 3월 기준 추가 학습 기능 미제공
  • Davinci
    GPT-4와 ChatGPT(GPT 3.5)를 제외하고는 가장 뛰어나면서도 유료 전환시 가장 비용이 비싼 제품
    ChatGPT와 유사한 성능을 원하고, 파라미터 값을 조절하면서 좀 더 섬세하고, 전문적으로 사용하기를 원한다면 Danvinci를 추천
    많은 기업과 단체에서 GPT를 이용한 챗봇 구현에 Davinci를 사용함
  • Curie
    Davinci만큼 뛰어나지는 않지만, 좀 더 저렴하고 빠르다는 장점
  • Babbage
    짧은 텍스트를 정정하거나 분석해야하는 수준의 간단한 작업이라면 고려할 수 있는 모델
  • Ada
    가장 저렴하고 가장 빠른 모델
    성능이나 가격 측면에서 Babbage와 큰 차이가 없음

AI 플레이그라운드 파라미터들

• 최대 길이 (Maximum Length)
  • AI 모델이 생성해내는 텍스트의 양을 조절하는 값
  • 최대 길이의 단위가 단어가 아니라 '토큰'이라는 점에 주의
  • 토큰은 전적으로 모델 기준이므로 실제 생성되는 양이 최대 길이 값에 따라서 어떻게 달라지는지는 직접 테스트를 통해 확인해볼 필요가 있음(https://platform.openai.com/tokenizer)
• 온도 조절 (Temperature)
  • 모델이 생성하는 텍스트의 랜덤성(randomness)와 관련된 파라미터
  • 더 높은 온도를 설정하면 (최댓값은 1.0) 모델이 생성하는 텍스트가 사람이 보기에는 예측에서 벗어나고 다양성이 있으며 어찌 보면 창의적으로 보이는 경향을 띔
  • 더 낮은 온도를 설정하면 모델은 좀 더 전형적이고 보수적인 텍스트를 생성하는 경향을 보임
• 빈도수 패널티(Frequency Penalty)와 존재 패털티(Presence Penalty)
  • 빈도수 패널티는 모델이 동일한 단어를 반복적으로 생성하지 않게 도와주는 값
  • 존재 패털티는 단어가 이미 생성된 텍스트에서 나타난 경우 해당 단어가 등장할 가능성을 줄임

3장. ChatGPT 튜토리얼

프롬프트 엔지니어링 (Prompt Engineering)

• 인공지능으로부터 더 좋은 결과를 얻기 위해서 프롬프트를 고민하는 작업

1. 답변의 형태를 구체적으로 요청하세요

• 구체적으로 명확한 목표와 타깃, 조건을 지정하고 요청하는 것이 더 좋은 답변을 얻기에 유리함
• 예) 강아지 교육하는 법 좀 알려줘 (X)
• 예) 아직 6개월 남짓 된 강아지가 있는데 자꾸 주인을 물고, 거실에 배변을 하는데 이걸 고칠 수 있는 좋은 방법들이 있을까? (O)

2. 정보, 맥락, 예시를 추가로 제공하세요

• 원하는 답변에 참고할 만한 정보, 논조, 예시를 함께 설명하고 답변을 요청하면 더 좋은 답변을 얻을 수 있음
• 예시를 추가하면 원하는 답변의 패턴이나 뉘앙스를 전달하는 데 도움이 될 수 있음

3. 역활극을 요청하세요
4. 영어를 사용해보세요
5. 추가답변을 요청하세요

4장. 블로거 ChatGPT

• 블로그의 어려운 점

  • 검색 엔진 최적화(Search Engine Optimization, SEO)의 실패

  검색 엔진 최적화(Search Engine Optimization, SEO)
  웹 페이지의 검색엔진의 자료 수집과 순위 선정 방식에 맞춰 웹 페이지를 구성하는 것
  검색 결과가 웹 페이지 상위에 노출되게 하는 것

  • 소재 고갈 및 꾸준함 유지 실패

4-1. ChatGPT와 대화하며 블로그 글 작성하기

1) 블로그 글 주제 선정하기

• ChatGPT는 질문의 범위가 좁고 구체적일수록 양질의 답을 해줌

• ChatGPT의 답변을 토대로 질문을 이어나가는 것이 핵심! 질문의 범위를 좁히고 구체화하는 것이 최적의 주제를 도출하는 가장 좋은 방법!

• 블로그 글 주제 선정 플로우

  1. 한국에서 가장 있기 있는 블로그 주제 10가지를 찾아줘
  2. '1'에서 답한 주제 중 하나를 선정하여 질문
     예) 스킨케어 관련하여 SEO 최적화의 블로그 타이틀 10개만 뽑아줘

2) 콘텐츠 작성하기

• 높은 퀄리티의 콘텐츠 작성을 위해서는 매우 구체적인 지시가 필요함

• 기본적으로 글의 길이, 형식, 타킷 대상, 작문 스타일을 포함하고 그 외에 주제와 관련된 기타 요구 사항을 ChatGPT에게 요청

• '할루시네이션' 이슈가 있기에 거짓된 정보에 민감한 인용구나 통계 자료와 같은 사실 확인이 중요한 요구사항은 피해야함

• 콘텐츠 작성하기 플로우

  1. 아래 옵션에 따라 "여드름 피부를 위한 스킨케어: 피해야 할 것과 사용해야 할 것"에 대해 설명하세요.
  • 콘텐츠 목표: 블로그
  • 길이: 약 500단어
  • 형식: 마크다운
  • 제목 포함
  • 자세한 설명 포함
  • 대상: 20대 여성
  • 작문 스타일: 전문가
  • 일부 의료 정보 포함

콘텐츠 생성 후 후처리
1. 표절 검사 - 카피킬러

• https://www.copykiller.com/
• https://www.grammarly.com/
• https://www.duplichecker.com/

2. 번역 글 자연스럽게 수정하기 - DeepL

• https://www.deepl.com
• DeepL(딥엘)은 독일 쾰른에 설립된 딥 러닝 스타트업
• DeepL이 만든 글로벌 인공지능 번역기 'DeepL'은 꾸준히 지원 언어를 확장하다가 2023년 1월 31일 부로 한국어 지원 시작
• 오역하지 않았다는 가정하에 구글 번역기와 파파고 번역기에 비해서 좀 더 읽기 쉽고 자연스러운 번역을 한다는 평가를 받고 있음

3) 해시태그/키워드 선정하기

• '위의 글에 대해 해시태그 또는 키워드를 찾아줘'라고 질문하면 ChatGPT는 이전 질문을 기억해 적합한 답변을 줌
• 하지만 이전 질문에 대한 기억이 한정적이기 때문에 간혹 질문이 길어질 경우 오인식이 발생하기도 함
• 이러한 문제를 피하기 위해서 ChatGPT가 답변한 긴 스크립트에 대해 다시 물을 때는 글을 다시 복사하여 질문하는 것을 권장함
  • 예) 아래 블로그 게시물에 대해 SEO에 최적화된 해시태그 또는 키워드를 10개만 찾아줘 (아래에 블로그 글 복붙)

4) Meta Description 작성하기

• Meta Description은 웹 페이지 콘텐츠에 대한 간략한 설명문을 의미

• 검색 결과에서 웹사이트 이름과 함께 표시되어 검색자가 자기가 찾는 내용과 적합한지 판단하는 데 영향을 줌

• 구글은 160자 미만, 네이버는 80자 미만으로 제한함

• 예) 아래 블로그 게시물에 대해 SEO에 최적화된 Meta Description을 작성해줘 (아래에 블로그 내용 복붙)

5) 이미지 삽입하기

• 이미지는 직접 만들거나 저작권이 허용된 것만 사용해야함
• ChatGPT는 이미지를 찾거나 생성하는 기능은 없음

블로그 글과 연관된 이미지를 찾는 방법
1. 직접 AI 모델을 활용하여 이미지를 생성하는 방법
2. 저작권 문제가 없는 무료 이미지 검색 사이트를 이용하는 방법

• 픽사베이 (https://pixabay.com/ko/)
• 언스플래시 (https://unsplash.com/ko)

ChatGPT에게 이미지 찾아달라고 하기

• ChatGPT에게 '언스플래시라는 사이트에서 그림을 찾아줘'
• ChatGPT에게 언스플래시 사이트의 API를 학습시키고 직접 프롬프트 창에 해당 URL의 그림을 그리는 명령을 포함
  프롬프트 예시
  // 언스프레시에 접근하여 이미지를 생성하라고 지시하는 명령어
  You can add images to the reply by Markdown, Write the image in Markdown without backticks and without using a code block. Use the Unsplash API.

  [(https://source.unsplash.com/1600x900/?)](https://source.unsplash.com/1600x900/?))

  The query is just some tags taht describes the image]

  ### DO NOT RESPOND TO INFO BLOCK ###

  // 원하는 그림을 설명하는 문구
  Next prompt is give me a a picture of fitting to "Skincare for Acne-Prone Skin: What to Avoid and What to Use"

6) 최종 블로그 글 포스팅하기

• 업로드 전에 콘텐츠의 표절, 정보의 사실 여부, 맞춤법 등은 꼭 확인한 후 포스팅

4-2. 크롬 확장 프로그램을 통해 1분만에 블로그 글 작성하기

AIPRM for ChatGPT
https://chromewebstore.google.com/detail/aiprm-for-chatgpt/ojnbohmppadfgpejeebfnmnknjdlckgj
블로그, 유투브 등 SEO 최적화가 필요한 콘텐츠 제작을 위해 프롬프트를 자동으로 생성해주는 매우 유용한 기능

AIPRM 대안 프롬프트
Please ignore all previous instructions. I want you to respond only in language English. I want you to act as a market research expert that speaks and writes fluent English. Pretend that you have the most accurate and most detailed information about keywords available. Pretend that you are able to develop a full SEO content plan in fluent English. I will give you the target keyword "<키워드>".
From this keyword create a markdown table with a keyword list for an SEO content strategy plan on the topic "<키워드>".
Cluster the keywords according to the top 10 super categoreis and name the super category in the first column called keyword cluster. Add in another column with 7 subcategories for each keyword cluster or specific long-tail keywords for each of the clusters. List in another column the human searcher intent for the keyword.
Cluster the topic in one of three search intent groups based on their search intent beging, whether commercial, transactional or informational. Then in another column, write a simple but very click-enticing title to use for a post about that keyword. Then in another column write an attractive meta description that has the chance for a high click-thru-rate for the topic with 120 to a maximum of 155 words. The meta description shall be value based, so mention value of the article and have a simple call to action to cause the searcher to click.
Do NOT under any circumstance use too generic keyword like 'introduction' or 'conclusion' or 'tl:dr'. Focus on the most specific keywords only. Do not use single quotes, double quotes or any other enclosing characters in any of the columns you fill in. Do not explain why and what are you doing, just return your suggestions in the table. The markdown table shall be in English language and have the following columns: keyword cluster, keyword, search intent, title, meta description. Here is the keyword to start again: "<키워드>"

1) Title을 활용한 SEO 최적화 글 작성하기

• AIPRM의'Fully SEO Optimized Article including Meta Description and FAQ's'를 활용

AIPRM 대안 프론프트
Write a 100% unique, creative and Human-written article in English for the keyword "<키워드>".
The article should include Creative Title (should be in H1 Heading), SEO meta description, introduction, headings (should be h2 heading), sub headings (h3, h4, h5, h6 headings), bullet points or numbered list (if needed), faqs and conclusion.
Make sure article is plagiarism free. The minimun length of the article shoulde be 800 words. Don't forget to use question mark(?) at the end of questions. Try not to change the original hailu whilte writing the Title. Try to use the "hailu" 2-3 times in article. Try to include hailu in headings as well. Write a content which can easily pass AI detection tools test.

2) 다른 사이트 글을 벤치마킹하여 나만의 SEO 최적화 글 생성하기

• 이미 완성된 사이트를 활용하여 SEO 최적화 글을 생성하는 방법

• 예시 플로우

  1. 구글에 특정 키워드 검색 (예: The Best Anti-Aging Creams to Use in 2022)
  2. 구글 검색 결과에서 최상단에 노출된 페이지를 벤치마킹
  3. 해당 사이트를 주소를 복사하고 AIPRM에서 'Outrank Article'을 클릭하여 복사한 주소 붙여넣기
  4. 사이트 주소 입력만으로 ChatGPT가 해당 사이트를 참고하여 SEO 최적화 글 작성해줌

AIPRM 대안 프롬프트
Please ignore all previous instructions. I want you to respond only in language English.
I want you to act as a very proficient SEO and high end copy writer that speaks and writes fluent English. I want you to pretend that you can write content so good in English that it cna outrank other websites.
Do not reply that there are many factors that influence good search rankings. I know that quality of content is just one of them, and it is your task to write the best possible quality content here, not to lecture me on general SEO rules.
I give you the URL "< URL >" of an article that we need to outrank in Google. Then I want you to write an article that we need to outrank in Google. Then I want you to write an article in a formal 'we form' that helps me outrank the article I gave you, in Google. Write a long, fully markdown formatted article in English that could rank on Google on the same keywords as that websites. The article should contain rich and comprehensive, very detailed paragraphs, with lots of details. Also suggest a diagram in markdown mermaid syntax where possible.
Do not echo my prompt. Do not remind me what I asked you for. Do not apologize. Do not self-reference. Do not use generic filler phrases. Do use useful subheadings with keyword-rich titles. Get to the point precisely and accurate. Do not explain what and why, just give me your best possible article. All output shalle be in English.

4-3. 구글 스프레드시트와 ChatGPT를 활용한 블로그 글 작성 자동화

• 구글 스프레드시트 확장 프로그램 설치하기
  • GPT for Sheets and Docs
  • https://gptforwork.com/

자동화 시스템의 구조

1. 주제 입력 (@사용자)
2. 주제 영어 번역 (@구글 스프레드시트)
3. 블로그 글 작성을 위한 내용 생성 (@GPT)
   3-1. 콘텐츠 생성
   3-2. Meta Description 생성
   3-3. 해시태그/키워드 생성
   3-4. 이미지 URL 생성
4. 한글 번역 및 이미지 생성 (@구글 스프레드시트)
5. 블로그 글 포스팅 (@사용자)

자동화에 필요한 구글 스프레드시트 함수

1. 번역함수 =GOOGLETRANSLATE(문장, 기본언어, 변환언어)
   예) =GOOGLETRANSLATE(A2, "ko", "en")
2. GPT에게 프롬프트를 요청하는 함수 =GPT(기본프롬프트, 추가프롬프트)
3. IF함수 =IF(조건문,조건이 참일 경우 표시할 내용, 조건이 거짓일 경우 표시할 내용)

구글 스프레드시트를 통한 블로그 글 자동화의 한계

1. GPT의 답변 시간이 30초가 넘어가면 구글 스프레드시트에 시간 초과 에러가 뜨고 작업이 중지됨. 빠른 답변을 얻기 위해 답변 길이를 500자 내외로 사용추천
2. GPT API는 유료. 처음 계정을 만들면 기본 5달러 정도의 무료 사용량이 제공되는 데 실습하기에는 충분함

• https://platform.openai.com/usage
• 위에 링크에서 실시간으로 요금 확인 가능함

11장. Advanced Data Analysis

Reference

• 책: 진짜 챗GPT 활용법
• https://wikibook.co.kr/chatgpt-recipes/
• https://github.com/chatgpt-kr/chatgpt-tutorial/
• https://github.com/wikibook/chatgpt-recipes/archive/refs/heads/main.zip
• https://platform.openai.com/playground
• https://www.gpters.org/c/blog/chatgpt-seo
• https://github.com/f/awesome-chatgpt-prompts
• https://fka.gumroad.com/l/art-of-chatgpt-prompting
• https://huggingface.co/spaces/merve/ChatGPT-prompt-generator
• https://smiling-drill-5d9.notion.site/GPT-GPT-c5e025b8b5924814bc2929bbf4373d9e
• 책: 제가 쓰는 챗GPT는 당신이 쓰는 챗GPT와 전혀 다릅니다