강화학습
환경과 상호작용하여 가장 많은 보상(<->처벌)을 받는 행동을 학습
생성형 AI(generative AI)
- 텍스트, 이미지, 소리, 영상, 3D 모델 등 다양한 콘첸츠를 Y로 생성
ChatGPT
- 사실을 물어보면 안된다(검색 X). 그럴듯한 문장만 만들어낼뿐. 애초에 용도가 그렇지 않다.(casusal LM)
Q. 그럼 chatGPT는 뭘 할 때 사용하는게 가장 좋을까요??
A. ex) 제주도 여행계획(존재하지 않는 장소를 추천해줄수 있음)
-> 제주도 여행지 목록을 주고 제주도 여행계획을 짜라.
A 카페, B 카페, C 호텥, D 박물관 이 중에서 어디를 가면 좋을지 계획을 세워봐라.
-
번역은 대체로 잘 해준다.
작동 방식은 ChatGPT, [빙 챗, 구글 바드, 클로바X] 다 똑같으나
괄호 안은 검색까지 해줌 -
환율 계산 -> (1) 사실(현재 환율이 얼마다)을 알아야한다
(2) 언어 모델은 계산에 취약함 -
ChatGPT 자체는 그럴듯한 말을 지어낼 수 있음(프로그램도 포함)
파이썬은 내장되어있어 바로 실행 가능하나 자바는 코드를 짜주지만 실행은 내가 따로 복붙해서 해봐야 한다 -
현재 GPT4가 그럴듯한 말 만들기 측면의 성능은 가장 높음
(코딩도 포함) -
ChatGPT 가 2021년까지 데이터로 언어를 구사할 수 있는 능력이 학습이 되어 있다
여기서 학습 - "그럴듯한 문장을 만드는 능력" 간접적으로 사실도 학습
이 문제는 극복할 수도 없는 문제(극복할 필요도 없음)
모델 학습 -> 파라미터를 조정하는 굉장히 길고 오래 걸리는 과정
언어 능력이 뛰어나다(한국말을 잘한다) != 한국어로 된 모든 지식을 가지고 있다
데이터 -> ChatGPT의 파라미터를 추정하는 데 사용
ChatGPT 잘 쓸 수 있는 TIP
: 영어로 쓴다ㅎㅎ
ChatGPT3.5 영어 - 70.1점짜리 대답
ChatGPT4 한국어 - 77점짜리 대답
ChatGPT4 영어 - 85.5점짜리 대답
직업별 GPT 등 AI에 노출된 업무의 비율
- 과학, 수학, 비판적 사고 등은 적게 노출
- 읽기, 쓰기, 프로그래밍 등은 많이 노출(말만 잘하면 되는 일)
ex) 변호사 일장일단 - 내 일의 효율성이 높아질 수도 있고, 반대로 내 직업이 사라질 수도 있다
말빨만 끝내주게 좋은 애ㅋㅋㅋ
리서치를 맡긴다(X)
언어 모형(Language Model)
- Casual LM: 앞의 문장을 바탕으로 다음에 나올 단어를 예측(GPT)
- Masked LM: 앞뒤의 내용을 바탕으로 빈 칸의 단어를 예측(BERT)
- 프롬프트(prompt): 언어 모형에 제시하는 문장
프롬프트 엔지니어링을 잘 하려면 사실 관계를 잘 알아서
프롬프트에 넣어줘야 함
유용한 프롬프트 기법 사용
- 예시 들기
- 중요한 말 반복하기
- 짧게 짧게 말하기
- 단계적으로 나눠서 질문하기
프라이빗 ChatGPT 출시 예정
- 은행, 헬스케어, 대기업 등 개인정보 민감 대상 기업에서 사용
- 현재 가격의 10배 정도 $20 -> $200
수학문제를 잘 풀어주는 사이트
https://www.wolframalpha.com/
플러그인
wolfram check 해두면 wolfram 한테 수학문제에 대한 답을 받아와서 답변을 해줌
그 외에 ChatGPT가 잘 못하는 것
- 수학
- 정확한 인용(외부 검색이 안됨)
최근 동향
- ChatGPT를 하나의 구성 요소로 하는 더 큰 AI 시스템을 개발
- LangChain 등
ChatGPT 프롬프트 쓰기
좋은 프롬프트의 요소
- 역할과 목표
- 단계별 지침
- 예시
- 개인화
- 제약 조건
1. 역할과 목표
- AI에게 특정한 역할이나 입장에서 작성하도록 지시
ex) 투자자의 입장에서 위의 보도자료에 대한 질문을 5개 만들어라.
2. 단계별 지침(Chain-of-Thoughts)
- 단계별로 명시적인 지침을 제공
- let's think step by step 이라고 써도 비슷한 효과
ex) 베이글 카페 사업 계획을 세워봐라. 사업계획 수립 전에 어떤 간계를 거쳐 수립할건지 생각해봐. - Self-Consistency: 답변을 여러번 생성하여 가장 많이 나온 답변을 선택
- Tree of Thoughts: 문제를 여러 개의 작은 문제로 나누게 해서 답변
3. 개인화
- 독자에 대한 정보를 제공하여 개인화된 답변을 생성
ex) 엔진오일에 대해 초등학생이 이해할 수 있게 1문단으로 설명해봐.
ChatGPT에게 질문하기 하기
- ChatGPT를 잘 활용하기 어렵다면 ChatGPT에게 도움을 요청할 수 있음
목차, 개요 만들기
- 긴 텍스트 생성 작업 시 목차, 개요를 만든 후 구체적 내용을 만들어 나가는 방식이 유용
ex) 기업 임원들을 대상으로 ChatGPT에 대해 1시간짜리 강의를 한다. 강의 목차를 작성해. -> 챕터 4를 작성하자. 현재 목차는 아래와 같다.
자료 검색
- 검색어 생성 기법
- 검색 플러그인 사용
- AI 검색 엔진
- perplexity.ai
- phind.com
- you.com
그룹화
- 카테고리들을 더 상위의 카테고리로 묶어라
Advanced Data Analysis
= code inerpreter
토론
- 혼자 여러가지 역할을 수행하게 할 수 있다
요약
사실 -> 검색
계획, 의견, 추론, 생각, 아이디어 -> GhatGPT 사용
ex) 위의 내용을 요약해서 표로 만들어라. 이런거 잘함ㅎㅎ
