참조 링크
https://youtu.be/CA5Ggqg5x6o
https://youtu.be/6-55fAV90TE
https://youtu.be/wdwHxyz3Hbo
https://youtu.be/UlNi1jFcSSA
https://youtu.be/clhDOUk3yjU
https://youtu.be/mC2b57u_s0k
읽고 내용 정리 & 흥미로웠던 점
기존에 사람이 개발하는 프로그램은 플로우 차트 형식을 가지며 구조적으로 복잡합니다. 이 프로그램들은 입력을 받아 처리한 후 출력을 내는 형태를 지닙니다. 반면, 인공지능의 딥러닝은 구조적으로 단순해 보일 수 있으나, 여러 개의 인공 뉴런이 모여 구성됩니다. 이 딥러닝은 입력과 출력을 통한 학습으로 최적의 프로그램을 도출해냅니다.
딥러닝의 세부 구조는 여러 개의 숫자로 변환된 입력 데이터가 특정 가중치와 곱해져 합산되는 방식입니다. 이 합산된 값은 특정 함수를 거쳐 출력을 내보냅니다. 이러한 뉴런 구조가 여러 개로 이루어진 레이어를 형성하며, 여러 개의 레이어가 결합된 형태를 지닙니다. 학습이 진행될수록 가중치(w) 값은 원하는 결과값에 맞추어 오차를 줄이는 방향으로 조절되며, 이를 통해 적절한 식과 가중치 값을 찾게 됩니다.
최근 이슈가 되는 생성형 AI는 입력된 정보를 통해 답을 추론하는 방식에서 역순으로 작동한다고 할 수 있습니다. 가장 유명한 챗 GPT3.0 버전의 경우 약 1750억 개의 가중치로 이루어져 있습니다. 이러한 언어 모델 생성형 AI는 각 중간값을 관계에 따라 연결한 임베딩 벡터를 통해 관련 단어의 관계를 파악합니다. 비슷한 단어일수록 벡터값 차이가 작으며, 각 단어의 관계 역시 임베딩 벡터를 통해 유사함을 알 수 있습니다. 또한, 최근에는 강화학습을 통해 사람이 어떤 말을 더 선호하는지를 학습합니다.
이 외에도 생성형 AI에는 Attention 메커니즘을 통한 번역 AI 등이 있습니다. 이러한 생성형 AI는 다양한 분야에서 사용되기 시작했으며, 상상력에 따라 적용 분야가 점점 넓어지고 새로운 기술에 도입되고 있습니다. 이는 생성형 AI가 사람들의 시장 진입 장벽을 낮추고 낮은 비용으로 많은 사람들이 높은 퀄리티를 낼 수 있는 도구를 제공하기 때문입니다.
특히 게임 분야에서의 적용이 놀라웠습니다. 게임의 세계와 구조를 생성형 AI에 맞추어 사용자 맞춤으로 변화시키려는 시도가 진행되고 있으며, NPC들 역시 실제 사람과의 대화처럼 발전할 수 있다는 점이 인상적이었습니다. 또한, 학습 분야에서는 학습자 맞춤형 챗봇이 연구되고 있다는 사실이 흥미로웠습니다.
추가적인 궁금증
- 현재 GPT-4.0이 출시된 시점에서, 얼마나 자연스럽게 특정 사람처럼 대화할 수 있는지 궁금합니다. 예를 들어, 특정 사람의 말투를 사용하는 것이 어느 정도 가능한지 알고 싶습니다.
- 많은 생성형 AI가 언급되고 있는데, 저희와 같은 수준의 개발자가 어느 정도의 기술까지 자체적으로 개발하거나 활용할 수 있는지도 궁금합니다.
- 생성형 AI를 사용하면서, GPT-3.0은 약 1750억 개의 가중치를 가지고 있다고 알려져 있습니다. GPT-4.0 역시 많은 가중치를 가지고 있을 텐데, 이러한 가중치를 늘리는 데 어떤 한계가 있는지 자세한 내용을 알고 싶습니다.
생성형 AI를 활용한 아이디어
비밀^^
