인공지능 생각으로 인간의 생각을 메타인지하다.
통계학자 허명희 교수님의 초청 세미나가 있었다.
유명한 허준이 교수님 아버지이다.
통계학을 약 50년하고, 은퇴한 후 그간의 통찰력, 철학들에 대한 세미나를 하러 오셨다.
인간의 생각의 특징은 chain of thought과 확장을 할 수 있는 것이다.
특히, chain of thought는 암기라는 것에 도움을 받을 수 있다.
chain of thought는 스텝별로 문제를 푸는 것이다.
1step에는 goal를 제시하고
2step에는 가정을 제시하고
3step에는 풀이를 제시하고 등등..
인공지능 특히, chat-gpt, deepseek같은 경우에는 chain of thought를 상당히 잘한다.
가령 10단계가 있다고 하자. 그러면 이것을 올바르게 단계를 정렬하는 10!
그리고 수많은 data에서도 이런 단계를 집어내는 엄청난 계산이 걸린다.
이것을 인간이 문제를 풀때 하고 있는 것이다.
허명희 교수님이 생각하신 모델의 발전은 자유와 제약이다.
선형회귀모형부터 신경망 모형 사이에는 촘촘하게 모델들이 있다.
하지만, 이것을 꿰뚫는 것은 자유와 제약이다.
선형회귀모형에는 자유를 굉장히 없애는 것이다. 하지만 신경망 모형에는 Deep하게 쌓을 수록 parameter의 자유를 많이 줄 수 있다.
그럼에도 제약(Regularity)를 준다.
무한한 자유를 주면 overfitting이 되기 때문이다.
제약이 없으면 어떤 일이 생길까?
데이터만 많이 때려박으면 된다. 사교육을 예시로 들면,
우리는 train data 즉, 예제를 엄청나게 많이 풀면 test data, 즉 시험을 잘 칠수 있다.
그래서 사교육만 엄청나게 시키면, 시험을 잘치는 것이다. (의대 준비를 초등학교 4~5학년때부터 말이다.)
즉, 시험에만 overfitting 되었기 때문에 그 시험이 끝나면 아무 쓸모가 없다.
그래서 제약이 필요하다.
Pre-training and Fine-turning
토플, 토익시험을 공부하는 건 좋다. 하지만, 토플, 토익 시험을 위해 공부하는 것은 좋지 않다. 이렇게할 경우에는 창발적 발전을 할 수 없다.
평소에 Pre-training으로 영어 기사, 신문, 팟캐스트 등을 공부하고,
시험 한 3개월 전에 Fine-turning으로 시험공부를 하는 것이다.
전공 과목의 경우에도 마찬가지이다.
교양과목으로 Pre-training하는 것이고 전공 과목으로 Fine-turning하는 것이다.
강화학습(Reinforcement Learning)
Agent가 수많은 시행착오를 겪는 것이다.
10중 8,9는 실패한다. 그럼에도 계속 하는 것이다.
Exploartion vs Exploitation
Exploartion은 여행을 갈때 여행 책자를 가지고 가지 않는 것이다.
그러면 내가 모르는 것을 알게 된다.
Exploitation은 여행 책자를 가지고 가는 것이다.
가장 유명한 몇개를 볼 수 있을 진 모르지만, 여행 책자 그 이상의 것을 알게 되진 못한다.
우물을 깊게 팔려면 넓게 파야한다.
여행은 목적지로 가는 것이 아니다. 목적지로 가는 과정이다.
