인공지능과 뇌는 어떻게 생각하는가
--
논문 리뷰만 올리던 이 공간에도 드디어 다른 카테고리의 글을 쓰게 되었다. ㅎㅎ TensorflowKR (페이스북 그룹) 에서 작년 1년간 연구를 지도해주셨던 이상완 교수님 (갓) 이 책을 내셨다는 소식을 접했고, 마침 활동하기 시작한 brain and cognitive science community (BCSC) 에서 책을 지원해준다는 기쁜 소식을 듣고 바로 신청하였다. 리뷰를 시작하기 전, 필자는 AI와 computational neuroscience에 관심이 많고, 이미 책의 내용과 관련된 전공 수업과 프로젝트를 거친 학생임을 밝힌다.
--
프롤로그와 7장에 거친 본문, 에필로그, 참고문헌으로 내용이 구성되어 있고, 난이도는 AI를 조금이라도 접해본 사람이면 쉽게 읽을 것으로 예상된다. 종이접기 로부터 시작되는 비유들을 보면서 교수님이 이 내용들을 쉽게 전달하고자 하는 강한 의지 (?) 를 느낄 수 있었고, 비유들이 모두 실제 개념을 왜곡 없이 설명 하고 있다는 느낌을 받았다. (실제로 이상완 교수님의 수업을 한 학기 들었었는데 수업 도중 이해도를 매번 설문조사로 확인하고 수업 후 질문이 몇개든 점심시간이 초과되든 상관없이 모두 들어주셨다.)
아마 처음 접해본 신경과학 학도에겐 굉장히 어렵지 않았을까 .. 하는 생각이 든다. 본문의 6장을 제외하고는 모두 AI theory 에 관련된 내용이 주를 이룬다. 1장과 2장에서는 XOR problem 을 비롯한 shallow network 와 estimator, regularization, overfitting 에 대해 소개하고 있다. 종이접기라는 비유를 통해 network의 layer 부터 쭉쭉 설명해주었고, SVM, kernel-SVM, dual problem 에 대해 간단히 소개하고 있으며, 구조의 단순함과 bias-variance tradeoff 를 언급하였다.
3장에선 본격적으로 deep learning model 에 대해 설명한다. 인공지능 모델 개념의 추상화 과정에서 필연적으로 발생하는 specificity-invariance 딜레마에 대해 소개하고, 이 두마리 토끼를 안정적으로 block 화 하여 깊게 쌓아올리는 CNN 방식에 대해 소개하고 있다. 또한 visual system 연구가 AI architecture 에 영향을 준 연구와 AI 가 visual / auditory cortex 해석에 영향을 준 연구 사례도 소개되고 있다. (흥미로움)
4장에선 책 표지의 "지극히 주관적인 그래서 더욱 객관적인" 문구가 등장한다. 개인적으로 이 책에서 가장 어렵고 재밌는 부분이라 생각한다. 바로 generative model (개념의 구체화) 인데, hopfield model 과 Boltzmann machine, restricted boltzmann machine, autoencoder, VAE, GAN 에 대해 아주 스무스하게 재밌게 설명해주고 있다. 사실 이 부분은 수식을 보면 쳐다도 보기 싫은 구간인데, 굉장히 직관적으로 체계적으로 설명이 되어있다고 생각한다. (필자는 Restricted boltzmann machine 에 대해 여태 잘못 알고 있었음을,, 책을 읽으며 깨달았다.)
3장과 4장에서 개념의 추상화와 구체화에 대해 설명하였고, 드디어 5장에서 시간축이 등장한다. 딱 들어맞는 비유와 함께 시간축이 필요한 이유, 모델의 구조에 대해 설명하고 있다. LSTM 관련 내용도 나오는데 책 읽다가 관심있는 사람은 구조를 실제로 검색해 보면서 책을 다시 읽어보길 바란다! 또 transformer과 self-attention 개념에 대해서도 간략히 소개하고 있다.
프롤로그에서 교수님은 "뇌와 인공지능의 작동원리는 같지 않다." 라고 얘기하며 시작하는데, 그와 관련된 내용이 6장에서 설명된다. 인공지능의 학습에 사용되는 error backpropagation 이 뇌에서는 쉽지않은 메커니즘임을 언급하고, biological plausible model 즉 생물학적으로 가능한 모델과 관련된 연구를 소개한다. 구체적으로 가장 기초적인 synaptic plasticity 부터 temporal error model 과 predictive coding 을 고요 속의 외침이라는 게임에 비유해서 설명한다. 마지막으로 최근 활발히 이루어지고 있는 global connectivity 와 관련된 apical dendrite 관련 연구를 소개하며 장을 마무리 한다. (이 쪽이 좀 더 자세히 소개되길 바랐는데 .. 한 장으로만 소개되어서 아쉬웠다 흑)
마지막으로 7장에서는 god 이상완 교수님의 연구실에서 수행되고 있는 연구와 관련된 내용으로 이루어져 있다. Reinforcement learning 그 중에서도 model-free, model-based RL 에 대해 간단히 소개하고, 실제로 뇌의 특정 영역의 활성도가, RL setting 에서 reward, 두 module 사이의 weight 등의 component와 correlation 을 보인다는 연구에 대해 소개하고 있다! 그리고 책은 에필로그와 함께 마무리 된다.
--
사실 책의 내용은 KAIST 의 Brain-Inspired Machine Intelligence 수업에서 자세하게 다루어진다. 필자는 2021년도 봄학기에 이 과목을 수강했기에 굉장히 익숙하면서도 반가웠다. (작년에 필기했던 lecture note 를 패드로 띄워놓고 책을 읽었다.) 나만 알고 싶었던 명강의 였는데 세상에 나와서 서운 반 기쁨 반 이랄까...
이상완 교수님 랩에서 개별연구 할 때 기억도 새록새록 나고, 교수님을 비롯해서 연구실 선배님들께 여러가지로 좋은 영향과 도움을 받아서 지금은 어떻게 지내시나.. 연락을 먼저 해볼까 하는 그런 생각도 든다. 아! 이상완 교수님 랩 홈페이지는 aibrain.kaist.ac.kr 이다. (많관부)
아무쪼록 카페 마감시간이 다 되어서 글은 여기까지 마무리 하려 한다. 책을 지원해주신 솔출판사 와 BCSC, 그리고 항상 존경하는 이상완 교수님께 감사인사를 전합니다!
