0. 개요

딥 러닝에 대해 공부하는 일은 수학 공부(?)와 코딩 공부를 겸임하기 때문에 당연히 쉽지 않다. 나도 딥 러닝 관련 학부연구생을 두 번이나 했지만 여전히 복잡한 딥 러닝 깃허브 코드를 보면 머리부터 깨지고 이골이 날 지경이다. 아마 딥 러닝에 대한 기초가 부족하기 때문일 것이다. 문명의 마수에서 빠져나온 기념으로 딥 러닝의 기초에 대해 A부터 Z까지 공부해 보도록 하자. 본 공략(?)의 요지는 다음과 같다.

1. 특징

1) 코딩과 이론을 함께함

칸트는 내용 없는 사고는 공허하며, 개념 없는 직관은 맹목적이라고 했다. 이와 같이, (본인이 딥 러닝을 공부할 때 저지른 가장 큰 실수이기도 하며) 실제로 implementation하기를 겸임하지 않으면서 deep learning의 모델 구조와 이론만 달달 외우거나, python code를 보기만 한다면, 둘 다 공허하거나 맹목적인 일이 될 것이다. 그러므로 이 딥러닝 유치원에서는, 이론 내용 나갈 때마다 파이썬 코드를 함께 올릴 것이다.

2) raw한 수학

사실 AI 열풍에 따라 요즘 시중 딥러닝 서적에서는 수학을 쉽게 설명하는 내용이 많지만, 그건 오히려 딥 러닝과 코드에 대한 이해를 가리고 있다고 생각한다. 그렇기 때문에 여러분이 이걸 읽기 전에 대학생 수준의 수학은 알기를 바라겠다. 대단한 걸 바라지는 않고, 기본적인 행렬이나 미분 정도만 알아도 충분하다.

3. 딥 러닝이란 무엇인가?

나에게 딥 러닝이 부엇이냐고 물으면, 딥 러닝은 알고리즘으로 답이 정해지지 않는 task를 컴퓨터에게 시키는 것이라고 답할 것이다. 컴퓨터란 친구는 계산기에서 시작했으며, 당연히 컴퓨터 내부 구조를 뜯어보면 그냥 계산에 계산 덩어리다. 3+5=8까지 시작해서 여러분이 하는 오버워치, 롤, 문명도 전부 컴퓨터가 논리적으로 계산한 결과물이다. 그러나 종국에는, 그런 계산이 통하지 않는 영역이 있다. 예를 들어 내 눈앞에 있는 게 개인지 고양이인지 구분하는 건 언뜻 보면 쉬어 보이지만, 사실 연산으로 그걸 표현하라면 당연히 못 하는 게 맞다(...) 이럴 때 인간 뇌의 신경망을 따라해 연산을 하는 것이 바로 딥 러닝인 셈이다.