The Matrix Calculus You Need For Deep Learning

인공지능을 이해하고, 활용하려면 수학 지식이 반드시 필요하다.여러 수업들을 들어봤지만, 무료로 공개되어 있는 강의들은 기초-입문 수준의 강의들이 많았다. 그리고 커리큘럼이 인공지능에 꼭 맞춰져 있지 않기도 했다. 그래서 열심히 찾아보던 중, 수학 논문을 찾았다. 인터넷

Abstract 이 자료는 딥러닝을 위한 모든 행렬 미적분에 대해서 설명하고 있다. 미적분 1에서 배운 것 이상의 수학 지식이 없다고 가정하고 관련된 수학지식들을 같이 설명한다. 이 자료는 신경망에 대해 알고 있고, 기초 수학에 대한 이해를 심화시키고 싶은 사람들을

2. Review: Scalar derivative rules 다음의 main scalar derivative rules 를 기억하기 바란다. 아래의 수식들이 너무 생소하거나 이해가 어렵다면 Khan Academy코스를 참고하기 바란다. Reference The M

3. Introduction to vector calculus and partial derivatives Neural Network의 layers는 $f(x)$와 같이 하나의 파라미터를 가진 하나의 function이 아니다. 따라서, 여러 개의 파라미터를 가진 함수