AI Engineer는 수학을 얼마나 알아야 할까?

Boostcamp AI Tech

[UNIST 인공지능대학원 임성빈 교수님 특강 정리]

수학은 원래 머리로는 어렵다. 하지만 손으로 익히는 건 가능하다.

In mathematics you don't understand things. You just get used to them John Von Neumann(폰 노이만)

수학을 쉽게 공부하는 방법이 있을까?

똑똑하게 익숙해지는 방법

1. 용어의 정의(Definition)는 일단 외우는 것부터 시작하자
   • 교과서나 위키피디아를 활용하면 좋다
   • 자주 용어를 보다 보면 익숙해진다
   • 5분~10분 보고 외우고, 다음날 또 보고 또 보고 하면 좋다
2. 용어를 외웠다면 예제를 찾아보도록 하자
   • 가령 likelihood example을 구글링 해보면 여러 예제들이 나온다
   • 예제를 풀어보면서 특정 용어가 실제로 어디에 사용되는지 감을 잡을 수 있다
   • 이런 게 있구나 하면서 접해보는 빈도수를 늘리자
   • 인공지능 수학은 수학자처럼 할 필요가 전혀 없다. 개념을 언제 어디서 어떻게 쓸지가 중요하다

여러 모델들의 수학적 원리를 모두 이해하고 있어야 할까

모두 이해하는 것은 어렵지만 적어도 원리를 이해하는데 필요한 기초는 갖춰야 한다

교수님께서도 매일 아침 공부하고자 하는 수학 책을 보신다고 한다

어떤 분야가 기초일까

• 선형대수/확률론/통계학은 꼭 알아두는 게 좋다
  • 기업 및 대학원 면접 때 정말 많이 물어본다
  • 알고리즘이랑 최적화 내용도 같이 공부하면 시너지가 좋다
• 머신러닝 이론을 공부할 게 아니라면 해석학/위상수학까지 공부할 필요는 없다
• 기초 자체를 공부하기보다 머신러닝에서 어떻게 활용되는지 검색해보자
  • 예) 분류 문제에서 왜 cross-entropy를 손실 함수로 사용할까?
  • 기초 공부는 기초에서 끝나는 게 아니라 걔네들을 어떻게 활용하는지 이해해야 완성이다

추천 자료

Dive into Deep Learning 

그렇다면 AI Engineer는 수학을 얼마나 알아야 할까?

기본적으로 엔지니어는 언제 어떤 상황에서 필요한 부분을 빠르게 고칠 수 있는 능력이 중요하다. 우주선 엔지니어를 떠올려보면 쉽게 공감할 수 있다. 우주선에 문제가 생겼을 때, 우주선 엔지니어들은 빠르게 문제가 발생한 상황을 해결하기 위해 장비를 사용해서 우주선을 고친다. 우주선 엔지니어가 AI Engineer이고 AI Engineer가 문제가 발생했을 때 해결하기 위해 필요한 도구가 바로 수학이라고 이해할 수 있었다. 따라서 AI Engineer는 필요한 것을 공부해서 빠르게 따라잡을 수 있을 만큼 알아야 한다.