주제 : It's UP to You

전이 학습 (Transfer Learning) 을 통해 마동석, 수지, 유재석 레이블을 구분하는 이미지 분류기를 만들어 보자.

Factorization 를 통해 어떤 효과를 얻을 수 있을까?

곤충은 애벌레 -> 번데기 -> 나비 로 진화를 하는데 각 단계마다 필요로 하는 상태 (에너지의 양과 무게, 행동 양식) 가 다르듯 우리가 사용할 모델도 원하는 목적에 맞게 무게라거나 상태를 다르게 만들 필요가 있다.

계산과 메모리에서 코스트가 많이 소요되는 연속형 수 (소수) 를 이산형 수 (정수) 로 변환하여 모델을 가볍게 만들자.

딥러닝 레이어에서 중요한 (레이어) 파라미터와 안 중요한 파라미터 중 안 중요한 파라미터를 지워 (가지치기) 가볍게 만들자.

원래 속도보다 더 빠르게 만들어주는 작업을 가속화라고 한다.

어떤 자료를 압축된 자료로 만드는 과정을 압축이라고 한다.

모델은 공간 안에서 시간을 소요하며 최적화된 결과를 찾는다.

제약조건 하에 원하는 성능을 최대로 하면서 비용은 최소화하는 optimization 에 대해 배운다.

우리가 상식적으로 받아들이는 문제들이 과연 옳은지 생각해볼 필요가 있다.

가벼운 모델이 필요한 이유와 대략적인 방법

GNN 을 통해 그래프의 정점을 신경망을 통해 새로운 정점에 대해서도 임베딩 할 수 있다.

그래프를 이용하여 추천 시스템을 어떻게 구성할까?

그래프의 정점을 벡터로 표현하면 다양하게 활용할 수 있다. 정점을 벡터로 표현하는 방법을 배워보자.

복잡계를 나타낸 그래프에서 군집은 어떠한 특성을 지니고 있을 가능성이 크다. 따라서 군집을 탐색하여 복잡계의 특성을 찾을 수 있다.

검색 엔진과 바이럴 마케팅에서 그래프를 활용한 알고리즘이 유용하게 사용된다.

우리 주변에는 많은 복잡계(Complex System) 를 그래프로 쉽게 표현할 수 있다.

우리는 3D 세상에 살고 있다. 앞으로 나타날 AI 로봇이나 자율주행 등도 3D 세상에 기반하기 때문에 3D 공간에 대한 이해를 해야한다.

사람은 시각 정보 뿐만 아니라 Audio 나 Text 데이터 등을 함께 사용하여 인식을 한다.이렇듯 여러 종류의 데이터를 사용하는 것을 Multi-modal 이라고 한다.