14-3 Deep learning == Representation learning?
내재적 표현 Internal Representation
1. 데이터의 분자형태, 가공을 거치지않은 형태 그대로 사용
2. 이미지 -> 시각적 표현 : 3채널의 매트릭스 (or n-channel??)
3. 표 : 특징을 각 열에 나열, 사람이 특성feature을 취사선택(지도학습에 유리함?)
4. 카테고리 : 인간이 예측하고자 하는 범주로 분류, 사람의 개입이 매우 강하게 들어감
정보를 더 다양하게 표현할 수 있는 필터, 벡터 임베딩 등의 함수를 설정하면
최소한의 파라미터로 더 다양한 각도로 데이터를 표현할 수 있음
'놀랍게도 사람이 가르쳐준 규칙 없이!!'
계층적 HIerarchical, 인간의 개입이 강하게 들어가는 표현으로 진행
- 머신러닝은 데이터를 분석하고, 데이터 안에 있는 패턴을 학습며, 학습한 정보를 토대로 판단-예측을 함
- 데이터의 '좋은표현 good representation' 을 (스스로) 찾아낼 수 있는 machine
머신러닝의 다섯 종족
기호주의자
연결주의자
진화주의자
베이즈 주의자
유추주의자
- 마스터 알고리즘, Pedro Domingos
머신러닝과 딥러닝의 차이
(Traditional) machine learning
- Input -> feature extraction -> classification -> output
- Feature engineering
Deep learning
- Input -> (feature extraction + classification) -> output
- 딥러닝 = 요인 표현 학습 feature representation learning
- 원본 데이터로부터 최적의 성능을 발휘하는 데 사용될 수 있는 표현 방법을 스스로 학습하고, \
최적의 가중치를 효과적으로 찾는다
새롭게 알게 된 것들
- 딥러닝의 정의에서 '스스로' 표현 방법을 탐색한다는 개념을 확실히 짚고 가게 되었다
- 딥러닝의 주요 트렌드가 추상적인 개념을 수학적으로 구성해, 중요도가 높은 정보를 모델에 저장하는 방법론이라는 것이 굉장히 흥미로웠으며, 앞으로 딥러닝 분야에서 계속적으로 머릿속에 떠오를 것 같다는 생각이 들었다.
한 주의 회고
- 이번 주는 가볍게 배우는 시간이면서 동시에 알고 있던 것들을 새로운 시각으로 되짚어보는 계기가 되었다. 회고를 쓰는 의미가 어떤 것인지 어렴풋이 알게 된 것 같다.
- 함께 공부하는 사람들에 대해서 잘 모르고 있다는 생각이 들었다. 생각보다 시간이 빠르게 흘러, 서로를 잘 모르고 갈길을 가게 된다면 아쉬울 것 같다는 생각이 들었다.
다음 주의 다짐
- 생각보다 다른 수강생들과 대화할 기회가 적긴 하지만, 혹시 내용이 어려워 힘들어하고 있는 사람이 있다면 함께 의논하면서 과정을 진행해가고 싶다. 대화를 나눠본 사람이 많지 않아 얼마나 해볼 수 있는지는 잘 모르겠다
- 모두연에서 진행중인 활동이 생각보다 다양한 것 같아 놀랐음. 시간, 돈 여유가 된다면 참여해보고 싶은 프로그램들이 많아 고민이 된다.
- 건강관리 잘하자ㅜ
딥러닝 한발짝