[Deep Learning Specialization]Neural Networks and Deep Learning-Introduction to Deep learning

Carvin·2020년 10월 16일

[Deep Learning Specialization]Neural Networks and Deep Learning

목록 보기

1/4

🗂 목차

1장: Introduction to Deep Learning

2장: Neural Networks Basics

3장: Shallow neural networks

4장: Deep Neural Networks

하지만 집값 y를 예측하는 데에, 집의 크기와 더불어 방의 개수, 우편번호, 화장실의 개수 등과 같은 더 많은 x를 사용할 수 있음
- 4개의 입력값을 가지는 신경망은 앞서 살펴본 구조보다 조금 더 큰 신경망을 갖추게 됨
- 4개의 입력 값의 특성을 바탕으로 hidden unit을 통과하여 y의 값을 예측하는 것이 신경망의 역할임
- x를 통해 y가 예측되는 과정은 'by itself'라고 표현되었으며, 번역으로는 '알아서 해결됩니다.'라고 번역되었음

신경망의 놀라운 부분은, x와 y에 대한 정보가 있고 충분한 학습 example이 있는 경우, x에서 y를 그리는 함수를 굉장히 잘 파악한다는 것임

신경망의 높은 정확도는 신경망에 대한 점점 증가하고 있는 수요와 관심이 대변해주고 있음
현재까지 신경망과 관련된 대부분의 경제적인 가치는 지도학습, Supervised Learning이라는 딥러닝의 한 종류에서 만들어 졌음
해당 표는 지도학습, Supervised Learning이 활용된 사례임
- 로그와 세션, 그리고 사용자 정보를 바탕으로 광고 클릭 여부를 예측하는 것은 수익과 직접적으로 연결되어 있기 때문에 굉장히 관심이 높음
- 이미지의 특징을 파악하여 특정 클래스로 태깅하는 computer vision은 굉장히 빠르게 발전하고 있음

앞서 살펴본, 사례에서 이미지 혹은 영상 데이터가 기반이 되는 것들은 주로 Convolution on Neural Networks(CNN)을 사용하고 시간의 흐름이 존재하는 오디오, 언어 데이터는 Recurrent Neural Network(RNN)이 적용됨
딥러닝에서 다룰 수 있는 데이터 타입은 크게 'structured data'와 'unstructured data', 2가지로 볼 수 있음
- structured data는 흔히 알고 있는 정형 데이터로 볼 수 있으며, 연령, 키, 방의 개수, 집의 크기 등을 예로 들 수 있음
- unstructured data는 반대로 비정형 데이터로 볼 수 있으며, 오디오, 이미지, 텍스트 내부에 존재하는 Mel-spectrogram이나 픽셀, 단어 등을 예로 들 수 있음
역사적으로 컴퓨터가 unstructured data를 인식하는 것에 보다 많은 시행착오를 겪었지만, 딥러닝과 신경망의 발전에 따라 unstructured data를 인식하고 패턴을 발견하는데 상당히 발전하고 있음

딥러닝 네트워크 개념은 수십 년 전에도 존재해왔지만 오늘날 딥러닝의 기술적인 측면의 발전과 다양한 분야에서의 활용이 이뤄지고 있는 주요 원인은 고성능 컴퓨팅 파워의 등장과 매우 방대한 양의 데이터가 쏟아져나오는 현상, 2가지로 볼 수 있음
- 먼저 4차 산업혁명과 사회의 디지털화로 새로 발생하는 데이터 자체의 양이 급증하고 있음
- 그리고 CPU와 GPU와 같은 하드웨어의 발전으로 더 많은 데이터에 대한 신경망 학습이 가능해 졌음

데이터 규모의 증가와 고성능 컴퓨팅을 통한 성능의 향상은 위 그림으로 설명 가능함
신경망의 성능을 향상시키기 위해서는 더 큰 네트워크를 학습시키거나 더 많은 데이터를 학습시켜야 했지만 과거에는 데이터 자체가 지금처럼 많지 않았기에 특정 시점까지만 효과가 있었음
현재에는 데이터가 계속해서 공급되고 있으며 더 큰 신경망을 학습시킬 수 있는 특화된 하드웨어와의 조화로 딥러닝은 계속해서 앞으로 발전을 이룰 것으로 예상됨