더 깊게
- 정확도를 높이는 방법
- 데이터 확장 : 입력 이미지(훈련 이미지)를 인위적으로 환장하는 것. 이미지를 회저나거나 세로로 이동하는 등 미세한 변화를 주어 이미지의 개수를 늘림
- 층을 깊게 하는 이유
- 정확도가 높아짐
- 신경망의 매개변수 수가 줄어듦 ⇒ 적은 매개변수로 같은 수준의 표현력을 달성할 수 있음
- 학습 데이터의 양을 줄여 학습을 고속으로 수행하여 학습의 효율성을 높임
- 정보를 계층적으로 전달할 수 있음
더 빠르게
- GPU
- CPU만으로는 딥러닝을 처리하기 부족하여 GPU(Graphics Processing Unit)을 활용하여 대량의 연산을 고속으로 처리할 수 있음
- GPU 컴퓨팅 : GPU로 범용 수치 연산을 수행하는 것
- CPU는 연속적인 복잡한 계산을 잘 처리하는 반면 GPU는 대량 병렬 연산을 잘 처리함
- 분산 학습 (수평 확장)
- 다수의 GPU와 기기로 계산을 분산
- 분산 학습을 지원하는 딥러닝 프레임워크들이 많이 나타나고 있음
- 연산 정밀도와 비트 줄이기
- 많은 비트를 사용할 수록 버스 대역폭에 부담을 줌. 딥러닝은 높은 수치 정밀도를 요구하지 않으므로 신경망을 흐르는 데이터를 퇴화시켜도 출력에 주는 영향이 적으므로, 이를 퇴화시켜 비트를 적게 사용하는 것이 바람직함
- 32비트 단정밀도, 64비트 배정밀도로 표현할 수도 있지만 딥러닝은 16비트 반정밀도만 사용해도 학습에 문제가 없음
딥러닝 활용 기술
- 사물 검출 : 이미지 속에 담긴 사물의 위치와 종류(클래스)를 알아내는 기술 (ex. R-CNN, Raster R-CNN)
- 분할 : 이미지를 픽셀 수준에서 분류하는 기술 (ex. FCN)
- 사진 캡션 생성 : 사진을 설명하는 글(사진 캡션)을 자동으로 생성하는 기술 (ex. 순환 신경망으로 구성된 NIC)
- 멀티모달 처리 : 사진과 자연어 등 여러 종류의 정보를 조합하고 처리하는 것
- 딥러닝의 미래
- 이미지 스타일(화풍) 변환
- 이미지 생성 (DCGAN 기법)
- 자율 주행
- Deep Q-Network (강화학습)
