ํฌ์ ๋ฅ์ ์๊ฐ์ ์ฒ๋ฆฌ ๋ฉ์ปค๋์ฆ์ ๋ํด ์ฐ๊ตฌ์ฐ๋ฆฌ ๋์ ๋ณด์ด๋ ์ฌ๋ฌผ๋ค์ ๊ธฐํํ์ ๋ชจ์์ผ๋ก ๋จ์ํ Vision ์ฑ โก๏ธ ์ปดํจํฐ ๋น์ ์ด ์ด๋ค ๋ฐฉ์์ผ๋ก ๋ฐ์ ํด์ผ ํ๋์งInput Image๊ฐ ๋ค์ด์์ ๋ ์ด๋ฏธ์ง์ ํน์ง๋ค์ ์ถ์ถํ๊ณ , ํน์ง์ ๋ฐ๋ผ depth์ surface๋ฅผ ์ถ์ถ
Image Classification์ ์ปดํจํฐ ๋น์ ์ core taskinput image(ex. cat)pre-determined categories/labels (ex.{dog, cat, truck, palne, ...})์ฌ๋์๊ฒ ์ด ๊ณผ์ ์ ๋งค์ฐ ์ฝ์ง๋ง ์ปดํจํฐ์๊ฒ๋
๊ณต์์ฌ์ดํธ) https://cs231n.github.io/assignments2020/assignment1/https://cs231n.github.io/assignments/2021/assignment1_colab.zip์์ ๋งํฌ๋ฅผ ํตํด Starter
์ฒซ ๋ฒ์งธ cat example์ ๋ณด๋ฉด ์ค์ฝ์ด๊ฐ cat๋ณด๋ค car๊ฐ ๋ ๋์ ๊ฒ์ ๋ณผ ์ ์๋ค. โก๏ธ bad์ธ ๋ฒ์งธ frog exmaple์ ๋ณด๋ฉด ์ค์ฝ์ด๊ฐ cat, car๋ณด๋ค ๋ฎ๊ณ ์์์ธ ๊ฐ์ด ๋์จ ๊ฒ์ ๋ณผ ์ ์๋ค. โก๏ธ bady์ ์ด ์ผ์ด์ค๊ฐ ์ผ๋ง๋ ๋์์ง ๊ฐ์ ์ ์ฅ
๐ ๋ฐํ ์๋ฃ ํคํฌ์ธํธ ๐ Review ๊ฐ๋จํ (Optimization, Gradient Descent) Computational graphs ํ๋ฆ loss function input, parameter Gradient ๊ฐ๋ตํ ์ค๋ช matrix
1957๋ Frank Rosenblatt๊ฐ Mark I Perceptron machine์ ๊ฐ๋ฐ์ต์ด์ ํผ์ ํธ๋ก ๊ธฐ๊ณ1960๋ Widrow์ Hoff๊ฐ Adaline and Madaline ๊ฐ๋ฐ์ต์ด์ Multilayer Perceptron Network1986๋ Rume
http://cs231n.stanford.edu/slides/2017/cs231n_2017_lecture6.pdfhttps://inhovation97.tistory.com/23One time setupactivation functionspreproce
์ฐ๋ฆฌ๋ ์ง๋์๊ฐ์ 6๊ฐ์ activation function์ ๋ฐฐ์ ๋ค. ์ด์ค์์ Sigmoid์ ReLU๋ง ๋ค์ ๋ด๋ณด์!Sigmoid๋ ๊ณผ๊ฑฐ์ ์ ๋ช ํ์ง๋ง Vanishing Gradients์ ๋ฌธ์ ์ ๋๋ฌธ์ ์ด์ ๋ ์ ์ฐ์ง ์๋๋ค.์ด์ ๋ ReLU๋ฅผ ์ฐ๋ ๊ฒ์ด ๊ฐ์ฅ ์ข์