
์ค์ CNN์์๋ ์ฌ๋์ด ์ ํํฐ๋ฅผ ์ง์ ๋ง๋ค์ง ์์
๐ ๋์ , ํํฐ์ ๊ฐ(๊ฐ์ค์น)์ ํ์ต!
์ด๊ธฐ์๋ ํํฐ๊ฐ "๋ฌด์์ ๊ฐ"์
ํ์ง๋ง ํ์ต์ ๋ฐ๋ณตํ๋ฉด์:
์ด๋ค ํํฐ๋ "์์ง์ "์ ๋ฏผ๊ฐํด์ง๊ณ
์ด๋ค ํํฐ๋ "๋ฅ๊ทผ ์ค๊ณฝ"์ ๋ฏผ๊ฐํด์ง๊ณ
์ด๋ค ํํฐ๋ ์ง๊ฐ์ด๋ ๋ฐ๋ณต ํจํด์ ๋ฐ์ํ๋๋ก ์กฐ์ ๋จ
์ฆ, CNN์ ๋ฐ์ดํฐ ์์์ ์์ฃผ ๋ํ๋๋ ํจํด์ ์๋์ผ๋ก โํ์ง๊ธฐโ๋ก ๋ง๋ค์ด๋.
CNN์ ํํฐ๋ฅผ ์ฌ๋ฌ ์ธต์ผ๋ก ์์.
1์ธต: ์ฃ์ง, ์ , ๋ฐฉํฅ
2์ธต: ๋ชจ์๋ฆฌ, ํจํด
3์ธต ์ด์: ๋, ์ผ๊ตด, ์ฌ๋ฌผ์ ํํ
๋ง์น ์ฌ๋ ๋์ฒ๋ผ ์ ์์ค โ ๊ณ ์์ค ํน์ง์ ์์ฐจ์ ์ผ๋ก ํ์ตํด ๋๊ฐ๋ ๊ตฌ์กฐ
[์
๋ ฅ ์ด๋ฏธ์ง]
โ
[Convolution] : ํน์ง ์ถ์ถ
โ
[ReLU] : ๋น์ ํ์ฑ ๋ถ์ฌ
โ
[Pooling] : ์ ๋ณด ์์ถ + ํน์ฑ ์ ์ง
โ
[๋ค์ ์ธต ๋ฐ๋ณต]
๐ ์ญํ
์ด๋ฏธ์ง์ ์ง์ญ์ ์ธ ํน์ง(์ฃ์ง, ์ , ์ง๊ฐ ๋ฑ)์ ํํฐ(์ปค๋)๋ก ๊ฐ์ง
๐งฎ ์๋ ๋ฐฉ์
์
๋ ฅ ์ด๋ฏธ์ง ์์์ ์์ ํํฐ๋ฅผ ์ฌ๋ผ์ด๋ฉํ๋ฉฐ ๋ด์ ์ฐ์ฐ
๊ฐ ์์น๋ง๋ค ํน์ง ๋งต(feature map) ์์ฑ
๐ท ์์
์
๋ ฅ: 32ร32ร3 (์ปฌ๋ฌ ์ด๋ฏธ์ง)
ํํฐ ํฌ๊ธฐ: 3ร3ร3
โ ์ถ๋ ฅ: 30ร30ร1 (ํน์ง ๋งต ํ๋)
์ฌ๋ฌ ๊ฐ์ ํํฐ๋ฅผ ์ฐ๋ฉด โ ์ถ๋ ฅ ์ฑ๋ ์(๊น์ด)๊ฐ ๋์ด๋จ
๐ ์ญํ
๋น์ ํ์ฑ ๋ถ์ฌ (์ด๋ฏธ์ง ํน์ง์ ๋ ์ ๊ตฌ๋ถํ๊ธฐ ์ํด)
์์ ๊ฐ์ 0์ผ๋ก, ์์๋ ๊ทธ๋๋ก ์ ์ง
ReLU(x) = max(0, x)
โ
์ด์
๋ง์ฝ CNN ์ ์ฒด๊ฐ ์ ํ ์ฐ์ฐ๋ง ํ๋ค๋ฉด, ์๋ฌด๋ฆฌ ๋ง์ ์ธต์ ์์๋ ๊ฒฐ๊ตญ ์ ํ ๊ฒฐ๊ณผ๋ง ๋์ด โ ์๋ฏธ ์์
ReLU๋ ๊ทธ๊ฑธ ๊นจ๊ณ ๋ณต์กํ ํจํด๋ ํ์ตํ ์ ์๋๋ก ํจ
๐ ์ญํ
ํน์ง ๋งต์ ๋ ์๊ฒ ์ค์ด๋ฉด์ (์์ถ)
์ค์ํ ์ ๋ณด๋ ์ ์ง
์ฐ์ฐ๋ ์ค์ด๊ณ , ๋ถ๋ณ์ฑ(invariance)๋ ์ฆ๊ฐ
๐งฎ ์ข ๋ฅ
| ์ข ๋ฅ | ์ค๋ช |
|---|---|
| Max Pooling | ์๋์ฐ ๋ด์์ ์ต๋๊ฐ๋ง ๋จ๊น (๊ฐ์ฅ ํํจ) |
| Average Pooling | ์๋์ฐ ๋ด ํ๊ท ๊ฐ์ ๋จ๊น |
๐ ๋ฐ๋ณต ๊ตฌ์กฐ
์ด ์ธ ๊ฐ๋ ๋ณดํต ํ ๋ธ๋ก์ฒ๋ผ ๊ณ์ ๋ฐ๋ณต๋ผ:
[Conv โ ReLU โ Pool] โ [Conv โ ReLU โ Pool] โ ...
โ
์์ฝ
๋จ๊ณ ์ด๋ฆ ์ญํ
1 Convolution ์ด๋ฏธ์ง์์ ํน์ง ์ถ์ถ
2 ReLU ๋น์ ํ์ฑ ๋ถ์ฌ, ํ์ต๋ ฅ ์ฆ๊ฐ
3 Pooling ์ ๋ณด ์์ถ, ์์น ๋ถ๋ณ์ฑ ์ฆ๊ฐ
| ์ธต ๋จ๊ณ | ํ์ตํ๋ ํน์ง |
|---|---|
| ์์ ์ธต | ์ฃ์ง, ์ , ์ ๋๋น ๋ฑ ๊ธฐ๋ณธ ํํ |
| ์ค๊ฐ ์ธต | ๋ชจ์, ์ง๊ฐ, ๋จ์ ํจํด ๋ฑ |
| ๊น์ ์ธต | ์ผ๊ตด, ์ฌ๋ฌผ ๋ฑ ๊ณ ์์ค ๊ฐ๋ |
CNN์ ๋ค์ํ ์ปดํจํฐ ๋น์ ๋ถ์ผ์์ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์ฌ์ค: