ย ย ย ย ์ฌ์ฑ์ด ์๊ฒฝ ์ค ๊ฒช๊ฒ ๋๋ ์๋ฆฌํต์ ๊ฐ์ฅ ๊ฐํธํ๊ฒ ํด์ํ ์ ์๋ ๋ฐฉ๋ฒ์ ์งํต์ - ๊ทธ์ค์์๋ ์ฒ๋ฐฉ์ ์์ด ๊ตฌ์ ํ ์ ์๋ ์ผ๋ฐ์์ฝํ - ๋ณต์ฉ์ด๋ค. ์ฝ๊ตญ์ด๋ ๋๋ญ์คํ ์ด, ํธ์์ ๋ฑ ์์ค์์ ๋ค์ํ ์ข ๋ฅ์ ์งํต์ ๋ฅผ ์ฝ๊ฒ ๋ณผ ์ ์๋ค. ๊ทธ๋ฌ๋ ์๋น์๋ ์ ๋ณด ๋ถ์กฑ์ผ๋ก ์ธํด ์์ ๋ถํฐ ๋ณต์ฉํ๋ ์ฝ์ ์ต๊ด์ ์ผ๋ก ์ ํํ๊ณค ํ๋ค.
ย ย ย ย ๋ฌผ๋ก ์ด๋ค์ ๋ชจ๋ ์งํต์ ์ด๊ธฐ์ ๊ธฐ๋ณธ์ ์ธ ํจ๊ณผ๋ ๋์ผํ๋ค. ๊ทธ๋ฌ๋ ๊ฐ์ธ๋ณ๋ก ์๋ฆฌํต์ ์ฆ์์ ๋ค์ํ๊ณ , ์ฝ์ ์ฑ๋ถ์ ๋ฐ๋ผ ์ธ๋ถ์ ์ธ ํจ๊ณผ๋ ๋ค๋ฅด๋ค. ์งํต์ ์ ์ฌ๋ฐ๋ฅธ ๋ณต์ฉ์ ์๋ฆฌํต์ ๋น ๋ฅธ ์ํ์ ํฐ ๋์์ด ๋ ๊ฒ์ด๋ค. ๋ณด๋ฆ๋ฌ ์๋น์ค๋ ์ฌ์ฉ์๊ฐ ๋ชจ๋ฐ์ผ ์ดํ๋ฆฌ์ผ์ด์ ์บ๋ฆฐ๋ ๋ํ ์ผ ํ์ด์ง์ ์ ๋ ฅํ ์ฆ์์ ํ์ฉํ์ฌ ์๋ง์ ์งํต์ ๋ฅผ ์ถ์ฒํ๋ ๊ฒ์ ๋ชฉํ๋ก ํ๋ค.
ย ย ย ์ ์ ํ ๊ณต๊ฐ ๋ฐ์ดํฐ ์
์ ์ฐพ์ ์ ์์ด ์ฆ์, ์ฌ์ฉ์์ ๊ฑด๊ฐ ์ํ์ ์งํต์ ์ ๊ดํ ์กฐ์ฌ ํ 1521๊ฐ์ง ๊ฒฝ์ฐ๊ฐ ์๋ ์ธ์์ ์ธ ๋ฐ์ดํฐ์
์ ๋ง๋ค์๋ค.
ย ย ย ย ์ผ๋ฐ ์์ฝํ์ธ ์งํต์ ๋ ํฌ๊ฒ ์์ธํธ์๋ฏธ๋ ธํ ๊ณ์ด๊ณผ ๋น์คํ ๋ก์ด๋ ๊ณ์ด๋ก ๋๋ ์ ์๋ค. ์์ธํธ์๋ฏธ๋ ธํ ๊ณ์ด์ ์ฝ์ ๊ฐ์ ๋ถ๋ด์ด ๋๋ฉฐ ๋น์คํ ๋ก์ด๋ ๊ณ์ด ์ค ์ด๋ถํ๋กํ, ์์คํผ๋ฆฐ, ๋ํ๋ก์ผ ์ฑ๋ถ์ ์์ฅ์ ๋ถ๋ด์ด ๊ฐ ์ ์๋ค. ใ์๊ณ ๋จน๋ ์ฝ ๋ชจ๋ฅด๊ณ ๋จน๋ ์ฝ, ๊น์ ํใ๊ณผ ๋ฏผํธ๋ณ์ ๋ธ๋ก๊ทธ๋ฅผ ์ฐธ๊ณ ํ์ฌ ์ฆ์๋ณ๋ก ํจ๊ณผ๊ฐ ์๋ ์ฝ์ ์ถ์ฒํ๋, ๋ชจ๋ ์งํต์ ๋ ๊ธฐ๋ณธ์ ์ผ๋ก ์๋ฆฌํต ์ํ์ ๋์์ด ๋๊ธฐ์ ์ฌ์ฉ์์ ๊ฐ๊ณผ ์์ฅ ์ํ๋ฅผ ์ฐ์ ์ผ๋ก ํ๋ ์์น์ ์ธ์ ๋ค.
ย ย ย ย ํ๋ฆฌ ํต์ฆ, ์ ์ฐ๋ฆผ, ๊ทน์ฌํ ๊ณ ํต, ์๋ฆฌ๋ถ์, ๋ถ๊ธฐ, ๋ฏธ์ด, ๋ํต, ๋ณตํต, ๊ฒฝ๋ จ, ์ฌ๋ฆฌ์ ์ฆ์, ์ค์ฌ, ๊ฐ ์ํ, ์์ฅ ์ํ ๋ฑ์ ๊ณ ๋ คํด ์ถ์ฒ ์ฝ์ ๋ถ๋ฅํ์๋ค. ๊ฐ๊ฐ์ ์ฆ์ ๋ฐ ์์ฃผ ์ฌ๋ถ, ์์ฅ์ฅ์ ์ฌ๋ถ๋ฅผ boolean ํ์์ผ๋ก ๋ํ๋ด์๋ค. ์ถ์ฒ ์ฝ์ ๊ฒฝ์ฐ, ์ธ์์ ์ธ ๋ฐ์ดํฐ ์ ์ด๊ธฐ์ Feature Engineering ๊ณผ์ ์ ๊ฑฐ์น์ง ์๊ณ ๋ค์์ Pill Number๋ก ๋ํ๋๋ค.
Pill Number | ์ถ์ฒ ์ฝ |
---|---|
1 | ์คํผ๋ํ ๋๋ ธ, ์์ด๋ , ์ด์ง์ |
2 | ์ด์ง์6 ์ด๋ธ |
3 | ๊ทธ๋ ์ |
4 | ์ด์ฆํ |
5 | ์ฐ๋จผ์ค ํ์ด๋ ๋ |
6 | ์ด์ง์6 ์ด๋ธ, ์ด๋ธํ ๋ ์ด๋ |
7 | ์ธ์ด๋ฒ ๋ฆฐ |
8 | ๊ฒ๋ณด๋ฆฐ, ํ์ํ, ์ฌ๋ฆฌ๋ ์์ด |
9 | ํ์ผ |
10 | ๋ถ์ค์ฝํ ํ๋ฌ์ค |
11 | ๊ทธ๋ ์ Q |
12 | ์์ด๋ |
๋ค์ค ํด๋์ค ๋ถ๋ฅ(Multiclass Classification) ์๊ณ ๋ฆฌ์ฆ
3๊ฐ ์ด์์ ์ ํ์ง ์ค์์ 1๊ฐ๋ฅผ ๊ณ ๋ฅด๋ ๋ค์ค ํด๋์ค ๋ถ๋ฅ ๋ฌธ์ ๋ฅผ ์ํ ์ํํธ๋งฅ์ค ํ๊ท(Softmax Regression) ์ค ํ๋์ด๋ค.์ ํซ ์ธ์ฝ๋ฉ(One-Hot Encoding)
๋จ ํ๋์ ๊ฐ๋ง True์ด๊ณ ๋๋จธ์ง๋ ๋ชจ๋ False์ธ ์ธ์ฝ๋ฉ์ด๋ค. ์๋ฅผ ๋ค์ด, 0์ [1,0,0,0,0], 4๋ [0,0,0,0,1]๋ก ํํ ๊ฐ๋ฅํ๋ค. ๋ถ๋ฅ ๋ฌธ์ ์์ ์ฐ์ฐ ํธ์์ฑ, ๋ค์ํ ๋ชจ๋ธ ์ ์ฉ, ์ ํ๋ ํฅ์ ๋ฑ์ ์ด์ ๋ก ์ํํ๋ค.
ย ย ย ย ๋จธ์ ๋ฌ๋์ผ๋ก ํด์ผ ํ ๊ณผ์ ๋ 14๊ฐ์ ํน์ฑ์ ์ด์ฉํ์ฌ 12๊ฐ์ Pill Number๋ฅผ ์์ธกํ๋ ๊ฒ์ด๋ค. ๋๋ฌธ์ ๋ค์ค ํด๋์ค ๋ถ๋ฅ ์๊ณ ๋ฆฌ์ฆ์ด ์ ํฉํ๋ค๊ณ ํ๋จํ๋ค. ๋ํ 1๋ถํฐ 12๊น์ง์ ์ ์๋ก ํํ๋ Pill Number๋ฅผ 0๋ถํฐ 11์ ๋ผ๋ฒจ์ ์ด์ฉํ์ฌ ์ ํซ ์ธ์ฝ๋ฉ์ ์ํํ๋ค.
ย ย ย ย ๋จธ์ ๋ฌ๋์ ์ํด์ tensorflow.js๋ฅผ ์ฌ์ฉํ๋ค. ์ฃผ์ด์ง ๋ฐ์ดํฐ ์ ์ 70:30์ ๋น์จ๋ก ํธ๋ ์ด๋ ์ ๊ณผ ํ ์คํธ ์ ์ผ๋ก ๋ถ๋ฅํ์ฌ ๋ชจ๋ธ์ ํ์ต์ํค๊ณ , ํ ์คํธํ์๋ค.
ย ย ย ย ์ ํ ์กฐ์ฌ๋ฅผ ํตํด ๊ด๋ จ ์๋ ํน์ง๋ง ๋ฐ์ดํฐ ์
์ผ๋ก ๊ตฌ์ฑํ์๊ธฐ์ ์ด๋ค ํน์ง์ด ์ฝ ์ถ์ฒ์ ์ํฅ์ ๋ฏธ์น๋์ง๋ ๊ณ ๋ คํ์ง ์๊ธฐ๋ก ํ์๋ค. ๋ชจ๋ ํน์ ์ด ์ํฅ์ ๋ฏธ์น๋ค๊ณ ํ๋จํด ํ์ต์ ์งํํ์๋ค.
ย ย ย ย ์์ ๊ทธ๋ํ๋ tensorflow๋ฅผ ์ด์ฉํด ๋ค์ค ํด๋์ค ๋ถ๋ฅ ๋ชจ๋ธ์ ํธ๋ ์ด๋ ์ฑ๋ฅ์ ๋ณด์ฌ์ค๋ค.
ย ย ย ย Tensorflow์์ epoch๋ ์ ์ฒด ๋ฐ์ดํฐ๋ฅผ ๋ฐ๋ณต์ ์ผ๋ก ํ์ตํ๋ ํ์, batch size๋ ํ ๋ฒ์ ํ์ตํ ๋ฐ์ดํฐ์ ์, iteration์ ํ epoch์์ batch๋ฅผ ํ์ตํ๋ ํ์์ด๋ค. ์ฐ๋ฆฌ๊ฐ ๊ฐ์ง๊ณ ์๋ ๋ฐ์ดํฐ ์ ์ ์ ํ์ ์ด๊ธฐ์ 1 epoch๋ก๋ ์ถฉ๋ถํ์ง ์๋ค. ๊ทธ๋ฌ๋ epoch๊ฐ ๊ณผ๋ํ๋ฉด ๊ณผ์ ํฉ ๋ฌธ์ ๊ฐ ๋ฐ์ํ ์ ์์ด Epoch์ batch size ๋ณ loss value๋ฅผ ๋ณด์ฌ์ฃผ๋ ๊ทธ๋ํ๋ฅผ ๊ทธ๋ ค๋ณด์๋ค.
ย ย ย ย 400 epochs์ 32์ batch size๋ฅผ ์ฌ์ฉํ์ ๋, ํธ๋ ์ด๋๊ณผ ํ ์คํธ ๋ชจ๋์์ 0.03์ loss value๋ฅผ ๊ธฐ๋กํ๋ค.
ย ย ย ย ๋จธ์ ๋ฌ๋์ ํตํด์ ์ฐ๋ฆฌ๊ฐ ๋ชฉํํ๋ ๊ฒฐ๊ณผ๋ฅผ ์ป์ ์ ์์๋ค. ๋ณด๋ฆ๋ฌ ์๋น์ค๋ ์ฌ์ฉ์๊ฐ ์ ๋ ฅํ ์ ๋ณด๋ฅผ ์ด์ฉํ์ฌ ์ฌ์ฉ์๋ณ ์งํต์ ๋ฅผ ์ถ์ฒํด ์ค๋ค. ์ฌ์ฉ์๋ ์์ ์๊ฒ ๋ง๋ ์ฝ์ ๋ณต์ฉํจ์ผ๋ก์จ ๋ณด๋ค ๋ ๋น ๋ฅด๊ณ ์ ํํ ํจ๊ณผ๋ฅผ ๊ธฐ๋ํ ์ ์๋ค. ๋น ์ง ์ ๋ณด๊ฐ ์๋ค๋ฉด NUGU speaker์ slot filling ๊ธฐ๋ฅ์ ํตํด ์ป์ ์ ์๋ค.
ย ย ย ย ํ ๊ฐ์ง ์์ฌ์ด ์ ์ ํ์ฌ์ ๋ฐ์ดํฐ ์ ์ด ์์๋ก ๊ฐ์ ๋ ์ํฉ์ด๋ผ๋ ์ ์ธ๋ฐ, ์๋น์ค๋ฅผ ์ ๊ณตํ๊ณ ์ ์งํ๋ฉฐ ์ค์ ์ฌ์ฉ์์ ์ ๋ณด์ ํจ๊ณผ ์ฌ๋ถ๋ฅผ ์์งํด ๋์ฑ ์ ํํ ๋ชจ๋ธ์ด ๋๋๋ก ๋ฐ์ ์์ผ ๋๊ฐ ์ ์์ ๊ฒ์ด๋ค.