Image: Neural Transfer Algorithm
metric learning์ input data space์์ data๋ค์ ๊ฐ์ฅ ์ ํฉํ ํํ์ ์ด๋ค metric์ learningํ๋ ์๊ณ ๋ฆฌ์ฆ์ด๋ค. ์ฌ๊ธฐ์์ data๋ ๊ฐ pair ๋ณ๋ก similar/dissimilar๊ฐ ์ ์๋์ด ์๋ ํํ์ ๋ฐ์ดํฐ์ด๋ค. ์ฆ, met
CUDA ๋ฒ์ ํ์ธNVIDIA driver ํ์ธcuDNN ํ์ธ
wicwiu๋ฅผ ์ด์ฉํ์ฌ MNIST data๋ฅผ ํ์ต์ํจ๋ค.MNIST๋ ์ธ๊ณต์ง๋ฅ ์ฐ๊ตฌ์ ๊ถ์์ LeCun๊ต์๊ฐ ๋ง๋ ๋ฐ์ดํฐ ์ ์ด๊ณ ํ์ฌ ๋ฅ๋ฌ๋์ ๊ณต๋ถํ ๋ ๋ฐ๋์ ๊ฑฐ์ณ์ผํ Hello, World๊ฐ์ ์กด์ฌ์ ๋๋ค. MNIST๋ 60,000๊ฐ์ ํธ๋ ์ด๋ ์ ๊ณผ 10,000๊ฐ์ ํ
conda install -c pytorch pytorchconda install -c pytorch torchvisionconda install -c conda-forge opencvconda install -c anaconda requestsconda install
pre-trained model์ ์ด์ฉํ์ฌ ์๋ก์ด model์ ๋ง๋ค ๋ ํ์ต์ ๋น ๋ฅด๊ฒ ํ๋ฉฐ, ์์ธก ์ ํ๋๋ฅผ ๋์ด๋ ๋ฐฉ๋ฒ์ด๋ค. Why?ConvNet์ ์ฒ์๋ถํฐ ํ์ต์ํค๋ ์ผ์ ๊ทธ๋ฆฌ ๋ง์ง ์๋ค. ๋๋ถ๋ถ์ ๋ฌธ์ ๋ ์ด๋ฏธ ํ์ต๋ ๋ชจ๋ธ์ ์ฌ์ฉํด์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐ ํ ์ ์๋ค.๋ณต์กํ
์ฒ์ ์ ํด๋ณด๋ ๋ถ์ผ์ด๊ธดํ๋ ๋ ผ๋ฌธ ์คํฐ๋์์ ๋ค๋ฅธ ๋ฐํ์๋ถ์ด ์ ํํ์ ๋ ผ๋ฌธ์ด๋ผ ์ฝ์ด๋ณด๊ฒ ๋์๋ค. ์ด ๋ ผ๋ฌธ์ label์ด๋ end to end ์ญ์ ํ๊ฐ ํ์ํ์ง ์๊ณ , ๋ฐ์ดํฐ์ natural order๋ฅผ ์ด์ฉํ๋ local self-supervised representat
๋ ผ๋ฌธ ์ ๋ฆฌ์ ์์, ์ค์ฐจ์ ์์ฐจ์ ์ฐจ์ด๋ฅผ ์ง๊ณ ๋์ด๊ฐ์. ๋ชจ์ง๋จ์ ํ๊ท์์ ํตํด ์ป์ ์์ธก๊ฐ๊ณผ ์ค์ ๊ด์ธก๊ฐ์ ์ฐจ์ด๋ฅผ ์ค์ฐจ ํ๋ณธ์ง๋จ์ ํ๊ท์์ ํตํด ์ป์ ์์ธก๊ฐ๊ณผ ์ค์ ๊ด์ธก๊ฐ์ ์ฐจ์ด๊ฐ ์์ฐจ๋ผ๊ณ ํ๋ค.ResNet์ Deeper neural networks์ผ์๋ก ํ์ต์ด
2019๋ NVIDIA์์ ๋ฐํํ์ฌ ํ์ ๊ฐ ๋๋ A Style-Based Generator Architecture for Generative Adversarial Networks(StyleGAN)๋ฅผ ์ฝ๊ณ ์ ๋ฆฌํ ๊ธ์ด๋ค. StyleGAN์ Baseline์ด ๋๋ ๋ชจ๋ธ์
Image classification์ DNN์ Input์ผ๋ก ์ด๋ฏธ์ง๋ฅผ ๋ฃ์ผ๋ฉด, ๊ทธ ์ด๋ฏธ์ง์ ํด๋นํ๋ ํด๋์ค๋ฅผ ๋ถ๋ฅํด๋ด๋ ๋ฌธ์ ๋ฅผ ์๋ฏธํ๋ค.OD๋ ์ด๋ฏธ์ง ๋ถ๋ฅ์์ ์ฌ๋ฌผ์ ์์น๋ฅผ bounding box๋ก ์์ธกํ๋ regression์ด ์ถ๊ฐ๋ ํ ์คํฌ์ด๋ค. ์ผ๋ฐ์ ์ผ๋ก OD๋
GAN์ ํ์ต์ํฌ ๋ ์ ํ๋ ์์ ํ๋ จ ๋ฐ์ดํฐ๊ฐ ์ฌ์ฉ๋ ๊ฒฝ์ฐ, Discrimiator๊ฐ ํ๋ จ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ์ตํ๊ธฐ ๋๋ฌธ์ ์ฑ๋ฅ์ด ํฌ๊ฒ ์ ํ๋๋ ๋ฌธ์ ๊ฐ ๋ฐ์ํ๋ค. ๋ ผ๋ฌธ์์๋ ์ด๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ์ค์ ์ํ๊ณผ ๊ฐ์ง ์ํ ๋ชจ๋์ ๋ค์ํ ์ ํ์ augmentation์ ์ ์ฉํ์ฌ G
์ต๊ทผ percptual loss ๊ธฐ๋ฐ super resolution ์ฐ๊ตฌ๋ค์ ์ฑ๋ฅ ํฅ์์ ์ด๋ค์๋ค. ์ด์ ๊ฐ์ objective function๋ค์ ๊ฑฐ์ ์ฌ์ง๊ณผ ์ ์ฌํ ๊ฒฐ๊ณผ๋ฅผ ์์ฑํ๋ค. ํ์ง๋ง ์ด๋ ์ด๋ฏธ์ง ๋ด์ semantic information๋ค์ ๊ณ ๋ คํ์ง ์๊ณ ,
Pixel CNN++ ๋ ผ๋ฌธ์์ softmax๋ง๊ณ discretized logestic mixture likkelihood๋ฅผ ์ฌ์ฉํ๋ค๋๋ฐ, ์ด๊ฒ ๋ญ์ง ๋ชฐ๋ผ์ ์ฐพ์ ๋ณด์๋ค.
GAN(Generative Adversarial Networks)์ ์ปดํจํฐ ๋น์ , ๊ทธ๋ํฝ, ๋จธ์ ๋ฌ๋์ ๊ด๋ฒ์ํ ๋ฌธ์ ์์ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์ฌ์ฃผ์ง๋ง ๋๋ถ๋ถ ๋๋์ ํ๋ จ ๋ฐ์ดํฐ์ ๋ง๋ํ ์ปดํจํ ๋ฆฌ์์ค๋ฅผ ํ์๋ก ํ๋ค.์ด๋ฌํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด Transfer learning
๋ ผ๋ฌธ ๋งํฌ: HereGAN(Generative Adversarial Networks)์ ์ด๋ฏธ์ง ํฉ์ฑ ํ ์คํฌ์์ ์ข์ ์ฑ๋ฅ์ ๋ณด์ด์ง๋ง, ํ๋ จ ๋ถ์์ ์ฑ๊ณผ ํ์ดํผํ๋ผ๋ฏธํฐ์ ์ํ ๋ฏผ๊ฐ์ฑ์ด ๋์ ์ฌ๋ฌ ๋ฐ์ดํฐ์ ์ ์ผ๋ฐํํ๊ธฐ ์ด๋ ต๋ค๋ ๋จ์ ์ด ์๋ค. GAN์ ์ด๋ฐ ๋ถ์์ ์ฑ์ ๋ํ ๋
๋ ผ๋ฌธ ๋งํฌ: https://arxiv.org/pdf/2105.04206.pdf
https://arxiv.org/abs/2103.13389 sivgan.... ๋ค์์ฑ์ ๋จ์ด์ง์ง๋ง ์ํ๋ค