๐ Machine Learning
2024.08.06
์ด๋ฒ์๋ Supervised Learning (์ง๋ํ์ต)์ ๋ฐํ์ฌ ํ๋ฒ ์์๋ณด๊ฒ ์ต๋๋ค. Supervised Learning (์ง๋ํ์ต) ์ด๋?์ง๋ํ์ต์ Machine Learning(๊ธฐ๊ณํ์ต)์ ํ ๋ถ์ผ๋ก, ์
๋ ฅ ๋ฐ์ดํฐ์ ๊ทธ์ ๋์ํ๋ ์ ๋ต(๋ ์ด๋ธ)์ ํจ๊ป ์ ๊ณต๋ฐ์ ํ์ตํ๋ ๋ฐฉ๋ฒ์
๋๋ค. ์ด ๊ณผ์ ์ ํตํด ์๊ณ ๋ฆฌ์ฆ์ ์๋ก์ด ์
๋ ฅ ๋ฐ์ดํฐ์ ๋ํด ์ ํํ ์ถ๋ ฅ์ ์์ธกํ ์ ์๋ ๋ชจ๋ธ์ ๋ง๋ญ๋๋ค. ์ฃผ์ํ ํน์ง๋ค์ ๋ฐํ์ฌ ๋ ์ดํด๋ณด๋ฉด 1. ๋ ์ด๋ธ์ด ์๋ ๋ฐ์ดํฐ ์ฌ์ฉ ๊ฐ ๋ฐ์ดํฐ ํฌ์ธํธ์๋ ์
๋ ฅ๊ฐ๊ณผ ๊ทธ์ ๋์ํ๋ ์ ๋ต์ด ํจ๊ป ์ ๊ณต๋ฉ๋๋ค.์๋ฅผ ๋ค์ด, ์ด๋ฏธ์ง ๋ถ๋ฅ ์์
์์๋ ์ด๋ฏธ์ง(์
๋ ฅ)์ ๊ทธ ์ด๋ฏธ์ง๊ฐ ๋ํ๋ด๋ ๊ฐ์ฒด์ ์ด๋ฆ(์ถ๋ ฅ)์ด ์์ ์ด๋ฃน๋๋ค.์ฌ์ง๊ณผ ๊ทธ ์ฌ์ง์ ํ๊ทธ(์: "๊ฐ์์ง", "๊ณ ์์ด")๊ฐ ์์ผ๋ก ์ฃผ์ด์ง๋ฉด, ๋ชจ๋ธ..
๐ Thesis
2024.08.05
๋
ผ๋ฌธ์ ๊ณ์ ์ฝ์ด์ผ์ง ์ฝ์ด์ผ์ง ์๊ฐํ๋ค๊ฐ.. ์ฉ๊ธฐ๋ฅผ ๋ด์ด์ ํ๋ฒ ์ฝ์ด๋ณธ ๋ด์ฉ์ ์ฝ๋๋ก ๊ตฌํํด ๋ณด๊ฒ ์ต๋๋ค.VGGNet Review๋
ผ๋ฌธ ๋ฆฌ๋ทฐํ ๋ด์ฉ์ ์๋ ๋งํฌ์ ๋ฌ์๋๊ฒ ์ต๋๋ค! [Paper Review] VGGnet Review๋
ผ๋ฌธ์ ๊ณ์ ์ฝ์ด์ผ์ง ์ฝ์ด์ผ์ง ์๊ฐํ๋ค๊ฐ.. ์ฉ๊ธฐ๋ฅผ ๋ด์ด์ ํ๋ฒ ์ฝ์ด๋ณธ ๋ด์ฉ์ ์ ๋ฆฌํด๋ณด๊ฒ ์ต๋๋ค. VGGNet Paper (2014)VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION.๋
ผ๋ฌธ ์ฌ์ดํธ ๋งํฌ๋ ์๋daehyun-bigbread.tistory.comVGGNet Architecture ๊ทธ๋ฌ๋ฉด ํ๋ฒ VGGNet์ ์ฝ๋๋ก ํ๋ฒ ๊ตฌํ์ ํ๋ณด๊ฒ ์ต๋๋ค. - D์ด์ ๋ชจ๋ธ(VGG16)์ ๊ตฌํํด๋ณด์์ต๋๋ค.image input..
๐ Thesis
2024.08.05
๋
ผ๋ฌธ์ ๊ณ์ ์ฝ์ด์ผ์ง ์ฝ์ด์ผ์ง ์๊ฐํ๋ค๊ฐ.. ์ฉ๊ธฐ๋ฅผ ๋ด์ด์ ํ๋ฒ ์ฝ์ด๋ณธ ๋ด์ฉ์ ์ ๋ฆฌํด๋ณด๊ฒ ์ต๋๋ค. VGGNet Paper (2014)VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION.๋
ผ๋ฌธ ์ฌ์ดํธ ๋งํฌ๋ ์๋์ ๋จ๊ฒจ๋๊ฒ ์ต๋๋ค. ๊ทธ๋ฌ๋ฉด ํ๋ฒ ์ฐจ๊ทผ์ฐจ๊ทผ ๋ฆฌ๋ทฐํด ๋ณด๊ฒ ์ต๋๋ค. Very Deep Convolutional Networks for Large-Scale Image RecognitionIn this work we investigate the effect of the convolutional network depth on its accuracy in the large-scale image recognition setting. Our main ..
๐ฅ PyTorch
2024.08.02
โ ๏ธ ๋ณธ ๋ด์ฉ์ PyTorch Korea์ ๊ณต์ ๋ฌธ์์ ๊ธฐ๋ฐํ์ฌ ๊ณต๋ถํ ๋ด์ฉ์ ์ ์๊ฒ์ด๋ ์ํด๋ฐ๋๋๋ค! PyTorch์์ ์ผ๋ฐ์ ์ธ ์ฒดํฌํฌ์ธํธ(checkpoint) ์ ์ฅํ๊ธฐ & ๋ถ๋ฌ์ค๊ธฐ์ถ๋ก (inference) ๋๋ ํ์ต(training)์ ์ฌ๊ฐ๋ฅผ ์ํด ์ฒดํฌํฌ์ธํธ(checkpoint) ๋ชจ๋ธ์ ์ ์ฅํ๊ณ ๋ถ๋ฌ์ค๋ ๊ฒ์ ๋ง์ง๋ง์ผ๋ก ์ค๋จํ๋ ๋ถ๋ถ์ ์ ํํ๋๋ฐ ๋์์ ์ค ์ ์์ต๋๋ค. ์ฒดํฌํฌ์ธํธ๋ฅผ ์ ์ฅํ ๋๋tutorials.pytorch.krPyTorch์์ Inference & Training์ ๋ค์ ํ๊ธฐ ์ํด์ Checkpoint Model์ ์ ์ฅ & ๋ถ๋ฌ์ค๋๊ฒ์ ํ๋ฒ ํด๋ณด๊ฒ ์ต๋๋ค.IntroPyTorch์์ ์ฌ๋ฌ Checkpoint๋ค์ ์ ์ฅํ๊ธฐ ์ํด์ ์ฌ์ (Dictionary)์ Checkpoint๋ค์ ๊ตฌ์ฑํํ..
๐ Machine Learning
2024.08.02
๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ํ์ต๊ณผ ํ๊ฐ ๊ณผ์ ์์ ์ค์ํ ์์๋ค์ ๋ํด ๋ค๋ฃจ๊ฒ ์ต๋๋ค.ํ๋ จ ๋ฐ์ดํฐ์ ํ
์คํธ ๋ฐ์ดํฐ์ ๋ถํ ๋ชจ๋ธ์ ์ฑ๋ฅ์ ์ ํํ ํ๊ฐํ๊ณ ์ผ๋ฐํ ๋ฅ๋ ฅ์ ํ์ธํ๊ธฐ ์ํด ๋ฐ์ดํฐ์
์ ํ๋ จ ๋ฐ์ดํฐ์ ํ
์คํธ ๋ฐ์ดํฐ๋ก ๋ถํ ํฉ๋๋ค.ํ๋ จ ๋ฐ์ดํฐ๋ ๋ชจ๋ธ์ ํ์ต์ํค๋ ๋ฐ ์ฌ์ฉ๋๋ฉฐ, ํ
์คํธ ๋ฐ์ดํฐ๋ ํ์ต๋์ง ์์ ๋ฐ์ดํฐ์์ ๋ชจ๋ธ์ ์ฑ๋ฅ์ ํ๊ฐํ๋ ๋ฐ ์ฌ์ฉ๋ฉ๋๋ค.์ผ๋ฐ์ ์ธ ๋น์จ:Train(ํ๋ จ ๋ฐ์ดํฐ) : Test(ํ
์คํธ ๋ฐ์ดํฐ) = 70:30Train(ํ๋ จ ๋ฐ์ดํฐ) : Test(ํ
์คํธ ๋ฐ์ดํฐ) = 80:20๋ฐ์ดํฐ ๋ถํ ๋ฐฉ๋ฒTrain(ํ๋ จ ๋ฐ์ดํฐ) & Test(ํ
์คํธ ๋ฐ์ดํฐ)๋ฅผ ์ด๋ ํ ๋น์จ๋ก ๋๋๋์ง ์์์ต๋๋ค. ๊ทธ๋ฌ๋ฉด ์ด๋ ํ ๋ฐฉ๋ฒ์ผ๋ก ๋ถ๋ฆฌํ ๊น์?์์ ๋ถํ (Random Split):๋ฐ์ดํฐ๋ฅผ ๋ฌด์์๋ก ์์ ํ, ์ง์ ๋ ๋น์จ์ ๋ฐ๋ผ..
๐ Machine Learning
2024.08.01
์ด๋ฒ์๋ Naive Bayes (๋์ด๋ธ ๋ฒ ์ด์ฆ)๋ผ๋ ๊ฐ๋
์ ๋ฐํ์ฌ ํ๋ฒ ์์๋ณด๊ฒ ์ต๋๋ค.Naive Bayes (๋์ด๋ธ ๋ฒ ์ด์ฆ)๋์ด๋ธ ๋ฒ ์ด์ฆ(Naive Bayes)๋ ์กฐ๊ฑด๋ถ ํ๋ฅ ์ ํ์ฉํ์ฌ ๋ถ๋ฅ๋ฅผ ์ํํ๋ ์ง๋ ํ์ต ์๊ณ ๋ฆฌ์ฆ์
๋๋ค.์ด ์๊ณ ๋ฆฌ์ฆ์ ๋
๋ฆฝ ๋ณ์๋ค์ด ์๋ก ๋
๋ฆฝ์ ์ด๋ผ๊ณ ๊ฐ์ ํ์ฌ ์๋ํฉ๋๋ค.์ด๋ฌํ ๊ฐ์ ํ์์ ๋์ด๋ธ ๋ฒ ์ด์ฆ๋ ๊ฐ๋จํ์ง๋ง ๊ฐ๋ ฅํ ๋ถ๋ฅ ๋ชจ๋ธ์ ์ ๊ณตํฉ๋๋ค.Bayes' Theorem (๋ฒ ์ด์ฆ ์ ๋ฆฌ)๋์ด๋ธ ๋ฒ ์ด์ฆ ์๊ณ ๋ฆฌ์ฆ์ ๋ฒ ์ด์ฆ ์ ๋ฆฌ์ ๊ธฐ๋ฐ์ ๋๊ณ ์์ต๋๋ค.๋ฒ ์ด์ฆ ์ ๋ฆฌ๋ ์กฐ๊ฑด๋ถ ํ๋ฅ ์ ์ฌ์ฉํ์ฌ ํน์ ์ฌ๊ฑด์ ์ฌํ ํ๋ฅ ์ ๊ณ์ฐํ๋ ์ํ์ ์๋ฆฌ์
๋๋ค. ์๋๋ ๋ฒ ์ด์ฆ ์ ๋ฆฌ์ ์์์
๋๋ค. P(AโฃB)P(A|B)P(AโฃB): ์ฌ๊ฑด B๊ฐ ์ผ์ด๋ฌ์ ๋ ์ฌ๊ฑด A๊ฐ ์ผ์ด๋ ํ๋ฅ (์ฌํ ํ๋ฅ , Posterior ..
๐ Machine Learning
2024.08.01
์ด๋ฒ์๋ Linear Regression (์ ํํ๊ท)์ ๋ฐํ์ฌ ์์๋ณด๊ฒ ์ต๋๋ค.Linear Regression (์ ํํ๊ท)์ ํ ํ๊ท(Linear Regression)๋ ๋จธ์ ๋ฌ๋์์ ๋๋ฆฌ ์ฌ์ฉ๋๋ ํ๊ท ๋ถ์ ๊ธฐ๋ฒ ์ค ํ๋๋ก,๋
๋ฆฝ ๋ณ์์ ์ข
์ ๋ณ์ ๊ฐ์ ๊ด๊ณ๋ฅผ ์ ํ ๋ฐฉ์ ์์ผ๋ก ํํํฉ๋๋ค.์ด ๋ฐฉ๋ฒ์ ์ฃผ์ด์ง ๋ฐ์ดํฐ๋ฅผ ์ด์ฉํด ๊ฐ์ฅ ์ ๋ง๋ ์ง์ ์ ์ฐพ๋ ๊ฒ์ด ๋ชฉํ์
๋๋ค.์ ํ ํ๊ท๋ ๋ชจ๋ธ์ด ๋น๊ต์ ๊ฐ๋จํ๊ณ ํด์์ด ์ฉ์ดํ๋ค๋ ์ฅ์ ์ด ์์ต๋๋ค.ํ๊ท ๋ฐฉ์ ์์ ํ ํ๊ท ๋ชจ๋ธ์ ๋ค์๊ณผ ๊ฐ์ ํํ์ ๋ฐฉ์ ์์ ์ฌ์ฉํฉ๋๋ค. Y = β0 โ +β1โX + ฯต Y: ์ข
์ ๋ณ์ (์์ธกํ๋ ค๋ ๊ฐ)X: ๋
๋ฆฝ ๋ณ์ (์ค๋ช
๋ณ์)β0: ์ ํธ (Intercept)β1โ: ๊ธฐ์ธ๊ธฐ (Slope)ฯต: ์ค์ฐจ ํญ (Error Term, ๋ชจ๋ธ์ ์์ธก๊ณผ ์ค์ ..
๐ Machine Learning
2024.07.31
์ด๋ฒ์๋ Supervised Learning (์ง๋ํ์ต)์ ๋ฐํ ๊ฐ๋
์ ๋ฐํ์ฌ ํ๋ฒ ์์๋ณด๊ฒ ์ต๋๋ค.Supervised Learning (์ง๋ํ์ต)์ง๋ํ์ต์ ๋จธ์ ๋ฌ๋์ ํ ๋ถ์ผ๋ก, ๋ผ๋ฒจ์ด ์๋ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ์ตํ๋ ์๊ณ ๋ฆฌ์ฆ์
๋๋ค.์
๋ ฅ ๋ฐ์ดํฐ์ ์ด์ ์์ํ๋ ์ถ๋ ฅ ๊ฐ(๋ชฉํ ๋๋ ๋ผ๋ฒจ)์ด ์ฃผ์ด์ง๋ฉฐ, ๋ชจ๋ธ์ ์ด ๋ฐ์ดํฐ๋ฅผ ํตํด ํ์ตํ์ฌ ์๋ก์ด ์
๋ ฅ์ ๋ํด ์์ธก์ ์ํํ ์ ์์ต๋๋ค.์ง๋ํ์ต์ ํฌ๊ฒ ํ๊ท(Regression)์ ๋ถ๋ฅ(Classification)๋ก ๋๋ฉ๋๋ค.Regression (ํ๊ท)ํ๊ท๋ ์ฐ์์ ์ธ ์ซ์ ๊ฐ์ ์์ธกํ๋ ๋ฌธ์ ๋ฅผ ๋ค๋ฃน๋๋ค.์๋ฅผ ๋ค์ด, ์ฃผํ์ ๋ฉด์ , ๋ฐฉ ๊ฐ์, ์์น ๋ฑ์ ๊ธฐ๋ฐ์ผ๋ก ์ฃผํ ๊ฐ๊ฒฉ์ ์์ธกํ๋ ๊ฒฝ์ฐ๊ฐ ์ด์ ํด๋นํฉ๋๋ค.ํ๊ท ๋ฌธ์ ์์๋ ์์ธกํ๋ ค๋ ๊ฐ์ด ์ฐ์์ ์ธ ์ซ์๋ก ํํ๋ฉ๋๋ค.์..
๐ฅ PyTorch
2024.07.31
โ ๏ธ ๋ณธ ๋ด์ฉ์ PyTorch Korea์ ๊ณต์ ๋ฌธ์์ ๊ธฐ๋ฐํ์ฌ ๊ณต๋ถํ ๋ด์ฉ์ ์ ์๊ฒ์ด๋ ์ํด๋ฐ๋๋๋ค! ๋ชจ๋ธ ์ ์ฅํ๊ณ ๋ถ๋ฌ์ค๊ธฐํ์ดํ ์น(PyTorch) ๊ธฐ๋ณธ ์ตํ๊ธฐ|| ๋น ๋ฅธ ์์|| ํ
์(Tensor)|| Dataset๊ณผ Dataloader|| ๋ณํ(Transform)|| ์ ๊ฒฝ๋ง ๋ชจ๋ธ ๊ตฌ์ฑํ๊ธฐ|| Autograd|| ์ต์ ํ(Optimization)|| ๋ชจ๋ธ ์ ์ฅํ๊ณ ๋ถ๋ฌ์ค๊ธฐ ์ด๋ฒ ์ฅ์์๋ ์ ์ฅํ๊ธฐ๋tutorials.pytorch.krModel ์ ์ฅํ๊ณ ๋ถ๋ฌ์ค๊ธฐ์ด๋ฒ์๋ ์ ์ฅ or ๋ถ๋ฌ์ค๊ธฐ๋ฅผ ํตํด ๋ชจ๋ธ์ ์ํ ์ ์ง(persist)๋ฐ ๋ชจ๋ธ์ ์์ธก์ ์ํํ๋ ๋ฐฉ๋ฒ์ ๋ณด๊ฒ ์ต๋๋ค.import torchimport torchvision.models as modelsModel Weight(๊ฐ์ค์น) ์ ์ฅํ๊ณ ๋ถ๋ฌ์ค๊ธฐPyT..
๐น๏ธ ํผ๊ณต๋จธ์
2024.07.30
Gradient Boosting (๊ทธ๋ ์ด์ธํธ ๋ถ์คํ
)๊ทธ๋ ์ด๋์ธํธ ๋ถ์คํ
(Gradient Boosting)์ ์์ ๊ฒฐ์ ํธ๋ฆฌ๋ค์ ์ฌ์ฉํ์ฌ ์ด์ ํธ๋ฆฌ์ ์ค์ฐจ๋ฅผ ๋ณด์ํ๋ ๋ฐฉ์์ผ๋ก ์์๋ธ์ ๊ตฌ์ฑํ๋ ๊ธฐ๋ฒ์
๋๋ค.์ฌ์ดํท๋ฐ์ GradientBoostingClassifier๋ ๊ธฐ๋ณธ์ ์ผ๋ก ๊น์ด๊ฐ 3์ธ ๊ฒฐ์ ํธ๋ฆฌ๋ฅผ 100๊ฐ ์ฌ์ฉํฉ๋๋ค. ์์ ๊ฒฐ์ ํธ๋ฆฌ๋ฅผ ์ฌ์ฉํ๊ธฐ ๋๋ฌธ์ ๊ณผ๋์ ํฉ์ ๊ฐํ๊ณ , ์ผ๋ฐ์ ์ผ๋ก ๋์ ์ผ๋ฐํ ์ฑ๋ฅ์ ๊ธฐ๋ํ ์ ์์ต๋๋ค.'๊ทธ๋ ์ด๋์ธํธ'๋ผ๋ ์ด๋ฆ์์ ์ ์ ์๋ฏ์ด, ์ด ๋ฐฉ๋ฒ์ ๊ฒฝ์ฌ ํ๊ฐ๋ฒ์ ์ฌ์ฉํ์ฌ ํธ๋ฆฌ๋ฅผ ์์๋ธ์ ์ถ๊ฐํฉ๋๋ค. ๋ถ๋ฅ ๋ฌธ์ ์์๋ ๋ก์ง์คํฑ ์์ค ํจ์๋ฅผ ์ฌ์ฉํ๊ณ , ํ๊ท ๋ฌธ์ ์์๋ ํ๊ท ์ ๊ณฑ ์ค์ฐจ ํจ์๋ฅผ ์ฌ์ฉํฉ๋๋ค.๊ฒฝ์ฌ ํ๊ฐ๋ฒ์ ์๋ฆฌ์ฒ๋ผ, ๊ทธ๋ ์ด๋์ธํธ ๋ถ์คํ
์ ์์ค ํจ์์ ์ต์์ ์ ์ฐพ๊ธฐ ์ํด ๋ชจ๋ธ..