Ch1. 나의 첫 머신러닝

이 글은 학회 스터디를 하면서 혼자 공부하는 머신러닝 + 딥러닝 책을 공부해서 적은 내용이니 참고 바랍니다.

기본적인 개념보다는 실습 내용에 기반을 두고 글을 작성하였으니 참고 바랍니다.

1- 1.  인공지능과 머신러닝, 딥러닝

인공지능이란?

• 인공지능은 사람처럼 학습하고 추론할 수 있는 지능을 가진 컴퓨터 시스템을 만드는 기술입니다. 

머신러닝이란?

• 머신러닝이란 규칙을 일일이 프로그래밍 하지 않아도 자동으로 데이터에서 규칙을 학습하여 알고리즘을 연구하는 분야입니다.
• 대표적인 라이브러리는 scikit-learn 라이브러리

딥러닝이란?

• 많은 머신러닝 알고리즘 중에 인공신경망(Artificial Netural Network)을 기반으로 한 방법들을 통칭하여 딥러닝이라고 부릅니다.
• 대표적으로 Pytorch, Tensorflow 라이브러리가 있습니다. - Python API 형태 기반으로 제공

---

1-2.  코랩과 주피터 노트북

• Google Colab: 구글 코랩은 웹브라우저에서 무료로 Python Program을 테스트하고 저장할수 있는 프로그램 입니다.
• ML 프로그램도 만들수 있습니다.

• https://colab.research.google.com

• Colab은 웹 브라우저 중에서 Text & Program 코드를 자유롭게 작성할 수 있는 온라인 에디터 라고 생각하면 쉽습니다. 이러한 코랩 파일을 Notebook이라고 부릅니다.
• 참고로 필자는 Jupyter Notebook을 이용해서 실습을 하였으니, 참고 부탁드립니다.

---

참고사항

추가로 텍스트셀에 사용할 수 있는 마크다운 문법을 올려놓겠습니다. 참고 바랍니다.

---

1-3. 마켓과 머신러닝

• 한번 생선분류 문제를 가지고 머신러닝 프로그램을 만들어 보겠습니다.
• 생선 dataset은 kaggle에서 공개된 dataset을 이용하였으니, 참고 바랍니다.

• https://www.kaggle.com/aungpyaeap/fish-market

Fish market

 

도미 데이터셋 불러오기

도미 Dataset을 한번 불러오겠습니다.

각 도미의 특징과 길이를 무게로 표현한것을 특성이라고 부르겠습니다.

# 도미의 길이
bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 
                31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 
                35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]
# 도미의 무게
bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 
                500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 
                700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

• 도미들의 특성을 숫자로 보는 것 말고, 그래프로 표현하면 데이터를 잘 표현할수 있기도 합니다. 길이를 x축, 무게를 y축으로 해서 그래프를 점으로 표현해 보겠습니다. 이러한 그래프를 산점도: Scatter Plot이라고 부릅니다.
• Python에서 과학 계산용 그래프를 그리는 대표적인 패키지는 Matplotlib 패키지 입니다. 한번 불러와서 그래프를 그려보겠습니다.

# 산점도
import matplotlib.pyplot as plt

plt.scatter(bream_length, bream_weight)
plt.xlabel('length')  # xlabel()은 x축의 이름을 화면에 표시
plt.ylabel('weight')  # ylabel()은 y축의 이름을 화면에 표시
plt.show()

빙어 데이터셋 불러오기

빙어 Dataset을 한번 불러오겠습니다.

# 빙어 Dataset
smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]
smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

# 산점도
import matplotlib.pyplot as plt

plt.scatter(smelt_length, smelt_weight)
plt.xlabel('length')  # xlabel()은 x축의 이름을 화면에 표시
plt.ylabel('weight')  # ylabel()은 y축의 이름을 화면에 표시
plt.show()

• 이렇게 빙어 dataset로 산점도를 이용한 그래프로 나타낼 수 있습니다.

2개의 dataset을 하나의 그래프로 나타내기

• 한번 빙어 & 도미의 dataset을 하나의 산점도 그래프로 나타내 보겠습니다.

plt.scatter(bream_length, bream_weight)
plt.scatter(smelt_length, smelt_weight)
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

• Matplotlib 라이브러리는 2개의 산점도를 색깔로 구분하여 나타냅니다. 주황색이 빙어, 파란색이 도미의 dataset입니다.
• 빙어 & 도미는 비슷하게 길이와 무게가 비례하지만, 늘어나는 정도가 다릅니다. 그래서 빙어의 산점도도 선형적이지만, 무게가 길이에 영향을 덜 받는다고 볼 수 있습니다.

---

K-최근접 알고리즘

이제 도미와 빙어 Dataset이 다 준비가 되었고, 산점도 그래프도 그려 보았으니, 두 데이터를 스스로 구분하기 위해서 머신러닝 프로그램을 만들어 보겠습니다. 

• 여기서는 K-최근접 이웃 알고리즘을 사용해서 데이터를 구분하겠습니다.

K-최근접 알고리즘 이란?

• 간단한 머신러닝 알고리즘중 하나로, 규칙이 있기 보다는 보통 전체 데이터를 가지고 있는것이 전부입니다.
• 이제 Python 에서는 두 데이터셋을 더해서 하나의 list로 만들어 줍니다.

length = bream_length + smelt_length
weight = bream_weight + smelt_weight

• 여기서 사용하는 머신러닝 패키지는 scikit-learn 이며, 이 패키지를 사용하려면 각 특성의 list를 세로 방향으로 늘어뜨린 2차원 리스트를 만들어야 합니다.

• 이렇게 만드는 방법은 Python의 zip() 함수와 리스트 내포 구문을 사용해서 만드는 것입니다.

fish_data = [[l,w] for l,w in zip(length, weight)]
print(fist_data)

• for문은 zip() 함수와 length & weight list 에서 원소를 하나씩 꺼내서 1과 w에 할당합니다. 그러면 [l,w]가 하나의 원소로 구성된 list가 만들어 집니다. 이제 확인해 보겠습니다.

[[25.4, 242.0], [26.3, 290.0], [26.5, 340.0], [29.0, 363.0], [29.0, 430.0], [29.7, 450.0], [29.7, 500.0], [30.0, 390.0], [30.0, 450.0], [30.7, 500.0], [31.0, 475.0], [31.0, 500.0], [31.5, 500.0], [32.0, 340.0], [32.0, 600.0], [32.0, 600.0], [33.0, 700.0], [33.0, 700.0], [33.5, 610.0], [33.5, 650.0], [34.0, 575.0], [34.0, 685.0], [34.5, 620.0], [35.0, 680.0], [35.0, 700.0], [35.0, 725.0], [35.0, 720.0], [36.0, 714.0], [36.0, 850.0], [37.0, 1000.0], [38.5, 920.0], [38.5, 955.0], [39.5, 925.0], [41.0, 975.0], [41.0, 950.0], [9.8, 6.7], [10.5, 7.5], [10.6, 7.0], [11.0, 9.7], [11.2, 9.8], [11.3, 8.7], [11.8, 10.0], [11.8, 9.9], [12.0, 9.8], [12.2, 12.2], [12.4, 13.4], [13.0, 12.2], [14.3, 19.7], [15.0, 19.9]]

• 이렇게 2차원 리스트인 fist_data가 만들어 졌습니다. 

이제 Dataset이 완성이 되었으니, 컴퓨터가 이해 할수 있도록 도미와 빙어를 1과 0으로 표현해 보겠습니다. 도미와 빙어를 순서대로 나열했기 때문에. 정답 리스트는 1이 35번이 나오고, 0이 14번 나옵니다. 

#도미를 1, 빙어는 0
fish_target = [1]*35+[0]*14
fish_target

[1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 1,
 0,
 0,
 0,
 0,
 0,
 0,
 0,
 0,
 0,
 0,
 0,
 0,
 0,
 0]

이제 scikit-learn 라이브러리에서 K-최근접 알고리즘을 구현한 클래스를 KNeighborsClassifier를 import 해서 구현해 보겠습니다.
그리고 import한 KNeighborsClassifier 객체를 만들어보겠습니다.

# k-최근접 이웃
from sklearn.neighbors import KNeighborsClassifier
kn = KNeighborsClassifier()

• kn이 import한 KNeighborsClassifier의 객체입니다.

이제 이 kn 객체에 fish_data & fish_target data를 전달하여 도미를 찾기 위한 기준을 학습시키겠습니다. 이러한 과정을 머신러닝에서는 훈련 (training) 이라고 하며, scikit-learn 에서는 fit() method가 훈련의 역할을 합니다.

kn.fit(fish_data, fish_target) 
# kn - 머신러닝 모델. fit - 두 데이터를 학습시켜 도미를 찾기 위한 기준을 찾는다.

• 그리고 이제 객체(혹은 model) kn이 얼마나 잘 훈련되었는지 알아보겠습니다. scikit-learn에서 모델을 평가하는 method는 score() method 입니다. 이 method는 0에서 1 사이의 값을 반환합니다. 1은 모든 데이터를 정확히 맞추었다는것을 나타냅니다.

kn.score(fish_data, fish_target)

1.0

• 이렇게 1.0이 나오면 정확도가 100% 이라는 것입니다. 그러면 모델이 정확도가 100%이고, 도미와 빙어를 완벽하게 분류 했다는 것입니다.
• 그리고 정확도는 백분율로 나타내며, 값으로 0~1 사이의 값을 가지며, [정확도 = 맞힌 개수 / 전체 데이터 개수] 입니다.

K-최근접 이웃 알고리즘

여기서 만약에 새로운 데이터를 가져와서 정답을 예측하고 싶다면? predict() method를 이용하면 됩니다.

• 여기서 kn.predict([[30, 600]))를 입력하면, 데이터셋에 맞게 정답을 예측해준다.

kn.predict([[30, 600]]) #길이 30cm, 무게 600g인 data 예측

• 그러면 여기서 몇개의 데이터를 참고할까요? KNeighborsClassifier 클래스는 기본값으로 5이지만, 매개변수로 봐꿀수 있습니다.

kn49 = KNeighborsClassifier(n_neighbors=49)

kn49.fit(fish_data, fish_target)
kn49.score(fish_data, fish_target)

• 여기서는 매개변수(n_neighbors=49) 49개를 참고해서 k-최근접 이웃 모델을 사용하여 fish_data를 적용해면 모든 생선의 데이터를 사용하여 예측할 수 있습니다. 
• 그러면, fish_data 49개중에 도미가 35개 이므로, 다수를 차지하기 때문에 어떤 데이터를 넣어도 무조건 도미로 예측할 것입니다.

kn49.score(fish_data, fish_target)

#결과값 : 대략 71%의 정확도
0.7142857142857143

---

핵심 패키지 & 함수

Matplotlib

• scatter() 는 산점도를 그리는 뱃플롯립 함수입니다. 처음 2개의 매개변수로 X축 값과 y축 값 을 전달합니다. 이 값은 파이씬 리스트 또는 Numpy 배열입니다.

Scikit-learn

• KNeighborsClassifier()는 k-최근접 이웃 분류 모델을 만드는 사이킷런 클래스입니다. n] neighbors 매개변수로 이웃의 개수를 지정합니다. 기본값은 5입니다.
• fit()은 사이것런 모댈을 훈련할 때 사용하는 메서드입니다. 처음 두 매개변수로 훈련에 사용할 특성과 정답 데이터를 전달합니다.
• predict()는 사이킷런 모델을 훈련하고 예측할 때 사용하는 메서드입니다. 특성 데이터 하나 만 매개변수로 받습니다.
• score() 는 훈련된 사이킷런 모델의 성능을 측정합니다. 처음 두 매개변수로 특성과 정답 데이 터를 전달합니다. 이 메서드는 먼저 predict() 메서드로 예측을 수행한 다음 분류 모델일 경 우 정탑과 비교하여 올바르게 예측한 개수의 비율을 반환합니다.