[DL] Transfer Learning - 전이 학습

Transfer Learning, 즉 전이 학습은 ML(머신 러닝)과 DL(딥러닝)에서 기존의 Pre-Training 된 모델을 새로운 작업에 재사용하는 기법입니다. 

• 이 방법은 특히 대규모 데이터셋에서 학습된 모델을 작은 데이터셋에 적용할 때 유용합니다.
• 전이 학습은 모델이 사전 학습한 지식을 새로운 문제에 적용하여 학습 속도를 높이고 성능을 향상시킬 수 있습니다.

Transfer Learning (전이 학습)

• 기존의 Neural Network(신경망)에서 최상위 부분을 새로 정의한 다음, 이 부분을 Training 시키는 것이 Transfer Learning (전이 학습) 이라고 합니다.
• 이때 Neural Network(신경망)의 하위 부분은 이미 Training된 Neural Network(신경망)을 사용하므로 적은 양의 데이터로 시스템을 Training 시킬 수 있습니다.

---

Transfer Learning (전이 학습)의 주요 개념

• 사전 학습된 모델
  • 대규모 데이터셋, 예를 들어 ImageNet과 같은 Training된 모델을 사용합니다.
  • 이러한 모델은 다양한 객체나 패턴을 인식하는 데 매우 능숙합니다.

• 미세 조정(Fine-Tuning)
  • 사전 학습된 모델의 일부 Layer를 고정(Freeze)하고, 나머지 Layer를 새로운 데이터셋으로 학습합니다.
  • 고정된 레이어는 이전 작업에서 Training한 특징을 유지합니다.
  • 새로운 데이터셋에서 학습된 Layer는 새로운 작업에 맞게 조정됩니다.

• 고정된 특징 추출기(Feature Extractor)
  • Pre-Train된 모델의 모든 Layer를 고정하고, 마지막에 새로운 분류기를 추가하여 Training합니다.
  • Pre-Train된 모델은 새로운 Dataset의 Feature(특징)을 추출하고, 새로운 분류기는 이러한 특징을 기반으로 Predict 합니다.

---

Transfer Learning (전이 학습)의 장점

• 학습 시간 단축
  • 초기 Weight를 잘 학습된 모델로부터 가져오기 때문에 Training 시간이 단축됩니다.

• 더 적은 데이터 필요
  • 작은 Dataset에서도 높은 성능을 달성할 수 있습니다.
  • 대규모 Dataset에서 Train된 모델의 지식을 활용하기 때문에 더 적은 양의 Data로도 좋은 성능을 낼 수 있습니다.

• 성능 향상
  • 기존 모델의 Feature(특징) 추출 능력을 활용하여 새로운 작업에서도 높은 성능을 기대할 수 있습니다.

---

CNN Transfer Learning (CNN 전이학습)

Keras 라이브러리에서 정의되어 있는 CNN 패키지들을 사용할 수 있습니다.

---

Transfer Learning Example (전이 학습 예시 by TF, Keras)

한번 Transfer Learning의 예시 코드를 한번 봐보겠습니다.

• 이코드는 Tensorflow와 Kears 라이브러리를 사용하여 Transfer Learning을 수행하는 예시입니다.

Pre-Train된 모델 로드 및 준비

import tensorflow as tf
from tensorflow.keras.applications import VGG16
from tensorflow.keras.layers import Dense, Flatten
from tensorflow.keras.models import Model
from tensorflow.keras.optimizers import Adam

# 사전 학습된 VGG16 모델 로드 (ImageNet 데이터셋에서 학습됨)
base_model = VGG16(weights='imagenet', include_top=False, input_shape=(224, 224, 3))

# 사전 학습된 모델의 레이어 고정 (Feature Extractor로 사용)
for layer in base_model.layers:
    layer.trainable = False

# 새로운 분류기 레이어 추가
x = base_model.output
x = Flatten()(x)
x = Dense(512, activation='relu')(x)
predictions = Dense(10, activation='softmax')(x)

# 전체 모델 정의
model = Model(inputs=base_model.input, outputs=predictions)

# 모델 컴파일
model.compile(optimizer=Adam(learning_rate=0.0001), loss='categorical_crossentropy', metrics=['accuracy'])

 

Data 준비

데이터셋을 준비하고, 이미지 데이터를 불러오고, 전처리하는 과정을 포함합니다.

from tensorflow.keras.preprocessing.image import ImageDataGenerator

# 데이터셋 경로
train_data_dir = '/path/to/train/data'
validation_data_dir = '/path/to/validation/data'

# 이미지 데이터 제너레이터 정의 및 데이터 전처리
train_datagen = ImageDataGenerator(rescale=1.0/255.0, shear_range=0.2, zoom_range=0.2, horizontal_flip=True)
validation_datagen = ImageDataGenerator(rescale=1.0/255.0)

# 학습 데이터 제너레이터
train_generator = train_datagen.flow_from_directory(train_data_dir, target_size=(224, 224), batch_size=32, class_mode='categorical')

# 검증 데이터 제너레이터
validation_generator = validation_datagen.flow_from_directory(validation_data_dir, target_size=(224, 224), batch_size=32, class_mode='categorical')

 

모델 학습

# 모델 학습
model.fit(train_generator, epochs=10, validation_data=validation_generator)

• 사전 학습된 VGG16 모델을 사용하여 새로운 데이터셋에 대해 전이 학습을 수행하는 방법을 보여줍니다.