'🖥️ Deep Learning' 카테고리의 글 목록 (2 Page)

[DL] 단순한 Layer 구현해보기

2024.03.31

이번글에서는 단순한 Layer 부터 한번 구현해 보겠습니다. 앞의 글에서본 계산 그래프의 곱셈 노드를 'MultiLayer', 덧셈 노드를 'AddLayer'라는 이름으로 구현합니다. 곱셈 계층 모든 계층은 forward()와 backward()라는 공통의 Method(인터페이스)를 갖도록 구현합니다. forward()는 Forward Propagation(순전파), backward()는 Back propagation(역전파)를 처리합니다. 한번 구현해 보겠습니다. # coding: utf-8 class MulLayer: def __init__(self): self.x = None self.y = None # x와 y를 인수라 받고 두 값을 곱해서 반환 def forward(self, x, y): sel..

🖥️ Deep Learning

[DL] Backpropagation (오차역전파법)

2024.03.27

Backpropagation (오차역전파법) Backpropagation(오차역전파법)은 Weight Parameter(가중치 매개변수)의 Gradient(기울기)를 효율적으로 계산하는 방법입니다. Backpropagation(오차역전파법)을 이해하는 방법은 2가지가 있습니다. 하나는 수식을 통해서, 다른 하나는 계산 그래프를 통한것입니다. 보통은 수식을 통하지만, 이번에는 계산 그래프로 사용해서 '시각적'으로 한번 이해해 보겠습니다. 계산 그래프 계산 과정을 그래프로 한번 나타내 보겠습니다. 여기서의 그래프는 잘아는 그래프 자료구조로, 복수의 Node, Edge로 표현됩니다. 한번 문제를 보면서 이해해 보겠습니다. Q.1 현빈 군은 슈퍼에서 1개에 100원인 사과를 2개 샀습니다. 이때 지불 금액을 구..

🖥️ Deep Learning

[DL] Gradient (기울기), Training Algorithm(학습 알고리즘)

2024.03.23

Gradient (기울기) 만약에 x0, x1의 편미분을 동시에 계산하고 싶다면 어떻게 할까요? 그러면 모든 편미분을 벡터로 정리를 해야 하는데, 그 정리한것을 Grdient(기울기)라고 합니다. 예를 들어서 아래의 코드와 같이 구현할 수 있습니다. def numerical_gradient(f, x): h = 1e-4 grad = np.zeros_like(x) # x와 형상이 같은 배열을 생성 for idx in range(x.size): tmp_val = x[idx] # f(x+h) 계산 x[idx] = tmp_val + h fxh1 = f(x) # f(x-h) 계산 x[idx] = tmp_val - h fxh2 = f(x) grad[idx] = (fxh1 - fxh2) / (2*h) x[idx] = ..

🖥️ Deep Learning

[DL] Neural Network Training (신경망 학습)

2024.03.21

이번에는 Neural Network(신경망) 학습에 대하여 설명하고 Pyhon에서 Mnist Dataset의 손글씨 숫자를 학습하는 코드를 구현해 보겠습니다. Data 주도 학습 Machine Learning(ML)의 중심에는 Data(데이터)가 존재합니다. 데이터가 이끄는 접근 방식 덕에 사람 중심 접근에서 벗어날 수 있습니다. 근데, 보통 문제를 해결하려고 하면 패턴을 찾아내기 위하여 사람은 생각을 하고 결론을 도출합니다. 다만 Machine Learning(기계 학습)에서는 사람의 개입을 최소화하고, 수집한 데이터의 패턴을 찾으려고 시도합니다. 그리고 Neural Network(신경망) & DL(딥러닝)은 기존 Machine Learning(기계 학습)에서 사용하던 방법보다 사람의 개입을 배제할 수..

🖥️ Deep Learning

[DL] Neural Networks (신경망)

2024.03.17

이번에는 Neural Network, 신경망에 데하여 알아보겠습니다. Neural Network(신경망)은 인공지능, 머신러닝에서 사용되는 컴퓨팅 시스템의 방법중 하나입니다. 인간 또는 동물의 뇌에 있는 생물학적 신경망에서 영감을 받아 설계되었습니다. 생물학적 뉴런이 서로간의 신호를 보내는 방식을 모방합니다. Perceptron (퍼셉트론)과 Neural Network(신경망) Perceptron(퍼셉트론)과 Neural Network(신경망)은 공통점이 많습니다. 그래서 다른점을 중점으로 보면서 설명해보겠습니다. 신겸망를 그림으로 나타내면 위의 그림처럼 나옵니다. 맨 왼쪽은 Input Layer(입력층), 중간층은 Hidden layer(은닉층), 오른쪽은 Output Layer(출력층)이라고 합니다...

🖥️ Deep Learning

[DL] Perceptron (퍼셉트론)

2024.03.12

Perceptron(퍼셉트론) 알고리즘은 신경망(딥러닝-DL)의 기원이 되는 알고리즘입니다. 그래서 Perceptron(퍼셉트론)의 구조를 배우는건 신경망, DL-딥러닝에 관한 개념 및 아이디어를 배우는데 도움이 됩니다. Perceptron(퍼셉트론) 이란? Perceptron(퍼셉트론)은 다수의 신호를 Input(입력)으로 받아 하나의 신호를 출력합니다. 여기서 신호는 전류나 강물처럼 흐름이 있는것을 생각하면 됩니다. Perceptron(퍼셉트론) 신호도 Flow(흐름)을 만들고 정보를 전달합니다. 다만, 신호는 '흐른다 / 안 흐른다 (1이나 0)'의 2가지 값을 가질 수 있습니다. Perceptron(퍼셉트론)의 동작원리 한번 Input(입력)으로 2개의 신호를 받은 Perceptron의 예시 그림..

🖥️ Deep Learning

[DL] Matplotlib 라이브러리에 데하여 알아보기

2024.03.05

What is Matplotlib? Matplotlib은 딥러닝 실험을 할때 그래프 그리기 및 데이터를 시각화 해주는 라이브러리입니다. Matplotlib을 사용하면 그래프 그리기, 데이터 시각화가 쉬워지고, 주로 데이터 분석을 할때 사용합니다. 대표적으로는 선, 막대 그래프, 산점도, 히스토그램 등을 만들수 있습니다. Matplotlib을 이용하여 그래프 그려보기 그래프를 그릴려면 Matplotlib 라이브러리의 Pyplot 모듈을 이용합니다. 한번 sin(사인) 함수를 그리는 예를 한번 살펴 보겠습니다. import numpy as np import matplotlib.pyplot as plt # 데이터 준비 x = np.arange(0, 6, 0.1) # 0부터 6까지 0.1 간격으로 생성 y = ..

🖥️ Deep Learning

[DL] Gradient Vanishing, Exploding - 기울기 소실, 폭팔

2024.01.26

1. 신경망의 학습 과정 신경망의 학습 과정은 크게 2가지가 있습니다. 순전파(Forward Pass), 역전파(Backward Pass)가 있습니다. 먼저 이 학습 과정에 데하여 설명을 해보도록 하겠습니다. Forward Pass (순전파) Forward Pass (순전파)는 input(입력) data가 신경망의 각층을 차례대로 통과하면서 최종 output 까지 도달하는 과정입니다. 이 과정은 input layer(입력층)에서 output layer(출력층)까지 순차적으로 이루어지며, 최종적으로 손실함수 (loss function)을 통해 예측값과 실제값의 차이를 계산합니다. 이 차이를 손실(loss) or 오차(Error)라고 합니다. 그리고 이 차이는 신경망의 성능을 측정하는 지표가 됩니다. 정리하..

🖥️ Deep Learning

[DL] Numpy & 행렬에 데하여 알아보기

2023.09.03

Numpy가 뭐에요? Python 에서 과학적 계산 & 수치를 계산하기 위한 핵심 라이브러리입니다. NumPy는 고성능의 다차원 배열 객체와 이를 다룰 도구를 제공합니다. 수치 계산을 위한 매우 효과적인 인터페이스를 제공하며, 이는 데이터 분석, 머신 러닝 등 다양한 분야에서 사용됩니다. 딥러닝을 공부할때, 배열이나 행렬을 사용할때가 많은데, numpy를 이용하면 이 배열이나, 행렬을 구현할때 매우 편리합니다. 추가 말씀으로, 여기서부터는 Jupyter Notebook을 이용하여 코드블럭을 작성하였기 때문에, python Idle나 다른 Tool로 이용하시는 분들과 나오는 형식이 다를수도 있습니다. 참고 바라요! Numpy 어떻게 가져와요? numpy는 일반 파이썬 내장 라이브러리에 있는것이 아니고, 외..

🖥️ Deep Learning

[DL] Preparations for Deep Learning - 준비사항 & Python 기본문법

2023.07.26

딥러닝을 공부하기 위하여 필요한 준비물 딥러닝을 공부하면서 최소한으로 필요한 준비물이 있다면 3가지를 적어볼수 있을거 같아요. Python 3.X 버전, Numpy Library, Matplotlib Library 입니다. Numpy Library Python 에서 과학적 계산 & 수치를 계산하기 위한 핵심 라이브러리입니다. NumPy는 고성능의 다차원 배열 객체와 이를 다룰 도구를 제공합니다. 수치 계산을 위한 매우 효과적인 인터페이스를 제공하며, 이는 데이터 분석, 머신 러닝 등 다양한 분야에서 사용됩니다. Matplotlib Library 데이터를 차트나 플롯으로 시각화하는 라이브러리입니다. 라인 플롯, 스캐터 플롯, 히스토그램 등 다양한 플롯을 지원하며, 그래프에 대한 상세한 설정을 할 수 있습니..

티스토리툴바