[DL] Backpropagation (오차역전파법)

Backpropagation (오차역전파법)

Backpropagation(오차역전파법)은 Weight Parameter(가중치 매개변수)의 Gradient(기울기)를 효율적으로 계산하는 방법입니다.

• Backpropagation(오차역전파법)을 이해하는 방법은 2가지가 있습니다. 하나는 수식을 통해서, 다른 하나는 계산 그래프를 통한것입니다.
• 보통은 수식을 통하지만, 이번에는 계산 그래프로 사용해서 '시각적'으로 한번 이해해 보겠습니다.

---

계산 그래프

• 계산 과정을 그래프로 한번 나타내 보겠습니다.
• 여기서의 그래프는 잘아는 그래프 자료구조로, 복수의 Node, Edge로 표현됩니다.
• 한번 문제를 보면서 이해해 보겠습니다.

Q.1 현빈 군은 슈퍼에서 1개에 100원인 사과를 2개 샀습니다. 이때 지불 금액을 구하세요. 단 소비세가 10% 부과됩니다.

• 계산 그래프는 계산 과정을 Node, 화살표로 표현합니다.
• 노드는 원(O)으로 표기하고 원 안에 연산 내용을 적습니다. 또 계산 결과를 화살표 위에 적어 각 Node의 계산 결과가 왼쪽에서 오른쪽으로 전해지게 합니다. 문제 1번을 계산 그래프로 풀면 위의 그림처럼 됩니다.
• 처음에 사과의 100원이 'x2' 노드로 흐르고, 200원이 되어 다음 노드로 전달되고, 'x1.1' 노드를 거쳐 220원이 됩니다.
• 그리고 'x2'와 'x1.1'을 하나의 연산으로 취급하지 않고 'x'만을 연산으로 생각하면 '사과의 개수'와 '소비세'는 변수가 되어 원 밖에 표시합니다. 아래의 그림이 그렇게 표현했습니다.

---

Q2. 현빈 군은 슈퍼에서 사과 2개, 귤 3개를 샀습니다. 사과는 1개에 100원, 귤은 1개에 150원입니다.. 소비세가 10%일 때 지불 금액을 구하세요.

• 2번째 문제도 첫번째 문제를 풀던 방식으로 한번 풀어보겠습니다.

• 여기서는 덧셈 노드인 '+'가 등장해서 사과 & 귤의 금액을 합산합니다. 그리고 방향은 왼쪽 -> 오른쪽으로 계산을 진행합니다.
• 이렇게 계산 그래프를 이용한 문제풀이는 아래와 같은 흐름으로 진행합니다.
  1. 계산 그래프를 구성합니다.
  2. 그래프에서 계산을 왼쪽에서 오른쪽으로 진행합니다.
• 이렇게 2번째 계산을 '왼쪽에서 오른쪽으로 진행'하는 단계를 순전파(forward propagation)라고 하고, 반대 방향의 전파는 역전파(backward propagation)라고 합니다.

---

국소적 계산

• 국소적이란 '자신과 직접 관계된 작은 범위'라는 뜻입니다.
• 국소적 계산은 결국 전체에서 어떤 일이 벌어지든 상관없이 자신과 관계된 정보만으로 결과를 출력할 수 있다는 것입니다.
• 한번 예를 들어 보겠습니다.

example) 사과 2개를 포함해 여러 식품을 구입하는 예시

• 그림에서는 여러 식품을 구입하여 총 금액은 4,000원이 되었습니다.
• 여기서의 핵심은, 각 노드에서의 계산은 국소적 계산이라는 점입니다. 가령 사과와 그 외의 물품 값을 더하는 계산 (4,000 + 200 = 4,200)은 4,000이라는 숫자가 어떻게 계산되었으냐? 그거랑은 상관없이 단지 두 숫자를 더하면 됩니다.
• 각 Node는 자신과 관련한 계산외에는 아무것도 신경 쓸 게 없습니다.
• 이처럼 계산 그래프는 국소적 계산에 집중합니다. 계산이 아무리 복잡하더라고 각 단계에서 하는일은 해당 Node의 '국소적 계산'입니다.
• 국소적인 계산은 단순하지만, 그 결과를 전달함으로써 전체를 구성하는 복잡한 계산을 해낼 수 있습니다.

---

왜 계산 그래프로 푸는걸까요?

• 이유는 3가지가 있습니다.

1. 국소적 계산: 전체가 아무리 복잡해도 각 노드에서는 단순한 계산에 집중하여 문제를 단순화할 수 있습니다.
2. 중간 계산의 결과를 보관할 수 있습니다.
3. Backpropagation(역전파)를 통해 미분을 효율적으로 계산 할 수 있습니다.

• 위의 예시로 보면 사과 가격이 오르면 최종 금액에 어떤 영향을 끼치는지 알고 싶다고 가정해보겠습니다.
• 위의 예시는 사과 가격에 대한 지불 금액의 미분을 구하는 문제에 해당합니다. 사과의 값을 x, 지불 금액을 L이라고 했을 때, δL/δx을 구하는 것입니다.
• 여기서의 미분 값은 사과 값이 '아주 조금' 올랐을때 지불 금액이 얼마나 증가하는지를 표시하는것입니다.
• '사과 가격에 대한 지불 금액의 미분'같은 계산 값을 계산 그래프에서 Backpropagation(역전파)를 하면 구할 수 있습니다. 
  • 여기서 Backpropagation(역전파)는 오른쪽에서 왼쪽으로 '1. -> 1.1 -> 2.2'순으로 미분값을 전달합니다.
  • 사과가 1원 오르면 최종 금액은 2.2원 오릅니다. 정확히는 사과 값이 아주 조금 오르면 최종 금액은 그 아주 작은 값의 2.2배만큼 오른다는 뜻입니다.
• 이처럼 게산 그래프의 이점은 Forward Propagation(순전파), Back Propagation(역전파)를 활용해서 각 변수의 미분을 효율적으로 구할 수 있습니다.

---

Chain Rule (연쇄법칙)

전에서, '국소적 미분'에 대하여 알아보았는데, '국소적 미분'을 전달하는 원리는 Chain Rule(연쇄 법칙)에 따른 것입니다.

계산 그래프의 Backpropagation(역전파)

• 한번 계산 그래프를 이용한 역전파의 예를 한번 살펴보겠습니다. y = f(x)라는 계산의 Backpropagation(역전파)를 한번 보겠습니다.

계산 그래프의 역전파: 순방향과는 반대 방향으로 국소적 미분을 곱한다.

• 위의 그림과 같이 Backpropagation(역전파)의 계산 절차는 신호 E에 Node의 국소적 미분(δy/δx)을 곱하고 다음 노드로 전달합니다.
• 여기서 말하는 국소적 미분은 Forward Propagation(순전파) 때의 y = f(x) 계산의 미분을 구한다는 것이며, 이는 x에 대한 y의 미분 (δy/δx)울 구한다는 뜻입니다.
• 그리고 이 국소적인 미분을 상류에서 전달된 값(여기서는 E)에 곱해 앞쪽 Node로 전달하는 것입니다.이것이 Backpropagation(역전파)의 계산 순서입니다.

---

Chain Rule (연쇄 법칙)이란?

Chain Rule(연쇄 법칙) 연쇄법칙을 설명하려면 우선 합성함수에 데하여 알아야 합니다. 간단하게 설명해 보겠습니다.

• 합성 함수란 여러 함수로 구성된 함수입니다. 예를 들어서 z = (x + y)**2 이라는 식은 2개의 식으로 구성됩니다.

• Chain Rule(연쇄 법칙)은 합성 함수의 미분에 대한 성질이며 다음과 같이 정의됩니다. 

"합성 함수의 미분은 합성 함수를 구성하는 각 함수의 미분의 곱으로 나타낼 수 있다."

• 이것이 Chain Rule(연쇄 법칙)의 원리입니다. 언뜻 어렵게 보일지도 모르지만 간단한 성질입니다.
• 위의 수식으로 예시를 들어주면 δz/δx (x에 대한 z의 미분)과 δt/δx (x에 대한 t의 미분)이 곱으로 나타낼 수 있습니다.

δz/δx = δz * δt / δt * δx - 이렇게 수식으로 쓸 수 있습니다.
그리고 이렇게 요약을 할 수 있습니다. δz/δx = δz / δx

• 그러면 연쇄 법칙을 써서 식의 미분 δz/δx을 구해보겠습니다, 먼저 '국소적 미분(편미분)'을 구합니다.

δz/δt = 2t, δt/δx = 1

• 위의 수식들은 미분 공식에서 해석적으로 구한 결과 입니다. 그리고 최종적으로 구하고 싶은 δz/δx 는 위에서 구한 식들에서 두 미분을 곱해 계산합니다.

δz/δx = δz * δt / δt * δx = 2t * 1 = 2(x + y)

---

Chain Rule & 계산 그래프

그림의 연쇄법칙 계산을 계산 그래프로 나타내봅니다. 2제곱 계산을 '**2' Node로 나타내면 아래의 그림처럼 나타낼 수 있습니다.

Forward Propagation(순전파) 와는 반대 방향으로 국소적 미분을 곱하여 전달합니다.

• 위의 그림과 같이 계산 그래프의 Backpropagation(역전파)는 오른쪽에서 왼쪽으로 신호를 전파합니다.
• Backpropagation(역전파)의 계산 절차에서는 Node(노드)로 들어온 Input Signal(입력 신호)에 그 Node(노드)의 '국소적 미분(편미분)'을 곱한 후 다음 Node(노드)로 전달합니다.
• 계산 그래프의 역전파 결과에 따르면 δz/δx는 2(x + y)가 됩니다.

---

Backpropagation (역전파)

앞에서 계산 그래프의 Backpropagation(역전파)의 Chain Rule(연쇄법칙)에 따라 진행되는 모습을 설명했습니다.
이번에는 '+' & 'x'등의 연산을 예로 들어 Backpropagation(역전파)의 구조를 설명해보겠습니다.

덧셈 Node의 Backpropagation(역전파)

• 덧셈 Node의 Backpropagation(역전파)입니다.
• 여기서는 z = x + y 라는 식을 대상으로 그 Backpropagation(역전파)를 살펴보겠습니다.
• 우선 z = x + y의 미분은 다음과 같이 해석 할수 있습니다. 둘다 모두 1이 되므로 계산 그대프로는 아래 처럼 그릴수 있습니다.

덧셈 노드의 역전파: 왼쪽이 순전파, 오른쪽이 역전파이다. 덧셈노드의 역전파는 입력 값을 그대로 흘려 보낸다.

• 위의 그림과 같이 Backpropagation(역전파)때는 상류에서 전해짐 미분(여기서는 ∂L/∂z)에 1을 곱하여 하류로 흘린 다음, 입력된 값을 그대로 다음 노드로 보내게 됩니다.
• 즉, 덧셈 노드의 Backpropagation(역전파)는 1을 곱하기만 합니다.
• 자세히 설명해보면, 상류에서 전해진 미분 값을  ∂L/∂z 라고 했는데, 이는 최종적으로 L이라는 값을 출력하는 큰 계산 그래프를 가정하기 떼문입니다.
• z = x + y 계산은 그 큰 계산 중간 그래프의 중간 어딘가에 존재하고, 상류로부터 ∂L/∂z 값이 전해진 것입니다.
• 그리고 다시 하류로 ∂L/∂x 와 ∂L/∂y 값을 전달하는 것입니다.
• 예시로 '10 + 5 = 15'라는 계산이 있고, 상류에서 1.3이라는 값이 흘러옵니다. 이를 계산 그래프로 그리면 아래의 그림처럼 됩니다.

덧셈 Node Backpropagation의 구체적인 예시

• 덧셈 노드 Backpropagation(역전파)는 입력 신호를 다음 노드로 출력할 뿐이므로 그대로 다음 노드로 전달합니다.

---

곱셈 Node의 Backpropagation(역전파)

곱셈 Node의 Backpropagation(역전파)를 보겠습니다. 한번 z = xy 라는 수식으로 한번 보겠습니다.

 

덧셈 노드의 역전파: 왼쪽이 순전파, 오른쪽이 역전파이다. 곱셈 노드의 역전파는 상류의 값의 순전파때의 입력 신호들을 '서로 봐꾼 값'을 곱해서 하류로 보낸다.

• 곱셈 노드의 Back propagation(역전파)는 상류의 값의 Forward propagation(순전파)때의 입력 신호들을 '서로 봐꾼 값'을 곱해서 하류로 보냅니다.
• 여기서 서로 봐꾼 값이란, Forward propagation(순전파)때 x였다면 Back propagation(역전파)에서는 y, Forward propagation(순전파)때 y였다면 Back propagation(역전파)에서는 x로 봐꾼다는 의미입니다.
• 예시를 들어보면 '10 x 5 = 50'이라는 계산이 있고, Back propagation(역전파)때 상류에서 1.3 값이 흘러온다고 하겠습니다.
• 이를 계산 그래프로 그리면 아래의 그림처럼 됩니다.

곱셈 Node Backpropagation의 구체적인 예시

• 곱셈의 Back propagation(역전파)에서는 입력 신호를 봐꾼 값을 곱하여 하나는 1.3 x 5 = 6.5, 다른 하나는 1.3 x 10 = 13이 됩니다.
• 덧셈의 Backpropagation(역전파)에서는 상류의 값을 그대로 흘러 보내서 Forward propagation(순전파) 입력 신호의 값은 필요하지 않지만, 곱셈의 Back propagation(역전파)는 순방향 입력 신호의 값이 필요합니다.
• 그래서 곱셈 노드를 구현할 때는 Forward propagation(순전파)의 입력 신호를 변수에 저장해둡니다.

---

Example

앞에서 본 사과 쇼핑을 하는걸로 예시를 한번 보겠습니다.

• 여기서 사과의 가격, 개수, 소비세 라는 3개의 변수 각각이 최종 금액에 어떻게 영향을 주느냐를 풀고자 합니다.
• '사과 가격에 대한 지불 금액의 미분', '사과 개수에 대한 지불 금액의 미분', '소비세야 대한 지불 금액의 미분'을 구하는 것에 해당합니다. 이를 계산 그래프의 Backpropagation(역전파)를 사용해서 풀면 아래의 그림처럼 됩니다.

• 위에서 설명 했듯이, 곱셈 노드의 Backpropagation(역전파)에서는 입력 신호를 서로 봐꿔서 하류로 흘립니다.
• 사과 2개 가격의 미분은 2.2, 사과 2개 개수의 미분은 110, 소비세의 미분은 200입니다.
• 이는 소비세와 사과 가격이 같은 양만큼 오르면 최종 금액에선 소비세가 200의 크기로, 사과 가격이 2.2 크기로 영향을 준다고 해석할 수 있습니다.

그러면 '사과와 귤 쇼핑'의 Backpropagation(역전파)를 풀어보겠습니다.

• 귤의 3개 개수의 미분은 150, 귤 3개의 가격의 3.3, 총 소비세의 미분은 650 입니다.

• 아래의 그림이 정답입니다.