loss function

🔥 PyTorch

[PyTorch] 모델 매개변수 최적화(Optimization) 하기

2024.07.30

⚠️ 본 내용은 PyTorch Korea의 공식 문서에 기반하여 공부한 내용을 적은것이니 양해바랍니다! 모델 매개변수 최적화하기파이토치(PyTorch) 기본 익히기|| 빠른 시작|| 텐서(Tensor)|| Dataset과 Dataloader|| 변형(Transform)|| 신경망 모델 구성하기|| Autograd|| 최적화(Optimization)|| 모델 저장하고 불러오기 이제 모델과 데이터가 준비tutorials.pytorch.krModel 매개변수 최적화 하기이번에는 준비된 모델과 데이터로, 데이터에 매개변수를 최적화 하여 모델을 학습, 검증, 테스트를 해보겠습니다.모델을 학습하는 과정은 반복적인 과정을 거칩니다.각 반복 단계에서 모델은 출력을 추측하고, 추측과 정답 사이의 오류(손실(loss))를..

📈 Data Engineering/🕹️ 혼공머신

[혼공머신] Stochastic Gradient Descent (확률적 경사 하강법)

2023.11.05

확률적 경사 하강법확률적 경사 하강법(Stochastic Gradient Descent)은 점진적 학습 알고리즘 중 하나입니다. 그 전에 점진적 학습 알고리즘에 대하여 설명을 드리면, 이전에 훈련한 모델을 버리고 새로운 모델을 훈련하는 것이 아닌, 기존의 훈련한 모델은 그대로 두고, 새로운 데이터에 데한 훈련을 기존의 모델을 이용하여 학습 하는 알고리즘 입니다.그래서 본론으로 돌아오면, 확률적 경사 하강법에서 확률적이란 말은 '무작위하게' 혹은 '랜덤하게' 의 기술적인 표현입니다.그리고 경사는, 기울기를 의미합니다. 즉, 그러면 확률적 경사 하강법은 경사를 따라 내려가는 방법입니다.경사하강법의 특징은 가장 가파른 경사를 따라 원하는 지점에 도달하는것을 목표로 삼고있습니다. 다만, 가파른 경사를 내려갈때에..

[PyTorch] 모델 매개변수 최적화(Optimization) 하기

[혼공머신] Stochastic Gradient Descent (확률적 경사 하강법)

티스토리툴바