반응형
확률적 경사 하강법
SGD
Stochastic Gradient Descent
신경망 학습에서는 데이터 일부를 뽑은 이미 배치를 이용해 가중치를 반복해서 업데이트하는 확률적 경사 하강법을 이용합니다.
매개변수의 기울기를 구해 , 기울어진 방향으로 매개변수 값을 갱신하는 일을 몇 번이고 반복해서 점점 최적의 값에 다가갔습니다.
출처 :
처음 배우는 인공지능
밑바닥부터 시작하는 딥러닝
반응형
'개념 정리' 카테고리의 다른 글
| 볼츠만 머신_20211231 (0) | 2021.12.31 |
|---|---|
| 데이터 정규화_20211230 (0) | 2021.12.30 |
| 기울기 소실 문제_20211228 (0) | 2021.12.28 |
| 다층 퍼셉트론_20211227 (0) | 2021.12.28 |
| 멀티태스킹 학습_20211226 (0) | 2021.12.28 |