728x90
반응형
기울기 소실 문제
Vanishing gradient problem
심층 신경망은 시그모이드 함수에 전파와 역전파를 여러 번 적용하다 보면 가중치가 발산하거나 곡선의 기울기가 0이 되어 버리는 기울기 소실 문제 가 발생
출처 : 처음 배우는 인공지능
반응형
'개념 정리' 카테고리의 다른 글
| 데이터 정규화_20211230 (0) | 2021.12.30 |
|---|---|
| 확률적 경사 하강법_20211229 (0) | 2021.12.30 |
| 다층 퍼셉트론_20211227 (0) | 2021.12.28 |
| 멀티태스킹 학습_20211226 (0) | 2021.12.28 |
| 전이 학습_20211224 (0) | 2021.12.28 |