기울기 소실 문제_20211228

기울기 소실 문제

Vanishing gradient problem

심층 신경망은 시그모이드 함수에 전파와 역전파를 여러 번 적용하다 보면 가중치가 발산하거나 곡선의 기울기가 0이 되어 버리는 기울기 소실 문제 가 발생

 

출처 : 처음 배우는 인공지능