반응형
XOR 문제 딥러닝으로 풀기
하나의 unit으로는 xor절대 풀 수 없다.
여러 개 있을 때 풀 수 있다
하지만 각각에 들어가 있는 weight, bias학습 할 것인가 ?
하나의 network은 하나의 unit
구현 가능한지 확인 한다.
특별편: 10분안에 미분 정리하기
backpropagation
미분이 들어간다.
상수함수를 미분하면 0이 나온다.
편미분
복잡한 미분을 구할 때 각각 구하면 된다.
딥넷트웍 학습 시키기 (backpropagation)
그 점에서 기울기를 구해서 계속 내려가는 최종적으로 global minimum에 도달 할 수 있다.
기울기 미분 값이 필요한다.
간단한 것 이해하면 어려운 것 도 알 수 있다.
미분의 의미:
sigmoid 미분
https://questionet.tistory.com/23
밑바닥부터 시작하는 딥러닝 1 167페이지
cost함수의 미분
tensorflow는 각각의 그래프로 만들었다. 미분을 하기위해서 backpropagation
sigmoid 미분
https://www.youtube.com/watch?v=rQmxoLzXYzY
반응형
'Machine Learning > 머신러닝과 딥러닝 BASIC' 카테고리의 다른 글
Convolutional Neural Networks (0) | 2021.07.06 |
---|---|
Neural Network 2: ReLU and 초기값 정하기 (2006/2007 breakthrough) (0) | 2021.07.06 |
Neural Network 1: XOR 문제와 학습방법, Backpropagation (0) | 2021.07.04 |
딥러닝의 기본 개념과, 문제, 그리고 해결 (0) | 2021.07.04 |
ML의 실용과 몇가지 팁 (0) | 2021.07.03 |