NAIAHD

20211029

마르코프 모델

'유한 오토마톤'에서는 오토마톤의 동작 주체를 유한 개수의 상태가 있는 상태 기계라고 했습니다. 

보통 상태 기계에 입력한 데이터가 있다면 규칙에 따라 다음 단계를 진행하면서 상태가 변합니다. 

예: 상태에 따라 비용을 설정하고 상태가 변화할 때 비용을 더해서 누적 비용을 추정하ㄴ느 상황에 응용할 수 있습니다. 

마르코프 성질: Markov Property:

미래 상태의 조건부 현재 상태에만 의존하며 이전 상태와는 관계 없는 특성을 말합니다. 

역사를 생각 하면 된다

확률:

오토마톤 개념(시간의 경과에 따른 변화)에 '상태 변화가 일어날 확률'을 더한 것입니다. 

확률 과정의 경과나 상태 변화를 연속성이 없는 유한한 값으로 나타낸다는 것입니다. 

마르코프 과정 : Markov Process:

마르코프 성질이 있는 확률 과정을 의미합니다. 

이산 상태 마르코프 과정:

셀 오토마톤의 상태 변화를 나타내는데 사용합니다. 

유한 개의 자연수가 띄엄띄엄 흩어져 있는 상태로 존재하는 것으로 나타냅니다.

마르코프 연쇄 : Markov chain:

이산 상태 마르코프 과정에 셀 오토마톤의 시간 경과(연속성 없는 시간으로 표현)를 결합한 셀 오토마톤의 확률 과정을 말합니다. 

20211205

유한 오토마톤의 시간 경과에 따른 상태 변화의 법칙에 마르코프 성질을 포함한 것을 마르코프 과정 또는 마르코프 연쇄라고 설명했습니다. 

현재 상태에서 다음 상태로 변화할 확률을 전이 확률이라고 하며

모든 전이 확률을 행렬로 나타낸 것을 전이행렬이라고 합니다. 

마르코프 연쇄의 경우 안정 상태의 전이 확률은 각 상태에 있을 때 확률 벡터(행 벡터)인 Π와 전이 행렬 P를 곱해서 나타냅니다. 이때 확률 벡터 Π를 정상 분포 stationary distribution이라고 합니다. 

20211206

은닉 마르코프 모델 : hidden markov model , hmm 

시계열 데이터의 혼합 분포 추정에 사용되는 모델을 은닉 마르코프 모델이라고 합니다. 

은닉 마르코프 모델에는 모델의 최적(최대 확률을 가진)상태를 구하는 비터비Viterbi알고리즘과 학습 데이터에서 모델의 가능도를 최대화해서 매개변수의 최대가능도 추정량를 구하는 바움-웰치Baum-Wetch알고리즘이 있습니다. 

비터비Viterbi알고리즘: 출력 기호 열에서 상태를 추정한 후 동적 계획법에 기반을 두고 최적 상태를 구합니다. 구문 분석 등에 이용합니다. 

바움-웰치Baum-Wetch알고리즘: EM 알고리즘을 이용해 출력 기호 열에서 매개변수의 최대가능도 추정량을 구합니다. 음성 인식 시스템의 음소추출이나 자연어 처리의 단어 품사 추정 등 다양한 분야에서 이용합니다. 

출처 : 처음 배우는 인공지능