NAIAHD

베이즈 정리

베이즈 통계학은 조건부 확률에 관한 법칙인 베이즈 정리를 기본으로 둡니다. 

1201

사후분포의 특징을 정하는 매개변수 세가지가 있다 

베이즈 추정량

사후 메디안 추정량

최대 사후 확률 (MAP) 추정량

컬레 사전분포

1202

베이즈 추론을 실행하려고 구축한 모델은 여러 번 계산을 반복하는 것이 중요합니다. 

실제로 최적화된 '점'을 구하는 최소제곱법과 베이즈 최대가능도 추정이 아니라면 추론 결과에 수렴할때 까지 반복해서 계산하는데 많은 컴퓨팅 자원이 필요없기도 합니다. 

하지마 '분포'를 구하는 현대 베이즈 추론에서는 분석할 수 없는 함수를 대상으로도 예측과 최적화 작업을 실행해야 합니다 . 사람의 힘으로는 어려울 뿐만 아니라 실행횟수를 대폭 늘려줘야 할 필요가 있습니다 .

실행 횟수를 늘려야 할 때는 조금씩 다른 매개변수를 무작위로 샘플링할 수 있어야 합니다.

1203

몬테카를로 방법 Monte Carlo method:

앞에서 설명한 원주율의 근삿값 계산은  몬테카를로 방법이라고 하는 알고리즘 의 한 예입니다. 

1204

베이즈 계층 모델:

마르코프 연쇄 몬테카를로 방법을 활용하면 매개변수의 차원이 높은 복잡한 모델을 처리할 수 있습니다. 

특히 베이즈 계층 모델 은 지금까지 소개한 모델 중에서 특히 자유도가 높은 통계 모델을 설계할 수 있습니다. 

20211207

베이즈 네트워크

전문가 시스템은 주어진 조건에 적합한 답변을 합니다만 추론 규칙이 정교하지 않다는 약점이 있습니다 . 그래서 확률 개념을 도입해 추론 규칙을 개선한 전문가 시스템으로 제안한 것을 베이즈 네트워크라고 합니다. 

베이즈 네트워크는 불확실성을 포함한 사건의 예측과 관측 결과를 이용해 장애 진단에 사용하는 그래픽 확률 모델입니다. 각 노드는 확률 변수이며 확률 변수 사이의 확률 의존 관게 정보를 유항 그래프로 나타내는 네트워크로 시스템을 구성합니다. 

그런테 네트워크가 복잡해질수록 조건부 확률 데이블 역시 일반적인 네트워크 구조는 확률 추론이 어려워 다양한 방법을 사용해서 사후 확률을 구해야 한다는 단점이 있다. 

또한 무향 그래프이면서 루프가 없는 단일 결합 네트워크라면 베이즈 정리를 이용해 비교적 쉽게 임의의 사후 확률을 구할 수 있지만 그렇지 않은 여러 개의 결합 네트워크는 확률 계산이 복잡해져 계산 비용이 증가합니다. 

20211215

베이즈 정리는 학습과의 친화성이 높아 지도 학습 알고리즘에 이용합니다. 

특히 베이즈 필터 중에서 단순(나이브 )베이즈 분류 : Naive Bayes Classification 가 유명합니다. 

베이즈 필터를 이용하는 대표적인 예는 스팸 메일 판정이나 문서의 카테고리 분류입니다. 

베이즈 필터를 이용하면 확률 통계를 기반에 두고 스팸 메일의 특징을 분석하고 분류할 수 있습니다. 

출처 : 처음 배우는 인공지능