All-round programmer

Markov chain(model)

Markov process(property) - 확률이론에서 현재와 과거의 상태들을 주어지고 미래의 상태에 대해 추론을 하고자 한다면 Markov property가 있다. Markov property를 이용하는 처리 과정을 Markov process라고 하고 Markovian이라고 표현될 수도 있다. - 수학적으로 만약 X(y), t > 0 이 확률적이라면 Markov property를 이용해서 다음과 같이 표현한다. 만약 아래와 같다면 Markov process는 일정한 시간 간격을 가지게 된다(homogeneous) 이외에는 nonhomogeneous이다. homogeneous Markov process들은 보통 inhomogeneous 보다 간단하다. non-Markovian문제들도 Markovia..

Using hidden Markov models - 3가지 대표적인 문제들은 아래와 같다. 주어진 파라미터들로 특정한 출력 순서의 확률 값을 구하는 것.(forward-backward algorithm) 주어진 출력 순서들을 통해서 hidden 상태에 대한 문제를 푸는 것(Viterbi algorithm) 주어진 출력 순서 또는 순서의 집합들을 통해서 가장 적합한 상태 변환와 출력 확률을 구하는 것, 즉, HMM의 파라미터들을 추론하는 것. (Baum-Welch algorithm) A concrete example - 멀리 살고 있는 친구와 매일 전화로 그날 무엇을 했는지 대화하고 있다고 하자. 그 친구는 3가지 행동만 좋아한다. "공원 산책", "쇼핑", "아파트청소". 무엇을 할 것인지는 날씨에 따라..

Architecture of a hidden Markov model - 그림이 일반적인 HMM의 구조이다. 각 타원형은 일정 수의 랜덤 값들을 받을 수 있는 변수들을 나타낸다. x(t)는 시간 t에 hidden 변수들이 가지고 있는 값들이다. y(t)는 시간 t에 관측 가능한 변수들이다. 화살표는 의존성을 나타낸다. 그림에서 hidden 변수 x(t)는 다른 hidden 변수인 x(t-1)으로 부터만 영향을 받는 것을 볼 수 있다.(Markov property라고 한다) 똑같이 y(t)는 x(t)의 값에 대해서 영향을 받는다. Probability of an observed sequence - Y = y(0), y(1), ... , y(L-1) 의 관측 순서, L은 관측 길이에서 확률은 아래와 같다. s..

일단 기본 바탕 지식으로 HMM에 대해서 부터 정리! 정리한 사이트는.. http://en.wikipedia.org/wiki/Hidden_Markov_model Hidden Markov Model(HMM) - HMM 은... - 알려지지 않은 파라미터들을 Markov 프로세스를 이용해서 설계되는 통계적 모델! // Markov 프로세스가 뭐지? - 알려지지 않은 파라미터들은 관측 가능한 파라미터들을 통해서 추론한다. - 패턴인식과 같은 분야에서 활용 될수 있다. - 가장 간단한 DBN이다. // 뭐 개념은 무언가 심오한듯하다. 역시 일단 이해하려면 그림부터 봐야된다.. /* 그림을 보면 뭔가 노드가 동그라미랑 사각형이 있고 에지도 a랑 b가 따로 있다..(X들 사이는 a, X->Y는 b의 에지..) 동그..