em알고리즘 예제

그냥 경우에, 나는 Do & Batzoglou에 의해 위에서 언급 한 동전 던지기 예제의 루비 구현을 작성하고 그들이 w.r.t. 동일한 입력 매개 변수 $theta_A = 0.6 $ 및 $theta_B = 0.5 $와 정확히 동일한 숫자를 생성합니다. 기대 (E) 단계의 말하기는 오해의 비트입니다. 첫 번째 단계에서 계산되는 것은 함수 Q의 고정된 데이터 종속 파라미터입니다. Q의 파라미터가 알려지면 EM 알고리즘의 제2(M) 단계에서 완전히 결정되고 최대화된다. 이 튜토리얼은 기대 최대화 알고리즘과 다중 variate 데이터에 대한 매개 변수를 추정하는 데 사용할 수 있는 방법에 대한 간단한 자습서입니다. EM 알고리즘에 사용되는 Q 함수는 로그 가능성을 기반으로 합니다. 따라서 로그 EM 알고리즘으로 간주됩니다. 로그 우도의 사용은 α 로그 우도 비의 로그 우도율로 일반화될 수 있습니다. 이어서, 관찰된 데이터의 α-로그 우도비는 α-로그 우도비 및 α-발산의 Q-함수를 이용하여 정확하게 평등으로 표현될 수 있다.

이 Q-함수를 얻는 것은 일반화된 E 단계입니다. 그것의 최대화는 일반화 된 M 단계입니다. 이 쌍을 α-EM 알고리즘[31]이라고 하며, 이 알고리즘은 로그-EM 알고리즘을 하위 클래스로 포함합니다. 따라서 마쓰야마 야스오에 의한 α-EM 알고리즘은 로그-EM 알고리즘의 정확한 일반화이다. 그라데이션 또는 헤시안 행렬을 계산할 필요가 없습니다. α-EM은 적절한 α를 선택하여 로그-EM 알고리즘보다 더 빠른 수렴을 보여줍니다. α-EM 알고리즘은 히든 마르코프 모델 추정 알고리즘 α-HMM의 더 빠른 버전으로 이어집니다. [32] 당신의 질문은 두 부분으로 소리: 기본 아이디어와 구체적인 예. 기본 아이디어부터 시작하여 아래쪽에 있는 예제로 연결합니다. EM 알고리즘은 일부 수량의 변동을 설명하는 기본 선형 회귀 모델이 존재하지만 실제로 관찰된 값이 모델에 표시되는 값의 검열 또는 잘린 버전인 경우에 구현되었습니다. [33] 이 모델의 특별한 경우는 하나의 정규 분포에서 검열되거나 잘린 관측을 포함한다. [33] 이것은 실용적이고 (내 의견으로는) 매우 직관적 인 `동전 던지기`예제와 EM을 배울 수있는 조리법입니다 : 위의 모든 훌륭한 자원처럼 보이지만,이 훌륭한 예에 연결해야합니다.

점 집합의 두 줄에 대한 매개 변수를 찾는 매우 간단한 설명을 제공합니다. 튜토리얼은 MIT에있는 동안 야어 와이즈에 의해입니다. 컨쥬게이트 그라데이션 및 수정된 뉴턴의 방법(Newton-Raphson)을 사용하는 것과 같이 EM 알고리즘의 때때로 느린 수렴을 가속화하기 위한 여러 가지 방법이 제안되었습니다. [25] 또한 EM은 제한된 추정 방법과 함께 사용할 수 있습니다. EM 알고리즘은 아서 뎀스터, 낸 레어드, 도널드 루빈에 의해 고전 1977 종이에 설명하고 그 이름을 부여했다. [1] 그들은 그 방법이 이전 저자에 의해 “특별한 상황에서 여러 번 제안”되었다고 지적했다. 가장 초기 중 하나는 세드릭 스미스에 의해 알레이 주파수를 추정하기위한 유전자 계산 방법입니다. [2] 지수 가족을위한 EM 방법의 매우 상세한 치료는 그의 논문과 여러 논문에서 롤프 Sundberg에 의해 출판되었다[3][4][5] Per Martin-Löf와 앤더스 마틴 – 뢰프와의 협력에 따라. [6] [7] [8] [9] [10] [11] [12] 1977년 뎀스터-레어드-루빈 페이퍼는 이 방법을 일반화하고 더 넓은 종류의 문제에 대한 수렴 해석을 스케치했습니다. 이전 발명에 관계없이, 왕립 통계 학회의 저널에 혁신적인 뎀스터 – Laird- 루빈 종이 는 종이를 호출 Sundberg와 왕립 통계 학회 회의에서 열정적 인 토론을 받았다 “화려한”.

뎀스터-레어드-루빈 페이퍼는 EM 방법을 통계 분석의 중요한 도구로 확립했습니다. 구조 공학에서 기대 최대화(STRIDE) [20] 알고리즘을 사용한 구조 식별은 센서 데이터를 사용하여 구조 시스템의 자연 진동 특성을 식별하는 출력 전용 방법입니다(운영 모달 분석 참조).

Comments are closed.