MỞ ĐẦU VỀ THỐNG KÊ BAYES NHIỀU CHIỀU 2.3 Ma trận Phân phối chuẩn của ma trận X Các quan sát có thể được xác định dựa trên một phân phối chuẩn ma trận, X|M, Φ, Σ ∼ N (M, Φ ⊗ Σ) với Φ và Σ có thể biết hoặc không biết. Phân phối chuẩn ma trận hàm hợp lí là p n 1 −1 (X−M )Σ−1 (X−M )0 p(X|M, Σ, Φ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ .20) Nếu chúng ta tráo đổi vai trò của X và M , thì p n 1 −1 (M −X)Σ−1 (M −X)0 p(M ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ .21) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho M từ họ phân phối chuẩn ma trận. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho M là p n 1 −1 (M −M )Σ−1 (M −M )0 p(M |Σ, Φ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ 0 0 .22) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng M0 vì vậy nó không phụ thuộc vào dữ liệu. Định lượng M0 là một siêu tham số được xác định.
Bằng cách định lượng ma trận M0 và ma trận Φ và Σ, phân phối chuẩn ma trận tiên nghiệm là hoàn toàn được xác định. Phân phối Wishart nghịch đảo Nếu chúng ta tráo đổi vai trò của X và Σ trong hàm hợp lí chuẩn ma trận và sử dụng tính chất của toán tử vết, thì p n 1 −1 (X−M )Σ−1 (X−M )0 p(Σ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ .23) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho Σ từ họ phân phối Wishart nghịch đảo. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho Σ là ν 1 −1 Q p(Σ) ∝ |Σ|− 2 e− 2 trΣ , (2.24) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và ν vì vậy nó không phụ thuộc vào dữ liệu. Định lượng của ν và Q là các siêu tham số được xác 23 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com CHƯƠNG 2.
MỞ ĐẦU VỀ THỐNG KÊ BAYES NHIỀU CHIỀU định. Bằng cách định lượng ma trận Q và vô hướng ν, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định. Tương tự như phân phối chuẩn ma trận hợp lí, hoán đổi vai trò cho Φ p n 1 −1 (X−M )Σ−1 (X−M )0 p(Φ|X, M, Σ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ .25) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho Σ từ họ phân phối Wishart nghịch đảo η 1 −1 Ψ p(Φ|κ, Ψ) ∝ |Φ|− 2 e− 2 trΦ , (2.26) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Ψ và κ vì vậy nó không phụ thuộc vào dữ liệu. Định lượng của κ và Ψ là các siêu tham số được xác định.
Bằng cách định lượng ma trận Ψ và vô hướng κ, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định. Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2. ở đây "IW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo.3: Ma trận tiên nghiệm liên hợp Hàm hợp lí Các tham số Họ tiên nghiệm Phân phối chuẩn ma trận, biết (Φ, Σ) M Chuẩn ma trận Phân phối chuẩn ma trận, biết (M, Φ) Σ Whishart nghịch đảo Phân phối chuẩn ma trận, biết (M, Σ) Φ Whishart nghịch đảo Phân phối chuẩn ma trận (M, Φ, Σ) Chuẩn-IW 2.3 Phân phối tiên nghiệm tổng quát Đôi khi, phân phối tiên nghiệm liên hợp không đủ để định lượng những tiên nghiệm trước khi chúng ta có giá trị các tham số. Trong trường hợp này, phân phối tiên nghiệm liên hợp tổng quát có thể được sử dụng.
Phân phối tiên nghiệm liên hợp tổng quát được tìm ra bằng cách viết dưới hàm hợp lí, bằng cách tráo đổi vai trò của biến ngẫu nhiên và tham số, chúng làm tốt hơn phân phối vì vậy nó không phụ thuộc vào dữ liệu, và giả sử rằng phân phối tiên nghiệm trên mỗi tham số là độc lập. 24 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com CHƯƠNG 2. MỞ ĐẦU VỀ THỐNG KÊ BAYES NHIỀU CHIỀU 2.4 Vectơ ngẫu nhiên 2.1 Phân phối chuẩn Các quan sát có thể được xác định dựa trên một phân phối chuẩn nhiều chiều hoặc vectơ, x|µ, Σ ∼ N (µ, Σ) với Σ có thể biết hoặc không biết. Hàm hợp lí là 1 1 0 −1 (x−µ) p(x|µ, Σ) ∝ |Σ|− 2 e− 2 (x−µ) Σ .27) Nếu chúng ta tráo đổi vai trò của x và µ, thì 1 1 0 −1 (µ−x) p(µ) ∝ |Σ|− 2 e− 2 (µ−x) Σ .28) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho µ từ họ phân phối chuẩn.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho µ là 1 1 0 −1 (µ−µ ) p(µ) ∝ |∆|− 2 e− 2 (µ−µ0 ) ∆ 0 .29) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng µ0 vì vậy nó không phụ thuộc vào dữ liệu và tạo nên tính độc lập của các tham số khác Σ thông qua ∆. Định lượng µ0 và ∆ là các siêu tham số được xác định. Bằng cách định lượng vectơ µ0 và ma trận ∆, phân phối chuẩn tiên nghiệm nhiều chiều là hoàn toàn được xác định.2 Phân phối Wishart nghịch đảo Nếu chúng ta tráo đổi vai trò của x và Σ trong hàm hợp lí chuẩn vectơ hoặc nhiều chiều và sử dụng tính chất của toán tử vết, thì 1 1 −1 (x−µ)0 (x−µ) p(Σ) ∝ |Σ|− 2 e− 2 trΣ .30) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho Σ từ họ phân phối Wishart nghịch đảo. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho Σ là ν 1 −1 Q p(Σ) ∝ |Σ|− 2 e− 2 trΣ , (2.31) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và ν vì vậy nó không phụ thuộc vào dữ liệu.
Định lượng của ν và Q là các siêu tham số được xác 25 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com CHƯƠNG 2. MỞ ĐẦU VỀ THỐNG KÊ BAYES NHIỀU CHIỀU định. Bằng cách định lượng ma trận Q và vô hướng ν, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định. Phương pháp liên hợp tổng quát cho phân phối tiên nghiệm cho Σ tương tự như phương pháp liên hợp.
Sử dụng phương pháp liên hợp tổng quát để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.4, ở đây "IW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo và GM N là phân phối ma trận chuẩn tổng quát.4: Phân phối tiên nghiệm liên hợp vectơ tổng quát Hàm hợp lí Các tham số Họ tiên nghiệm Phân phối chuẩn nhiều chiều, biết Σ µ GMN Phân phối chuẩn nhiều chiều, biết µ Σ Whishart nghịch đảo Phân phối chuẩn nhiều chiều (µ, Σ) GMN-IW 2.3 Ma trận ngẫu nhiên Phân phối chuẩn Các quan sát có thể được xác định dựa trên một phân phối chuẩn ma trận, X|M, Φ, Σ ∼ N (M, Φ ⊗ Σ) với Φ và Σ có thể biết hoặc không biết. Phân phối chuẩn ma trận hợp lí là p n 1 −1 (X−M )Σ−1 (X−M )0 p(X|M, Σ, Φ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ .32) Nếu chúng ta tráo đổi vai trò của X và M , thì p n 1 −1 (M −X)Σ−1 (M −X)0 p(M ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ .33) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho M từ họ phân phối chuẩn ma trận. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho M là p n 1 −1 (M −M )Ξ−1 (M −M )0 p(M ) ∝ |χ|− 2 |Ξ|− 2 e− 2 trΦ 0 0 .34) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng M0 vì vậy nó không phụ thuộc vào dữ liệu X và tạo tính độc lập của các tham số khác Φ và Σ thông qua Ξ và χ. Định lượng M0 , Ξ và χ là các siêu tham số được xác định.
Bằng cách định lượng 26 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com CHƯƠNG 2. MỞ ĐẦU VỀ THỐNG KÊ BAYES NHIỀU CHIỀU ma trận M0 và ma trận Ξ và χ, phân phối chuẩn ma trận tiên nghiệm là hoàn toàn được xác định. Phân phối Wishart nghịch đảo Nếu chúng ta tráo đổi vai trò của X và Σ trong hàm hợp lí chuẩn ma trận và sử dụng tính chất của toán tử vết, thì p n 1 −1 (X−M )Σ−1 (X−M )0 p(Σ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ .35) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho Σ từ họ phân phối Wishart nghịch đảo. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho Σ là ν 1 −1 Q p(Σ) ∝ |Σ|− 2 e− 2 trΣ , (2.36) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và ν vì vậy nó không phụ thuộc vào dữ liệu.
Định lượng của ν và Q là các siêu tham số được xác định. Bằng cách định lượng ma trận Q và vô hướng ν, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định. Tương tự như phân phối chuẩn ma trận hợp lí, hoán đổi vai trò cho Φ p n 1 −1 (X−M )Σ−1 (X−M )0 p(Φ|X, M, Σ) ∝ |Φ|− 2 |Σ|− 2 e− 2 trΦ .37) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho Σ từ họ phân phối Wishart nghịch đảo κ 1 −1 Ψ p(Φ|κ, Ψ) ∝ |Φ|− 2 e− 2 trΦ , (2.38) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Ψ và κ vì vậy nó không phụ thuộc vào dữ liệu. Định lượng của κ và Ψ là các siêu tham số được xác định.
Bằng cách định lượng ma trận Ψ và vô hướng κ, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định. Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2. ở đây "IW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo.5: Ma trận tiên nghiệm liên hợp tổng quát 27 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com CHƯƠNG 2. MỞ ĐẦU VỀ THỐNG KÊ BAYES NHIỀU CHIỀU Hàm hợp lí Các tham số Họ tiên nghiệm Phân phối chuẩn ma trận, biết (Φ, Σ) M GMN Phân phối chuẩn ma trận, biết (M, Φ) Σ Whishart nghịch đảo Phân phối chuẩn ma trận, biết (M, Σ) Φ Whishart nghịch đảo Phân phối chuẩn ma trận (M, Φ, Σ) GMN-IW-IW 2.5 Phân phối tiên nghiệm tương quan Trong mục này, phân phối tiên nghiệm liên hợp là được sinh ra từ hệ số tương quan giữa các vectơ quan sát.