Mở đầu về thống kê Bayes nhiều ` chiều 2.1 Phân phối tiên nghiệm 2.1 Phân phối tiên nghiệm mơ hồ 2.1 Biến ngẫu nhiên Phân phối tiên nghiệm mơ hồ là phân phối tiên nghiệm không có thông tin có thể dựa trên bất kì một tham số là bị chặn (có một miền giá trị hữu hạn) hoặc không bị chặn (có một miền giá trị vô hạn). Nếu một phân phối tiên nghiệm mơ hồ dựa trên một tham số 6 có một miền giá trị hữu hạn, trên khoảng (a;b), thì phân phối tiên nghiệm là phân phối đều trên khoảng (a;b) ngụ ý rằng tất cả các giá trị trong miền này đều có cùng khả năng cho trước. Phân phối đều 1 : , neua<d<b (0) =4Đ—a | (2.2) Một phân phối tiên nghiệm mơ hồ hơi khác một chút khi chúng ta xét trên một tham số không bị chặn. MO DẦU VỀ THONG KE BAYES NHIEU CHIEU Xét Ø = là kì vọng của phan phối chuẩn.
Nếu chúng ta muốn đặt một phan phối đều tiên nghiệm trên nó, thì chúng ta có 1 P =, neu -a<cp<a p(u)= ¢ 24 (2.4) Nếu tham số Ø = o? là phương sai của phân phối chuẩn, thì chúng ta lấy log(ø?) là phân phối đều trên toàn bộ đường thẳng và biến đổi trở lại tới một phân phối trên ø? chúng ta có po?) « = a2 (2.5) Phân phối tiên nghiệm mơ hồ trong phương trình 2.5 là một phan phối tiên nghiệm không thực sự.6) la khong httu han.2 Vectơ ngẫu nhiên Một phân phối tiên nghiệm mơ hồ cho một kì vọng giá trị vectơ chang hạn như cho một phân phối chuẩn nhiều chiều cũng giống như với phân phối chuẩn vô hướng p(t) x (một hằng số), (27) ở đây = (Mì.3 Ma trận ngẫu nhiên Một phân phối tiên nghiệm mơ hồ cho một kì vọng giá trị ma trận chẳng hạn như cho một phân phối chuẩn ma trận cũng giống như với phân phối chuẩn vo hướng và vectd p(M) œ (một hằng s On ), (2.8) ở đây ma trận M là M = (ị,. Các dòng của M là các cá thể vectở. MO DẦU VỀ THONG KE BAYES NHIEU CHIEU Tổng quát phân phối tiên nghiệm mơ hồ của một đơn biến trên một biến tới ma trận hiệp phương sai là p+l1 p(9) x [BPE (2.2 Phân phối tiên nghiệm liên hợp Phân phối tiên nghiệm liên hợp là phân phối tiên nghiệm có thông tin. Các phân phối tiên nghiệm liên hợp theo một cách tự nhiên từ thống kê cổ điển.
Nó được biết rằng nếu chúng ta đặt dữ liệu có được thành 2 phần, sau đó phân tích cho lấy từ phần thứ nhất như là một tiên nghiệm cho phần thứ hai là một phân tích trong đó có cả hai phần.1 Biến ngẫu nhiên Phân phối chuẩn Các quan sát có thể được được xác định dựa trên một phân phối chuẩn vô hướng, z|u,øơ2 ~ N(,07) với o? có thể biết hoặc không biết. hàm hợp lí là 1 _ (œ=w)2 p(e|u.10) điều này thường được gọi là nhân của phân phối chuẩn. Nếu chúng ta trao đổi vai trò của x và p, thì chúng ta đạt được 1 _ (ura)? D(H) x (0) Fe BF, (2.11) do đó ngụ ý rang chúng ta nên chon phân phối tiên nghiệm cho p từ ho các phân phối chuẩn. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là 1 ¡—mo)2 p(u|ø3) x (ø3)~3e— “2T, (2.12) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng vì vậy nó không phụ thuộc vào dữ liệu.
Định lượng po là một siêu tham số được xác định. Bằng cách định lượng các vô hướng pio và ø?, phân phối chuẩn tiên nghiệm là hoàn toàn được xác định. MO DẦU VỀ THONG KE BAYES NHIEU CHIEU Phan phéi Gamma nghich dao Nếu chúng ta tráo đổi vai trò của x và ø? trong ham hợp lí, thi 2 2v -d _ œ=„)2 p(ơ2) x (02) 2e7 3z, (2.13) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho o? từ ho phân phối Gamma nghịch đảo. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho ø? 2s, 2e” ) p(Ø”) x (7 (2.14) ở đây chúng ta có thể làm tốt hơn phân phối tiên nghiệm với việc sử dụng g vì vậy nó không phụ thuộc vào dữ liệu.
Định lượng ø là một siêu tham số được xác định. Bằng cách định lượng các vô hướng g và 1, phân phối Gamma nghịch đảo tiên nghiệm là hoàn toàn được xác định. Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.1: Phân phối tiên nghiệm 1 chiều Hàm hợp lí Các tham số | Phân bố tiên nghiệm Phân phối chuẩn vô hướng, ø? đã biết u Chuẩn Phân phối chuẩn vô hướng, p đã biết ơ? Gamma nghịch đảo Phân phối chuẩn vô hướng (u,ø?) Chuẩn-Gamma nghịch đảo 2.2 Vectơ ngẫu nhiên Phân phối chuẩn Các quan sát có thể được xác định dựa trên một véctơ ngẫu nhiên có phân phối chuẩn nhiều chiều, z|u, ~ N(wu,) với © có thể biết hoặc không biết. Ham hợp lí là p(z|u, 9) cx |S|T2e~3Œ=#'5”'=n), (2.15) Nếu chúng ta tráo đổi vai trò của x và py, thì p() % |ĐỊT?e~308=#® 1072), (2.
MO DẦU VỀ THONG KE BAYES NHIEU CHIEU do đó gợi ý rang chúng ta nên chọn phân phối tiên nghiệm cho p tit ho phân phối chuẩn. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là p(u|9) o¢ [BỊ >e~>(~mg)!'5 10m), (2.17) ở đây chúng ta làm giàu hơn phân phối tiên nghiệm với việc sử dung / vì vậy nó không phụ thuộc vào dữ liệu. Dai lượng vectơ po là một siêu tham số cần xác định. Bằng cách định rõ vectd jp và ma trận », phân phối chuẩn tiên nghiệm vectơ hoặc nhiều chiều là hoàn toàn được xác định.
Phân phối Wishart nghịch đảo Nếu chúng ta tráo đổi vai trò của z va Ð trong hàm hợp lí chuẩn vectơ hoặc nhiều chiều và sử dụng tính chất của toán tử vết, thì p(S) ox |S|T?e7?375 ew)! ew) (2.18) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho ¥ từ ho phân phối Wishart nghịch đảo. Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho © là p(Đ) x |S| 5e ?"® "9, (2.19) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và v vì vậy nó không phụ thuộc vào dit liệu. Định lượng của v và Q là các siêu tham số được xác định. Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định.
Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2. ở đây "TW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo.2: Véctơ tiên nghiệm liên hợp Hàm hợp lí Các tham số | Họ tiên nghiệm Phân phối chuẩn nhiều chiều, biết © u Chuẩn nhiều chiều Phân phối chuẩn nhiều chiều, biết » Whishart nghịch đảo Phân phối chuẩn nhiều chiều (u,>) Chuan-IW 22 CHƯƠNG 2. MO DẦU VỀ THONG KE BAYES NHIEU CHIEU 2.3 Ma trận Phân phối chuẩn của ma trận X Các quan sát có thể được xác định dựa trên một phân phối chuẩn ma trận, XỊM,®,5~ N(M,® @ Ð) với ® và Ð có thể biết hoặc không biết. Phân phối chuẩn ma trận hàm hợp lí là p(X|M,5,®) cx |®| ?|S| ®e-z7#!(X—M)S"!(X—M), (2.20) Nếu chúng ta tráo đổi vai trò của X và M, thì p(M) x || |S|T2e~?n9 1(M—X)S MXN (2.21) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho M từ họ phân phối chuẩn ma trận.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho M là p(M|S, ®) oc |ð| Z|B| Few zh CM MoE (M Mo)’ (2.22) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Mo vi vậy nó không phụ thuộc vào dữ liệu. Dinh lượng Mo là một siêu tham số được xác định. Bang cách định lượng ma trận Mp và ma trận ® và ©, phân phối chuẩn ma trận tiên nghiệm là hoàn toàn được xác định. Phân phối Wishart nghịch đảo Nếu chúng ta tráo đổi vai trò của X và Ð trong hàm hợp lí chuẩn ma trận và sử dụng tính chất của toán tử vết, thì n 1 p(X) oc |®| -?|S| Few Bh AMEN XM (2.23) do đó ngụ ý rang chúng ta nên chon phân phối tiên nghiệm cho ¥ từ họ phân phối Wishart nghịch đảo.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho » là 5 19, p(3) x |S|T?e-2" (2.24) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và vì vậy nó không phụ thuộc vào dit liệu. Dinh lượng của v và Q là các siêu tham số được xác 23 CHƯƠNG 2. MO DẦU VỀ THONG KE BAYES NHIEU CHIEU định. Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định.
Tương tự như phân phối chuẩn ma trận hợp lí, hoán đổi vai trò cho ® p(®|X, M,¥) oc |ð|-5|S| ?e-29!(X-M)S"!(X- MỸ, (2.25) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho Ð từ họ phân phối Wishart nghịch dao p(ð|s, W) s |ð|~Öe- 1m99, (2.26) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dung WV và & vì vậy nó không phụ thuộc vào dữ liệu. Dinh lượng của « và WV là các siêu tham số được xác định. Bằng cách định lượng ma trận V và vô hướng &, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định. Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.
ở đây "TW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo.3: Ma trận tiên nghiệm liên hợp Hàm hợp lí Các tham số | Họ tiên nghiệm Phân phối chuẩn ma trận, biết (®, Ð) M Chuẩn ma trận Phân phối chuẩn ma trận, biết (M, ®) » Whishart nghịch đảo Phân phối chuẩn ma trận, biết (M, Đ) ® Whishart nghich dao Phan phối chuẩn ma tran (M,®,3) | Chuan-IW 2.3 Phân phối tiên nghiệm tổng quát Đôi khi, phân phối tiên nghiệm liên hợp không đủ để định lượng những tiên nghiệm trước khi chúng ta có giá trị các tham số. Trong trường hợp này, phân phối tiên nghiệm liên hợp tổng quát có thể được sử dụng. Phân phối tiên nghiệm liên hợp tổng quát được tìm ra bằng cách viết dưới hàm hợp lí, bằng cách tráo đổi vai trò của biến ngẫu nhiên và tham số, chúng làm tốt hơn phân phối vì vậy nó không phụ thuộc vào dữ liệu, và giả sử rằng phân phối tiên nghiệm trên mỗi tham số là độc lập. MO DẦU VỀ THONG KE BAYES NHIEU CHIEU 2.4 Vectơ ngẫu nhiên 2.1 Phân phối chuẩn Các quan sát có thể được xác định dựa trên một phân phối chuẩn nhiều chiều hoặc vectơ, #|u,3~ N(p,X) với Ð có thể biết hoặc không biết.