Chương 1 Định Lý Bayes 1.1 Giới Thiệu Chương này trình bày các phương pháp Bayes để phân tích và ra quyết định. Trong đó sẽ giới thiệu các khái niệm về xác suất tiên nghiệm và phân phối xác suất hậu nghiệm, các mô hình với các biến ngẫu nhiên rời rạc hoặc liên tục 1.2 Dạng tổng quát của định lý Bayes cho các biến cố Định lý Bayes đơn giản nói về xác suất có điều kiện. Giả sử rằng A1 , ., Ak là nhóm đầy đủ các biến cố và biến cố B và Aj là được quan tâm đặc biệt. Định lý Bayes đưa ra cách tìm xác suất Aj với điều kiện B từ xác suất B với điều kiện Aj.
Do đó định lý Bayes còn gọi là một định lý về xác suất nghịch đảo. Định lý Bayes cho các biến cố là: P {B|Aj } P {Aj } P {Aj |B} = (1.1) k P P {B|Ai } P {Ai } i=1 với P {B} =6 0. Trong đó P {Aj } là xác suất tiên nghiệm, P {B|Aj } được gọi là xác suất hàm hợp lý trong công thức (1. Tương tự P {Aj |B} là xác suất hậu nghiệm của biến cố Aj với điều kiện B trong công thức (1.1 Định lý Bayes cho các biến cố đối lập Xét trường hợp đặc biệt của công thức (1.1), xét C là biến cố nào đó và C là biến cố đối lập.
Với B là một biến cố bất kỳ nào khác, P {B} = 6 0, định lý Bayes cho các biến cố này là: P {B|C}P {C} P {C|B} = (1.2 Dạng tổng quát của định lý Bayes cho các biến cố 1.2 Xác suất tiên nghiệm Các xác xuất tiên nghiệm P {Aj } phải được biết trước trong định lý Bayes (công thức (1. Như vậy các xác suất tiên nghiệm là mức độ niềm tin mà nhà phân tích có được khi quan sát dữ liệu của bài toán. Trong trường hợp không có sẵn các dữ liệu (dữ liệu đó có thể là quá tốn kém, quá bất tiện, hoặc quá nhiều thời gian để có được), xác suất tiêm nghiệm sẽ được sử dụng để suy luận hay quyết định. Định lý Bayes không được sử dụng trong trường hợp như vậy.
Ví dụ trong phân tích chính sách, hầu hết các quyết định được thực hiện mà không có dữ liệu; chúng được thực hiện chỉ đơn thuần trên cơ sở thông báo. Trong trường hợp như vậy xác suất tiên nghiệm là tất cả. Thực tế này làm nổi bật tầm quan trọng của việc xây dựng xác suất tiên nghiệm một cách cẩn thận. Trong khoa học, kinh doanh, pháp luật, kỹ thuật và y học, suy luận và quyết định về số lượng chưa biết thì nhìn chung được thực hiện bằng cách học hỏi từ sự hiểu biết trước đây của lý thuyết cơ bản và kinh nghiệm.3 Xác suất hậu nghiệm Xác suất hậu nghiệm là xác suất mà kết quả thu được từ việc áp dụng định lý Bayes.
Nếu có một tập dữ liệu mới, xác suất hậu nghiệm kết hợp với các tập dữ liệu cũ được sử dụng như xác suất tiên nghiệm cho tập dữ liệu mới.4 Tỷ lệ cược Một đại diện thay thế của xác suất tiên nghiệm và hậu nghiệm là về tỷ lệ cược. Nếu p là xác suất của một biến cố E , tỷ lệ cược ngược lại biến cố E là (1 − p)/p hoặc (1 − p) : p. Các tỷ lệ cược thuận của biến cố E là p/(1 − p) hoặc p : (1 − p) Ví dụ 1.1 Định lý Bayes cho các biến cố: dấu vân tay ADN Nhận dạng dấu vân tay dựa trên mẫu vân tay được phát triển bởi Sir Francis Galton trong năm 1890. Nhanh chóng trở thành phương pháp tiêu chuẩn để phân biệt con người, vì bản in vân tay vẫn không thay đổi trong suốt cuộc đời và thậm chí cả các cặp song sinh tương đồng phần nào, dấu vân tay khác nhau.
Độ chính xác và tiện lợi đã trở thành vấn đề quan trọng, vì vậy phương pháp mới cho các phân biệt cá nhân là tìm kiếm. Một quá trình phân biệt con người qua 4 nhóm máu bốn là A ( kiểu gen A), B (kiểu gen B), AB (kiểu gen A và kiểu gen B), và 0 (có kiểu gen không phải A hoặc không phải B) được phát triển. Người ta sử dụng các đặc điểm khác nhau của máu và vài đặc điểm của hai mẫu máu phải đồng ý trước sự trùng lặp được công bố. Tuy nhiên nếu mẫu máu không có sẵn thì sao? Một phương pháp linh hoạt hơn cho phân biệt cá nhân là cần thiết.
Sau đó người ta thấy rằng phần lớn con người khác nhau về mẫu ADN (trình tự các nucleotide ) được tìm thấy trong mọi tế bào của con người. Không có hai người có thể có cùng số lượng bản sao của các ADN lặp đi lặp lại ở tất cả những nơi mà các trình tự xảy ra. Sẽ không còn máu hay dấu vân tay luôn được yêu cầu để nhận dạng nữa 12 GVHD: PGS. Tô Anh Dũng 1.2 Dạng tổng quát của định lý Bayes cho các biến cố ,thay vào đó là một mẫu bất kỳ tế bào của cá nhân sẽ là đủ trong một số tình huống.
Nhận định phân loại ADN (mà không phụ thuộc vào dấu vân tay) bắt đầu như một quy trình pháp lý mà mẫu ADN trong một hoặc nhiều tế bào của một người được phân tích sinh học để xác định xem nó trùng khớp ADN của một mẫu ADN lấy được ở những nơi khác hay không? Năm 1984 các quá trình được phát triển tại Anh bởi Alec Jeffreys tại Đại học Leicester (Wambaugh, 1989). Một số đặc điểm khác nhau của hai mẫu ADN thu được một cách riêng rẽ (sử dụng thiết bị sinh học khác nhau) sẽ phải đồng ý trước sự trùng lắp sẽ được công bố. Dưới đây là một ứng dụng. Một người nào đó đã phạm một tội ác (chúng ta gọi cho người đó "thủ phạm") và đã vô tình để lại một số ADN của mình tại hiện trường vụ án (một số máu, một sợi tóc, một số tinh dịch, một vài mẫu da, v.
Hãy giả sử cảnh sát suy ra rằng người có ADN để lại tại hiện trường thực sự là phạm tội. Một người bị cáo buộc đã phạm tội (chúng ta sẽ gọi cho người ấy "Nghi phạm"). Điều quyết định rằng ADN của nghi phạm phải được so sánh với ADN các thủ phạm để xem liệu có sự trùng lắp hay không điều này cung cấp bằng chứng cho thấy nghi phạm thực sự là những người phạm tội. Định lý Bayes được áp dụng.
Cho C là sự kiện các nghi can phạm tội , sự trùng lắp ADN được công bố. Liệu sự trùng lắp này ngụ ý rằng các nghi can thực sự phạm tội? Từ định lý Bayes trong công thức (1.2), xác suất hậu nghiệm mà các nghi can phạm tội là : P {ADN match|C}P {C} P {C|ADN match} = P {ADN match|C}P {C} + P {ADN match|C}P {C} Cho M là các sự kiện của một trùng lặp giữa ADN của thủ phạm. Cho p là xác suất tiên nghiệm, P {C} là nghi can có thể là tội phạm. Sau đó, nếu C là sự kiện đối lập "không C ," công thức trở thành : P {M |C}p P {M |C}p P {C|M } = = P {M } P {M |C}p + P {M |C}(1 − p) Khi : P {M |C}(1 − p) P {C|M } = P {M |C}(1 − p) + P {M |C}p tỷ lệ cược hậu nghiệm ngược lại các nghi can đã phạm tội là: P {C̄|M } P {M |C̄} (1 − p) =.
P {C|M } P {M |C} p mà [(1 − p)/p] được gọi là tỷ lệ cược tiên nghiệm, ngược lại các nghi can đã phạm tội. Chúng ta thấy rằng một lợi thế khi làm việc với các tỉ lệ chênh lệch không phải là cần thiết để tính toán xác suất P vô điều kiện (M ); nghĩa là không cần thiết để tính toán các hằng số tỉ lệ trong định lý Bayes. Chú ý rằng: P {M |C} = 1 − P {M |C} theo định nghĩa Sau đó: 13 GVHD: PGS. Tô Anh Dũng 1.3 Định lý Bayes cho dữ liệu rời rạc và tham số rời rạc P {C|M } p = r.
P {C|M } 1−p Tỷ lệ r là thừa số Bayes. Thừa số Bayes là tỷ số của tỷ lệ cược hậu nghiệm (hướng về các nghi can đã phạm tội) với tỷ lệ cược tiên nghiệm thiên về nghi phạm. Vì vậy, bất kể giá trị của p, lớn hơn các thừa số Bayes, lớn hơn là tỷ lệ cược hướng về C. Lưu ý rằng r chỉ phụ thuộc vào các dữ liệu.
Thừa số Bayes cũng được sử dụng trong vấn đề kiểm tra giả thuyết (Chương 3). Giả sử rằng nghi phạm đã bị buộc tội vì người đó đã được nhìn thấy gần hiện trường phạm tội tại thời gian gần đúng tội phạm. Để giữ cho ví dụ đơn giản, xác suất tiên nghiệm p = 0.5 để tỷ lệ cược tiên nghiệm khi tỷ lệ bằng 1. Sau đó, P {M |C} 1 P {C|M } = = P {M |C} + P {M |C} 1 + 1r Hai xác suất lỗi, P {M |C} là xác suất không có sự trùng lặp và P {M |C} là xác suất của kết luận có là một trùng lặp (giả thiết nghi can là một ngẫu nhiên từ các thủ phạm), được xác định từ kỷ thuật ADN.
Để đơn giản trong ví dụ này, giả sử rằng P {M |C} = 0. Phép toán của xác suất là phức tạp và phụ thuộc vào sự so sánh ADN của nghi can được tìm thấy trong một cơ sở dữ liệu của các ADN của người dân về nguồn gốc dân tộc tương tự như của các nghi can. Nó cũng phụ thuộc vào việc so sánh một số đặc điểm khác biệt của hai mẫu ADN (được đánh giá bằng cách sử dụng kỹ thuật sinh học khác nhau). Tuy nhiên ví dụ, chúng ta thấy rằng các cơ hội mà các nghi can phạm tội là khoảng P {C|M = match} = 0.9804 Thừa số Bayes là r = = 50.
Tỷ lệ cược hậu nghiệm ngược 1 − 0.9804 với nghi can đã phạm tội là r(1 − p)/p = 0.02002, hoặc tỷ lệ cược hậu nghiệm hướng về nghi can là tội phạm là khoảng 50 đến 1. Sự trùng lặp ADN trong trường hợp này cung cấp bằng chứng rất thuyết phục các nghi can phạm tội.3 Định lý Bayes cho dữ liệu rời rạc và tham số rời rạc Cho X1 , ., Xn là các biến ngẫu nhiên phân phối độc lập và đồng nhất, mỗi hàm khối xác suất f (x|Θ = θ) với θ là một biến ngẫu nhiên rời rạc chưa biết mà có giá trị θ1 .θp , chỉ số phân phối của (X|Θ = θ). Chúng ta quan tâm đến Θ = θ.