Chương I XÍCH MARKOV ROI RAC mola N= đã nói ở trên, các mô hình xác suất ngày càng được ứng dung rộng rãi trong nhiều lĩnh vực: vật lý, hóa học, kinh tế hoc, xã hội hoc, sinh học,. Ở đó, các quá trình Markov ( đặc biệt là xích Markov) có vai trò rất lớn. Trong chương này, chúng tôi sẽ trình bầy vé các quá trình như vậy. Các phần 1,2,3,4 là các kết quả lý thuyết về xích Markov, còn phan 5 là các mô hình ting dụng của nó, riêng phan 6 là 1 mở rộng thêm của xích Markov, đó là xích Markov có thời gian lùi.
Mỗi một phần chúng tôi đều đưa ra những bài toán và các ví dụ cụ thể. DINH NGHĨA: Trong chương này chúng ta xem xét các quá trình ngẫu nhiên ( 1 hệ vật lý. 1 hệ kinh tế, hay hệ sinh thái nào đó,.) mà tại mỗi thời điểm hệ đó ở 1 trạng thái. Goi quá trình đang xét tai thời điểm n là X, (n =0,1,2,3.) và kí hiệu X, =i có nghĩa là quá trình ở trạng thái ¡ vào thời điểm n.
Quá trình được gọi là có tính Markov nếu: P[Xaxi=j /X„=l, Xa-i=Ìa. Xi=i), Xo= io}= P (X¿.:= j /X,= i j= Py Va 20 VỚI ip, io, int. i,j là các trạng thái Như vậy, nếu ta đặt : A=(X,,, =/) B=(X, =i) thì hệ có tính Markov <> P(A/BC)=P(A/B) Theo công thức xác suất đầy đủ, ta có: P(AC/ø)- PÍABC) _ P(BC)P(A/BC) B) P(B) _ P(C/B)P(B)P(A/B) 7 P(B) =P(A/B)P(C/B) Điều đó có nghĩa là | hệ có tính Markov thì trạng thái trong quá khứ và tương lai độc lập nhau khi cho trước hiện tại. Tập hợp các trạng thái mà hệ có thể đạt được gọi là không gian trạng thái ,kí hiệu E, SVTH : Nguyễn Đức Bằng Trang 10 Luan văn tốt nghiệp GVHD: Dr.
Nguyễn Chí Long 1.Các dịnh nghĩa: Định nghĩa 1: Hệ [X„;.} có tinh Markov và có không gian trạng thái E đánh số được gọi là xích Markov rời rac. Định nghĩa 2: Xét xích Markov rời rac { X,, n=0;l;2;3. khi đó ta gọi xác suất có điều kiện để hệ tại thời điểm n (hiện tại) ở trạng thái ¡ , chuyển sang trạng tháij tại thời điểm n+1 (tương lai) là xác suất chuyển sau một bứơc của xích Markov. Piy=PC Xa«¡=] /X,=Ì) Ma trận P= (p„) ( ma trận mà các phần tử là py) được gọi là ma trận xác suất chuyển sau một bước của xích Markov.
Giả sử không gian trạng thái của hệ là E={ 0:1:;2:.} thì ma trận xác suất chuyển sau một bước có đạng: 0 1 2 n 0 |Pœ Po Dạ;-s. Dee visas SOREN REE 449494490 5946 94940994944 299066 l)0<p,<1 ,Vi,j>0 i) p,=1 vVieE Ta dé dang nhận thấy rằng tính chất i) là do định nghĩa của xác suất chuyển, côn tính chất ii) ta có thể chứng minh như sau: Ta gọi A, là biến cố hệ xuất phát từ trạng thái i sau 1 bước chuyển sang trạng thái j.} là 1 hệ day đủ. Do đó: (UA, J=EP( =LAP, =j/X, i) EP, Mat khac: UA, =Q=> HÙA,) I(Qkhông gian xác xuất) Điều đó suy ra đpcm. SVTH : Nguyễn Đức Bằng Trang II Luan văn tốt nghiệp GVHD : Dr.
NguyễnChí Long Định nghĩa 3: Xác suất để hệ xuất phát từ trạng thái ¡ sau n bước hệ chuyển sang trạng thái ¡ được gọi là xác suất chuyển sau n bước, kí hiệu p„'"”. Ta định nghĩa: py = P(X. =//X,=1) Néu = = /X,, =D) = P(X, =7/X,=1) ,Vm thì tà nói xích Markov là thuần nhất theo thời gian. Trong các phần sau ta chi nghiên cứu các xích Markov như vậy.
RO rang pi! = Py1 GHI Hộ ‘0 ty ] i=j ước p= "+ Ta đặt PM) = (s/") là ma trận xác suất chuyển sau n bước 0 l 2 áo 0 poo a pha tung pos rr | pho p tụ pha iwanene phi ‘idiwics a 2 ph» par pa,. Pp’ = k ph phụ phha.199199999999990919099909 9 Tương tự xác suất chuyển sau 1 bước , xác suất chuyển sau n bước cũng có 2 tính chất: i) 0<pP)Ì<1 ,VijeE,Vn>0 ii) Š'pƒ)=I ,Vn>0,VIeE. mm Định nghĩa 4: Phân phối của hệ tại thời điểm n được cho bởi công thức sau đây: p®= P(X„= j) ,n=0;12,.Vj eE và ta gọi 7” = (p)"”. J€E) là phân phối của xích tại thời điểm n, đặc biệt ta gọi n= (p(° Je r) là phân phối ban đầu của xích Markov.
SVTH : Nguyễn Đức Bằng Trang 12 Luận văn tốt nghiệp GVHD: Dr. Nguyễn Chí Long Nhân xét: Mô hình xích Markov rời rac là bộ ba (Xạ,œ, P), trong đó: +{X,, n=O; 1;2;.} là dãy các đại lượng ngẫu nhiên rời rac + œ là phân phối ban đầu. +P là ma trận xác suất chuyển sau 1 bước. Xích Markov hoàn toàn được xác định | cách duy nhất bởi bộ ba (X,.
Một số ng dụng: Bài toán 1. Giả sử rằng khả năng mưa vào ngày mai chỉ phụ thuộc vào việc ngày hôm nay có mưa hay không và hoàn toàn độc lập với quá khứ. Nếu hôm nay có mưa thì ngày mai khả năng mưa xảy ra với xác suất ơ. Nếu hôm nay trời không mưa thì ngày mai khả nang mưa xảy ra với xác suất j.
Ta gọi quá trình ở trạng thái 0 khi trời mưa và ở trạng thái | khi trời không mưa. Khi đó quá trình đang xét là 1 xích Markov có không gian trang thái E=|0:1] và các xác suất chuyển là: Po =% ,Pại =Ì~@ Po=PB .p\ “l—8 Ma trận xác suất chuyển sau | bước là P-[§ a l-œ I-B Bài toán 1.2 : Ta nghiên cứu thị phan gồm 1000 khách hang của 3 cửa hàng 1;2;3 được các số liệu sau: Y Ởtháng ] | Cửahng| I1 | 2 | 3 —-| _ Sốkháh | 200 | 500 | 300 _ v Sau | tháng (tức là ở tháng 2) Ở cửa hang | có 220 khách, trong đó gồm @OgøoÐ0D 160 khách của tháng trước 35 khách thu từ cửa hàng 2 và 25 khách thu từ cửa hàng 3 20 khách chuyển sang cửa hàng 2 và 20 khách chuyển sang cửa hàng 3. Ở cửa hàng 2 có 490 khách, trong đó gdm: 450 khách của tháng trước 20 khách của thu từ cửa hàng 1 và 20 khách thu từ cửa hàng 3. 35 khách mất cho cửa hàng | và 25 khách mất cho cửa hàng 3.
Ở cửa hàng 3 có 290 khách trong đó gồm: 255 khách của tháng trước. SVTH : Nguyễn Đức Bằng Trang 13 Luan văn tốt nghiệp GVHD: Dr. Nguyễn Chí Long a 20 khách thu từ cửa hàng | và 15 khách thu từ cửa hàng 2. a 25 khách mất cho cửa hàng | và 20 khách mất cho cửa hàng 2.
Như vậy, nếu ta chọn mô hình xích Markov cho quá trình trên với không gian trạng thái E={1;2;3} thì ta có các xác suất chuyển. 160 20 20 Bis = apg OSD: Bia = ag OOO Pis “20g = 0.100 35 450 15S Px TT fe Px» "ap + Pos "ng One _ 2 20 255 Pu 99 “0063: Pia 399 =0/067; Pas = 399 =0850 Khi đó ma trận xác suất chuyển sau | bước của quá trình là: 0,800 0,100 0,100 P =| 0,070 0,900 0,030 0.850 Còn phân phối ban đầu của hệ là: P(X, =1)= ro ng “ 0 2 0 .3: Thống kê tình trạng nghiện hút của 1200 sinh viên ta có các số liệu ban đầu như sau: 1000 SV không nghiện, 200 SV nghiện. Sau 3 tháng con số này thay đổi như sau: Số SV không nghiện là 1014 gồm: s 990 SV trước đó không nghiện s 24 SV đã cai nghiện Số SV nghiện hút là 186 gồm: s® 176 SV trước đó đã nghiện. s 10 SV mới bị nghiện.
Như vậy, nếu chọn mô hình là xích Markov thì ta có không gian trạng thái E=(0:1] (với 0 là trạng thái không nghiện, | là trạng thái nghiện) với phân phối ban đầu và xác suất chuyển như sau: SVTH : Nguyễn Đức Bằng Trang 14 Luận văn tốt nghiệp GVHD : Dr. Nguyễn Chí Long 1000 P(X, = 0)= —— = 0,833 1200 200 (Xo =1) 1200 P(X, =1)= —— =0,167 z=(0833 0,167) 990 10 Poo = 1999 = 99 + = Por = 1999 0; A a———— 0. 200 Pru ani 200 _ ORS 0.4: Giả sử rằng việc trời có mưa hay không vào ngày mai phụ thuộc điều kiện thời tiết hôm nay và hôm qua. Nếu cả hôm nay và hôm qua trời đều mưa thì ngày mai trời sẽ mưa với xác suất 0,7.
Nếu hôm nay trời mưa nhưng hôm qua trời không mưa thì ngày mai trời sẽ mưa với xác suất 0,5. Nếu hôm nay trời không mưa nhưng hôm qua đã mưa thì ngày mai trời sẽ mưa với xác suất là (0. Nếu hôm nay và hôm qua đều không mưa thì ngày mai trời sẽ mưa với xác suất là 0,2. Khi đó nếu cho rằng trạng thái của hệ tại thời điểm n chỉ phụ thuộc vào việc trời có mưa hay không thì mô hình nói rên không là xích Markov vì rô rang việc trời có mưa hay không vào ngày mai (tương lai) vừa phụ thuộc vào ngày nay( hiện tại ) lẫn hôm qua( quá khứ) Tuy nhiên, nếu ta chọn các trạng thái của hệ như sau thì ta sẽ có mô hình xích Markov, Hệ ở trạng thái 0 nếu trời mưa hôm nay và hôm qua Hệ ở trạng thái 1 nếu trời mưa hôm nay nhưng không mưa hôm qua.
Hệ ở trạng thái 2 nếu trời không mưa hôm nay nhưng mưa hôm qua. Hệ ở trạng thái 3 nếu trời không mưa hôm nay lẫn hôm qua. Khi đó ta có ma trận xác suất chuyển của xích Markov là SVTH : Nguyễn Đức Bằng Trang 15 Luận văn tốt nghiệp GVHD: Dr. Nguyễn Chí Long 07 0 03 0 05 0 05 0 “10 04 0 06 0 02 0 08 Bài toán 1.5: Quan sát 1 người chơi bài.
Trong một trận, nếu người đó thắng sẽ được 1$ với xác suất p, và người đó thua sé mất I$ với xác suất | - p. Giả sử người đó sẽ ngừng chơi nếu hết tiền hoặc thang được NS. Khi đó tài sản của người chơi bài là 1 xích Markov với không gian các trạng thái E={0;1:2:.N-I] và xác suất chuyển là: TT. Pun =P ‘= 0,N 1 Prat =1- P Xét 1 xích Markov rời rac { X,, n= 0; 1; 2;.} có kh ôn g gian trạng thá i E= (0; 1:2.) và ma trận xác suất chuyển sau n bước là P“"=(p"},) Khi đó tacó: p"**“Ì== ¥ ph).
pi”) Vm,n>0:Vi.jeE hed Chứng minh: Nếu hệ xuất phát ở trạng thái i sau n+m bước sẽ chuyển sang trạng thái j cũng có nghĩa là hệ xuất phát ở trạng thái i sau n bước chuyển sang trạng thái keE nào đó rồi chuyển sang trạng thái j sau m bước nữa. Tức là: pl?)= P(X„„„ = j! Xạ =!) = Š`P(X„.„= J,X„=k! Xp =i) k=O = ¥ P(X ein = J!X„=k,Xạ =I)P(X„ =k/ Xp =i) kad a -2 P(X usm = j!