Chương 1 Kiến thức chuẩn bị Trong chương này, chúng tôi trình bày các kiến thức về xác suất, thống kê, đường cong ROC, chỉ số AUC và giải tích hàm, được sử dụng làm cơ sở nền tang cho việc nghiên cứu các nội dung chính của luận án. Các kết quả được nêu ra mà không có phần chứng minh là các kết quả cơ bản được trích dẫn từ các nguồn tài liệu khác nhau.4|là kết quả do chúng tôi thiết lập. Do đó, phần chứng minh của bổ đề này được trình bay chỉ tiết.1 Một số kiến thức về Xác suất Định nghĩa 1. Cho © là một tập tùy ú khác 0.
Đặt A là tập hợp gồm các tập con của Q. A được gọi là o-dai số khi va chỉ khi nó có các tính chất sau: (a) NE A; (b) nếu Ac A, thi phan bù A° € A; (c) nếu Ay € A, k= 1,2,.A), trong đó Q là một tập tùu y khác 0 va A là một ơ-đại số các tập con của ©, được gọi là một không gian do được. Các phan tử của A được gọi là các tập do được trong lý thuyết độ do hay được gọi là các biến cố trong ly thuyét xác suất va thống kê. Cho C là tập hợp gồm các tập con của Q.
ơ-đại số nhỏ nhất chứa C được gọi là c-dai số sinh bởi C va được ky hiệu là ơ (C). Trong không gian metric € (hay tổng quát hơn là không gian 8 tôpô), o-dai số sinh bởi tập tat cả các tập mở được gọi là ơ-đại số Borel va được ky hiệu là B (€). Cho (0,A) là không gian do được. Hàm tập v xác định trên A được gọi là một độ do nếu nó có các tính chất sau: (a)0 < w(A) < œ đối tới bất ky ACA; (b) v (0) = 0; Bộ ba (Q,A,v) được gọi là không gian do.
Nếu v(Q) = 1, thà v được gọi là độ do rac suất va thường được ky hiệu là P. Trong trường hợp này, (O,.A,P) được gọi là không gian xác suất. Độ do Lebesgue là ham tập A: B (IR) > [0, co] théa mãn: (a) nếu A, € B(R), k=1,2,., 0à ApN Ai =0, k Al thi À (U ) =3 _A(4j); k=1 k=1 (b) néua,b ER, a <b, thà A((a,b]) =b~— a. Một độ do trên (Q,.A) được gọi là ơ-hữữu hạn nếu va chỉ nếu ton tại một dấu {Aj, 4a,.} sao cho J A, = Q9 va v (Ag) < đối uới mọi k.,n} là các không gian do được.
khi đó, o (Trex Ax) được gọi là o-dai số tích trên không gian tích [Tyee Qk- Mệnh đề 1.,n, là các không gian do uới các độ do ơ-hữu han, ở day n > 2 là một số nguyên. Khi đó, ton tại duy nhất một độ do o-httu hạn trên o-dai số tích ơ (A, x --- x An), được gọi là độ do tích va được ky hiệu là tì x +++x Uạ sao cho đối uới mọi Ay € Ap, k = 1,. Cho (Q,A) vd (A,G) là hai không gian do được. Cho € là không gian topo uới B(E) là ø-dại số Borel tương ứng.
9 (a) Một ham f : Q— A được gọi là do được (tương ứng tới A va G) nếu ƒ~}!(B) € A, đối uới mỗi BEG. (b) Một ham do được f : (Q,. (d) Một ham đo được X : (9,44) + (C,B(C)) được gợi là biến số ngẫu nhiên phúc X, trong đó B(C) là ø-đại số Borel tương ứng trên C. (e) Một hàm đo được X : (Q,A) > (R“,8 (R“)) được gọi là véc to ngẫu nhiên d chiều X, trong đó B (R“) là ơ-đại số Borel tương ứng trên I1.
Cho P là một độ đo sác suất trên không gian (R,B(R)). Ham phân phối của P được định nghĩa là F(z)=P((-s,z]), z€. Cho P là một độ do xác suất trên khong gian (R", B(R")). Ham phân phối (đồng thời) của P được định nghĩa là F(i,.
Cho (0,A,v) là không gian do va f là ham do được từ (Q,. Độ do cảm sinh bởi f, được ky hiệu vo f-!, la một độ đo trên G va được xác định bởi vof 1(B) =u(Ƒƒ€B)=z(ƒ '(B)), BeG. Néu v = P là độ đo xác suất va X là biến số ngẫu nhiên hay véc tơ ngẫu nhiên thì Po X~! được gọi là phân phối của X và được ký hiệu là Py. Hàm phân phối của Py được định nghĩa bởi hoặc cũng được gọi là hàm phân phối của biến số ngẫu nhiên X hoặc hàm phân phối (đồng thời) của véc tơ ngẫu nhiên X va được ký hiệu là Fy.
Cho biến số ngẫu nhiên X xác định trên (Q,A,P). X được gọi là biến số ngẫu nhiên đơn giản nếu nó được biểu diễn dưới dang n X= ». k=1 trong đó a, € R, va Ay € A, 1 <k <n. Khi đó, kỳ vong của biến số ngẫu nhiên X là một số được ky hiệu va xác định bởi n E(X) = SagP (Ag).
k=1 10 Kỳ vong của biến số ngẫu nhiên X còn được ky hiệu là EX, J X (w) dP (w), J X (w) P (dw), hay f XdP. Cho X là biến số ngẫu nhiên không âm xác định trên (O,. Khi đó, ky vong của biến số ngẫu nhiên X được định nghĩa bởi E(X) =sup{E(Y):Y là biến số ngẫu nhiên đơn giản uới 0 SŠY < X}. Đối với biến số ngẫu nhiên X bất kỳ, đặt XT = max (X,0) và X~ = — min (X, 0).
Khi đó, X = Xt — X~, và XT,X~ là các biến số ngẫu nhiên không âm. Nếu ít nhất một trong hai số E(X*) va R(X~) hữu hạn, nghĩa là min (E (x*). X được gợi là có ky vong hữu han hay khả tích nếu cả hai số E(X*) va E(X~) đều hữu hạn. Ky vong của biến số ngẫu nhiên bat kỳ X cũng được ky hiệu là EX, J X (w) dP (0), ƒ X (w)P (dw), hay Ƒ XdP.
Cho X va Y là hai biến số ngẫu nhiên có kỳ vong hữu han. Khi đó, ta có các tính chat sau: (a) E(cX) =cE(X), ccR; (b) tính bảo toàn thú tự: nếu X <Y thà E(X) < E(Y), do đó |E(X)| < E( X|); (c) tính tuyến tính: nếu X tà Y khả tích thì (X +Y) cting khả tích va E(X +Y)=E(X)+E(Y). Cho biến số ngẫu nhiên X có E x|? < oo. Khi đó, phương sai của biến số ngẫu nhiên X được ky hiệu là Var(X) va được xác định bởi Var(X) := E(X— EX)”.
Tương tự cho việc định nghĩa tích phân của biến số ngẫu nhiên bat kỳ X đối với độ đo xác suất P, ƒ XđP, ta cũng có định nghĩa tích phân của ham đo được Borel đối với độ đo tùy ý. Khi thay biến số ngẫu nhiên X bởi hàm ƒ đo được Borel trên (R,B(R)) và thay độ đo xác suất P bởi độ do Lebesgue À thì tích phân nhận 11 được được gọi là tích phân Lebesgue và được ký hiệu là ƒ ƒ (z) dz. Tích phân của hàm đo được Borel ƒ đối với độ đo Lebesgue được gọi là tồn tại nếu ít nhất một trong hai số f ƒT (z) đz và f f~ (z) dz hữu hạn. Hàm f đo được Borel được gọi là khả tích đối với độ đo Lebesgue hay khả tích Lebesgue nếu ƒ ƒ (x) da < ov.
Hàm mật độ của độ do xác suất P trên (R,B(R)) là ham do được Borel không âm thỏa: đối uới mọi x € R sao cho Nếu thay P bằng Px thà ta nói f là một ham mật độ của biến số ngẫu nhiên X hay của hàm phân phối Fx. Ham do được Borel không âm trên R là ham mật độ của độ do xác suất trên (R,B(R)) khi va chỉ khi f ƒ (x) dz = 1. Cho X là biến số ngẫu nhiên có ham mật độ f. Cho g là hàm do được Borel.
Khi đó, g khả tích đối uới độ do Py khi va chỉ khi tích fg khả tích đối uới độ do Lebesgue. Hơn nữa, Eu(X))= [ale)Px (de) = [ø) 604 Mệnh dé 1. (Xem Jacod-Protter [23], trang 65) Cho X là biến số ngẫu nhiên: (Q,. Khi đó, X~!(B(R)) là một ø-đại số con của A va được gọi là o-dai số sinh ra bởi X.
o-dai số nay thường được ky hiệu là ø (X). Cho (Q,A,P) là không gian xác suất cô định. (a) Họ hữu hạn {.Ay,, k € K} các o-dai số con của A được gọi là độc lập nếu P (n ») =[[P kek kek đối uới Ay € Ap, (k € K), bắt kỳ. (b) Họ uô hạn {.Ay, k € K} các ơ-đại số con của A được gọi là độc lập nếu mỗi họ con hữu hạn của nó độc lập.
(c) Họ các biến số ngẫu nhiên Xự, k€K được gọi là độc lập nếu họ các ø-đại số sinh bởi chúng {ơ (Xy),k € K} là độc lập.,Xn là các biến số ngẫu nhiên độc lập.,Wn là các hàm do được Borel.,ta (Xa) cũng là các biến số ngẫu nhiên độc lập va B (1 Ue so) = [EW 2) k=1 k=1 Hệ quả 1., Xạ là các biến số ngẫu nhiên độc lập có D ( ?)<œ, k=l,. Khi đó, ta có Var (X1 + +++ + Xn) = S° Var (Ấy). Cho véc tơ X = (XỊ,., X„,) có ham phan phối Fx, uéc tơ Y =(Vìi,.,Yn,) có ham phân phối Fy va téc tơ Z = (XI,.,Yng) CÓ ham phân phối Fz. Khi đó, X va Y được gọi là độc lập nếu Fz (đ1,---;®ni; UL: --- › Ưng) — ie (11,.
1n) › đối uới mmợi +Ị,. Giả sử {X„} là một day các biến số ngẫu nhiên độc lập va có cùng phân phối với 1(LXil) < s. Khi đó, với p = E(XI) va Sy =X, +--+ Xa, thin 1S, —y¡ hau chắc chắn, khin > oo. Cho X, Y là hai biến số ngẫu nhién liên tục độc lập uới ham mat độ tương ứng là fx, fy.
Goi fz là ham mật độ của Z = X+Y. Khi đó, ta có w= [- fx ( — y) fy (y) dụ Dinh lý 1. Cho X là biến số ngẫu nhiên có ham mat độ liên tục fy. Đặt g: R — R là ham kha vi liên tục uới đạo ham không triệt tiêu.
Khi đó, Y = g(X) có ham mật độ fy (0)= fx (h(y)) | (0)|: Dinh nghĩa 1. Cho X là một biến số ngẫu nhiên. Hàm số Wx :R — C, xác định bởi wx (t) =E (`) = EcostX +iEsintx, được goi là hàm đặc trưng của X. 13 Trong trường hợp X là biến số ngẫu nhiên liên tục với hàm mật độ ƒ, khi đó E(e“*)= pews (x) dx.3) Về phải của (1.3) chính là công thức biến đổi Fourier của hàm mật độ f (xem Định nghia|1.
Do đó, trong trường hợp này, hàm đặc trưng của biến số ngẫu nhiên X chính là biến đổi Fourier của hàm mật độ. Cho X là một biến số ngẫu nhién có ham đặc trưng wx.