Chương 1 Cơ sở lý thuyết và mô hình nghiên cứu 1.1 Phân tích nhân tố ([1], Trang 409 - 438) Phân tích nhân tố (Factor analysis) là một phương pháp phân tích thống kê dùng thu gọn một tập gồm nhiều biến quan sát phụ thuộc lẫn nhau thành một tập biến (gọi là các nhân tố) ít hơn để chúng có ý nghĩa hơn nhưng vẫn chứa đựng hầu hết nội dung thông tin của tập biến ban đầu. Phân tích nhân tố được sử dụng trong các trường hợp sau: • Nhận dạng nhân tố để giải thích mối quan hệ giữa các biến • Nhận dạng biến mới thay thế cho biến gốc ban đầu trong phân tích đa biến • Nhận dạng một bộ nhân tố có số biến tiềm ẩn ít hơn cho việc sử dụng phân tích đa biến 1.1 Mô hình nhân tố trực giao 1.1 Định nghĩa mô hình và các giả thuyết Giả sử một mẫu ngẫu nhiên X1 , X2 , ., Xp từ một tổng thể đồng nhất có véctơ kỳ vọng µ và ma trận hiệp phương sai M. Mô hình phân tích nhân tố biểu diễn mỗi biến là một tổ hợp tuyến tính các nhân tố chung f1 , f2 , ., fm với sai số ứng với mỗi biến là duy nhất. Với mỗi véctơ cá thể X = (X1 , X2 , ., Xp ) bất kỳ, mô hình là: X1 − µ1 = λ11 f1 + λ12 f1 +.
+ λpm fm + εp 8 Luận văn thạc sĩ - Chuyên ngành Toán Ứng Dụng Trang 9 m < p.1), các giá trị f là các biến ngẫu nhiên sinh ra X. Hệ số λij là hệ số tải, chỉ ra tầm quan trọng của nhân tố fj đến biến Xi và nó được sử dụng trong việc giải thích fj Giả thuyết: E(fj ) = 0, V ar(fj ) = 1 với j = 1, m và cov(fj , fk ) = 0, j 6= k E(εi ) = 0, V ar(εi ) = ψi với j = 1, p và cov(εi , εk ) = 0, i 6= k Nghĩa là, mỗi εi có phương sai khác nhau vì phần dư của mỗi Xi là không giống nhau. Thêm giả thuyết nữa là cov(εi , fj ) = 0, ∀i, j; ψi gọi là phương sai riêng biệt. Các giả thuyết này là kết quả tự nhiên của mô hình cơ bản (1.1) và là mục tiêu của phân tích nhân tố.
Giả thuyết cov(fj , fk ) = 0 thể hiện các biến X là các hàm của một vài nhân tố. Giả thuyết V ar(fi ) = 1, V ar(εi ) = ψi , cov(fj , fk ) = 0 và cov(εi , fj ) = 0 mang lại biểu thức đơn giản cho phương sai của Xi V ar(Xi ) = λ2i1 + λ2i2 + .2) đóng vai trò quan trọng trong nghiên cứu. Chú ý rằng giả thuyết cov(εi , εk ) = 0 hàm ý các nhân tố giải thích cho tất cả tương quan giữa các biến X, tức là tất cả biến X có phần chung. Vì thế, điểm nhấn mạnh trong phân tích nhân tố là mô hình hóa hiệp phương sai và tương quan giữa các biến X Mô hình (1.1) có thể viết dưới dạng ma trận như sau: X − µ = Lf + ε (1., εp )T Và ma trận tải nhân tố: λ11 λ12 · · · λ1m λ λ 21 22 · · · λ2m L = .
λp1 λp2 · · · λpm Huỳnh Hữu Nhân - Cao học khóa 2013. Trang 9 Trang 10 Luận văn thạc sĩ Minh họa (1. Ta có: X 1 − µ1 = λ11 f1 + λ12 f2 + ε1 X 2 − µ2 = λ21 f1 + λ22 f2 + ε2 X 3 − µ3 = λ31 f1 + λ32 f2 + ε3 X 4 − µ4 = λ41 f1 + λ42 f2 + ε4 X 5 − µ5 = λ51 f1 + λ52 f2 + ε5 Và viết dưới dạng ma trận như sau: X 1 − µ1 λ11 λ12 ε1 X2 − µ2 λ21 λ22 ε 2 f1 X3 − µ3 = λ31 λ32 + ε 3 (1.5) f2 X4 − µ4 λ41 λ42 ε 4 X 5 − µ5 λ51 λ52 ε5 Các giả thuyết từ (1.2) có thể biểu diễn dưới dạng véctơ và ma trận như sau: E(fj ) = 0, j = 1, m trở thành E(f ) = 0 (1.10) Kí hiệu cov(f, ε) là ma trận hình chữ nhật bao gồm các hiệp phương sai của f và ε Huỳnh Hữu Nhân - Cao học khóa 2013. Trang 10 Luận văn thạc sĩ - Chuyên ngành Toán Ứng Dụng Trang 11 σf1 ε1 σf1 ε2 · · · σf1 εp σ f ε σf2 ε2 · · · σf2 εp cov(f, ε) = .
σfm ε1 σfm ε2 · · · σfm εp Theo (1.2) điểm mạnh trong phân tích nhân tố là mô hình hóa hiệp phương 1 sai giữa các biến X. Với mong muốn biểu diễn p(p − 1) hiệp phương sai 2 của các biến X1 , X2 , ., Xp dưới dạng cấu trúc đơn giản bao gồm pm hệ số tải λij và p phương sai riêng biệt ψi , tức là muốn biểu diễn M dưới dạng L và Ψ. Ta có thể thực hiện được điều này bằng sử dụng mô hình (1.3) và các giả thuyết (1. Vì µ không ảnh hưởng đến phương sai và hiệp phương sai của X, từ (1.3) ta có: M = cov(X) = cov(Lf + ε) Theo (1.10), Lf và ε không tương quan với nhau, do đó, ma trận hiệp phương sai của tổng các ma trận hiệp phương sai: M = cov(Lf ) + cov(ε) = Lcov(f )LT + Ψ (từ 1.7) = LLT + Ψ Nếu L chỉ có một vài cột, có thể hai hoặc ba thì M = LLT + Ψ biểu diễn một cấu trúc đơn giản hóa cho M , trong đó các hiệp phương sai được mô hình hóa bởi λij vì Ψ là ma trận chéo.
Chẳng hạn, trong minh họa (1.5) với m = 2 nhân tố, σ12 sẽ là tích hai dòng đầu tiên của L, nghĩa là: σ12 = cov(X1 , X2 ) = λ11 λ21 + λ12 λ22 với (λ11 , λ12 ) và (λ21 , λ22 ) lần lượt là dòng thứ nhất và thứ hai của L. Nếu X1 , X2 có nhiều điểm chung, chúng sẽ có cùng hệ số tải trên hai nhân tố chung f1 và f2 , khi đó, (λ11 , λ12 ) giống với (λ21 , λ22 ). Trong trường hợp này tích λ11 λ21 và λ12 λ22 có khuynh hướng cao. Nếu X1 , X2 có ít điểm chung thì hệ số tải λ11 và λ21 trên f1 sẽ khác và hệ số tải λ12 và λ22 trên f2 cũng khác.
Trong trường hợp này tích λ11 λ21 và λ12 λ22 có khuynh hướng nhỏ. Ta có thể tìm hiệp phương sai của các biến X với các nhân tố f dưới dạng hệ số tải λ. Chẳng hạn, ta xét cov(X1 , f2 ), theo (1.7), f2 không tương quan với tất cả Huỳnh Hữu Nhân - Cao học khóa 2013. Trang 11 Trang 12 Luận văn thạc sĩ fj khác, và theo (1.10), f2 không tương quan với ε1.
Do đó, các hệ số tải đại diện cho hiệp phương sai của các biến với các nhân tố. Tổng quát: cov(Xi , fj ) = λij , i = 1, p, j = 1, m (1.12) Vì λij là phần tử (i, j) của ma trận L, ta viết (1.12) dưới dạng: cov(X, f ) = L (1.13) Nếu sử dụng các biến được chuẩn hóa, (1.11) được thay bởi Pρ = LLT + Ψ và hệ số tải thành hệ số tương quan: corr(Xi , fj ) = λij (1.2), phương sai của Xi gồm một phần theo các nhân tố chung gọi là phương sai tương đối, và một thành phần duy nhất theo Xi gọi là phương sai riêng biệt: σij = var(Xi ) = (λ2i1 + λ2i2 +. + λ2im : Phương sai tương đối (1.15) ψi : Phương sai riêng biệt 2 Phương sai tương đối hi cũng được xem là phương sai chung và phương sai riêng biệt ψi được gọi là phương sai duy nhất hay phương sai phần dư.10) dẫn đến cấu trúc hiệp phương sai đơn giản (1.11), M = LLT + Ψ Ma trận hiệp phương sai tổng thể khó có thể biễu diễn chính xác dưới dạng M = LLT + Ψ, trong đó Ψ là ma trận chéo và L cấp (p × m) với m khá nhỏ. Trong thực hành, nhiều ma trận hiệp phương sai mẫu không sát với ý tưởng này.
Tuy nhiên ta không bác bỏ các giả thuyết vì cấu trúc M = LLT + Ψ là cần thiết để ước lượng L Một điều thuận lợi của mô hình phân tích nhân tố là khi số liệu không phù hợp với dữ liệu, việc ước lượng L phản ánh tình trạng không phù hợp này. Trong mỗi trường hợp đó, có 2 bài toán ước lượng: Huỳnh Hữu Nhân - Cao học khóa 2013. Trang 12 Luận văn thạc sĩ - Chuyên ngành Toán Ứng Dụng Trang 13 • Chưa rõ có bao nhiêu nhân tố cần có • Chưa rõ các nhân tố đó là gì Trong các thủ tục thống kê khác, thất bại của giả thuyết có thể không dẫn đến kết quả rõ ràng. Trong phân tích nhân tố, các giả thuyết về bản chất là tự kiểm tra trong khi các thủ tục khác chúng ta phải kiểm tra giả thuyết.2 Tính không duy nhất của các hệ số tải Các hệ số tải trong mô hình (1.3) có thể nhân với ma trận trực giao không làm suy yếu khả năng tái lập ma trận hiệp phương sai trong M = LLT +Ψ.
Chẳng hạn, đặt T là ma trận trực giao tùy ý, thì T T T = I và thay vào (1.3), ta được: X − µ = LT T T f + ε Suy ra: X − µ = L∗ f ∗ + ε (1.18) Nếu L trong M = LLT + Ψ được thay bởi L∗ = LT , ta có: T M = L∗ L∗ + Ψ = LT (LT )T + Ψ = LT T T LT + Ψ = LLT + Ψ Vì T T T = I nên hệ số tải mới L∗ = LT trong (1.17) tái lập ma trận hiệp phương sai như là L trong (1.11), nghĩa là: T M = L∗ L∗ + Ψ = LLT + Ψ (1.19) Các nhân tố mới f ∗ = T T f trong (1.18) thỏa giả thuyết (1.10), nghĩa là: E(f ∗ ) = 0, cov(f ∗ ) = I, cov(f ∗ , ε) = O Phương sai tương đối h2i = λ2i1 + λ2i2 +. + λ2im , i = 1, p cũng không bị ảnh hưởng bởi sự phép biến đổi L∗ = LT. Điều này được giải thích như sau: Phương sai tương đối h2i là tổng bình phương của dòng thứ i của L. Huỳnh Hữu Nhân - Cao học khóa 2013 .