Chương 1. SƠ LƯỢC VỀ ĐƯỜNG THẲNG HỒI QUY 1. Phân tích hồi quy và đường thẳng hồi quy Phương pháp phân tích hồi quy là một trong những phương pháp được sử dụng nhiều trong thống kê. Mục đích của phương pháp này là tìm một mô hình toán học thích hợp để dự báo giá trị của một biến số phụ thuộc vào một biến số độc lập khác.
Trong phân tích hồi quy, tương quan giữa biến độc lập và biến phụ thuộc nó thường được biểu diễn bởi một biểu đồ từng điểm hay còn gọi là biểu đồ phân tán (scatter plot). Chẳng hạn một số biểu đồ phân tán dưới đây: Hình 1. Một số ví dụ về biểu đồ phân tán. Để tìm một mô hình toán học xấp xỉ tốt nhất với dữ liệu thu thập được, các nhà thống kê sử dụng một số đo gọi là tổng các bình phương sai số (sum of square differences), đó là tổng các bình phương của hiệu số giữa số liệu thực tế và số liệu trên mô hình toán học.
Đường thẳng hay đường cong tốt nhất được định nghĩa là đường làm cho tổng đó bé nhất. Trường hợp đường tốt nhất là đường thẳng thì nó được gọi ban đầu là least squares regression line, nghĩa là đường thẳng hồi quy bình phương bé nhất. Trong luận văn này chúng ta thống nhất gọi tắt là đường thẳng hồi quy. 10 Tổng bình phương các sai số nói trên có thể mô tả trong hình vẽ bên dưới.
Về phương diện hình học, có thể dễ dàng kiểm chứng rằng đường thẳng hồi quy cũng là đường thẳng thỏa điều kiện tổng các bình phương khoảng cách từ các điểm trên biểu đồ phân tán đến nó là bé nhất. Minh họa về đường thẳng hồi quy bình phương bé nhất. Trong thực tế, số liệu thống kê rất đa dạng, vì vậy, phân tích hồi quy sử dụng rất nhiều mô hình toán học khác nhau cho mẫu số liệu thu thập được. Một số mô hình toán học tương ứng với mẫu số liệu.
Đường hồi quy có thể là đường bậc hai, bậc ba, hình sin, hàm mũ.Tuy nhiên trong luận văn này, chúng tôi tập trung nghiên cứu về đường thẳng hồi quy vì tính đơn giản và phù hợp của nó với HS bậc trung học phổ thông ở Việt Nam. Theo các nhà thống kê học, nhiều trường hợp phức tạp có thể phân chia thành hồi quy tuyến tính từng phần, chẳng hạn: 11 Biểu đồ 1. Minh họa về hồi quy tuyến tính từng phần. Theo Vũ Thanh Hằng (2009), Xu thế biến đổi của lượng mưa ngày cực đại ở Việt Nam giai đoạn 1961-2007, tác giả đã chia giai đoạn 1961-2007 thành những giai đoạn nhỏ.
Tác giả dùng đường thẳng hồi quy để tìm xu thế biến đổi lượng mưa trong mỗi giai đoạn nhỏ đó và từ tính chất của đường thẳng hồi quy rút ra được những kết luận quan trọng cho nghiên cứu của mình. Minh họa về hồi quy tuyến tính từng phần. Trước hết, từ chuỗi số liệu lượng mưa ngày của các trạm, đã thành lập chuỗi lượng mưa cực đại cho từng tháng. Trên cơ sở đó, các phương trình hồi quy tuyến tính một biến dạng y = A0 + A1t đã được xác định, trong đó y là lượng mưa ngày cực đại (của từng tháng hoặc năm), t là số thứ tự năm, A0 và A1 là các hệ số hồi quy.
Xu thế tăng, giảm của chuỗi 12 lượng mưa ngày cực đại được xác định bởi dấu và trị số tuyệt đối của hệ số góc A1 của phươg trình hồi quy. Hệ số A1 dương (hoặc âm) cho biết xu thế tăng (hoặc giảm) của lượng mưa ngày cực đại trong thời đoạn xem xét, đồng thời giá trị tuyệt đối của hệ số A1 càng lớn có nghĩa là xu thế biến đổi càng mạnh. Vài nét lịch sử Nhà nhân chủng học nổi tiếng người Anh, Francis Galton (1822-1911) gần như là người đầu tiên đề xuất thuật ngữ “hồi quy” (regression) trong nghiên cứu của ông về tính di truyền. Mặc dù Pearson đã phát triển một kỹ thuật chặt chẽ trong thống kê được gọi là tương quan momen tích, nhưng chính các suy đoán của Francis Galton mới là nguồn gốc của sự hình thành các khái niệm hiện nay về tương quan và hồi quy.
Những vấn đề đó bắt đầu từ một sự tranh cãi trong di truyền học, sự hiểu biết về mức độ di truyền mạnh mẽ những đặc điểm của một thế hệ sinh vật hay thực vật sống sang thế hệ tiếp theo. Galton bắt đầu nghiên cứu từ cây đậu đường. Ông ta chọn nó vì loài này có khả năng tự cung cấp dưỡng chất, cây con có gene biến đổi từ cây mẹ mà không cần có sự tham gia của một cây bố mẹ khác. Quan niệm đầu tiên về hồi quy của Galton xuất phát từ một biểu đồ hai chiều gồm các điểm biểu diễn của các hạt đậu con so với hạt đậu bố mẹ.
Biểu đồ đường thẳng hồi quy của Galton 13 Ông sử dụng biểu đồ đường thẳng hồi quy để diễn đạt trong một bài giảng của mình vào năm 1877. Biểu diễn của Galton sau này được các nhà thống kê sử dụng với tư cách một khái niệm cơ bản: “hồi quy”. Sự tổng quát hóa những kết quả này đã dẫn đến khái niệm tương quan tích momen và đa hồi quy phức tạp khá lâu sau đó. Ngược với lịch sử, các SGK thường trình bày khái niệm tương quan tích momen trước khái niệm hồi quy.
Thật ra phương pháp “bình phương bé nhất” đã được nhà toán học thiên tài C. Gauss sử dụng trước đó, nhưng ông chỉ xem đó là một cách tính toán thông thường. Phương pháp này cũng được sử dụng bởi Adrien-Marie Legendre, nhưng cả Gauss và Legendre không ai sử dụng thuật ngữ “hồi quy”. Thuật ngữ “hồi quy” mà Galton sử dụng thì lại chưa liên quan đến phương pháp “bình phương bé nhất” mà mới chỉ được tác giả dùng với vai trò công cụ để mô hình hóa và đơn giản hóa các tương quan.
“Hồi quy” đã được liên kết với phương pháp dự đoán bình phương nhỏ nhất vào cuối những năm 1800. Karl Pearson, một trong số những người sáng lập thống kê toán học và là đồng nghiệp của Galton, nhận thấy rằng nếu bạn vẽ chiều cao của cha mẹ trên trục x và con cái của họ trên trục y, thì đường thẳng phù hợp nhất với dữ liệu theo bình phương nhỏ nhất có độ dốc nhỏ hơn một. Độ dốc nhỏ hơn một về cơ bản là biểu diễn toán học của hồi quy trung bình với giá trị trung bình. Pearson quy độ dốc này trên biểu đồ đường thẳng hồi quy.
Vì vậy, phương pháp bình phương nhỏ nhất và hồi quy đã có phần đồng nghĩa. Phân tích hồi quy như chúng ta biết ngày nay chủ yếu là kết quả của R. Fisher, một trong những nhà thống kê nổi tiếng nhất của thế kỷ XX. Fisher đã kết hợp công việc của Gauss và Pearson để phát triển một lý thuyết được thực hiện đầy đủ về các tính chất của ước lượng bình phương nhỏ nhất.
Nhờ Fisher, phân tích hồi quy không chỉ được sử dụng để dự đoán và hiểu mối tương quan, mà còn để suy luận về mối quan hệ giữa một yếu tố và kết quả (đôi khi không phù hợp). Fisher đã có một loạt các mở rộng quan trọng của hồi quy bao gồm hồi quy logistic, hồi quy không tham số, hồi quy Bayes và hồi quy kết hợp quy tắc hóa. Công thức của đường thẳng hồi quy 1. Cách xác định công thức của đường thẳng hồi quy Có nhiều tài liệu trình bày công thức của đường thẳng hồi quy.
Chúng tôi trích dẫn một hướng dẫn về cách lập phương trình đường thẳng hồi quy từ trang web https://www.com/data/least-squares-regression. Kế đó là một ví dụ minh họa kèm theo một kiểm chứng thực tế của chúng tôi bằng cách tính tay dựa trên khái niệm tổng các bình phương sai số bé nhất và bằng excel. Từ một biểu đồ phân tán là một tập hợp nhiều điểm (x; y) trong mặt phẳng tọa độ, các bước tính toán sau đây được thực hiện: Bước 1: Với mỗi điểm (x; y), tính x2 và xy. Bước 2: Tính các tổng x, y, x2 và xy.
Bước 3: Tính hệ số góc của đường thẳng hồi quy bởi công thức (N là số điểm) N xy x y m N x2 x 2 y m x Bước 4: Tính tung độ gốc: b N Bước 5: Phương trình đường thẳng hồi quy: y = mx + b Ví dụ minh họa: Cân nặng của sáu em nhỏ có độ tuổi từ 1 đến 6 được ghi lại trong bảng sau: Bảng 1. Bảng liên hệ số tuổi và số cân nặng. (x) số tuổi 1 2 3 4 5 6 (y) số kg cân nặng 9 13 14 15 18 19 Hãy dự đoán số kg cân nặng sẽ có với một em nhỏ 7 tuổi? Lời giải: Gom chung bước 1 và 2 ta được bảng: 15 Bảng 1. Bảng thể hiện các cột giá trị.
x y x2 xy 1 9 1 9 2 13 4 26 3 14 9 42 4 15 16 60 5 18 25 90 6 19 36 114 x=21 y=88 x2=91 xy=341 N xy x y Hệ số góc: m N x2 x 2 6 341 21 88 66 m 1. N 6 Phương trình đường thẳng hồi quy: y 1.0666 Vậy ứng với x7 ta có số kg cân nặng là 1.27 kg Các kiểm nghiệm của chúng tôi: Kiểm nghiệm 1: Bằng Excel Hình 1. Kiểm nghiệm bằng Excel. 16 Kiểm nghiệm 2: Phương pháp toán sơ cấp Xét các điểm A(1;9), B(2;13), C(3;14), D(4;15) và E(5;18), F(6;19) trong mặt phẳng tọa độ.
Giả sử (d) là đường thẳng có phương trình y = mx + b và A’, B’, C’, D’ và E’ là các điểm trên (d) có hoành độ theo thứ tự trùng với hoành độ của A, B, C, D và E. Dễ thấy tọa độ của các điểm đó là: A(1;9), A’(1; m + b) B(2;13), B’(2;2m + b) Biểu đồ 1. Minh họa về C(3;14), C’(3;3m + b) đường thẳng hồi quy. Ta tìm đường thẳng (d) sao cho tổng S AA'2 BB'2 CC'2 DD'2 EE'2 FF'2 là bé nhất.