CHƯƠNG 1: TỔNG QUAN 1. Phân tích dự báo Phân tích dự báo là một kỹ thuật trong lĩnh vực khai phá dữ liệu, nhằm dự đoán hành vi trong tương lai. Nó giúp trích chọn thông tin từ dữ liệu để phát hiện các mẫu hành vi, thói quen của đối tượng chủ thể, từ đó đưa ra dự báo về các hành vi và xu hướng trong tương lai của đối tượng đó. Mô hình máy học Mô hình máy học là một biểu hiện của một thuật toán quét qua hàng núi dữ liệu để tìm ra các mẫu hình hoặc đưa ra dự đoán.
Nếu được cung cấp dữ liệu đầu đủ, các mô hình học máy (ML) có thể trở thành “động cơ” toán học của trí tuệ nhân tạo. Loại mô hình machine learning Các trường hợp sử dụng Các mẫu trong dữ liệu số, chẳng hạn như Phân loại / hồi quy tuyến tính bảng tính tài chính Phát hiện gian lận hoặc nhận thức tình Mô hình đồ họa cảm Cây quyết định / Rừng ngẫu nhiên Dự đoán kết quả Thị giác máy tính, xử lý ngôn ngữ tự Mạng nơ-ron học sâu nhiên và hơn thế nữa Bảng 1: Phân loại ngắn gọn các mô hình machine learning. Phạm vi và mục tiêu của đồ án Với những kiến thức đã được học và thực hành trong môn học “Phân tích dữ liệu với R/Python”, đồ án bao gồm những phương pháp, mô hình được sử dụng rộng rãi phổ biến trong lĩnh vực phân tích dữ liệu và dự báo. CHƯƠNG 2: CƠ SỞ LÝ THUYẾT 2.
Mô hình hồi quy tuyến tính (Linear Regression): Định nghĩa: Mô hình hồi quy tuyến tính là một phương pháp phân tích dữ liệu sử dụng để mô tả và dự đoán mối quan hệ giữa hai hoặc nhiều biến. Đây là một trong những phương pháp hồi quy đơn giản và được sử dụng rộng rãi nhất. Trong mô hình hồi quy tuyến tính, biến phụ thuộc (Y) được biểu diễn dưới dạng một hàm tuyến tính của các biến độc lập (X). Hồi quy tuyến tính đơn biến Hồi quy tuyến tính đơn biến là một dạng của mô hình hồi quy tuyến tính trong đó chỉ có một biến độc lập.
Hồi quy tuyến tính đa biến Hồi quy tuyến tính đa biến là một dạng của mô hình hồi quy tuyến tính trong đó có nhiều biến độc lập. Cơ sở lựa chọn biến độc lập Cơ sở lựa chọn biến độc lập trong hồi quy tuyến tính bao gồm các yếu tố sau: ● Yếu tố lý thuyết: Các biến độc lập được lựa chọn phải có mối quan hệ lý thuyết với biến phụ thuộc. Mối quan hệ này có thể được suy luận từ lý thuyết khoa học hoặc kinh nghiệm thực tế. ● Yếu tố thực nghiệm: Các biến độc lập được lựa chọn phải có thể đo lường được và có sẵn dữ liệu.
● Yếu tố thống kê: Các biến độc lập được lựa chọn phải không tương quan với nhau. Nếu các biến độc lập tương quan với nhau, thì chúng sẽ gây ra hiện tượng đa cộng tuyến, làm cho kết quả của mô hình hồi quy không chính xác. Mô hình hồi quy logistic (Logistic Regression) 2. Định nghĩa Hồi quy logistic là một thuật toán học máy có giám sát, chủ yếu được sử dụng cho các nhiệm vụ phân loại trong đó mục tiêu là dự đoán xác suất một thể hiện có thuộc một lớp nhất định hay không.
Nó là một loại thuật toán thống kê, phân tích mối quan hệ giữa một tập hợp các biến độc lập và các biến nhị phân phụ thuộc. Trong hồi quy logistic, biến phụ thuộc y chỉ có 2 trạng thái 1 ( ví dụ tử vong) và 0 ( ví dụ sống). Muốn đổi ra biến số liên tục người ta tính xác suất của 2 trạng thái này. Nếu gọi p là xác suất để một biến cố xảy ra (ví dụ: tử vong), thì 1-p là xác suất để biến cố không xảy ra (ví dụ: sống).
Phương trình hồi qui logistic phát biểu: Từ phương trình này, ta có thể tính xác suất tiên đoán tử vong theo trị số của x. Sự khác biệt giữa hồi quy tuyến tính và hồi quy logistic là đầu ra hồi quy tuyến tính là giá trị liên tục có thể là bất kỳ giá trị nào trong khi hồi quy logistic dự đoán xác suất một thể hiện có thuộc về một lớp nhất định hay không. Hàm logistic (Hàm sigmoid): Hồi quy logistic là một mô hình thống kê sử dụng hàm logistic, hay hàm logit trong toán học làm phương trình giữa x và y. Hàm logit ánh xạ y làm hàm sigmoid của x.
Như bạn có thể thấy, hàm logit chỉ trả về các giá trị giữa 0 và 1 cho biến phụ thuộc, dù giá trị của biến độc lập là gì. Đây là cách hồi quy logistic ước tính giá trị của biến phụ thuộc. Phương pháp hồi quy logistic cũng lập mô hình phương trình giữa nhiều biến độc lập và một biến phụ thuộc. Hồi quy logistic sử dụng khái niệm giá trị ngưỡng, xác định xác suất bằng 0 hoặc 1.
Chẳng hạn như các giá trị trên giá trị ngưỡng có xu hướng là 1 và giá trị dưới giá trị ngưỡng có xu hướng là 0. Phân loại hồi quy logistic: Dựa trên các loại, hồi quy logistic có thể được phân thành ba loại: ● Nhị thức (Binomial): Trong hồi quy logistic nhị thức, chỉ có thể có hai loại biến phụ thuộc, chẳng hạn như 0 hoặc 1, Đạt hoặc Thất bại, v. ● Đa thức (Multinomial): Trong hồi quy logistic đa thức, có thể có 3 hoặc nhiều loại biến phụ thuộc không có thứ tự, chẳng hạn như “mèo”, “chó” hoặc “cừu” ● Thứ tự (Ordinal): Trong hồi quy logistic thứ tự, có thể có 3 loại biến phụ thuộc được sắp xếp theo thứ tự trở lên, chẳng hạn như “thấp”, “Trung bình” hoặc “Cao”. So sánh mô hình: Hồi quy tuyến tính Hồi quy logistic Dự đoán biến phụ thuộc liên tục bằng Dự đoán biến phụ thuộc phân loại bằng cách sử dụng một tập hợp các biến độc cách sử dụng một tập hợp các biến độc lập nhất định.
lập nhất định. Giải quyết vấn đề hồi quy. Giải quyết các vấn đề phân loại. Dự đoán giá trị của các biến liên tục Dự đoán giá trị của các biến phân loại Phương pháp ước lượng bình phương Phương pháp ước tính khả năng tối đa nhỏ nhất được sử dụng để ước tính độ được sử dụng để ước tính độ chính xác.
Đầu ra phải là giá trị liên tục, chẳng Đầu ra phải có giá trị phân loại như 0 hạn như giá cả, tuổi, v. hoặc 1, Có hoặc không, v. Nó đòi hỏi mối quan hệ tuyến tính giữa Nó không yêu cầu mối quan hệ tuyến các biến phụ thuộc và độc lập. Có thể có sự cộng tuyến giữa các biến Không nên có sự cộng tuyến giữa các độc lập.
biến độc lập. Các thuật ngữ liên quan đến hồi quy logistic: Thuật ngữ Giải thích Independent Biến Các đặc điểm đầu vào hoặc các yếu tố dự đoán được áp variables độc lập dụng cho các dự đoán của biến phụ thuộc. Dependent Biến Biến mục tiêu trong mô hình hồi quy logistic mà chúng tôi variable phụ đang cố gắng dự đoán thuộc Logistic Hàm Công thức được sử dụng để biểu thị mối liên hệ giữa các function logistic biến độc lập và phụ thuộc. Hàm logistic biến đổi các biến đầu vào thành giá trị xác suất trong khoảng từ 0 đến 1, biểu thị khả năng biến phụ thuộc là 1 hoặc 0 Odds Tỷ lệ Đó là tỷ lệ giữa điều gì đó xảy ra và điều gì đó không xảy ra.
nó khác với xác suất vì xác suất là tỷ lệ giữa điều gì đó xảy ra với mọi điều có thể xảy ra. Log-odds Tỷ lệ Tỷ lệ cược log, còn được gọi là hàm logit, là logarit tự cược log nhiên của tỷ lệ cược. Trong hồi quy logistic, tỷ lệ log của biến phụ thuộc được mô hình hóa dưới dạng kết hợp tuyến tính của các biến độc lập và biến bị chặn. Coefficient Hệ số Các tham số ước tính của mô hình hồi quy logistic, cho thấy các biến độc lập và phụ thuộc có liên quan với nhau như thế nào.
Intercept Chặn Một thuật ngữ không đổi trong mô hình hồi quy logistic, biểu thị tỷ lệ logarit khi tất cả các biến độc lập đều bằng 0. Maximum Ước Phương pháp được sử dụng để ước tính các hệ số của mô likelihood tính khả hình hồi quy logistic, giúp tối đa hóa khả năng quan sát dữ estimation năng tối liệu được đưa ra từ mô hình. Mô hình phân tích chuỗi thời gian 2. Dữ liệu chuỗi thời gian 2.
Khái niệm Chuỗi thời gian với cấu trúc là một bảng dữ liệu có nhiều cột khác nhau, nhưng bắt buộc phải có cột dữ liệu thể hiện thời gian và các biến cố thay đổi theo cột thời gian đó. Ví dụ: trong kinh tế xã hội, các biến số được quan sát dọc theo thời gian như: GDP hàng năm, tỷ lệ thất nghiệp hàng năm, mức lạm phát hàng tháng, chỉ số VN index hàng ngày, giá vàng trên thị trường,. Các thành phần của chuỗi thời gian Tính xu hướng: Tính xu hướng là yếu tố thể hiện xu hướng thay đổi của dữ liệu theo thời gian. Đây là đặc trưng thường thấy của rất nhiều dữ liệu chuỗi thời gian.
Đặc biệt là các chuỗi trong kinh tế lượng như: giá cả thị trường chịu ảnh hưởng của lạm phát, dân số thế giới tăng qua các năm, nhiệt độ trung bình trái đất tăng theo thời gian do hiệu ứng nhà kính,… Tính mùa vụ: Thành phần chỉ ra các xu hướng theo mùa, theo tháng, theo quý,… Tính chu kỳ: Là quy luật có tính chất lặp lại của dữ liệu theo thời gian. Sự thay đổi thời tiết, sự phát triển của các loài động vật cho tới hành vi mua sắm, tiêu dùng của con người đều bị ảnh hưởng của chu kỳ và lặp lại theo thời gian. Yếu tố bất thường (Irregular remainder): Hay còn gọi là nhiễu trắng (white noise) thành phần nhiễu còn lại sau khi trích xuất hết các thành phần ở trên, nó chỉ ra sự bất thường của các điểm dữ liệu. Hình: Biểu đồ phân rã chuỗi thời gian 2.
Mô hình tự hồi quy bậc k chuỗi thời gian Mô hình tự hồi quy bậc k (Autoregressive model - AR) là một mô hình phân tích chuỗi thời gian, trong đó giá trị ước tính tương lai chỉ phụ thuộc vào giá trị trong quá khứ. Mô hình tự hồi quy bậc k có thể được biểu diễn dưới dạng công thức sau: xt=b0+b1xt−1+b2xt−2+.+bkxt−k+ϵt Trong đó, Xtlà giá trị của chuỗi thời gian tại thời điểm t, b0,b1,b2,.,bklà các hệ số hồi quy, k là bậc của mô hình, và ϵtlà phần sai số tại thời điểm t.