Hồi quy tuyến tính và ứng dụng trong phân tích dữ liệu (Khóa luận tốt nghiệp - ĐH Quảng Nam)

Hồi quy tuyến tính là gì? Tìm hiểu về mô hình hồi quy tuyến tính, ứng dụng thực tế trong phân tích dữ liệu và dự báo. Ví dụ minh họa dễ hiểu.

• Tác giả: Bounmy Seesuomang
• Người hướng dẫn: Ths. Lê Thị Nguyên An
• Trường học: Trường Đại học Quảng Nam
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Hồi qui tuyến tính và ứng dụng
• Loại tài liệu: Khóa luận tốt nghiệp
• Năm xuất bản: 2018
• Địa điểm: Quảng Nam

Mục lục chi tiết

• LỜI CẢM ƠN
• PHẦN 1. Lý do chọn đề tài
• Mục tiêu của đề tài
• Đối tƣợng và phạm vi nghiên cứu
• Phƣơng pháp nghiên cứu
• Lịch sử nghiên cứu
• Đóng góp của đề tài
• Cấu trúc đề tài
• NỘI DUNG NGHIÊN CỨU
• 1. CHƢƠNG 1 TỔNG QUAN VỀ KHAI PHÁ DỮ LIỆU
• 1.1. Tổng quan về khai phá dữ liệu
• 1.2. Mục tiêu của khai phá dữ liệu
• 1.3. Quá trình khai phá dữ liệu
• 1.4. Ứng dụng của khai phá dữ liệu
• 1.5. Một số phƣơng pháp khai phá dữ liệu hiện đại
• 1.6. Phân lớp và dự đoán
• 1.7. Phân lớp dữ liệu và hồi quy
• 1.8. Phân cụm dữ liệu
• 1.9. Khai phá dữ liệu sử dụng mạng Neural
• 1.10. Khai phá dữ liệu sử dụng thuật giải di truyền
• 1.11. Một số phƣơng pháp khai phá dữ liệu thông dụng
• 1.12. Khai phá dữ liệu sử dụng cây quyết định
• 1.13. Luật kết hợp
• 1.14. Phân tích chuỗi theo thời gian
• 1.15. Ứng dụng khai phá dữ liệu trong lĩnh vực khách hàng
• 2. CHƢƠNG 2 HỒI QUI TUYẾN TÍNH
• 2.1. Mô hình hồi quy
• 2.2. Khái niệm về hồi quy
• 2.3. Phân tích hồi quy giải quyết vấn đề
• 2.4. Giới thiệu về hồi qui tuyến tính
• 2.5. Bài toán Hồi Quy (Regression)
• 2.6. Một số phƣơng pháp hồi qui tuyến tính
• 2.7. Hồi quy tuyến tính với một ẩn
• 2.8. Hồi quy tuyến tính với nhiều ẩn
• 2.9. Hồi quy tuyến tính đa thức
• 2.10. Áp dụng vào bài toán định giá bất động sản
• 3. CHƢƠNG 3 THỬ NGHIỆM VÀ ĐÁNH GIÁ HỒI QUI TUYẾN TÍNH
• 3.1. Tổng quan về python
• 3.2. Cài đặt Python
• 3.3. Viết và thực thi một chƣơng trình viết bằng Python
• 3.4. Giới thiệu bài toán
• 3.5. Hƣớng dẫn giải quyết vấn đề
• 3.6. Cơ sở dữ liệu
• 3.7. Cài đặt ứng dụng
• 3.8. Đọc dữ liệu từ file CSV
• 3.9. Lựa chọn thuộc tính và phân chia tập dữ liệu mẫu
• 3.10. Áp dụng mô hình hồi quy tuyến tính
• 3.11. Áp dụng mô hình hồi quy LASSO dạng chuẩn L1
• 3.12. Đánh giá mô hình hồi quy vừa áp dụng
• TÀI LIỆU THAM KHẢO
• DANH MỤC HÌNH ẢNH

Tóm tắt

I. Khám phá Hồi quy tuyến tính Tổng quan ứng dụng thực tế

Trong kỷ nguyên số, khai phá dữ liệu đóng vai trò then chốt giúp các tổ chức, doanh nghiệp đưa ra quyết định sáng suốt. Giữa vô vàn phương pháp, hồi quy tuyến tính nổi bật nhờ tính đơn giản, dễ hiểu và khả năng ứng dụng rộng rãi. Các doanh nghiệp ngày nay đã và đang sử dụng các công cụ khai phá dữ liệu cho việc phân khúc khách hàng và lợi nhuận, dự đoán đầu tư và hướng phát triển, chấm điểm tín dụng và duyệt quảng bá các bản sản phẩm, hay phát hiện các giao dịch gian lận. Hồi quy tuyến tính giúp chúng ta khám phá mối quan hệ giữa các biến số, từ đó dự đoán và đưa ra các quyết định phù hợp. Theo UBND TỈNH QUẢNG NAM TRƯỜNG ĐẠI HỌC QUẢNG NAM, với mong muốn nghiên cứu về việc ứng dụng hồi qui tuyến tính trong khai phá dữ liệu, đề tài “Hồi qui tuyến tính và ứng dụng” đã được chọn làm khóa luận tốt nghiệp cuối khóa. Tuy nhiên, việc áp dụng hồi quy tuyến tính không phải lúc nào cũng suôn sẻ. Dữ liệu nhiễu, mối quan hệ phi tuyến tính, hoặc sự hiện diện của các yếu tố ngoại lai có thể ảnh hưởng đến độ chính xác của mô hình. Vì vậy, hiểu rõ bản chất, ưu nhược điểm, và các kỹ thuật xử lý dữ liệu là yếu tố then chốt để khai thác tối đa tiềm năng của hồi quy tuyến tính.

1.1. Định nghĩa Mục tiêu của Hồi quy tuyến tính

Hồi quy tuyến tính là một phương pháp thống kê được sử dụng để mô hình hóa mối quan hệ giữa một biến phụ thuộc (dependent variable) và một hoặc nhiều biến độc lập (independent variables) bằng cách sử dụng một phương trình tuyến tính. Mục tiêu chính là tìm ra phương trình tuyến tính phù hợp nhất để dự đoán giá trị của biến phụ thuộc dựa trên giá trị của các biến độc lập. Theo [UBND TỈNH QUẢNG NAM TRƯỜNG ĐẠI HỌC QUẢNG NAM], mục tiêu của đề tài được thực hiện là người làm đề tài nắm bắt và hiểu được các vấn đề về: Khai phá dữ liệu, Hồi qui tuyến tính trong khai phá dữ liệu, Ứng dụng hồi qui tuyến tính trong dự báo kinh doanh, Cài đặt, đánh giá thuật toán và bước đầu áp dụng vào việc dự báo.

1.2. Ưu điểm Hạn chế của Mô hình hồi quy tuyến tính

Ưu điểm của hồi quy tuyến tính bao gồm tính đơn giản, dễ hiểu, và dễ triển khai. Nó cũng cung cấp một cái nhìn trực quan về mối quan hệ giữa các biến số. Tuy nhiên, hồi quy tuyến tính có một số hạn chế, bao gồm giả định về mối quan hệ tuyến tính giữa các biến số, tính nhạy cảm với các giá trị ngoại lai, và khả năng bị ảnh hưởng bởi hiện tượng đa cộng tuyến (multicollinearity). Vì vậy, cần kiểm tra kỹ lưỡng các giả định trước khi áp dụng mô hình hồi quy tuyến tính.

1.3. Các loại Hồi quy tuyến tính phổ biến

Có hai loại hồi quy tuyến tính chính: Hồi quy tuyến tính đơn biến (Simple linear regression), sử dụng một biến độc lập để dự đoán biến phụ thuộc. Hồi quy tuyến tính đa biến (Multiple linear regression), sử dụng nhiều biến độc lập để dự đoán biến phụ thuộc.

II. Thách thức Vấn đề trong Phân tích dữ liệu hồi quy tuyến tính

Phân tích dữ liệu bằng hồi quy tuyến tính đối diện với nhiều thách thức. Một trong số đó là đảm bảo các giả định của mô hình được đáp ứng, bao gồm tính tuyến tính, tính độc lập của sai số, tính đồng nhất phương sai (homoscedasticity), và tính chuẩn của sai số. Vi phạm các giả định này có thể dẫn đến kết quả sai lệch và không đáng tin cậy. Thêm vào đó, việc xử lý các outliers, multicollinearity, và lựa chọn biến số phù hợp cũng là những vấn đề quan trọng cần được giải quyết. Ngoài ra, việc lựa chọn thuật toán cũng là một vấn đề cần được giải quyết, bởi các thuật toán có độ chính xác khác nhau.

2.1. Đảm bảo các giả định của Mô hình hồi quy

Trước khi diễn giải kết quả của mô hình hồi quy tuyến tính, cần kiểm tra xem các giả định của mô hình có được đáp ứng hay không. Các phương pháp kiểm tra bao gồm kiểm tra đồ thị phần dư (residual plots), kiểm tra tính chuẩn của phần dư (normality tests), và kiểm tra phương sai không đổi (homoscedasticity tests). Nếu các giả định bị vi phạm, cần áp dụng các biện pháp khắc phục, chẳng hạn như biến đổi dữ liệu, hoặc sử dụng các mô hình khác phù hợp hơn.

2.2. Xử lý Outliers và Multicollinearity hiệu quả

Outliers (giá trị ngoại lai) có thể ảnh hưởng đáng kể đến kết quả của mô hình hồi quy tuyến tính. Có nhiều phương pháp để xử lý outliers, bao gồm loại bỏ outliers, biến đổi dữ liệu, hoặc sử dụng các mô hình hồi quy mạnh mẽ hơn. Multicollinearity (đa cộng tuyến) xảy ra khi các biến độc lập có tương quan cao với nhau, gây khó khăn cho việc diễn giải các hệ số hồi quy. Để xử lý multicollinearity, có thể loại bỏ một trong các biến có tương quan cao, hoặc sử dụng các kỹ thuật như Regularization (Lasso, Ridge).

2.3. Lựa chọn biến số Feature Selection phù hợp trong Hồi quy

Việc lựa chọn các biến số phù hợp để đưa vào mô hình hồi quy tuyến tính là rất quan trọng. Các phương pháp lựa chọn biến số bao gồm lựa chọn tiến (forward selection), lựa chọn lùi (backward elimination), và lựa chọn từng bước (stepwise selection). Mục tiêu là tìm ra một tập hợp các biến số tối ưu, có khả năng dự đoán tốt nhất biến phụ thuộc.

III. Phương pháp xây dựng Mô hình hồi quy tuyến tính hiệu quả nhất

Để xây dựng một mô hình hồi quy tuyến tính hiệu quả, cần tuân thủ một quy trình chặt chẽ. Bước đầu tiên là thu thập và làm sạch dữ liệu. Tiếp theo, cần khám phá dữ liệu để hiểu rõ hơn về mối quan hệ giữa các biến số. Sau đó, có thể xây dựng mô hình, đánh giá hiệu suất, và tinh chỉnh mô hình để đạt được kết quả tốt nhất. Cuối cùng, cần diễn giải kết quả và truyền đạt thông tin một cách rõ ràng và dễ hiểu.

3.1. Thu thập làm sạch và chuẩn bị dữ liệu cho Hồi quy

Dữ liệu là yếu tố then chốt để xây dựng một mô hình hồi quy tuyến tính chính xác. Cần thu thập dữ liệu từ các nguồn đáng tin cậy, kiểm tra và xử lý các giá trị thiếu, và loại bỏ các lỗi nhập liệu. Sau đó, cần chuẩn hóa dữ liệu để đảm bảo rằng các biến số có cùng tỷ lệ và không ảnh hưởng đến kết quả của mô hình.

3.2. Feature Engineering và lựa chọn Mô hình hồi quy

Feature engineering là quá trình tạo ra các biến số mới từ các biến số hiện có, nhằm cải thiện hiệu suất của mô hình hồi quy tuyến tính. Có nhiều kỹ thuật feature engineering, bao gồm tạo các biến tương tác, biến đổi phi tuyến, và tạo các biến chỉ báo. Cần lựa chọn các kỹ thuật feature engineering phù hợp với đặc điểm của dữ liệu và mục tiêu của bài toán.

3.3. Đánh giá và cải thiện Mô hình hồi quy tuyến tính tối ưu

Sau khi xây dựng mô hình, cần đánh giá hiệu suất của mô hình bằng cách sử dụng các độ đo phù hợp, chẳng hạn như R-squared, Adjusted R-squared, RMSE (Root Mean Squared Error), và MAE (Mean Absolute Error). Nếu hiệu suất của mô hình chưa đạt yêu cầu, cần tinh chỉnh mô hình bằng cách thay đổi các tham số, thêm hoặc bớt các biến số, hoặc sử dụng các mô hình khác phù hợp hơn.

IV. Ứng dụng Hồi quy tuyến tính Dự báo phân tích dữ liệu

Hồi quy tuyến tính có vô số ứng dụng trong nhiều lĩnh vực khác nhau. Trong kinh tế, nó được sử dụng để dự báo tăng trưởng kinh tế, lạm phát, và tỷ giá hối đoái. Trong tài chính, nó được sử dụng để định giá tài sản, quản lý rủi ro, và dự đoán lợi nhuận. Trong khoa học xã hội, nó được sử dụng để nghiên cứu các yếu tố ảnh hưởng đến hành vi con người. Trong y học, nó được sử dụng để xác định các yếu tố nguy cơ của bệnh tật. Và trong marketing, nó được sử dụng để dự đoán doanh số bán hàng và đánh giá hiệu quả của các chiến dịch quảng cáo. UBND TỈNH QUẢNG NAM TRƯỜNG ĐẠI HỌC QUẢNG NAM chỉ ra một số lĩnh vực mà KPDL đang được ứng dụng rộng rãi: Y học và chăm sóc sức khỏe, Tài chính và thị trƣờng chứng khoán, Bảo hiểm, Quá trình sản xuất, Thiên văn học, Viễn thông, Máy tìm kiếm.

4.1. Ứng dụng Hồi quy tuyến tính trong Kinh tế Tài chính

Trong kinh tế, hồi quy tuyến tính có thể được sử dụng để dự báo các chỉ số kinh tế quan trọng, chẳng hạn như GDP, tỷ lệ thất nghiệp, và lạm phát. Trong tài chính, nó có thể được sử dụng để dự đoán giá cổ phiếu, đánh giá rủi ro đầu tư, và phân tích hiệu quả của các chiến lược giao dịch.

4.2. Hồi quy tuyến tính trong Khoa học xã hội Y học

Trong khoa học xã hội, hồi quy tuyến tính có thể được sử dụng để nghiên cứu các yếu tố ảnh hưởng đến hành vi con người, chẳng hạn như giáo dục, thu nhập, và môi trường sống. Trong y học, nó có thể được sử dụng để xác định các yếu tố nguy cơ của bệnh tật, đánh giá hiệu quả của các phương pháp điều trị, và dự đoán thời gian sống sót của bệnh nhân.

4.3. Dự báo bằng Hồi quy tuyến tính trong Marketing Bán hàng

Trong marketing, hồi quy tuyến tính có thể được sử dụng để dự đoán doanh số bán hàng, đánh giá hiệu quả của các chiến dịch quảng cáo, và xác định các yếu tố ảnh hưởng đến quyết định mua hàng của khách hàng. Nó giúp các nhà tiếp thị tối ưu hóa các chiến lược của mình và tăng doanh thu.

V. Hướng dẫn thực hành Hồi quy tuyến tính với Python R Excel

Có nhiều công cụ phần mềm khác nhau có thể được sử dụng để thực hiện hồi quy tuyến tính, bao gồm Python, R, và Excel. Python và R là các ngôn ngữ lập trình mạnh mẽ với nhiều thư viện thống kê, cho phép thực hiện các phân tích phức tạp và tùy chỉnh. Excel là một công cụ bảng tính dễ sử dụng, phù hợp cho các phân tích đơn giản và trực quan. Lựa chọn công cụ nào phụ thuộc vào kinh nghiệm của người dùng và yêu cầu của bài toán.

5.1. Python hồi quy tuyến tính Thư viện Code mẫu

Python cung cấp nhiều thư viện mạnh mẽ để thực hiện hồi quy tuyến tính, bao gồm scikit-learn, statsmodels, và numpy. Scikit-learn là một thư viện học máy phổ biến, cung cấp các công cụ để xây dựng và đánh giá các mô hình hồi quy tuyến tính. Statsmodels là một thư viện thống kê, cung cấp các công cụ để phân tích và diễn giải kết quả của mô hình. Numpy là một thư viện toán học, cung cấp các công cụ để thực hiện các phép tính số học trên dữ liệu.

5.2. R hồi quy tuyến tính Package Ví dụ minh họa

R là một ngôn ngữ lập trình thống kê, cung cấp nhiều package để thực hiện hồi quy tuyến tính, bao gồm lm, glm, và rpart. Lm là một package cơ bản, cung cấp các công cụ để xây dựng và đánh giá các mô hình hồi quy tuyến tính. Glm là một package tổng quát hơn, cho phép xây dựng các mô hình hồi quy phi tuyến và mô hình hồi quy tổng quát. Rpart là một package cây quyết định, cho phép xây dựng các mô hình hồi quy bằng cách sử dụng cây quyết định.

5.3. Excel hồi quy tuyến tính Cách thực hiện Diễn giải

Excel cung cấp một công cụ phân tích hồi quy đơn giản, cho phép thực hiện hồi quy tuyến tính trên dữ liệu bảng tính. Để thực hiện hồi quy tuyến tính trong Excel, chọn Data > Data Analysis > Regression. Sau đó, chọn phạm vi dữ liệu cho biến phụ thuộc và các biến độc lập, và chọn các tùy chọn khác như mức ý nghĩa và biểu đồ. Excel sẽ tạo ra một báo cáo hồi quy, bao gồm các hệ số hồi quy, các độ đo thống kê, và các biểu đồ phần dư.

VI. Kết luận Xu hướng phát triển của Hồi quy tuyến tính

Hồi quy tuyến tính vẫn là một công cụ quan trọng trong phân tích dữ liệu và dự báo, mặc dù có nhiều phương pháp tiên tiến hơn đã được phát triển. Nó cung cấp một nền tảng vững chắc để hiểu mối quan hệ giữa các biến số và đưa ra các quyết định sáng suốt. Trong tương lai, hồi quy tuyến tính có thể được kết hợp với các kỹ thuật học máy khác, chẳng hạn như mạng nơ-ron và cây quyết định, để tạo ra các mô hình mạnh mẽ hơn và linh hoạt hơn.

6.1. Tổng kết về Ứng dụng hồi quy tuyến tính và bài học rút ra

Hồi quy tuyến tính là một công cụ mạnh mẽ và linh hoạt, có thể được sử dụng để giải quyết nhiều bài toán khác nhau. Tuy nhiên, cần hiểu rõ các giả định của mô hình và các hạn chế của nó, và lựa chọn các kỹ thuật phù hợp để xử lý dữ liệu và xây dựng mô hình. Bằng cách áp dụng hồi quy tuyến tính một cách thông minh, có thể khai thác tối đa tiềm năng của dữ liệu và đưa ra các quyết định sáng suốt.

6.2. Hướng nghiên cứu phát triển tiếp theo của Mô hình hồi quy

Hướng nghiên cứu tiếp theo của hồi quy tuyến tính bao gồm phát triển các mô hình mạnh mẽ hơn và linh hoạt hơn, có thể xử lý dữ liệu phi tuyến và dữ liệu có cấu trúc phức tạp. Ngoài ra, cần nghiên cứu các phương pháp mới để đánh giá hiệu suất của mô hình và diễn giải kết quả một cách rõ ràng và dễ hiểu. Sự kết hợp với AI và Machine learning sẽ là một hướng phát triển đầy tiềm năng.

Trích đoạn nội dung tài liệu

UBND TỈNH QUẢNG NAM TRƢỜNG ĐẠI HỌC QUẢNG NAM KHOA CÔNG NGHỆ THÔNG TIN ---------- BOUNMY SEESUOMANG HỒI QUI TUYẾN TÍNH VÀ ỨNG DỤNG KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Quảng Nam, tháng 5 năm 2018 UBND TỈNH QUẢNG NAM TRƢỜNG ĐẠI HỌC QUẢNG NAM KHOA CÔNG NGHỆ THÔNG TIN ---------- KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Tên đề tài: HỒI QUI TUYẾN TÍNH VÀ ỨNG DỤNG Sinh viên thực hiện: BOUNMY SEESUOMANG MSSV: 2114011042 CHUYÊN NGÀNH: CÔNG NGHỆ THÔNG TIN KHÓA 2014 – 2018 Cán bộ hƣớng dẫn: ThS. LÊ THỊ NGUYÊN AN MSCB: ……… Quảng Nam, tháng 5 năm 2018 LỜI CẢM ƠN Để hoàn thành khóa luận tốt nghiệp này, em xin tỏ lòng biết ơn sâu sắc đến thầy giáo ThS. Lê Thị Nguyên An đã tận tình hƣớng dẫn trong suốt quá trình thực hiện đề tài. Em chân thành cảm ơn quý thầy, cô giáo trong khoa công nghệ thông tin, trƣờng Đại học Quảng Nam đã tận tình truyền đạt kiến thức trong những năm em học tập tại trƣờng.

Những kiến thức đƣợc tiếp thu trong quá trình học tập không chỉ là nền tảng cho quá trình nghiên cứu đề tài khóa luận tốt nghiệp mà còn là hành trang quí báu để em bƣớc vào đời. Trong quá trình làm khóa luận do trình độ lý luận cũng nhƣ kinh nghiệm thực tiễn còn hạn chế nên không thể tránh khỏi những thiếu sót, em rất mong nhận đƣợc ý kiến đóng góp của thầy, cô để em học thêm đƣợc nhiều kinh nghiệm và sẽ hoàn thành tốt khóa luận tốt nghiệp này. Em xin chân thành cảm ơn! MỤC LỤC PHẦN 1. Lý do chọn đề tài.

Mục tiêu của đề tài. Đối tƣợng và phạm vi nghiên cứu. Phƣơng pháp nghiên cứu. Lịch sử nghiên cứu.

Đóng góp của đề tài. Cấu trúc đề tài. NỘI DUNG NGHIÊN CỨU. 3 CHƢƠNG 1 TỔNG QUAN VỀ KHAI PHÁ DỮ LIỆU.Tổng quan về khai phá dữ liệu.

Mục tiêu của khai phá dữ liệu. Quá trình khai phá dữ liệu. Ứng dụng của khai phá dữ liệu. Một số phƣơng pháp khai phá dữ liệu hiện đại.

Phân lớp và dự đoán. Phân lớp dữ liệu và hồi quy. Phân cụm dữ liệu. Khai phá dữ liệu sử dụng mạng Neural.

Khai phá dữ liệu sử dụng thuật giải di truyền. Một số phƣơng pháp khai phá dữ liệu thông dụng. Khai phá dữ liệu sử dụng cây quyết định. Luật kết hợp.

Phân tích chuỗi theo thời gian. Ứng dụng khai phá dữ liệu trong lĩnh vực khách hàng. 11 CHƢƠNG 2 HỒI QUI TUYẾN TÍNH. Mô hình hồi quy.

Khái niệm về hồi quy. Phân tích hồi quy giải quyết vấn đề. Giới thiệu về hồi qui tuyến tính. Bài toán Hồi Quy (Regression).

Một số phƣơng pháp hồi qui tuyến tính. Hồi quy tuyến tính với một ẩn. Hồi quy tuyến tính với nhiều ẩn. Hồi quy tuyến tính đa thức.

Áp dụng vào bài toán định giá bất động sản. 17 CHƢƠNG 3 THỬ NGHIỆM VÀ ĐÁNH GIÁ HỒI QUI TUYẾN TÍNH. Tổng quan về python. Cài đặt Python.

Viết và thực thi một chƣơng trình viết bằng Python. Giới thiệu bài toán. Hƣớng dẫn giải quyết vấn đề. Cơ sở dữ liệu.

Cài đặt ứng dụng. Đọc dữ liệu từ file CSV. Lựa chọn thuộc tính và phân chia tập dữ liệu mẫu. Áp dụng mô hình hồi quy tuyến tính.

Áp dụng mô hình hồi quy LASSO dạng chuẩn L1. Đánh giá mô hình hồi quy vừa áp dụng. TÀI LIỆU THAM KHẢO. 36 DANH MỤC HÌNH ẢNH Hình 1: Quá trình khai phá dữ liệu.

4 Hình 2: Mô hình hồi quy. 13 Hình 3: Ví dụ về hồi quy tuyến tính. 15 Hình 4: Ví dụ về hồi quy đa thức. 17 Hình 5: Cộng đồng ngƣời sử dụng Python.

20 Hình 6: Download python. 21 Hình 7: Install python. 22 Hình 8: Đợi quá trình cài đặt. 22 Hình 9: Màn hình báo thành công.

23 Hình 10: Xuất hiện cửa số thì cài đặt thành công. 23 Hình 11: Các công cụ sau khi cài đặt xong Python. 24 Hình 12: Giao diện của IDLE PYTHON. 25 Hình 13: Kết quả mành hình sẽ hiện dòng “ Hello World”.

25 Hình 14: Vào tab File => New Windows. 26 Hình 15: Dùng CMD để biên dịch. 29 Hình 16: Cơ sở dữ liệu của bài toán. 30 Hình 17: Đọc dữ liệu từ cơ sở dữ liệu.

31 Hình 18: Lựa chọn thuộc tính và phân chia dữ liệu. 31 Hình 19: Mô hình hồi quy tuyến tính. 32 Hình 20: Mô hình hồi quy LASSO dạng chuẩn L1. 33 Hình 21: Đánh giá 3 mô hình hồi quy.

33 Hình 22: Kết quả. Lý do chọn đề tài Hiện nay cùng với sự phát triển bùng nổ của lĩnh vực Công nghệ thông tin thì lĩnh vực kinh doanh trên thế giới cũng đã trải qua một sự thay đổi to lớn về nội dung cũng nhƣ các cách thức kinh doanh đặc biệt từ khi có sự hỗ trợ đắc lực của công nghệ thông tin thì lĩnh vực kinh doanh đã bắt đầu nhận ra sự cần thiết của các kỹ thuật trong khai phá dữ liệu bởi các kỹ thuật này có thể giúp họ cạnh tranh tốt hơn trên thị trƣờng hiện nay. Họ đã và đang sử dụng các công cụ khai phá dữ liệu cho việc phân khúc khách hàng và lợi nhuận, dự đoán đầu tƣ và hƣớng phát triển, chấm điểm tín dụng và duyệt quảng bá các bản sản phẩm, hay phát hiện các giao dịch gian lận. Có nhiều phƣơng pháp đƣợc đề xuất, tuy nhiên không có phƣơng pháp tiếp cận nào là tối ƣu và chính xác hơn hẳn những phƣơng pháp khác.

Dù sao với mỗi phƣơng pháp có một lợi thế và bất lợi riêng khi sử dụng. Một trong những công cụ khai phá tri thức hiệu quả hiện nay là sử dụng hồi qui tuyến tính để tìm ra các quyết định phù hợp. Với mong muốn nghiên cứu về việc ứng dụng hồi qui tuyến tính trong khai phá dữ liệu tôi đã chọn đề tài “Hồi qui tuyến tính và ứng dụng” làm khóa luận tốt nghiệp cuối khóa của mình. Mục tiêu của đề tài Đề tài đƣợc thực hiện với mục tiêu cuối cùng là ngƣời làm đề tài nắm bắt và hiểu đƣợc các vấn đề về:  Khai phá dữ liệu  Hồi qui tuyến tính trong khai phá dữ liệu  Ứng dụng hồi qui tuyến tính trong dự báo kinh doanh  Cài đặt, đánh giá thuật toán và bƣớc đầu áp dụng vào việc dự báo 1.

Đối tƣợng và phạm vi nghiên cứu Đối tượng:  Các lĩnh vực liên quan có thể dự báo trong kinh doanh  Các nội dung liên quan học phần khai phá dữ liệu 1 Phạm vi nghiên cứu là các vấn đề cơ bản về:  Khai phá dữ liệu  Hồi qui tuyến tính trong khai phá dữ liệu  Ứng dụng hồi qui tuyến tính trong dự báo kinh doanh  Cài đặt và đánh giá thuật toán và bƣớc đầu áp dụng vào việc dự báo 1. Phƣơng pháp nghiên cứu  Phƣơng pháp nghiên cứu tài liệu: Phân tích và tổng hợp các tài liệu về khai phá dữ liệu sử dụng hồi qui tuyến tính cho các mô hình dự báo.  Phƣơng pháp thực nghiệm: Ứng dụng kết hợp kỹ thuật hồi qui tuyến tính để dự báo trong kinh doanh. Lịch sử nghiên cứu  Nội dung đã đƣợc học ở học phần Khai phá dữ liệu.

 Có nhiều ngƣời cũng nhƣ các nhóm nghiên cứu đã chọn kiến thức này làm nội dung cho đề tài nghiên cứu của họ. Đóng góp của đề tài  Đề tài đƣợc thực hiện với mong muốn ngƣời làm hiểu rõ hơn các vấn đề trong khai phá dữ liệu đặc biệt là hồi qui tuyến tính và áp dụng trong dự báo.  Hiểu hơn nữa một số hàm hồi qui mà excel đã xây dựng với mục đích hỗ trợ cho công việc dự báo kinh doanh. Cấu trúc đề tài Chƣơng 1: Tổng quan về khai phá dữ liệu Chƣơng 2: Hồi qui tuyến tính Chƣơng 3: Thử nghiệm và đánh giá hồi qui tuyến tính 2 PHẦN 2.

NỘI DUNG NGHIÊN CỨU CHƢƠNG 1 TỔNG QUAN VỀ KHAI PHÁ DỮ LIỆU 1.Tổng quan về khai phá dữ liệu 1. Khái niệm Khai phá dữ liệu là một giai đoạn quan trọng trong quá trình KPTT. Về bản chất nó là giai đoạn duy nhất tìm ra đƣợc thông tin mới. Việc khai phá dữ liệu còn đƣợc coi nhƣ là việc khai phá tri thức từ dữ liệu (knowlegde mining from databases), trích lọc tri thức (knowlegde extraction), phân tích dữ liệu-mẫu (data- partent analysis), khảo cứu dữ liệu (data archaeology), đào xới, nạo vét dữ liệu (data dredging).

Khai phá dữ liệu (Data Mining) đƣợc định nghĩa là quá trình trích lọc các thông tin có giá trị ẩn trong lƣợng lớn dữ liệu đƣợc lƣu trữ trong các CSDL hoặc các kho dữ liệu,. Khai phá dữ liệu cũng còn đƣợc coi là một quá trình tìm kiếm, khám phá ở nhiều góc độ để tìm ra các mối tƣơng quan, các mối liên hệ dƣới nhiều góc độ khác nhau nhằm tìm ra các mẫu hay các mô hình tồn tại bên trong cơ sở dữ liệu đang bị che khuất. Để trích rút các mẫu, mô hình tiềm ẩn có tính “tri thức” ta phải tìm và áp dụng các phƣơng pháp, kỹ thuật khai phá sao cho các kỹ thuật và phƣơng pháp này phải phù hợp với tính chất, đặc trƣng của dữ liệu và mục đích sử dụng. Tuy khai phá dữ liệu chỉ là một bƣớc trong quá trình khám phá tri thức nhƣng nó lại là bƣớc tiên quyết, quan trọng và ảnh hƣởng đến toàn bộ quá trình.

Tóm lại, khai phá dữ liệu là một quá trình tìm kiếm thông tin “tri thức” tiềm ẩn trong cơ sở dữ liệu lớn, khổng lồ. Vì thế, có thể nói rằng hai thuật ngữ khám phá tri thức và khai phá dữ liệu là tƣơng đƣơng nếu nói ở khía cạnh tổng quan, còn nếu xét ở một góc độ chi tiết thì khai phá dữ liệu là một giai đoạn có vai trò quan trọng trong quá trình khám phá tri thức. Mục tiêu của khai phá dữ liệu Qua những nội dung đã trình bày ở trên, ta có thể hiểu một cách sơ lƣợc rằng khai phá dữ liệu là quá trình tìm kiếm thông tin hữu ích, tiềm ẩn và 3 mang tính dự báo trong các cơ sở dữ liệu lớn. Việc khai phá dữ liệu nhằm các mục đích chính nhƣ sau: - Khai thác những thông tin tiềm ẩn mang tính dự đoán từ những cơ sở dữ liệu lớn dựa trên các công cụ khai phá dữ liệu nhằm dự đoán những xu hƣớng trong tƣơng lai nhằm giúp các đối tƣợng cần tri thức khai phá nhƣ: các tổ chức, doanh nghiệp, nhà nghiên cứu,.