CHƯƠNG 1: CƠ SỞ LÝ THUYẾT 1. Giới thiệu về học máy Học máy (ML) là một nhánh của trí tuệ nhân tạo (AI) cho phép các máy tính học hỏi từ dữ liệu mà không cần được lập trình cụ thể cho từng nhiệm vụ. Nó làm điều này bằng cách sử dụng các thuật toán để phân tích dữ liệu đầu vào để đưa ra dự đoán cho các giá trị đầu ra mới [7]. Các thuật toán học máy chủ yếu được chia thành bốn loại: học có giám sát (Supervised Learning), học không giám sát (Unsupervised Learning), học bán giám sát (Semi-Supervised Learning) và học tăng cường (Reinforcement Learning).
Hình 1 minh họa các loại kỹ thuật học máy này. Hình 1: Các loại kỹ thuật học máy khác nhau. (Được vẽ lại dựa trên Sarker, I. Học có giám sát (Supervised Learning) Học có giám sát là loại phổ biến nhất trong học máy.
Ở loại này, dữ liệu huấn luyện đã được gắn nhãn. Nhiệm vụ của học máy là tìm ra một hàm có nhiệm vụ ánh xạ (xấp xỉ) mỗi phần tử đầu vào sang một phần tử đầu ra tương ứng. 17 Các nhiệm vụ phổ biến nhất được thực hiện từ một tập hợp đầu vào nhất định là Classification – phân loại, và Regression - hồi quy. Ví dụ, việc phân loại cảm xúc một đánh giá sản phẩm là một ví dụ về học có giám sát.
Học không giám sát (Unsupervised Learning) Học không giám sát là loại học máy được đào tạo trên tập dữ liệu không được gắn nhãn. Loại học máy này không cần sự can thiệp của con người, nghĩa là một quy trình dựa hoàn toàn trên dữ liệu. Các nhiệm vụ học không giám sát phổ biến nhất là phân cụm, giảm chiều, tìm quy tắc kết hợp, phát hiện dị thường, … 1. Học bán giám sát (Semi-Supervised Learning) Học bán giám sát là sự kết hợp của học có giám sát và không giám sát, nó hoạt động trên tập dữ liệu bao gồm cả dữ liệu có nhãn và dữ liệu không có nhãn.
Trong một số trường hợp, dữ liệu được gắn nhãn thường ít hơn rất nhiều so với dữ liệu không gắn nhãn. Một số lĩnh vực bán giám sát được sử dụng bao gồm phát hiện gian lận, dán nhãn dữ liệu,… 1. Học tăng cường (Reinforcement Learning) Học tăng cường là bài toán mà trong đó hệ thống tự đánh giá hành vi tối ưu trong ngữ cảnh hoặc môi trường cụ thể để cải thiện hiệu quả của chính nó. Loại học này dựa trên phần thưởng hoặc hình phạt, và mục tiêu cuối cùng của nó là sử dụng những hiểu biết thu được từ các nhà hoạt động môi trường để hành động nhằm tăng phần thưởng hoặc giảm thiểu rủi ro.
Nó là một công cụ mạnh mẽ để đào tạo các mô hình trí tuệ nhân tạo có thể giúp tăng cường tự động hóa hoặc tối ưu hóa hiệu quả hoạt động của các hệ thống phức tạp như robot học, nhiệm vụ lái xe tự động, hậu cần sản xuất và chuỗi cung ứng,… 1. Ứng dụng của học máy trong dự đoán kinh doanh Dự báo kinh doanh là quá trình đưa ra các dự đoán thông tin về các chỉ số kinh doanh nhất định, chẳng hạn như tăng trưởng doanh số, dự đoán sản phẩm bán được hoặc dự báo cho nền kinh tế nói chung. Nó liên quan đến việc sử dụng dữ liệu lịch sử, xu 18 hướng thị trường và kỹ thuật thống kê, học máy để dự đoán kết quả kinh doanh trong tương lai [9]. Các doanh nghiệp hiện đại ngày nay muốn phát triển thì đều đi theo hướng số hóa, điều này bao gồm cả việc sử dụng ML cho các tác vụ dự đoán kinh doanh.
Một số lợi ích của học máy trong kinh doanh: - Ra quyết định dựa trên dữ liệu. Học máy cho phép các doanh nghiệp đưa ra quyết định chính xác và sáng suốt hơn bằng cách phân tích một lượng lớn dữ liệu một cách nhanh chóng và hiệu quả và cung cấp thông tin chi tiết dựa trên nó. - Nâng cao trải nghiệm khách hàng. Bằng cách cá nhân hóa các dịch vụ và đề xuất, học máy cải thiện đáng kể sự hài lòng và tương tác của khách hàng.
Điều này dẫn đến kết quả hoạt động tốt hơn và nâng cao lòng trung thành với thương hiệu. - Cải thiện hiệu quả hoạt động. Học máy cho doanh nghiệp tự động hóa các tác vụ thường ngày, tối ưu hóa quy trình và giảm lỗi, dẫn đến tăng năng suất và tiết kiệm chi phí. Các công ty hàng đầu báo cáo hiệu quả quy trình tăng 30% khi triển khai ML [10].
- Quản lý rủi ro tốt hơn. ML trong kinh doanh cung cấp các công cụ tiên tiến để xác định, đánh giá và giảm thiểu các rủi ro khác nhau dựa trên dữ liệu lịch sử và thực tế, tăng cường sự ổn định tài chính và hoạt động. Thống kê cho thấy việc triển khai ML có thể giúp giảm tới 20% chi phí quản lý rủi ro [11]. - Tăng cường phân tích xu hướng thị trường.
Học máy giúp dự đoán chính xác xu hướng thị trường, cho phép các doanh nghiệp chủ động điều chỉnh chiến lược. - Cải thiện bảo trì dự đoán. Các mô hình dựa trên ML có thể dự đoán lỗi thiết bị và nhu cầu bảo trì, giảm thời gian chết và chi phí vận hành trong sản xuất và các ngành công nghiệp khác. - Học máy cho các công ty có sức mạnh biến đổi.
Với sự gia tăng về số lượng và chất lượng dữ liệu kinh doanh, việc sử dụng các thuật toán thông minh có lẽ là cách duy nhất để đạt được tầm cao mới và đi trước các đối thủ cạnh tranh. Thuật toán Hồi quy tuyến tính (Linear Regression) 1. Giới thiệu 19 Linear Regression là một thuật toán học có giám sát (supervised learning) để xác định mối quan hệ tuyến tính giữa một hoặc nhiều biến đầu vào (biến độc lập) với biến đầu ra (biến phụ thuộc). Ví dụ: - Biến độc lập: Lịch sử giá, lịch sử bán hàng, xu hướng thị trường, mức độ đánh giá của khách hàng về sản phẩm,… - Biến phụ thuộc: Số lượng sản phẩm bán được.
Linear Regression được gọi là là hồi quy tuyến tính đơn biến (simple linear regression) khi chỉ có một biến độc lập, hoặc hồi quy tuyến tính đa biến (multiple linear regression) khi có nhiều biến độc lập. Thuật toán Linear Regression sẽ tìm ra một phương trình tuyến tính để biểu diễn mối quan hệ này. Phân tích toán học 1. Dạng phương trình của Linear Regression Trong trường hợp tổng quát, mô hình hồi quy tuyến tính đa biến (multiple linear regression) được biểu diễn dưới dạng toán học: 𝑦 = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑘 𝑥𝑘 + 𝜀 (1) Trong đó: • 𝑦 là biến phụ thuộc.
• 𝛽0 là hệ số tự do. • 𝛽1 , 𝛽2 , … , 𝛽𝑘 là hệ số hồi quy (coefficients) tương ứng với các biến độc lập 𝑥1 , 𝑥2 , … , 𝑥𝑘. • 𝜀 là thành phần sai số. Một mẫu (sample) trong (1) có thể biểu diễn là: (𝑖) (𝑖) (𝑖) 𝑦 (i) = 𝛽0 + 𝛽1 𝑥1 + 𝛽2 𝑥2 + ⋯ + 𝛽𝑘 𝑥𝑘 + 𝜀 (𝑖) , 1 ≤ 𝑖 ≤ 𝑛 (2) Để thuận tiện hơn trong tính toán, chúng ta đặt 20 (1) (1) (1) 𝑦 (1) 1 𝑥1 𝑥2 𝑥𝑘 𝛽0 ⋯ 𝜀 (1) (2) (2) (2) (2) 𝒚= 𝑦 , 𝑿 = 1 𝑥1 𝑥2 𝑥𝑘 , 𝜷 = [ 𝛽1 ], 𝜺 = [ 𝜀 (2) ], 𝑝 = 𝑘 + 1 ⋮ ⋮ ⋮ ⋮ ⋱ ⋮ ⋮ ⋮ (𝑛) 𝛽𝑘 (𝑛) [𝑦 ] (𝑛) (𝑛) ⋯ (𝑛) 𝑥𝑘 ] 𝜀 [1 𝑥 1 𝑥2 Khi đó, phương trình hồi quy tuyến tính đa biến có thể được biểu diễn dạng ma trận là: 𝒚 = ⏟ ⏟ 𝑿.
Hàm mất mát Hàm mất mát (loss function) là hàm biểu thị độ sai lệch giữa giá trị dự đoán và giá trị thực tế. Hàm mất mát được sử dụng phổ biến nhất trong hồi quy tuyến tính là hàm trung bình độ lỗi bình phương (Mean Squared Error – MSE). Với 𝑦̂𝑖 là giá trị dự đoán của 𝑦𝑖 , phương trình hàm mất mát được biểu diễn dạng 𝑛 𝑛 1 1 𝐿(𝛽) = 𝑀𝑆𝐸 (𝛽) = ∑(𝑦𝑖 − 𝑦̂𝑖 )2 = ∑ 𝜀𝑖2 = 𝜺𝑇 𝜺 = (𝒚 − 𝑿𝜷)𝑻 (𝒚 − 𝑿𝜷) 𝑛 𝑛 𝑖=1 𝑖=1 Sau khi có hàm mất mát, mục tiêu của bài toán hồi quy tuyến tính trở thành tìm hệ số 𝜷 sao cho hàm mất mát nhỏ nhất. Để tìm tham số 𝜷, thông thường ta sử dụng phương pháp đạo hàm hoặc phương pháp Gradient Descent.
Thuật toán Decision Tree 1. Giới thiệu Cây quyết định (Decision Tree) là một thuật toán học có giám sát có thể áp dụng cho cả hai nhiệm vụ phân loại và hồi quy. Ý tưởng chính của thuật toán này là tạo ra một cây phân cấp. Trong đó, mỗi nút trên cây đại diện cho một quyết định, trong khi mỗi lá là một giá trị dự đoán.
Ưu điểm lớn nhất của cây quyết định là vì nó tương tự với cách chúng ta đưa ra quyết định, có thể biểu diễn trực quan nên dễ hiểu. Trong phạm vi nghiên cứu của đề tài, chúng ta sẽ tập trung tìm hiểu về cây quyết định cho bài toán hồi quy hay còn gọi là cây hồi quy. Các thuật ngữ trong cây quyết định hồi quy 21 - Nút gốc (Root Node): là nút đầu tiên của cây và là nút duy nhất không có nút cha. Nút này chứa toàn bộ dữ liệu và khởi tạo quá trình phân cấp.
- Nút quyết định (Decision Node): Nút này đại diện cho các quyết định hoặc điều kiện trung gian trong cây. - Nút lá (Leaf Nodes): Các nút không thể phân tách thêm, là kết quả cuối cùng của cây. Các nút lá còn được gọi là nút cuối cùng. - Cây con (Sub-Tree): Tương tự như phần con của biểu đồ được gọi là biểu đồ con, phần con của cây quyết định được gọi là cây con.
Nó đại diện cho một phần cụ thể của cây quyết định. - Cắt tỉa (Pruning): Quá trình loại bỏ hoặc cắt giảm các nút cụ thể trong cây quyết định để ngăn chặn quá khớp (overfitting) và đơn giản hóa mô hình. - Nút cha và con (Parent and Child Node): Một nút được chia thành các nút con được gọi là nút cha và các nút con xuất hiện từ nó được gọi là nút con. Nút cha thể hiện một quyết định hoặc điều kiện, trong khi các nút con thể hiện các kết quả tiềm năng hoặc các quyết định tiếp theo dựa trên điều kiện đó.
Hình 2: Minh họa các thuật ngữ cây quyết định 1.