Một Số Phương Pháp Học Máy Hiệu Quả Trong Môi Trường Dữ Liệu Liên Tục

Khám phá các phương pháp học máy hiệu quả trong môi trường luồng dữ liệu liên tục, giúp tối ưu hóa quy trình phân tích và ra quyết định.

• Tác giả: Ngô Văn Linh
• Người hướng dẫn: PGS. Thân Quang Khoát
• Trường học: Đại học Bách Khoa Hà Nội
• Chuyên ngành: Hệ thống thông tin
• Đề tài: Phương Pháp Học Máy Hiệu Quả Trong Môi Trường Dữ Liệu Liên Tục
• Loại tài liệu: luận án tiến sĩ
• Năm xuất bản: 2023
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: KIẾN THỨC NỀN TẢNG
• 1.1. Mô hình Bayes
• 1.2. Mô hình Bayes tổng quát
• 1.3. Mô hình chủ đề ẩn (Latent Dirichlet Allocation (LDA))
• 1.4. Mô hình Naive Bayes
• 1.5. Tổng quan học mô hình Bayes trên luồng dữ liệu
• 1.6. Các phương pháp học mô hình Bayes trên luồng dữ liệu
• 1.7. Tập dữ liệu và độ đo. Các tập dữ liệu
• 1.8. Mạng đồ thị tích chập (Graph Convolutional Networks (GCN))
• 1.9. Kết luận chương 1
• 2. CHƯƠNG 2: KHAI THÁC TRI THỨC TIÊN NGHIỆM TRONG LUỒNG DỮ LIỆU
• 2.1. Biến đổi tri thức tiên nghiệm trong môi trường luồng dữ liệu. Đề xuất phương pháp
• 2.2. Một số tính chất của TPS
• 2.3. Khai thác tri thức tiên nghiệm dưới dạng vectơ từ
• 2.4. Khai thác tri thức tiên nghiệm dưới dạng đồ thị
• 2.5. Thử nghiệm TPS với Word2vec
• 2.6. Thử nghiệm về GCTM với đồ thị tri thức
• 2.7. Kết luận chương 2
• 3. CHƯƠNG 3: DROPOUT VỚI KHẢ NĂNG TỰ THÍCH NGHI CHO LUỒNG DỮ LIỆU
• 3.1. Dropout với khả năng tự thích nghi cho luồng dữ liệu
• 3.2. Dropout vô hạn cho dữ liệu luồng
• 3.3. Dropout vô hạn với với khả năng tự thích nghi aiDropout
• 3.4. Áp dụng aiDropout cho các mô hình Bayes
• 3.4.1. Áp dụng 1: LDA là mô hình cơ sở
• 3.4.2. Áp dụng 2: NB là mô hình cơ sở
• 3.5. Một số thảo luận về aiDropout
• 3.6. Thử nghiệm trên dữ liệu ngắn và nhiễu
• 3.7. Đối diện với sự thay đổi đột ngột của dòng dữ liệu
• 3.8. Kết luận chương 3
• 4. CHƯƠNG 4: CÂN BẰNG GIỮA TÍNH ỔN ĐỊNH VÀ MỀM DẺO
• 4.1. Cân bằng giữa tính ổn định và tính mềm dẻo
• 4.2. Mô hình cân bằng giữa tính ổn định và mềm dẻo (BSP). Quá trình huấn luyện của BSP
• 4.3. Một số tính chất của BSP
• 4.4. Thử nghiệm trên tập văn bản ngắn và nhiễu
• 4.5. Tính ổn định và mềm dẻo
• 4.6. Đánh giá ảnh hưởng của các tham số
• 4.7. Kết luận chương 4
• KẾT LUẬN
• DANH MỤC CÁC CÔNG TRÌNH ĐÃ CÔNG BỐ
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng Quan Về Học Máy Liên Tục Khái Niệm Ứng Dụng

Trong bối cảnh dữ liệu ngày càng được tạo ra liên tục từ nhiều nguồn như mạng xã hội, thương mại điện tử, và các ứng dụng IoT, nhu cầu về các phương pháp học máy liên tục hiệu quả trở nên cấp thiết. Học máy liên tục cho phép các mô hình thích ứng với dữ liệu mới mà không cần phải huấn luyện lại từ đầu, tiết kiệm tài nguyên và thời gian. Các ứng dụng của học máy liên tục rất đa dạng, từ gợi ý sản phẩm cá nhân hóa đến phát hiện gian lận trong tài chính và dự đoán bảo trì trong công nghiệp. Việc phát triển các thuật toán học máy thích ứng có khả năng xử lý dữ liệu luồng là một lĩnh vực nghiên cứu quan trọng, nhằm khai thác tối đa giá trị từ dòng dữ liệu không ngừng này. Các phương pháp này cần phải cân bằng giữa việc học kiến thức mới và duy trì những gì đã học được từ dữ liệu cũ, một thách thức không nhỏ trong lĩnh vực học máy trực tuyến.

1.1. Định Nghĩa và Đặc Điểm của Học Máy Liên Tục

Học máy liên tục, còn gọi là học máy trực tuyến hoặc học máy thích ứng, là một phương pháp cho phép mô hình học từ dữ liệu đến liên tục theo thời gian. Khác với học máy truyền thống, học máy liên tục không yêu cầu tập dữ liệu cố định mà cập nhật mô hình dựa trên từng mẫu dữ liệu hoặc mini-batch. Điều này đòi hỏi các thuật toán phải có khả năng thích ứng nhanh chóng với những thay đổi trong phân phối dữ liệu và duy trì hiệu suất ổn định theo thời gian. Đặc điểm nổi bật của học máy liên tục là khả năng xử lý dữ liệu luồng và dữ liệu thay đổi theo thời gian một cách hiệu quả.

1.2. Ứng Dụng Thực Tế Của Học Máy Liên Tục Trong Đời Sống

Học máy liên tục có nhiều ứng dụng thực tế quan trọng. Trong lĩnh vực thương mại điện tử, nó được sử dụng để cá nhân hóa gợi ý sản phẩm cho người dùng dựa trên lịch sử mua hàng và hành vi duyệt web. Trong tài chính, nó giúp phát hiện gian lận và dự đoán rủi ro tín dụng. Trong công nghiệp, nó được áp dụng để dự đoán bảo trì và tối ưu hóa quy trình sản xuất. Ngoài ra, học máy liên tục còn được sử dụng trong các hệ thống giám sát môi trường, phân tích mạng xã hội và nhiều lĩnh vực khác, nơi dữ liệu được tạo ra liên tục và cần được xử lý kịp thời.

1.3. So Sánh Học Máy Liên Tục Với Học Máy Truyền Thống

Điểm khác biệt chính giữa học máy liên tục và học máy truyền thống nằm ở cách xử lý dữ liệu. Học máy truyền thống thường huấn luyện mô hình trên một tập dữ liệu cố định và không thay đổi, trong khi học máy liên tục cập nhật mô hình dựa trên dữ liệu mới đến liên tục. Học máy liên tục đòi hỏi các thuật toán phải có khả năng thích ứng với những thay đổi trong phân phối dữ liệu và duy trì hiệu suất ổn định theo thời gian. Ngoài ra, học máy liên tục thường phải đối mặt với các thách thức như quên thảm họa (catastrophic forgetting), khi mô hình quên kiến thức cũ khi học kiến thức mới.

II. Thách Thức Khi Áp Dụng Học Máy Liên Tục Vấn Đề Cần Giải

Mặc dù học máy liên tục mang lại nhiều lợi ích, việc triển khai nó trong thực tế gặp phải không ít thách thức. Một trong những vấn đề lớn nhất là quên thảm họa (catastrophic forgetting), khi mô hình quên kiến thức đã học được từ dữ liệu cũ khi tiếp xúc với dữ liệu mới. Ngoài ra, dữ liệu luồng thường có tính chất thưa và nhiễu, gây khó khăn cho việc học mô hình chính xác. Sự thay đổi đột ngột trong phân phối dữ liệu (concept drifts) cũng là một thách thức lớn, đòi hỏi mô hình phải có khả năng thích ứng nhanh chóng. Cuối cùng, việc đảm bảo tính ổn định và mềm dẻo của mô hình là một bài toán cân bằng khó khăn, đòi hỏi các nhà nghiên cứu phải phát triển các thuật toán mới và hiệu quả.

2.1. Vấn Đề Quên Thảm Họa Trong Học Máy Liên Tục

Quên thảm họa (catastrophic forgetting) là một trong những thách thức lớn nhất trong học máy liên tục. Khi mô hình học kiến thức mới, nó có thể vô tình ghi đè lên những gì đã học được từ dữ liệu cũ, dẫn đến giảm hiệu suất trên các tác vụ trước đó. Để giải quyết vấn đề này, các nhà nghiên cứu đã đề xuất nhiều phương pháp, bao gồm học chuyển giao, học đa nhiệm, và các kỹ thuật ổn định mô hình.

2.2. Xử Lý Dữ Liệu Thưa và Nhiễu Trong Môi Trường Dữ Liệu Luồng

Dữ liệu luồng thường có tính chất thưa và nhiễu, đặc biệt trong các ứng dụng như phân tích văn bản ngắn và hệ thống gợi ý. Dữ liệu thưa có thể không cung cấp đủ thông tin để học mô hình chính xác, trong khi dữ liệu nhiễu có thể làm sai lệch quá trình học. Để giải quyết vấn đề này, các phương pháp khai thác tri thức tiên nghiệm và làm sạch dữ liệu có thể được sử dụng.

2.3. Thích Ứng Với Sự Thay Đổi Đột Ngột Trong Dòng Dữ Liệu

Sự thay đổi đột ngột (concept drifts) trong dòng dữ liệu là một thách thức lớn đối với học máy liên tục. Khi phân phối dữ liệu thay đổi đột ngột, mô hình cần phải thích ứng nhanh chóng để duy trì hiệu suất. Các phương pháp phát hiện thay đổi và cập nhật mô hình thích ứng có thể được sử dụng để giải quyết vấn đề này.

III. Phương Pháp Học Máy Thích Ứng Giải Pháp Cho Dữ Liệu Động

Để giải quyết các thách thức trong học máy liên tục, nhiều phương pháp đã được phát triển. Các phương pháp này tập trung vào việc duy trì tính ổn định mô hình và khả năng thích ứng với dữ liệu mới. Một số phương pháp phổ biến bao gồm sử dụng tri thức tiên nghiệm, dropout thích ứng, và cân bằng giữa ổn định và mềm dẻo. Các phương pháp này giúp mô hình học kiến thức mới mà không quên kiến thức cũ, đồng thời thích ứng nhanh chóng với những thay đổi trong dòng dữ liệu.

3.1. Khai Thác Tri Thức Tiên Nghiệm Trong Luồng Dữ Liệu

Tri thức tiên nghiệm có thể được sử dụng để cải thiện hiệu suất của học máy liên tục trong môi trường dữ liệu luồng. Bằng cách tích hợp thông tin từ các nguồn bên ngoài hoặc từ dữ liệu quá khứ, mô hình có thể học nhanh hơn và chính xác hơn. Các phương pháp biến đổi tri thức tiên nghiệm và giữ tri thức tiên nghiệm đã được đề xuất để khai thác tri thức tiên nghiệm một cách hiệu quả.

3.2. Sử Dụng Dropout Thích Ứng Cho Học Máy Liên Tục

Dropout là một kỹ thuật regularization phổ biến trong học sâu. Dropout thích ứng là một biến thể của dropout được thiết kế để hoạt động tốt trong môi trường dữ liệu luồng. Bằng cách điều chỉnh tỷ lệ dropout dựa trên đặc điểm của dữ liệu, mô hình có thể tránh được overfitting và duy trì hiệu suất ổn định theo thời gian.

3.3. Cân Bằng Ổn Định và Mềm Dẻo Trong Học Máy Liên Tục

Việc cân bằng giữa ổn định và mềm dẻo là một yếu tố quan trọng trong học máy liên tục. Mô hình cần phải đủ ổn định để không quên kiến thức cũ, nhưng cũng cần phải đủ mềm dẻo để thích ứng với dữ liệu mới. Các phương pháp cân bằng ổn định và mềm dẻo giúp mô hình đạt được sự cân bằng này bằng cách điều chỉnh tốc độ học và các tham số khác.

IV. Ứng Dụng Học Sâu Liên Tục Triển Vọng Trong Tương Lai

Học sâu liên tục là một lĩnh vực nghiên cứu mới nổi, kết hợp sức mạnh của học sâu với khả năng thích ứng của học máy liên tục. Các mô hình học sâu liên tục có tiềm năng giải quyết nhiều bài toán phức tạp trong môi trường dữ liệu luồng, từ xử lý ngôn ngữ tự nhiên đến thị giác máy tính. Với sự phát triển của các kỹ thuật mới và sự gia tăng của dữ liệu, học sâu liên tục hứa hẹn sẽ đóng vai trò quan trọng trong tương lai của học máy.

4.1. Học Sâu Liên Tục Trong Xử Lý Ngôn Ngữ Tự Nhiên

Học sâu liên tục có thể được sử dụng để xây dựng các mô hình xử lý ngôn ngữ tự nhiên có khả năng thích ứng với những thay đổi trong ngôn ngữ và ngữ cảnh. Ví dụ, một mô hình dịch máy có thể được huấn luyện liên tục trên dữ liệu mới để cải thiện độ chính xác và khả năng xử lý các ngôn ngữ mới.

4.2. Học Sâu Liên Tục Trong Thị Giác Máy Tính

Học sâu liên tục có thể được sử dụng để xây dựng các mô hình thị giác máy tính có khả năng nhận diện các đối tượng và cảnh vật trong môi trường thay đổi. Ví dụ, một hệ thống giám sát an ninh có thể được huấn luyện liên tục trên dữ liệu mới để cải thiện khả năng phát hiện các hành vi đáng ngờ.

4.3. Các Hướng Nghiên Cứu Mới Trong Học Sâu Liên Tục

Hiện nay, có nhiều hướng nghiên cứu mới trong học sâu liên tục, bao gồm phát triển các kiến trúc mạng nơ-ron mới, các thuật toán tối ưu hóa hiệu quả, và các phương pháp giải quyết vấn đề quên thảm họa. Các nghiên cứu này hứa hẹn sẽ mang lại những tiến bộ đáng kể trong lĩnh vực học máy.

V. Đánh Giá Hiệu Suất Mô Hình Học Máy Liên Tục Tiêu Chí Quan Trọng

Đánh giá hiệu suất của mô hình học máy liên tục là một bước quan trọng để đảm bảo rằng mô hình hoạt động tốt trong môi trường dữ liệu luồng. Các tiêu chí đánh giá hiệu suất bao gồm độ chính xác, tốc độ học, khả năng mở rộng, và mức tiêu thụ tài nguyên. Việc lựa chọn các tiêu chí phù hợp phụ thuộc vào ứng dụng cụ thể và yêu cầu của bài toán.

5.1. Các Độ Đo Hiệu Suất Phổ Biến Trong Học Máy Liên Tục

Một số độ đo hiệu suất phổ biến trong học máy liên tục bao gồm độ chính xác, độRecall, F1-score, và AUC. Ngoài ra, các độ đo như log predictive probability (LPP) và normalized pointwise mutual information (NPMI) cũng được sử dụng để đánh giá hiệu suất của các mô hình học chủ đề.

5.2. Phương Pháp Đánh Giá Mô Hình Học Máy Liên Tục

Có nhiều phương pháp đánh giá mô hình học máy liên tục, bao gồm sử dụng tập kiểm tra trượt, kiểm tra chéo theo thời gian, và đánh giá trực tuyến. Việc lựa chọn phương pháp phù hợp phụ thuộc vào đặc điểm của dữ liệu và yêu cầu của bài toán.

5.3. Các Yếu Tố Ảnh Hưởng Đến Hiệu Suất Mô Hình

Hiệu suất của mô hình học máy liên tục có thể bị ảnh hưởng bởi nhiều yếu tố, bao gồm chất lượng dữ liệu, lựa chọn thuật toán, và các tham số huấn luyện. Việc điều chỉnh các yếu tố này có thể giúp cải thiện hiệu suất của mô hình.

VI. Kết Luận Triển Vọng Học Máy Liên Tục Hướng Đi Tương Lai

Học máy liên tục là một lĩnh vực nghiên cứu đầy tiềm năng, với nhiều ứng dụng quan trọng trong thực tế. Mặc dù vẫn còn nhiều thách thức cần giải quyết, sự phát triển của các thuật toán mới và sự gia tăng của dữ liệu hứa hẹn sẽ mang lại những tiến bộ đáng kể trong lĩnh vực này. Học máy liên tục sẽ đóng vai trò quan trọng trong tương lai của học máy, giúp chúng ta khai thác tối đa giá trị từ dòng dữ liệu không ngừng.

6.1. Tóm Tắt Các Phương Pháp Học Máy Liên Tục Hiệu Quả

Bài viết đã trình bày tổng quan về các phương pháp học máy liên tục hiệu quả, bao gồm sử dụng tri thức tiên nghiệm, dropout thích ứng, và cân bằng giữa ổn định và mềm dẻo. Các phương pháp này giúp mô hình học kiến thức mới mà không quên kiến thức cũ, đồng thời thích ứng nhanh chóng với những thay đổi trong dòng dữ liệu.

6.2. Các Hướng Nghiên Cứu Tiềm Năng Trong Học Máy Liên Tục

Các hướng nghiên cứu tiềm năng trong học máy liên tục bao gồm phát triển các kiến trúc mạng nơ-ron mới, các thuật toán tối ưu hóa hiệu quả, và các phương pháp giải quyết vấn đề quên thảm họa. Ngoài ra, việc nghiên cứu các ứng dụng mới của học máy liên tục trong các lĩnh vực khác nhau cũng là một hướng đi quan trọng.

6.3. Tầm Quan Trọng Của Học Máy Liên Tục Trong Kỷ Nguyên Dữ Liệu

Học máy liên tục đóng vai trò quan trọng trong kỷ nguyên dữ liệu, giúp chúng ta khai thác tối đa giá trị từ dòng dữ liệu không ngừng. Với sự phát triển của các công nghệ mới và sự gia tăng của dữ liệu, học máy liên tục sẽ trở thành một công cụ không thể thiếu cho các tổ chức và cá nhân muốn cạnh tranh trong thị trường ngày càng khốc liệt.

Nội dung chính

Tổng quan luận án

Luận án tiến sĩ với đề tài "Một số phương pháp học máy hiệu quả trong môi trường luồng dữ liệu liên tục" do nghiên cứu sinh Ngô Văn Linh thực hiện tại Trường Đại học Bách khoa Hà Nội, dưới sự hướng dẫn khoa học của PGS. Thân Quang Khoát, thuộc ngành Hệ thống thông tin (Mã số: 9480104), bảo vệ năm 2023. Nghiên cứu được tài trợ bởi Quỹ Đổi mới sáng tạo Vingroup (VINIF) trong khuôn khổ Dự án mã số VINIF.DA18.

Tính cấp thiết và khoảng trống nghiên cứu

Trong các hệ thống thực tế như báo điện tử, diễn đàn trực tuyến, mạng xã hội và sàn thương mại điện tử, dữ liệu được sinh ra liên tục theo thời gian dưới dạng các tập dữ liệu nhỏ (mini-batch) vô hạn. Các mô hình học máy truyền thống thường được thiết kế cho môi trường dữ liệu tĩnh, giả định toàn bộ tập dữ liệu có sẵn tại thời điểm huấn luyện và phân phối dữ liệu không thay đổi. Khi triển khai trong môi trường luồng dữ liệu, các phương pháp truyền thống bộc lộ nhiều điểm hạn chế. Luận án xác định ba khoảng trống nghiên cứu và thách thức kỹ thuật lớn trong học luồng dữ liệu cho các mô hình xác suất Bayes:

1. Thách thức từ luồng dữ liệu thưa và nhiễu (sparse and noisy data): Văn bản ngắn (tiêu đề, bình luận, câu hỏi trực tuyến) chỉ gồm một vài từ, biểu diễn theo mô hình túi từ có độ thưa rất cao (phần lớn các chiều bằng 0) và chứa nhiều từ viết tắt, từ lóng hoặc lỗi chính tả. Tương tự, trong các hệ gợi ý, ma trận tương tác người dùng - sản phẩm có độ thưa thống kê thường vượt quá 99%. Sự thiếu hụt ngữ cảnh và dữ liệu nhiễu khiến các mô hình dễ bị quá khớp (overfitting) hoặc học sai lệch.
2. Thách thức từ sự thay đổi đột ngột trong luồng dữ liệu (concept drifts): Sự biến đổi của phân phối dữ liệu $p(x)$ hoặc phân phối xác suất có điều kiện $p(y|x)$ diễn ra thường xuyên theo thời gian thực. Các phương pháp tiếp cận đệ quy Bayes truyền thống thường gặp hiện tượng quá tự tin (overconfidence) khi phương sai của phân phối hậu nghiệm hội tụ về 0 sau khi học qua nhiều dữ liệu, làm mất tính mềm dẻo và không thể thích nghi với các đặc trưng mới xuất hiện.
3. Thách thức từ việc quên nghiêm trọng tri thức cũ (catastrophic forgetting): Trong điều kiện luồng dữ liệu không cho phép lưu trữ và duyệt lại toàn bộ dữ liệu lịch sử do giới hạn về bộ nhớ và chi phí tính toán, các mô hình cập nhật trên dữ liệu mới thường làm suy giảm nghiêm trọng hiệu năng dự đoán trên các phân phối dữ liệu đã gặp trong quá khứ. Các kỹ thuật học luồng hiện hành hầu như chỉ đặt ràng buộc giữa hai mini-batch kế tiếp nhau, dẫn đến việc mất dần tri thức ở các khoảng thời gian xa hơn.

Mục tiêu và câu hỏi nghiên cứu

Luận án hướng đến mục tiêu xây dựng các phương pháp học hiệu quả cho lớp mô hình Bayes tổng quát trong môi trường luồng dữ liệu, giải quyết đồng thời các thách thức về dữ liệu thưa, nhiễu, thay đổi đột ngột và hiện tượng quên tri thức. Nghiên cứu tập trung giải quyết ba câu hỏi nghiên cứu:

• Câu hỏi 1: Liệu tri thức tiên nghiệm (prior knowledge) từ các nguồn bên ngoài có giúp mô hình Bayes nâng cao khả năng khái quát hóa khi đối diện với dữ liệu thưa, nhiễu và sự thay đổi đột ngột của luồng dữ liệu hay không?
• Câu hỏi 2: Liệu kỹ thuật Dropout có thể được mở rộng sang môi trường luồng để tăng cường tính mềm dẻo và khả năng thích nghi cho mô hình Bayes mà không cần can thiệp thủ công hay không?
• Câu hỏi 3: Làm thế nào để thiết lập một cơ chế hiệu chỉnh (regularization) hiệu quả nhằm tích lũy tri thức từ tất cả các thời điểm trong quá khứ, giúp khắc phục hiện tượng quên nghiêm trọng mà không đòi hỏi phải lưu trữ tham số của các mô hình lịch sử?

Đối tượng và phạm vi nghiên cứu

• Đối tượng nghiên cứu: Các giải thuật học máy cho lớp mô hình xác suất Bayes (tập trung cụ thể vào mô hình học chủ đề ẩn Latent Dirichlet Allocation - LDA cho học không giám sát và mô hình phân loại văn bản Naive Bayes - NB cho học có giám sát) trong môi trường dữ liệu dạng luồng.
• Phạm vi nghiên cứu: Dữ liệu văn bản được thu thập theo chuỗi các tập dữ liệu nhỏ rời rạc (mini-batch) theo thời gian; nghiên cứu chưa mở rộng sang các dạng luồng dữ liệu cảm biến chuyển động hoặc chuỗi thời gian khí tượng.

---

Tổng quan tài liệu và vị trí của luận án

Các hướng nghiên cứu trước

Luận án phân loại và hệ thống hóa các công trình học luồng dữ liệu cho mô hình Bayes thành hai nhánh tiếp cận chính, đồng thời đối chiếu với các kỹ thuật trong học liên tục (continual learning):

1. Nhánh tối ưu hóa ngẫu nhiên (Stochastic Optimization):

   • Tiêu biểu là phương pháp Suy diễn biến phân ngẫu nhiên (Stochastic Variational Inference - SVI) của Hoffman và cộng sự (2013). SVI tối ưu hàm mục tiêu cận dưới chứng cứ dựa trên việc lấy mẫu đều từ một tập dữ liệu tĩnh có kích thước cố định đã biết trước, do đó không phù hợp với luồng dữ liệu vô hạn.
   • Phương pháp Suy diễn biến phân Bayes quần thể (Population Variational Bayes - PVB) của McInerney và cộng sự (2015) khắc phục nhược điểm của SVI bằng cách giả định dữ liệu sinh ra từ một phân phối quần thể chung và cập nhật tham số theo lịch trình giảm tốc độ học $\rho_t = (\tau_0 + t)^{-\kappa}$. Tuy nhiên, PVB phụ thuộc vào việc điều chỉnh tham số kích thước quần thể $S$ và chưa xử lý hiện tượng thay đổi phân phối đột ngột.

2. Nhánh đệ quy Bayes (Recursive Bayesian Strategy):

   • Phương pháp Suy diễn biến phân luồng (Streaming Variational Bayes - SVB) của Broderick và cộng sự (2013) sử dụng phân phối hậu nghiệm của mini-batch trước làm phân phối tiên nghiệm cho mini-batch kế tiếp. Tuy nhiên, SVB làm phương sai hậu nghiệm thu hẹp nhanh chóng, dẫn đến hiện tượng quá tự tin và làm suy giảm khả năng tiếp nhận đặc trưng mới.
   • Các phương pháp nới lỏng đệ quy như Suy diễn biến phân luồng với tri thức tiên nghiệm dạng lũy thừa (SVB-PP) của Joseph và cộng sự (2020), hoặc các tiếp cận sử dụng biến ẩn xác định điểm đổi dòng (concept drift detection) giúp mô hình quên bớt tri thức cũ. Mặc dù vậy, các phương pháp này thường phá vỡ tính liên hợp (non-conjugate prior), dẫn đến các bài toán xấp xỉ tích phân phức tạp và tốn kém tài nguyên tính toán.
   • Phương pháp Giữ tri thức tiên nghiệm (Keeping Prior for Data Streams - KPS) của Ngô Văn Linh và cộng sự (2019) bổ sung trực tiếp thông tin tiên nghiệm ban đầu $\hat{\eta} = \kappa \eta$ vào từng mini-batch. Điểm hạn chế của KPS là chỉ chấp nhận nguồn tri thức tiên nghiệm có cấu trúc và số chiều hoàn toàn trùng khớp với tham số toàn cục của mô hình gốc, đồng thời hệ số suy giảm $\kappa$ phải điều chỉnh thủ công.

3. Nhánh học liên tục và các kỹ thuật hiệu chỉnh:

   • Các phương pháp như Elastic Weight Consolidation (EWC) của Kirkpatrick và cộng sự (2017) hay Variational Continual Learning (VCL) của Nguyen và cộng sự (2018) tập trung vào việc huấn luyện mạng nơ-ron qua nhiều tác vụ riêng biệt để hạn chế quên tri thức cũ. Tuy nhiên, việc áp dụng trực tiếp các phương pháp này vào môi trường luồng dữ liệu đơn tác vụ liên tục gặp rào cản về giả định học tĩnh lặp lại trên từng tác vụ.

Khoảng trống luận án lựa chọn giải quyết

Luận án định vị nghiên cứu vào việc khắc phục đồng thời các hạn chế nêu trên:

• Xây dựng cơ chế tổng quát cho phép chuyển đổi và tích hợp các nguồn tri thức tiên nghiệm phức tạp từ bên ngoài (vectơ nhúng từ Word2vec, đồ thị tri thức WordNet) vào mô hình Bayes trên luồng dữ liệu.
• Thiết lập giải thuật Dropout tự thích ứng cho mô hình Bayes nhằm tăng cường tính mềm dẻo khi xảy ra biến đổi phân phối đột ngột mà không làm mất tính liên hợp.
• Phát triển cơ chế hiệu chỉnh tích lũy thông tin bậc hai trên toàn bộ lịch sử luồng dữ liệu để giải quyết hiện tượng quên nghiêm trọng mà không đòi hỏi chi phí lưu trữ lớn.

---

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết và mô hình Bayes tổng quát

Mô hình Bayes tổng quát được ký hiệu là $\mathcal{B}(\beta, z, x)$, trong đó $x = {x_1, \dots, x_M}$ là tập các quan sát, $\beta$ là biến toàn cục dùng chung cho toàn bộ tập dữ liệu, và $z_i$ là biến ẩn cục bộ mô hình hóa cấu trúc riêng cho từng điểm dữ liệu $x_i$. Quá trình suy diễn biến phân tìm cách xấp xỉ phân phối hậu nghiệm thực sự $p_\beta(z|x)$ bằng phân phối biến phân $q_\phi(z)$ thông qua việc cực tiểu hóa độ phân kỳ Kullback-Leibler (KL divergence), tương đương với việc cực đại hóa cận dưới của chứng cứ (Evidence Lower Bound - ELBO):

$$\text{ELBO} = \mathbb{E}{q\phi(z)}[\log p_\beta(z, x)] - \mathbb{E}{q\phi(z)}[\log q_\phi(z)]$$

Luận án nghiên cứu cụ thể trên hai cấu trúc mô hình:

1. Mô hình chủ đề ẩn Latent Dirichlet Allocation (LDA):
   • Biến toàn cục: $\beta_k \sim \text{Dir}(\eta)$ là phân phối từ vựng của chủ đề $k$ ($1 \le k \le K$).
   • Biến cục bộ: $\theta_d \sim \text{Dir}(\alpha)$ là tỷ lệ phân bố chủ đề trong văn bản $d$; $z_{dn} \sim \text{Mult}(\theta_d)$ là chủ đề gán cho từ thứ $n$; $w_{dn} \sim \text{Mult}(\beta_{z_{dn}})$ là từ quan sát được.
   • Các tham số biến phân: $\gamma_d$ cho phân phối Dirichlet của $\theta_d$, $\phi_{dn}$ cho phân phối Multinomial của $z_{dn}$, và $\lambda_k$ cho phân phối Dirichlet của $\beta_k$.
2. Mô hình Naive Bayes (NB):
   • Biến toàn cục $\beta_c \sim \text{Dir}(\eta)$ biểu diễn phân phối từ vựng cho mỗi nhãn lớp $c \in {1, \dots, C}$.
   • Quá trình sinh: nhãn lớp $c_d \sim \text{Mult}(\alpha)$ và từ $w_{dn} \sim \text{Mult}(\beta_{c_d})$. Tham số biến phân toàn cục được ký hiệu là $\lambda_c$.

Phương pháp nghiên cứu thực nghiệm

Luận án kết hợp nghiên cứu lý thuyết xác suất (chứng minh toán học về tốc độ quên, cơ chế hiệu chỉnh phụ thuộc dữ liệu) và thực nghiệm mô phỏng trên các tập dữ liệu chuẩn. Các thuật toán được thiết kế theo cấu trúc mô đun hóa: pha suy diễn biến cục bộ (Local Variational Bayes) được kế thừa nguyên bản từ môi trường tĩnh, các cải tiến tập trung hoàn toàn vào pha cập nhật tham số biến toàn cục $\lambda$ khi tiếp nhận từng mini-batch dữ liệu.

Nguồn tư liệu và tập dữ liệu thử nghiệm

Thực nghiệm của luận án được triển khai trên 9 tập dữ liệu không có nhãn thời gian và 2 tập dữ liệu thực tế có nhãn thời gian:

Nhóm dữ liệu	Tập dữ liệu	Kích thước từ điển ($V$)	Kích thước tập huấn luyện	Kích thước tập kiểm tra	Số từ trung bình / văn bản	Kích thước mini-batch
Dữ liệu dài / chuẩn	Grolier	15.269	23.044	1.000	79,2	500
	20Newsgroups	11.458	11.269	7.505	106,6	300
	TMN	13.366	28.000	4.545	18,7	1.000
	Agnews	18.067	108.000	12.000	29,3	3.000
Dữ liệu ngắn / nhiễu	NYT-title	10.370	90.000	10.000	5,3	2.000
	Yahoo-title	11.488	80.000	10.000	4,7	2.000
	TMN-title	8.948	28.000	4.545	4,9	1.000
	Agnews-title	11.464	108.000	12.000	6,3	3.000
	Twitter	7.525	89.000	11.108	6,8	2.000
Dữ liệu có nhãn thời gian	Irishtimes	28.816	1.376.099 (tổng số)	Chia theo tháng	5,7	Dữ liệu 1 tháng
	UCInews	25.566	422.937 (tổng số)	Chia 2 ngày	6,4	Dữ liệu 2 ngày

Độ đo đánh giá:

• Xác suất phán đoán Log Predictive Probability (LPP): Đánh giá khả năng tổng quát hóa trên tập kiểm tra bằng cách chia mỗi văn bản thành phần quan sát $w_{obs}$ (80%) và phần ẩn $w_{ho}$ (20%): $$\text{LPP}d = \frac{\log p(w{ho} | w_{obs}, \beta)}{|w_{ho}|}$$
• Độ đo thông tin tương hỗ Normalized Pointwise Mutual Information (NPMI): Đánh giá tính gắn kết ngữ nghĩa của $t$ từ có xác suất cao nhất trong mỗi chủ đề dựa trên tần suất đồng xuất hiện thực tế.

---

Nội dung chính theo từng chương

Chương 1: Kiến thức nền tảng

Chương 1 hệ thống hóa các khái niệm nền tảng về lý thuyết Bayes, mô hình đồ thị xác suất, suy diễn biến phân và nguyên lý học trên luồng dữ liệu.

• Phân tích chi tiết quy trình sinh và các bước suy diễn biến phân cho hai mô hình cơ sở: mô hình chủ đề ẩn LDA và mô hình phân loại Naive Bayes.
• Phân tích cơ chế hoạt động của thuật toán suy diễn biến phân luồng SVB và thuật toán giữ tri thức tiên nghiệm KPS. Cụ thể, công thức cập nhật của SVB được biểu diễn qua tham số tự nhiên: $\xi_b = \xi_{b-1} + \tilde{\xi}b = \sum{t=1}^b \tilde{\xi}_t$, trong đó $\tilde{\xi}t$ là thống kê thu được từ mini-batch thứ $t$. KPS bổ sung thêm thành phần tiên nghiệm suy giảm: $\xi_b = \xi{b-1} + \tilde{\xi}_b + \hat{\eta}$.
• Trình bày cấu trúc toán học của mạng đồ thị tích chập (Graph Convolutional Networks - GCN) với cơ chế lan truyền biểu diễn qua các tầng: $$h^l = f\left(\tilde{D}^{-\frac{1}{2}} \tilde{A} \tilde{D}^{-\frac{1}{2}} (h^{l-1} W_l + b_l)\right)$$ trong đó $\tilde{A} = A + I_V$ là ma trận kề có thêm khuyên tự nối và $\tilde{D}{ii} = \sum_j \tilde{A}{ij}$. Đây là cơ sở kỹ thuật để xây dựng hàm biến đổi tri thức dạng đồ thị trong các chương kế tiếp.

Chương 2: Khai thác tri thức tiên nghiệm trong luồng dữ liệu

Chương 2 tập trung chứng minh hạn chế của các phương pháp hiện tại trong việc duy trì tri thức tiên nghiệm và đề xuất giải pháp biến đổi tri thức tiên nghiệm cho luồng dữ liệu.

• Phân tích lý thuyết về tốc độ quên: Luận án chứng minh rằng phương pháp SVB làm suy giảm trọng số của tri thức tiên nghiệm với tốc độ $\mathcal{O}(T^{-1})$ sau $T$ mini-batch, nhanh hơn đáng kể so với tốc độ quên tự nhiên ở con người là $\Omega(T^{-0.67})$.
• Phương pháp biến đổi tri thức tiên nghiệm (TPS): Đề xuất khung kiến trúc TPS cho phép ánh xạ các nguồn tri thức tiên nghiệm $\eta$ đa dạng (dưới dạng vectơ hoặc đồ thị) thông qua một mạng nơ-ron tham số hóa bởi $\pi$ thành phân phối tiên nghiệm phù hợp với mô hình Bayes, kết hợp cơ chế lan truyền tham số tự động giữa các mini-batch.
• Mô hình chủ đề tích chập đồ thị (GCTM): Hiện thực hóa TPS bằng cách kết hợp GCN với LDA để khai thác đồ thị tri thức WordNet (phiên bản GCTM-WN) và không gian vectơ Word2vec (phiên bản GCTM-W2V).
• Kết quả thực nghiệm: Trên các tập dữ liệu ngắn và nhiễu (Yahoo-title, Twitter), GCTM duy trì chỉ số LPP và NPMI ổn định khi số lượng mini-batch tăng lên, trong khi các phương pháp cơ sở SVB, SVB-PP và PVB suy giảm nghiêm trọng. Trên tập dữ liệu Irishtimes, GCTM-WN cho thấy khả năng phục hồi hiệu năng dự đoán nhanh chóng sau các điểm thay đổi phân phối đột ngột tại các mini-batch 356, 410, 521, 559 và 650.

Chương 3: Dropout với khả năng tự thích nghi cho luồng dữ liệu

Chương 3 giải quyết câu hỏi nghiên cứu thứ hai thông qua việc xây dựng kỹ thuật Dropout thích ứng không phụ thuộc vào nguồn tri thức bên ngoài.

• Phương pháp Dropout vô hạn cho luồng dữ liệu (iDropout): Xây dựng cơ chế Dropout trên mô hình Bayes bằng cách đưa vào biến ngẫu nhiên mặt nạ nhị phân Bernoulli hoặc biến ngẫu nhiên Gauss tác động lên các tham số toàn cục trong quá trình tính toán cận dưới ELBO. Luận án chứng minh Dropout với phân phối Gauss tương đương về mặt toán học với cơ chế hiệu chỉnh co trọng số của Dropout Bernoulli.
• Phương pháp Dropout vô hạn tự thích nghi (aiDropout): Mở rộng iDropout bằng cách thiết lập cơ chế học tự động tỷ lệ Dropout dựa trên dữ liệu của từng mini-batch hiện tại thay vì cố định một siêu tham số tĩnh. Quá trình này tạo ra hiệu ứng hiệu chỉnh phụ thuộc dữ liệu (data-dependent regularization), tương đương với việc kết hợp một số lượng vô hạn các mô hình con (ensemble learning).
• Áp dụng trên LDA và NB: Luận án xây dựng đầy đủ các công thức cập nhật tham số biến phân cho aiDropout khi mô hình cơ sở là LDA và Naive Bayes.
• Kết quả thực nghiệm: aiDropout vượt trội so với SVB, SVB-PP, PVB và iDropout cố định tỷ lệ trên cả 9 tập dữ liệu không có nhãn thời gian và 2 tập dữ liệu có nhãn thời gian. Khi xảy ra sự thay đổi đột ngột trong luồng văn bản, aiDropout tự động điều chỉnh tăng tỷ lệ Dropout để mô hình mềm dẻo hơn, giúp phục hồi độ chính xác phân loại và chỉ số LPP nhanh hơn các phương pháp đối chứng.

Chương 4: Cân bằng giữa tính ổn định và mềm dẻo

Chương 4 tích hợp các kết quả từ Chương 2 và Chương 3 để đề xuất giải pháp toàn diện cho cả ba thách thức của học luồng.

• Mô hình cân bằng giữa tính ổn định và mềm dẻo (BSP): BSP kết hợp cơ chế khai thác tri thức tiên nghiệm của TPS, cơ chế thích nghi của aiDropout, và bổ sung một thành phần hiệu chỉnh tích lũy toàn bộ thông tin lịch sử luồng dữ liệu.
• Cơ chế tích lũy thông tin bậc hai: Nhằm tránh việc phải lưu trữ toàn bộ các mô hình $\lambda_1, \dots, \lambda_{t-1}$ trong quá khứ, BSP sử dụng khai triển Taylor bậc hai của hàm mục tiêu tại mỗi thời điểm xung quanh điểm tối ưu. Ma trận thông tin Fisher hoặc ma trận đạo hàm bậc hai được cộng dồn đệ quy qua các mini-batch: $$\Omega_t = \Omega_{t-1} + \nabla^2 \mathcal{L}_t(\lambda_t)$$ Thành phần hiệu chỉnh này đóng vai trò neo giữ các tham số quan trọng để chống lại hiện tượng quên tri thức cũ. Đồng thời, sự hiện diện của Dropout ngăn chặn mô hình rơi vào trạng thái quá cứng nhắc, duy trì tính mềm dẻo khi tiếp nhận đặc trưng mới.
• Kết quả thực nghiệm: Trên các bài toán kiểm tra độ quên sau khi học tuần tự từng lớp dữ liệu, BSP duy trì chỉ số LPP trung bình (Avg LPP) và độ chính xác phân loại ổn định vượt trội so với tất cả các phương pháp SVB, SVB-PP, PVB, TPS và aiDropout đơn lẻ. Các bảng phân tích chủ đề định tính trên tập Grolier và Irishtimes cho thấy BSP trích xuất được các chủ đề quân sự và kinh doanh rõ ràng, không bị pha lẫn các từ nhiễu.

---

Kết quả và những đóng góp mới

Luận án đã đạt được các đóng góp khoa học mới về mặt lý thuyết và thực tiễn:

1. Đóng góp về phương pháp biến đổi tri thức tiên nghiệm (TPS và GCTM):
   • Thiết lập khung toán học tổng quát cho phép tiếp nhận và chuyển đổi các dạng tri thức tiên nghiệm phức tạp (vectơ Word2vec, đồ thị WordNet) thông qua mạng nơ-ron sâu (MLP, GCN) vào phân phối tiên nghiệm của mô hình Bayes trên luồng dữ liệu.
   • Xây dựng cơ chế học tự động tham số cân bằng giữa tri thức đã học từ dữ liệu quá khứ và tri thức tiên nghiệm từ bên ngoài, giải quyết tình trạng suy giảm hiệu năng trên luồng dữ liệu thưa và nhiễu.
2. Đóng góp về kỹ thuật Dropout tự thích nghi trên luồng dữ liệu (aiDropout):
   • Mở rộng thành công kỹ thuật Dropout từ mạng nơ-ron tất định sang lớp mô hình xác suất Bayes trong môi trường dữ liệu liên tục.
   • Chứng minh toán học về tính tương đương hiệu chỉnh của Dropout Gauss và đề xuất cơ chế tự động học tỷ lệ Dropout phụ thuộc dữ liệu, giúp mô hình thích nghi nhanh trước các biến đổi phân phối đột ngột (concept drifts).
3. Đóng góp về mô hình cân bằng ổn định và mềm dẻo (BSP):
   • Đề xuất giải pháp tích lũy thông tin lịch sử dựa trên xấp xỉ khai triển Taylor bậc hai, giải quyết triệt để hiện tượng quên nghiêm trọng (catastrophic forgetting) trong học luồng mà không làm tăng chi phí lưu trữ bộ nhớ.
   • Kết hợp hoàn chỉnh ba cơ chế: tri thức tiên nghiệm, hiệu chỉnh tích lũy quá khứ và Dropout thích ứng để tạo nên một phương pháp học luồng toàn diện.

Các công trình khoa học đã công bố: Các kết quả nghiên cứu chính của luận án đã được công bố trong 5 công trình khoa học chuyên ngành, bao gồm các bài báo tại các hội nghị và tạp chí quốc tế uy tín thuộc lĩnh vực trí tuệ nhân tạo và xử lý dữ liệu [P1, P2, P3, P4, P5].

---

Hạn chế và hướng nghiên cứu tiếp

Dựa trên nội dung văn bản luận án, các hạn chế và hướng mở rộng nghiên cứu được ghi nhận như sau:

• Về cấu trúc mô hình thử nghiệm: Luận án mới tập trung đánh giá sâu trên hai mô hình Bayes kinh điển là Latent Dirichlet Allocation (LDA) cho bài toán học không giám sát và Naive Bayes (NB) cho bài toán học có giám sát. Các mô hình Bayes phi tham số phức tạp hơn chưa được khảo sát đầy đủ.
• Về bản chất nguồn dữ liệu: Nghiên cứu chủ yếu giới hạn trong phạm vi xử lý dữ liệu văn bản được chia thành các mini-batch theo khoảng thời gian rời rạc. Các dạng luồng dữ liệu liên tục thời gian thực trong các lĩnh vực thị giác máy tính động, tín hiệu cảm biến chuyển động hoặc chuỗi thời gian khí tượng chưa được thử nghiệm.
• Hướng nghiên cứu tiếp theo: Mở rộng tích hợp khung kiến trúc BSP và aiDropout cho các mô hình học sâu kết hợp Bayes (Bayesian Deep Learning), áp dụng cho các hệ thống gợi ý quy mô lớn và xử lý các dòng dữ liệu đa phương tiện liên tục.

---

Giá trị tham khảo

Luận án mang lại giá trị tham khảo học thuật và thực tiễn cho nhiều đối tượng:

• Nghiên cứu sinh và học viên cao học ngành Khoa học máy tính, Hệ thống thông tin và Trí tuệ nhân tạo: Có thể tham khảo cách tiếp cận suy diễn biến phân trên luồng dữ liệu, phương pháp ánh xạ đồ thị tri thức bằng GCN, và kỹ thuật kết hợp xấp xỉ Taylor bậc hai để chống quên tri thức trong học máy liên tục.
• Giảng viên và nhà nghiên cứu: Sử dụng làm tài liệu tham khảo chuyên khảo về mô hình xác suất Bayes, kỹ thuật hiệu chỉnh mạng nơ-ron và các phương pháp giải quyết hiện tượng concept drift.
• Kỹ sư phát triển hệ thống dữ liệu lớn và trí tuệ nhân tạo: Ứng dụng các thuật toán TPS, GCTM, aiDropout và BSP vào việc xây dựng các mô-đun phát hiện chủ đề tin tức tự động theo thời gian thực, hệ thống phân tích cảm xúc phản hồi khách hàng liên tục, và hệ thống gợi ý sản phẩm cá nhân hóa thích ứng trong thương mại điện tử.

---

Câu hỏi thường gặp

1. Tại sao các phương pháp đệ quy Bayes truyền thống như SVB lại làm việc kém trên luồng dữ liệu thưa và có biến đổi đột ngột?

Trong phương pháp SVB, sau khi học qua một lượng lớn dữ liệu, phương sai của phân phối hậu nghiệm có xu hướng thu hẹp dần về 0 (hiện tượng quá tự tin - overconfidence). Khi đó, phân phối hậu nghiệm tập trung toàn bộ khối lượng xác suất tại một điểm cố định, làm mất khả năng mô hình hóa tính không chắc chắn của các quan sát mới và khiến mô hình không thể tiếp nhận các đặc trưng mới khi luồng dữ liệu thay đổi đột ngột. Đồng thời, SVB làm suy giảm trọng số của tri thức tiên nghiệm ban đầu với tốc độ $\mathcal{O}(T^{-1})$, khiến mô hình nhanh chóng bị quá khớp khi đối diện với dữ liệu thưa và nhiễu.

2. Phương pháp TPS khắc phục điểm yếu của phương pháp KPS như thế nào?

Phương pháp KPS đòi hỏi tri thức tiên nghiệm phải có cùng cấu trúc và số chiều với tham số toàn cục của mô hình Bayes, đồng thời việc suy giảm tri thức được điều chỉnh bằng một hàm tuyến tính thủ công. TPS khắc phục hạn chế này bằng cách sử dụng các mạng nơ-ron (như MLP hoặc GCN) để làm hàm ánh xạ biến đổi các dạng tri thức tiên nghiệm phức tạp (vectơ nhúng Word2vec, đồ thị WordNet) về dạng tham số phù hợp, đồng thời thiết lập cơ chế tự động học tham số cân bằng giữa tri thức quá khứ và tri thức tiên nghiệm.

3. Cơ chế hoạt động của aiDropout trên mô hình Bayes khác gì so với Dropout truyền thống trong mạng nơ-ron?

Dropout truyền thống thường áp dụng trên mạng nơ-ron tất định với tỷ lệ loại bỏ nơ-ron được ấn định cố định. aiDropout mở rộng kỹ thuật này sang mô hình xác suất Bayes bằng cách đưa các biến ngẫu nhiên mặt nạ vào hàm mục tiêu ELBO, tạo ra hiệu ứng kết hợp vô hạn các mô hình con. Đặc biệt, aiDropout tự động học và điều chỉnh tỷ lệ Dropout thích ứng theo từng mini-batch dữ liệu thực tế, giúp mô hình tăng tính mềm dẻo khi dữ liệu biến động và tăng cường tính ổn định khi dữ liệu thuần nhất.

4. Bằng cách nào mô hình BSP giải quyết được hiện tượng quên nghiêm trọng mà không cần lưu trữ toàn bộ dữ liệu hoặc mô hình quá khứ?

BSP sử dụng khai triển Taylor bậc hai của hàm mục tiêu tại mỗi thời điểm xung quanh điểm tham số tối ưu. Thay vì lưu trữ toàn bộ chuỗi mô hình lịch sử, BSP chỉ cần cộng dồn đệ quy các ma trận đạo hàm bậc hai (thông tin độ cong) vào một thành phần hiệu chỉnh duy nhất $\Omega_t = \Omega_{t-1} + \nabla^2 \mathcal{L}_t(\lambda_t)$. Thành phần này neo giữ các tham số quan trọng của quá khứ, trong khi Dropout đảm bảo mô hình vẫn giữ được độ mềm dẻo để học dữ liệu mới.

---

Kết luận

Luận án "Một số phương pháp học máy hiệu quả trong môi trường luồng dữ liệu liên tục" của tác giả Ngô Văn Linh đã giải quyết một cách có hệ thống ba thách thức trọng tâm trong học luồng dữ liệu: dữ liệu thưa/nhiễu, sự thay đổi đột ngột của phân phối dữ liệu, và hiện tượng quên nghiêm trọng tri thức cũ. Thông qua việc đề xuất các khung phương pháp TPS, aiDropout và mô hình tích hợp BSP, nghiên cứu đã chứng minh sự kết hợp giữa tri thức tiên nghiệm, kỹ thuật Dropout tự thích ứng và cơ chế tích lũy thông tin bậc hai giúp nâng cao vượt trội khả năng tổng quát hóa và tính ổn định của các mô hình Bayes. Các kết quả lý thuyết và thực nghiệm trên nhiều tập dữ liệu chuẩn đã khẳng định tính đúng đắn và khả năng ứng dụng thực tế của luận án trong các hệ thống phân tích luồng dữ liệu thời gian thực.

Trích đoạn nội dung tài liệu

MỞ ĐẦU 1. Bối cảnh nghiên cứu Trong các ứng dụng hiện đại ngày nay như báo mạng, diễn đàn, mạng xã hội, thương mại điện tử, v.v, dữ liệu được sinh ra liên tục và có thể thu thập trong vô hạn các tập dữ liệu nhỏ (mini-batch). Chúng được biết đến như môi trường luồng. Khả năng phân tích dữ liệu từ môi trường luồng đóng vai trò quan trọng trong thực tế.

Dựa trên kết quả phân tích liên tục từ các dữ liệu mới đến, chúng ta có thể thu được các đặc trưng, khuôn mẫu mới để sử dụng cho các phán đoán tương lai. Ví dụ, thông tin tương tác của người dùng trên các trang thương mại điện tử như xem các sản phẩm, thêm sản phẩm vào giỏ hàng, mua các sản phẩm, v.v, được thu thập để phân tích sở thích ngắn hạn và dài hạn của người dùng. Từ đó, hệ thống có thể đưa ra gợi ý các sản phẩm phù hợp tiếp theo cho họ. Phát triển một phương pháp học máy hiệu quả cho luồng dữ liệu đã trở nên vô cùng cấp thiết.

Các phương pháp học máy trong môi trường luồng dữ liệu có các đặc điểm khác biệt rõ ràng so với học máy truyền thống [5, 6, 7]. Học máy truyền thống thường thực hiện quá trình học từ một tập dữ liệu cố định và có thể dùng toàn bộ tập dữ liệu đó tại thời điểm học. Mô hình sau khi huấn luyện sẽ được sử dụng trong các phán đoán tương lai và không được cập nhật về sau. Trong khi đó, do dữ liệu đến liên tục trong môi trường luồng, các phương pháp học cần phải phải cập nhật mô hình liên tục trên dữ liệu mới.

Đặc biệt, khi dữ liệu đến có thể rất lớn và vô hạn, các phương pháp học máy không thể dùng lại quá nhiều dữ liệu trong quá khứ. Thay vì học trên một tập dữ liệu cố định, các phương pháp học luồng thường dựa theo một thủ tục lặp: Thu thập dữ liệu mới xuất hiện (theo khoảng thời gian hoặc kích thước tập dữ liệu) và cập nhật mô hình trên dữ liệu mới đó. Các chiến lược học nhanh trên dữ liệu mới và giữ lại tri thức đã học từ dữ liệu cũ trở thành yếu tố cốt lõi trong các phương pháp học luồng. Một số cách tiếp cận đã được sử dụng phổ biến trong học luồng dữ liệu như sau: Sử dụng chiến lược tối ưu hóa ngẫu nhiên (stochastic approximation), đệ quy Bayes (recursive Bayesian strategy), hiệu chỉnh (regularization), chiến lược mở rộng kiến trúc (architecture strategy), chiến lược huấn luyện lại (rehearsal strategy).

Đầu tiên, hướng tối ưu hóa ngẫu nhiên [5, 8, 9, 10, 11] sử dụng 1 các phương pháp tối ưu ngẫu nhiên như dựa trên hướng đạo hàm (như SGD (stochastic gradient descent), NSGD (natural stochastic gradient descent)) để có thể huấn luyện các mô hình trên lần lượt từng mini-batch. Thứ hai, cách tiếp cận dựa trên đệ quy Bayes (recursive Bayesian strategy) [12, 13, 1, 14, 4] và hiệu chỉnh [7, 15, 16] đặt các ràng buộc để giúp tham số mô hình học ở thời điểm hiện tại phải gần với tham số mô hình đã học được ở thời điểm trước đó. Thứ ba, chiến lược mở rộng kiến trúc (architecture strategy) [7, 6, 17] hướng tới giữ lại (đóng băng) các thành phần kiến trúc, tham số quan trọng mà học được từ dữ liệu quá khứ. Đồng thời, kiến trúc sẽ được mở rộng để học các đặc trưng mới từ dữ liệu mới.

Cuối cùng, chiến lược huấn luyện lại (rehearsal strategy) [7, 18, 19] sẽ dựa trên việc lưu trữ một số mẫu quan trọng hoặc xây dựng mô hình sinh để sinh lại các mẫu đặc trưng. Từ đó, mô hình sẽ được học trên cả dữ liệu mới và dữ liệu cũ. Các chiến lược này có thể giúp các phương pháp học máy truyền thống làm việc được trong môi trường luồng. Một số thách thức khi học từ luồng dữ liệu Tuy nhiên, việc xây dựng phương pháp học máy để giúp chuyển từ học trong môi trường tĩnh sang làm việc được với luồng dữ liệu là chưa đủ.

Luồng dữ liệu đặt ra nhiều thách thức hơn thế rất nhiều [20], ví dụ: Thách thức từ dữ liệu thưa và nhiễu; thách thức về tính khó (intractability) của bài toán suy diễn; thách thức về sự thay đổi đột ngột trong dòng; thách thức về quên nghiêm trọng tri thức cũ; thách thức về những đảm bảo lý thuyết của giải thuật học, v. Luận án này tập trung vào khảo sát 3 thách thức lớn sau: Thách thức từ luồng dữ liệu thưa và nhiễu (sparse and noisy data), thách thức từ sự thay đổi đột ngột trong luồng dữ liệu (concept drifts), thách thức từ việc quên tri thức cũ khi học trên dữ liệu mới (catastrophic forgetting). Thứ nhất, dữ liệu thưa và nhiễu (sparse and noisy data) gây ra khó khăn lớn cho các phương pháp học máy [21, 22, 23]. Những dữ liệu thưa và nhiễu xuất hiện phổ biến trong thực tế, đặc biệt với thời đại bùng nổ dữ liệu như hiện nay.

Ví dụ, văn bản ngắn chỉ bao gồm một vài từ như bình luận trên mạng xã hội, phản ứng của khách hàng trên các cửa hàng trực tuyến hoặc câu hỏi trên các diễn đàn hỏi đáp. Biểu diễn của văn bản theo vectơ từ (như mô hình túi từ, tần suất xuất hiện) là rất thưa khi mà hầu hết các giá trị của các chiều bằng 0, chỉ vài chiều có giá trị khác 0. Mặt khác, các văn bản nhiễu chứa các từ viết tắt, biệt ngữ, từ lóng, lỗi chính tả. Ví dụ khác với hệ gợi ý, các phương pháp học máy thường sử dụng dữ liệu lịch sử tương tác của người dùng như mua hàng, 2 xem hàng để phát hiện ra sở thích của người dùng.

Tuy nhiên, lịch sử mua hàng của người dùng trong một hệ thống thương mại điện tử thường rất ít so với một số lượng lớn các sản phẩm trong hệ thống. Hầu hết người dùng chỉ mua một vài món hàng, chỉ một số ít người dùng mua nhiều hàng. Độ thưa thống kê dựa trên tỉ lệ số lượng sản phẩm chưa mua trên tổng số sản phẩm thường lên tới trên 99% [24, 25]. Họ chỉ thực hiện các thao tác nhấp chuột để xem sản phẩm nhiều hơn là mua sản phẩm.

Hơn nữa, dữ liệu nhấp chuột xem hàng của người dùng có thể chứa nhiễu như nhấp chuột nhầm, nhấp vào sản phẩm không thích vì chưa xem được chi tiết. Rõ ràng, dữ liệu thưa không cung cấp một ngữ cảnh đầy đủ và dữ liệu nhiễu có thể định hướng sai việc học mô hình. Vì vậy, tính tổng quát hóa của mô hình học được sẽ bị giới hạn khi làm việc với dữ liệu thưa và nhiễu. Thứ hai, sự thay đổi đột ngột của luồng dữ liệu (concept drifts) [26, 27] có thể xuất hiện thường xuyên trong môi trường luồng.

Sự thay đổi đột ngột để chỉ sự biến đổi phân phối dữ liệu (p(x)) hoặc thay đổi phân phối xác suất có điều kiện của nhãn khi cho biết trước dữ liệu (p(y|x)) trong môi trường luồng. Ví dụ, trong học chủ đề ẩn không giám sát trên tập dữ liệu tin tức, khi có sự kiện mới (như các tin giật gân) xuất hiện, các chủ đề mới khác biệt nhiều với các chủ đề của ngày trước đó sẽ xuất hiện. Hoặc, trong bài toán lái ô tô tự động có giám sát, hệ thống vẫn phải quyết định các hành động tiếp theo (nhãn là sang trái, sang phải, tăng tốc, giảm tốc, v.v) khi xe chuyển từ đường cao tốc sang đường nội đô. Những ví dụ này chỉ ra sự thay đổi đột ngột của dữ liệu trong dòng và dẫn tới yêu cầu các phương pháp phải thích nghi nhanh với sự thay đổi.

Tuy nhiên, các phương pháp truyền thống thường giả thiết rằng chỉ có một mô hình duy nhất sinh ra toàn bộ dữ liệu (tương tự giả thiết p(x) không đổi trong toàn bộ quá trình học). Giả thiết này chỉ hợp lý với môi trường tĩnh, nhưng không phù hợp với môi trường luồng dữ liệu. Mô hình nên được thay đổi phù hợp theo các khoảng thời gian. Những đặc trưng mới có thể xuất hiện bất cứ lúc nào trong luồng dữ liệu nên một phương pháp học cần mềm dẻo để thích nghi nhanh với chúng.

Thứ ba, việc huấn luyện một mô hình học máy trong môi trường luồng dữ liệu gặp phải một thách thức lớn về việc quên tri thức đã học (catastrophic forgetting) trước đây sau khi học từ nhiều dữ liệu mới hơn. Trong điều kiện luồng dữ liệu, việc truy cập lại dữ liệu cũ là không thực tế vì nó đòi hỏi rất nhiều bộ nhớ và tính toán. Rõ ràng, quên là một vấn đề khó tránh khỏi ở cả con người và hệ thống học máy. Giữ tri thức quá khứ là quan trọng trong thực tế.

Nguồn tri thức học từ dữ liệu quá khứ sẽ giúp phương pháp làm việc tốt với dữ 3 liệu có đặc trưng, khuôn mẫu tương tự với cái đã gặp trước đó. Hiện tượng quên nghiêm trọng tri thức cũ [28] xảy ra khi một mô hình đã huấn luyện làm việc kém trên dữ liệu với đặc trưng đã gặp trong quá khứ. Một điều đáng ngạc nhiên rằng vấn đề quên nghiêm trọng lại không được quan tâm nhiều trong học luồng dữ liệu. Đây là chủ đề chính trong nhánh nghiên cứu học liên tục (continual learning) [29, 30, 15, 31] mà ở đó người ta xem xét học mạng nơ-ron nhân tạo trên một chuỗi nhiều tác vụ khác nhau.

Khi đó, các mô hình học máy thường bị quên (không làm việc tốt với tác vụ cũ như trước) khi học các tác vụ mới. Trong một bài báo gần đây [19], các tác giả cũng bày tỏ sự ngạc nhiên của mình về vấn đề này. Sau đó, họ xây dựng một phương pháp tìm ra những dữ liệu quan trọng để lưu trữ lại trong bộ nhớ đệm cho quá trình học lại. Việc tránh quên nằm ở chỗ luyện tập lại trên dữ liệu quá khứ.

Tuy nhiên, giải pháp lưu trữ dường như cũng kém khả thi khi luồng dữ liệu lớn và có thể đến vô hạn. Phạm vi nghiên cứu Phát triển các phương pháp học cho luồng dữ liệu là chủ đề lớn trong học máy để giúp cho các mô hình truyền thống làm việc tốt với luồng dữ liệu. Luận án này chỉ tập trung vào xây dựng các phương pháp học cho lớp các mô hình Bayes mà sử dụng ngôn ngữ xác suất để mã hóa các giả thiết về dữ liệu. Cụ thể hơn, luận án tập trung vào các giải pháp để giúp học mô hình Bayes hiệu quả khi đối diện với 3 thách thức: Luồng dữ liệu thưa và nhiễu; sự thay đổi đột ngột trong luồng dữ liệu; và vấn đề quên nghiêm trọng tri thức cũ khi học trong luồng dữ liệu.