TÀI LIỆU HỌC THUẬT: GIÁO TRÌNH HỌC MÁY (MACHINE LEARNING)

Tổng quan về giáo trình

  • Môn học và vị trí trong chương trình đào tạo: Giáo trình Học máy do tác giả Hoàng Xuân Huấn biên soạn (xuất bản năm 2015), được thiết kế làm tài liệu giảng dạy chính khóa cho học phần Học máy với thời lượng định lượng 3 tín chỉ. Học phần này giữ vị trí môn học cơ sở ngành chuyên sâu trong chương trình đào tạo bậc đại học và sau đại học của các ngành thuộc Khoa Công nghệ thông tin.
  • Mục tiêu học tập (Learning outcomes): Giáo trình trang bị hệ thống khái niệm chuẩn tắc về học máy dựa trên nền tảng toán học; hình thành khả năng phát biểu bài toán theo định nghĩa hình thức $(T, E, P)$ của Tom Mitchell; phân tích điều kiện đặt đúng của bài toán học theo tiêu chuẩn Hadamard; xây dựng, cài đặt và đánh giá hiệu năng các thuật toán học máy giải quyết các lớp bài toán phân loại mẫu, hồi quy hàm số, phân cụm dữ liệu, giảm chiều dữ liệu và điều khiển học tăng cường.
  • Cấu trúc và cách tiếp cận: Giáo trình gồm 9 chương logic. Hai chương đầu đóng vai trò thiết lập khung lý thuyết cơ bản (khái niệm học máy, kiến trúc hệ học, lý thuyết học quy nạp, học PAC, chiều VC). Bảy chương tiếp theo trình bày các nhóm phương pháp học tương đối độc lập: Cây quyết định (Chương 3), Hàm phân biệt tuyến tính (Chương 4), Học thống kê (Chương 5), Học không giám sát (Chương 6), Mạng nơ-ron nhân tạo (Chương 7), Học dựa trên địa phương (Chương 8), Học tăng cường và Học tập thể (Chương 9).
  • Điểm đặc sắc của giáo trình: Nội dung cân bằng giữa việc diễn giải giải tích ngẫu nhiên, xác suất thống kê với việc đặc tả thuật toán dưới dạng từng bước tường minh hoặc mã giả (pseudo-code). Mỗi kỹ thuật học đều được gắn liền với một mô hình toán học phụ thuộc tham số và một quy trình tối ưu hóa cụ thể.

Nội dung kiến thức cốt lõi

Các chương/chủ đề chính

  • Chương 1: Giới thiệu: Trình bày định nghĩa học máy; phân tích bài toán học thiết lập đúng đắn theo tiêu chuẩn Hadamard; giới thiệu kiến trúc chuẩn của một hệ nhận dạng mẫu gồm 3 khối chức năng chính: Tiền xử lý (thu nhận, phân đoạn, trích chọn đặc trưng), Phân lớp (khối trung tâm) và Hậu xử lý; mô tả hai bài toán kỹ thuật điển hình: đối sánh vân tay dựa trên điểm đặc trưng chi tiết (ĐTCT: điểm cụt, rẽ nhánh, tâm) với hàm độ đo tương tự $S(I_t, I_q) = n^2 / (|M_t| \cdot |M_q|)$ và tìm đường đi tối ưu cho robot qua mô hình chu trình Hamilton với thuật toán học tăng cường điều chỉnh trọng số cạnh.
  • Chương 2: Học có giám sát & Lý thuyết học quy nạp: Thiết lập không gian giả thuyết $H$, quan hệ thứ tự tổng quát - chi tiết $h_j \ge_g h_k$; thuật toán Find-S (tìm giả thuyết chi tiết nhất); thuật toán Liệt kê loại trừ ứng cử (List-then-eliminate) và biểu diễn compact không gian tường thuật $VS_{H,D}$ thông qua biên tổng quát $G$ và biên chi tiết $S$; thuật toán Gradient tối ưu hóa tổng bình phương sai số ($SSE$); mô hình học gần đúng theo xác suất PAC (Probably Approximately Correct của Valiant - Mitchell) và độ phức tạp mẫu qua Chiều Vapnik-Chervonenkis ($VC$).
  • Chương 3: Học bằng cây quyết định: Biểu diễn tập luật dạng $\text{Nếu - Thì}$; thuật toán ID3 (Quinlan, 1986); các thước đo thông tin: Entropy $H(S) = -\sum p_i \log_2 p_i$ và Lượng thu hoạch thông tin $Gain(S, A) = Entropy(S) - \sum \frac{|S_v|}{|S|} Entropy(S_v)$; các giải pháp kỹ thuật giải quyết hiện tượng phù hợp trội (overfitting), tiêu chuẩn chọn thuộc tính, xử lý thuộc tính liên tục và giá trị bị thiếu (missing values).
  • Chương 4 & 5: Hàm phân biệt tuyến tính & Học thống kê: Khảo sát tính tách được tuyến tính bởi siêu phẳng; thuật toán Perceptron của Rosenblatt; tối ưu bình phương tối thiểu; phân loại khoảng cách cực tiểu (khoảng cách Euclide và khoảng cách Mahalanobis); bài toán tỷ lệ chiều. Chương 5 tập trung vào Lý thuyết quyết định Bayes; phân lớp cực đại xác suất hậu nghiệm (MAP) và cực đại hợp lý (ML); phân lớp cực tiểu rủi ro; phân lớp Bayes ngây thơ (Naïve Bayes); phân loại $K$-láng giềng gần nhất ($K$-NN); giải thuật phân tích thành phần chính (PCA) để giảm chiều không gian đặc trưng; phương pháp kiểm định chéo $k$-tập ($k$-folds cross-validation).
  • Chương 6 & 7: Học không giám sát & Mạng nơ-ron nhân tạo: Phương pháp ước lượng hàm mật độ xác suất tham số và phi tham số; phân cụm dữ liệu phân cấp và phân cụm phân hoạch; phân cụm bán giám sát. Chương 7 khảo sát cấu trúc nơ-ron sinh học và nơ-ron nhân tạo; mạng Perceptron nhiều tầng (MLP) cùng thuật toán huấn luyện lan truyền ngược (Backpropagation - BP); mạng hàm cơ sở bán kính (RBF) và thuật toán tối ưu $SSE$.
  • Chương 8 & 9: Học địa phương, Học tăng cường & Học tập thể: Các mô hình $K$-NN nghịch đảo khoảng cách, hồi quy trọng số địa phương; cấu trúc cây $k$-d; lập luận dựa trên tình huống (Case-Based Reasoning - CBR). Chương 9 khảo sát mô hình học tăng cường thông qua tác tử Q-learning trong môi trường đơn định và ngẫu nhiên; thuật toán tối ưu đàn kiến (ACO); các kỹ thuật học kết hợp (Ensemble Learning) như phương pháp bỏ phiếu, nhặt định hướng (Bagging/Boosting), Rừng ngẫu nhiên (Random Forest) và kiến trúc bậc thang.
Tiến trình nội dung giáo trình:
[Chương 1: Kiến trúc hệ học] 
       ↓
[Chương 2: Cơ sở lý thuyết quy nạp, PAC, VC]
       ↓
[Chương 3, 4, 5: Mô hình phân lớp (Cây quyết định, Tuyến tính, Bayes, K-NN)]
       ↓
[Chương 6: Học không giám sát (Ước lượng mật độ, Phân cụm)]
       ↓
[Chương 7, 8: Mạng Nơ-ron (MLP, RBF) & Học cục bộ (k-d tree, CBR)]
       ↓
[Chương 9: Học tăng cường (Q-learning, ACO) & Học tập thể (Random Forest)]

Kiến thức nền tảng được xây dựng

  • Lý thuyết nền tảng: Định nghĩa học máy chuẩn tắc theo nhiệm vụ $T$, độ đo $P$, kinh nghiệm $E$; điều kiện tồn tại, duy nhất và ổn định của nghiệm theo Hadamard; lý thuyết xấp xỉ hàm; lý thuyết quyết định xác suất Bayes; lý thuyết học PAC; lý thuyết độ phức tạp tính toán và chiều VC.
  • Nguyên lý cốt lõi: Nguyên lý tối thiểu hóa sai số kinh nghiệm và tổng bình phương sai số ($SSE$); nguyên lý cực đại hóa lượng thông tin thu hoạch; nguyên lý lan truyền ngược gradient; nguyên lý cân bằng giữa độ phức tạp mô hình và kích thước tập dữ liệu huấn luyện (khuynh hướng quy nạp - inductive bias).
  • Khung phân tích chuẩn (Framework): Khung thiết kế hệ nhận dạng mẫu toàn diện: Thu thập dữ liệu $\rightarrow$ Tiền xử lý $\rightarrow$ Trích chọn đặc trưng $\rightarrow$ Huấn luyện mô hình $\rightarrow$ Đánh giá thực nghiệm với vòng phản hồi (Feedback loop).

Kỹ năng phát triển

  • Kỹ năng kỹ thuật: Xây dựng thuật toán học máy từ giả mã; tính toán ma trận, vector gradient; giải hệ phương trình tuyến tính xác định tham số hồi quy; cài đặt cây quyết định, mạng nơ-ron MLP, RBF, thuật toán Q-learning và giải thuật tối ưu đàn kiến.
  • Kỹ năng phân tích: Đánh giá tính phân tách tuyến tính của tập dữ liệu; đo lường độ phân tán và tương quan đặc trưng qua PCA; phân tích entropy và độ lợi thông tin; ước lượng giới hạn sai số tổng quát hóa thông qua chiều VC.
  • Kỹ năng thực hành giải quyết bài toán: Xử lý dữ liệu thực tế có nhiễu hoặc thiếu thuộc tính; thiết lập ngưỡng phân lớp trong đối sánh ảnh sinh trắc học; phân tích rủi ro hồ sơ tín dụng; thiết lập bài toán dóng hàng chuỗi sinh học (DNA, RNA, Protein).

Phương pháp giảng dạy và học tập

  • Phương pháp sư phạm: Giáo trình áp dụng phương pháp sư phạm diễn dịch kết hợp quy nạp. Mỗi chủ đề bắt đầu bằng việc mô tả bài toán kỹ thuật cụ thể (chơi thể thao theo thời tiết, phân loại chữ viết tay, chẩn đoán bệnh lâm sàng), sau đó trừu tượng hóa thành mô hình toán học hình thức, thiết lập công thức tối ưu và cuối cùng tổng quát hóa thành thuật toán.
  • Hệ thống bài tập và Case Studies thực tế:
    • Dữ liệu mẫu kinh điển: Bảng dữ liệu 14 quan sát thời tiết 4 thuộc tính (Tiết trời, Nhiệt độ, Độ ẩm, Gió) phục vụ tính toán trực tiếp Entropy và Information Gain trong thuật toán ID3; bộ dữ liệu đánh giá sức khỏe dựa trên 2 chỉ số sinh hóa ($x_1, x_2$).
    • Bài toán đối sánh vân tay: Xử lý ảnh thu nhận từ cảm biến, phân đoạn ảnh, trích chọn tập điểm đặc trưng chi tiết $M_q, M_t$, áp dụng phép biến đổi $T$ duy trì tôpô và tính độ tương tự $S(I_t, I_q)$.
    • Hệ thống bài tập giải tích và chứng minh: Yêu cầu người học chứng minh tính duy nhất nghiệm của thuật toán Find-S; chứng minh chiều VC của các đường thẳng trong mặt phẳng bằng 3; tính toán hồi quy bậc hai và nội suy hàm nhiều biến từ bảng quan sát thực nghiệm.
  • Phương pháp đánh giá (Assessment methods):
    • Đánh giá định lượng thông qua hàm lỗi thực nghiệm $E(D)$, tổng sai số bình phương $SSE$.
    • Đánh giá khả năng tổng quát hóa qua phương pháp kiểm định chéo $k$-folds và ma trận lỗi trên tập mẫu kiểm tra độc lập.
  • Hướng dẫn tự học: Người học cần nắm chắc Chương 1 và Chương 2 trước khi chuyển sang các chương chuyên đề. Đối với từng thuật toán, sinh viên cần thực hiện tính toán thủ công trên các tập mẫu nhỏ (như bảng dữ liệu thời tiết hoặc bảng phân lớp 2 chiều) trước khi tiến hành cài đặt chương trình máy tính.

Điểm nổi bật và cập nhật

  • Mở rộng không gian thuật toán: Cung cấp đầy đủ các nhánh tiếp cận từ học ký hiệu (Symbolic Learning với Cây quyết định, Find-S), học thống kê xác suất (Bayes, PCA, $K$-NN), học kết nối (Connectionist với Perceptron, MLP, RBF) đến học tiến hóa/bầy đàn (ACO) và học tăng cường (Q-learning).
  • Tích hợp các kỹ thuật hiện đại: Giới thiệu các kiến trúc kết hợp bộ học cơ sở nhằm nâng cao độ chính xác như Bagging, Rừng ngẫu nhiên (Random Forest) và kiến trúc phân lớp bậc thang.
  • Gắn kết mật thiết với các bài toán công nghiệp:
    • Khai phá dữ liệu bán lẻ (Market Basket Analysis): Mô hình hóa xác suất có điều kiện $P(Y|X)$ từ hóa đơn mua sắm để tối ưu hóa việc sắp đặt sản phẩm siêu thị.
    • Tài chính - Ngân hàng: Mô hình hóa bài toán phân loại hồ sơ tín dụng khách hàng nhằm kiểm soát rủi ro cho vay.
    • Điều khiển tự động và Robot: Tối ưu hóa quỹ đạo chuyển động của robot qua mô hình chu trình Hamilton và thuật toán cập nhật trọng số thích nghi.
    • Tin sinh học: Ứng dụng bài toán học không giám sát và dóng hàng cấu trúc (sequence alignment) trong phân tích chuỗi gen DNA, RNA và mạng tương tác protein.

Đối tượng sử dụng giáo trình

  • Sinh viên đại học & Cao học: Phù hợp cho sinh viên năm thứ ba, năm thứ tư hoặc học viên cao học thuộc các ngành Khoa học máy tính, Công nghệ thông tin, Hệ thống thông tin, Khoa học dữ liệu và Trí tuệ nhân tạo.
  • Yêu cầu kiến thức tiên quyết (Prerequisites):
    • Toán học: Đại số tuyến tính (ma trận, định thức, vector riêng), Giải tích ngẫu nhiên, Lý thuyết Xác suất và Thống kê toán học.
    • Tin học: Cấu trúc dữ liệu và Giải thuật, Lý thuyết độ phức tạp tính toán, kỹ năng lập trình hướng đối tượng hoặc tính toán khoa học.
  • Giảng viên và hình thức sử dụng: Sử dụng làm đề cương và tài liệu giảng dạy chính cho học phần 3 tín chỉ; cấu trúc độc lập của các chương từ 3 đến 9 cho phép giảng viên linh hoạt xây dựng các bài giảng chuyên đề hoặc đồ án môn học.
  • Kỹ sư và nhà nghiên cứu: Tài liệu tham khảo hệ thống để tra cứu các mô hình toán học và nguyên lý giải thuật nền tảng của hệ thống nhận dạng mẫu.

Câu hỏi thường gặp

1. Giáo trình này phù hợp nhất với đối tượng nào?

Tài liệu được biên soạn chuẩn hóa cho sinh viên ngành Công nghệ thông tin từ năm thứ 3 trở lên và học viên cao học cần một nền tảng toán học và thuật toán chuẩn xác về học máy.

2. Cần chuẩn bị những kiến thức nền tảng nào trước khi học?

Người học cần hoàn thành các môn học tiên quyết bao gồm: Toán giải tích, Đại số tuyến tính, Xác suất thống kê và Cấu trúc dữ liệu & Giải thuật để có thể tiếp thu các công thức suy diễn và thuật toán tối ưu.

3. Giáo trình này có điểm gì khác biệt so với các tài liệu học máy khác?

Giáo trình phân tích sâu bản chất toán học của các thuật toán (tính đặt đúng Hadamard, lý thuyết học PAC, chiều VC, tối ưu đạo hàm gradient) thay vì chỉ hướng dẫn sử dụng thư viện phần mềm có sẵn; thuật toán được chuẩn hóa thành từng bước logic hoặc mã giả cụ thể.

4. Quy trình tự học giáo trình như thế nào để đạt hiệu quả cao?

Người học bắt buộc nghiên cứu kỹ Chương 1 và Chương 2 để nắm vững định nghĩa hình thức $(T, E, P)$ và không gian giả thuyết; sau đó thực hành giải toàn bộ bài tập tính toán tay cuối mỗi chương (tính Entropy, lập bảng Find-S, tính chiều VC) trước khi cài đặt mã nguồn.

5. Có những nhóm tài liệu bổ trợ nào được định hướng trong giáo trình?

Tác giả đã phân loại hệ thống tài liệu tham khảo theo 4 nhóm chuyên sâu tại Lời nói đầu:

  • Tài liệu mở rộng kiến thức chung về học máy: Các tài liệu [1-3].
  • Tài liệu chuyên sâu về Học thống kê (Statistical Learning): Các tài liệu [4-7].
  • Tài liệu chuyên khảo về Nhận dạng mẫu (Pattern Recognition): Các tài liệu [8-12].
  • Tài liệu hệ thống về Mạng nơ-ron nhân tạo (Neural Networks): Các tài liệu [13-15].

Kết luận

Giáo trình Học máy của tác giả Hoàng Xuân Huấn cung cấp một hệ thống tri thức hoàn chỉnh, chuẩn xác về mặt học thuật cho môn học Học máy 3 tín chỉ. Giáo trình xây dựng tiến trình sư phạm từ lý thuyết học quy nạp toán học đến các kỹ thuật thực thi trong nhận dạng mẫu, hồi quy, phân cụm và học tăng cường. Lộ trình học tập đề xuất bao gồm: nắm vững cơ sở lý thuyết tại Chương 1-2, làm chủ các thuật toán phân lớp truyền thống tại Chương 3-5, tiếp cận các kỹ thuật mạng nơ-ron và học tập thể tại Chương 6-9, kết hợp tra cứu 15 tài liệu chuyên khảo được chỉ dẫn để mở rộng kiến thức chuyên sâu.