Tổng quan luận án

Luận án tiến sĩ toán học với đề tài "Áp dụng các phương pháp giải tích và tối ưu toán học vào phân lớp nhị phân và phân đoạn hình ảnh trong học máy" được nghiên cứu sinh Lê Bích Phượng thực hiện tại Trường Công nghệ Thông tin và Truyền thông / Viện Toán ứng dụng và Tin học, Đại học Bách khoa Hà Nội, dưới sự hướng dẫn khoa học của PGS. Nguyễn Xuân Thảo và GS. Nguyễn Tiến Dũng, bảo vệ năm 2023 thuộc chuyên ngành Toán học (mã số: 9460101).

Về tính cấp thiết và khoảng trống nghiên cứu, tác giả trình bày rằng các mô hình học máy (Machine Learning - ML) và học sâu (Deep Learning - DL) ngày càng đóng vai trò then chốt trong nhiều ứng dụng thực tiễn như nhận dạng khuôn mặt, xử lý ảnh y tế hay phân tích địa chấn. Tuy nhiên, phần lớn các phương pháp trong học máy phân lớp nhị phân và phân đoạn hình ảnh hiện nay vẫn mang tính thực nghiệm, thiếu vắng các luận cứ và chứng minh chặt chẽ từ góc độ giải tích và tối ưu hóa toán học. Cụ thể:

  1. Các thước đo độ chính xác trong phân lớp nhị phân (như diện tích dưới đường cong ROC - AUC, độ chính xác cân bằng tối đa - MBA, độ chính xác có trọng số tối đa - MWA) thường chỉ được nghiên cứu riêng lẻ mà chưa được làm rõ mối quan hệ toán học tương đương giữa chúng.
  2. Dáng điệu lồi của đường cong ROC của máy tối ưu và tính chất tối ưu của máy xác suất thực cần một chứng minh giải tích đơn giản, sáng sủa.
  3. Cơ chế hoạt động của các hàm mất mát (loss function) trong phân loại nhị phân còn thiếu cơ sở toán học để giải thích vì sao các hàm lồi hoặc siêu-lồi mang lại hiệu quả cao, trong khi các hàm mất mát không lồi dễ dẫn mô hình rơi vào các bẫy ngẫu nhiên (random traps).
  4. Các phương pháp biểu quyết truyền thống (biểu quyết số học cứng và mềm) trong phân đoạn hình ảnh xử lý từng điểm ảnh (pixel) độc lập, hoàn toàn bỏ qua các cấu trúc hình học và đặc trưng tô-pô toàn cục cũng như địa phương của đối tượng hình ảnh.

Mục tiêu nghiên cứu của luận án được xác định gồm 3 nội dung chính:

  1. Ứng dụng giải tích hàm, lý thuyết xác suất và tối ưu hóa để làm rõ các tính chất toán học của các thước đo độ chính xác, chứng minh tính tương đương tô-pô giữa AUC, MBA, MWA và chứng minh tính lồi của đường cong ROC của máy xác suất thực.
  2. Thiết lập mô hình toán học tổng quát cho học máy vi phân, phân tích tính chất của các điểm cực tiểu của hàm mất mát lồi, siêu-lồi và làm rõ tác động tiêu cực của hàm mất mát không lồi trong phân loại nhị phân.
  3. Đề xuất phương pháp biểu quyết tô-pô (với ba biến thể: đơn giản nhất, địa phương, và kết hợp với số học) nhằm nâng cao độ chính xác phân đoạn hình ảnh, đồng thời chứng minh tính hợp lý về mặt lý thuyết giải tích và kiểm chứng qua thực nghiệm.

Đối tượng và phạm vi nghiên cứu:

  • Đối tượng nghiên cứu: Các phương pháp giải tích (cực tiểu hóa, phép biến phân, tích phân trên không gian xác suất), tối ưu toán học (trượt gradient) và lý thuyết xác suất áp dụng cho bài toán phân lớp nhị phân và phân đoạn hình ảnh.
  • Phạm vi nghiên cứu: Tập trung vào học máy có giám sát (supervised learning). Phạm vi thực nghiệm bao gồm bài toán phân lớp nhị phân trên bộ dữ liệu CIFAR-10 và ba bài toán phân đoạn hình ảnh: phân đoạn vỉa muối trong ảnh địa chấn, phân đoạn khuôn mặt người trong ảnh kỹ thuật số, và phân đoạn mạch máu võng mạc trên bộ dữ liệu DRIVE.

Tổng quan tài liệu và vị trí của luận án

Luận án điểm lại lịch sử phát triển của trí tuệ nhân tạo (AI) từ khi thuật ngữ này được John McCarthy đề xuất năm 1955, và Arthur Samuel đưa ra thuật ngữ Machine Learning năm 1959. Trong lịch sử phát triển của học máy, tác giả phân tích các cột mốc từ phương pháp học máy cổ điển (như Máy vec-tơ hỗ trợ - SVM) vốn đòi hỏi kỹ thuật tạo đặc trưng thủ công (feature engineering) đến sự phát triển của học sâu (Deep Learning) dựa trên các mạng nơ-ron nhiều tầng, mạng nơ-ron tích chập (CNN) và mạng nơ-ron hồi quy (RNN). Để minh họa cho vai trò của tự động hóa rút trích đặc trưng trong học sâu, luận án viện dẫn bài toán phục hồi 88.000 mảnh vụn của bức tranh fresco do Andrea Mantegna vẽ tại nhà thờ Eremitani (Padova, Ý) bị phá hủy năm 1944. Nhóm của GS. Massimo Fornasier (2000–2006) đã mất 6 năm tính toán dựa trên phương pháp giải tích "phân tách điều hòa vòng quanh" (circular harmonic decomposition), trong khi các kiến trúc học sâu hiện đại do nhóm GS. Nguyễn Tiến Dũng thực hiện năm 2018 chỉ mất 4 giờ huấn luyện để giải quyết bài toán ghép hình tương tự.

Về các thước đo độ chính xác và đường cong ROC, luận án tổng hợp các công trình của Fawcett (2006), Flach và cộng sự (2003, 2011), Hand (2009), Ferri, Hernández-Orallo, Modroiu (2009) và Powers (2011). Luận án chú trọng phân tích Định lý 3 trong bài báo của Flach và cộng sự, nơi tính lồi của đường cong ROC được gắn với các điều kiện hợp lý tự nhiên.

Về các hàm mất mát, tác giả hệ thống hóa các dạng hàm mất mát cổ điển gồm: hàm cross-entropy xây dựng trên cơ sở độ phân kỳ Kullback-Leibler (1951), hệ số khoảng cách Sorensen-Dice (từ những năm 1940), hàm mất mát Focal Loss của Lin, Goyal và cộng sự, cùng hàm mất mát Lovasz dựa trên mở rộng Lovasz.

Về phương pháp biểu quyết trong phân đoạn ảnh, luận án tổng quan hai nhóm kỹ thuật truyền thống: biểu quyết số học cứng (hard arithmetical voting) dựa trên quy tắc đa số đơn giản cho từng điểm ảnh và biểu quyết số học mềm (soft voting) dựa trên giá trị xác suất trung bình.

Vị trí của luận án: Luận án giải quyết trực tiếp khoảng trống về mặt lý thuyết giải tích mà các nghiên cứu trước chưa đề cập: thiết lập hệ bất đẳng thức định lượng chứng minh sự tương đương tô-pô giữa AUC, MBA, MWA; đưa ra cách chứng minh mới, ngắn gọn hơn cho tính lồi của đường cong ROC của máy xác suất thực; giải thích toán học về hiện tượng bẫy ngẫu nhiên của hàm mất mát không lồi; và đề xuất phương pháp biểu quyết tô-pô khắc phục nhược điểm mất thông tin cấu trúc của biểu quyết số học.

Cơ sở lý thuyết và phương pháp nghiên cứu

Luận án xây dựng khung lý thuyết dựa trên sự kết hợp giữa giải tích toán học, lý thuyết xác suất thống kê và các mô hình học sâu:

  • Mô hình toán học của học máy: Biểu diễn một mô hình học máy như một ánh xạ $M: \Theta \times \Omega \rightarrow R$, trong đó $\Omega$ là không gian dữ liệu đầu vào, $\Theta$ là không gian các tham số có thể học (learnable parameters), và $R$ là không gian đầu ra. Mô hình được phân tích dưới dạng ánh xạ hợp $M = \Sigma \circ \phi$, với $\phi: \Omega \rightarrow \Phi$ là ánh xạ trích xuất đặc trưng vào không gian đặc trưng $\Phi$, và $\Sigma: \Phi \rightarrow R$ là ánh xạ phân loại đầu ra.
  • Cơ sở giải tích và tối ưu hóa: Sử dụng giải tích hàm, biến đổi tích phân trên không gian xác suất, phương pháp biến phân, định lý giới hạn trung tâm và phương pháp trượt gradient theo hướng dốc nhất (steepest gradient descent): $$x' = x - \varepsilon \nabla_x f(x)$$ trong đó $\varepsilon > 0$ là tốc độ học (learning rate). Phép tích chập liên tục: $$s(t) = (x * \omega)(t) = \int_{-\infty}^{+\infty} x(a) \cdot \omega(t - a) da$$ và tích chập rời rạc hai chiều trên ảnh số $I$ với lõi $K$: $$S(i, j) = (I * K)(i, j) = \sum_{m} \sum_{n} I(m, n) K(i - m, j - n)$$ được áp dụng để phân tích các tính chất tương tác thưa (sparse connectivity), chia sẻ tham số (parameter sharing) và biểu diễn đẳng biến (equivariance) của mạng tích chập CNN.
  • Phương pháp nghiên cứu:
    • Phương pháp lý thuyết: Sử dụng các công cụ giải tích và xác suất để thiết lập các bổ đề, định lý, bất đẳng thức đánh giá sai số và chứng minh tính hội tụ tối ưu.
    • Phương pháp thực nghiệm: Cài đặt các mô hình học sâu trên nền tảng TensorFlow, sử dụng kiến trúc mạng CNN (như VGG16), áp dụng quy trình kiểm định chéo $k$-fold ($k$-fold Cross Validation với $k = 5, 10, 15$) nhằm đảm bảo tính khách quan và khai thác tối đa dữ liệu huấn luyện.
  • Nguồn tư liệu và tập dữ liệu:
    • Dữ liệu phân loại nhị phân: Bộ dữ liệu chuẩn CIFAR-10 (thực nghiệm phân loại máy bay, chó, mèo).
    • Dữ liệu phân đoạn hình ảnh: Dữ liệu ảnh địa chấn (TGS Salt Identification Challenge), dữ liệu ảnh phân đoạn khuôn mặt người, và bộ dữ liệu ảnh y tế mạch máu võng mạc DRIVE (Digital Retinal Images for Vessel Extraction).

Nội dung chính theo từng chương

Chương 1: Kiến thức chuẩn bị

Chương 1 hệ thống hóa các cơ sở toán học và kỹ thuật nền tảng của học máy. Tác giả trình bày mô hình toán học tổng quát của quá trình học máy, bản chất của không gian tham số $\Theta$ và cơ chế cập nhật trọng số qua từng bước huấn luyện $\theta_0 \mapsto \theta_1 \mapsto \dots \mapsto \theta_n$. Luận án phân tích sâu về đặc tính của dữ liệu trong học máy: các vấn đề dữ liệu bị khuyết thiếu, dữ liệu nhiễu, dữ liệu bị thiên lệch (imbalance/bias), và phương pháp giải quyết thông qua kỹ thuật tăng cường dữ liệu (data augmentation) cùng tạo dữ liệu tổng hợp (synthetic data).

Chương này trình bày chi tiết quy trình kiểm tra hiệu quả mô hình, phân biệt giữa độ chính xác huấn luyện (training accuracy) và độ chính xác kiểm định (validation accuracy) để nhận diện hiện tượng quá khớp (overfitting). Phương pháp kiểm định chéo $k$-fold (k-fold Cross Validation) được chuẩn hóa qua 4 bước: (1) Xáo trộn ngẫu nhiên dữ liệu; (2) Chia dữ liệu thành $k$ nhóm; (3) Huấn luyện trên $k-1$ nhóm và đánh giá trên nhóm còn lại; (4) Tổng hợp kết quả đánh giá trung bình.

Phần tối ưu hóa giải trình chi tiết thuật toán trượt gradient, phân loại các điểm tới hạn (cực tiểu địa phương, cực đại địa phương, điểm yên ngựa và cực tiểu toàn cục). Phần cuối chương phân tích toán học của phép tích chập liên tục, tích chập rời rạc, phép tương quan chéo (cross-correlation), và cấu trúc mạng CNN dựa trên ba nguyên lý: kết nối thưa, dùng chung tham số và tính đẳng biến với phép tịnh tiến.

Chương 2: Độ chính xác của máy phân loại nhị phân

Chương 2 tập trung phân tích không gian xác suất của bài toán phân loại nhị phân dự đoán $Y: \Omega \rightarrow {0, 1}$. Không gian mẫu $\Omega$ được phân hoạch thành 4 tập con rời nhau: dương tính thật ($\Omega_{TP}$), âm tính thật ($\Omega_{TN}$), dương tính giả ($\Omega_{FP}$) và âm tính giả ($\Omega_{FN}$). Từ đó, các tỷ lệ cơ bản được xác lập:

  • Tỷ lệ dương thật (True Positive rate - TP / Độ nhạy - Sensitivity / Recall): $TP = \frac{|\Omega_{TP}|}{|\Omega_P|}$
  • Tỷ lệ âm giả (False Negative rate - FN): $FN = 1 - TP = \frac{|\Omega_{FN}|}{|\Omega_P|}$
  • Tỷ lệ âm thật (True Negative rate - TN / Độ đặc trưng - Specificity): $TN = \frac{|\Omega_{TN}|}{|\Omega_N|}$
  • Tỷ lệ dương giả (False Positive rate - FP): $FP = 1 - TN = \frac{|\Omega_{FP}|}{|\Omega_N|}$
  • Tỷ lệ gọi đúng (Precision Rate - PR): $PR = \frac{|\Omega_{TP}|}{|\Omega_{TP}| + |\Omega_{FP}|}$
Thước đo độ chính xác Ký hiệu / Công thức toán học Ý nghĩa ứng dụng
Độ nhạy (Sensitivity / Recall) $TP = \frac{|\Omega_{TP}|}{|\Omega_{TP}| + |\Omega_{FN}|}$ Đo lường tỷ lệ phát hiện chính xác các ca dương tính
Độ đặc trưng (Specificity) $TN = \frac{|\Omega_{TN}|}{|\Omega_{TN}| + |\Omega_{FP}|}$ Đo lường tỷ lệ phân loại đúng các ca âm tính
Độ chính xác có trọng số $WA_\mu = \mu \cdot TP + (1 - \mu) \cdot TN$ Đánh giá độ chính xác theo chi phí thiệt hại ($x, y$)
Độ chính xác cân bằng $BA = \frac{TP + TN}{2}$ Đánh giá độ chính xác khi trọng số hai lớp bằng nhau ($\mu = 0.5$)
Điểm số $F_b$ $F_b = \frac{(1 + b^2) \cdot TP \cdot PR}{TP + b^2 \cdot PR}$ Trung bình điều hòa có trọng số giữa Recall và Precision
Điểm số $F_1$ $F_1 = \frac{2 \cdot TP \cdot PR}{TP + PR}$ Đánh giá cân bằng giữa Precision và Recall ($b = 1$)

Khi chuyển đổi từ máy mềm $M: \Omega \rightarrow [0, 1]$ sang máy cứng $Y_\sigma$ theo ngưỡng $\sigma \in (0, 1)$, đường cong ROC được định nghĩa là tập hợp các điểm $ROC(\sigma) = (1 - TN(\sigma), TP(\sigma))$. Luận án xác định các thước đo cực đại: $MWA = \max_{\sigma \in [0, 1]} WA(\sigma)$, $MBA = \max_{\sigma \in [0, 1]} BA(\sigma)$ và diện tích $AUC$.

Các kết quả lý thuyết nổi bật trong chương gồm:

  1. Chứng minh sự tương đương tô-pô giữa $AUC$, $MBA$ và $MWA$ thông qua hệ bất đẳng thức. Khi một trong các thước đo này tiến tới 1 thì các thước đo còn lại cũng tiến tới 1.
  2. Chứng minh máy xác suất thực $P(Y(x) = 1 | \phi(x) = \varphi)$ là máy tối ưu tuyệt đối về độ chính xác và đường cong ROC của máy xác suất thực luôn là một đường cong lồi.
  3. Thiết lập công thức về giới hạn tác dụng của phương pháp biểu quyết: chỉ ra rằng mặc dù biểu quyết giúp tăng độ chính xác của các máy phân loại nhị phân, nhưng khi số lượng máy tham gia biểu quyết tiến ra vô cùng, độ chính xác vẫn bị chặn trên bởi một giới hạn xác định và không thể tiến tới 100% nếu thông tin đầu vào bị giới hạn.

Chương 3: Ảnh hưởng của hàm mất mát đến các bài toán phân loại nhị phân

Chương 3 khảo sát vai trò của hàm mất mát (loss function - LF) trong học máy vi phân (differential machine learning). Tác giả phân loại các hàm mất mát phổ biến:

  • Nhóm hàm mất mát hồi quy: Trung bình bình phương sai số (MSE), trung bình tuyệt đối sai số (MAE), sai số thiên vị trung bình (MBE).
  • Nhóm hàm mất mát phân loại nhị phân: Hàm mất mát bình phương (Square loss) và hàm mất mát cross-entropy nhị phân (Binary Cross-Entropy).
  • Nhóm hàm mất mát phân đoạn ảnh: Dice loss, Focal loss, Lovasz loss.

Luận án chứng minh định lý khẳng định rằng: Trong bài toán phân lớp nhị phân, các máy cực tiểu hóa hàm mất mát bình phương và hàm cross-entropy chính là các máy xác suất thực (máy tối ưu đã được định nghĩa ở Chương 2). Mở rộng hơn, tác giả chứng minh các hàm mất mát siêu-lồi (ví dụ hàm đa thức bậc 4 lồi) cũng có điểm cực tiểu là các biến đổi tham số của máy xác suất thực, do đó bảo toàn tính tối ưu về độ chính xác.

Ngược lại, đối với các hàm mất mát không lồi, luận án chứng minh sự tồn tại của các bẫy ngẫu nhiên (random traps). Khi thuật toán tối ưu hóa rơi vào các bẫy này, mô hình sẽ hội tụ về các nghiệm suy biến (ví dụ gán tất cả mẫu dữ liệu về cùng một nhãn, đạt $Sensitivity = 1$ nhưng $Specificity = 0$ tại ngưỡng cắt $\sigma = 0.5$). Thực nghiệm trên bộ dữ liệu CIFAR-10 với mạng VGG16 (cho các bài toán phân loại nhị phân: máy bay/không phải máy bay, chó/không phải chó, mèo/không phải mèo) sử dụng các hàm mất mát nhân tạo (brokenloss1, brokenloss3 với các tham số $c, r$) đã chứng minh rõ hiện tượng mô hình bị mắc kẹt vĩnh viễn trong bẫy ngẫu nhiên hoặc mất nhiều bước lặp để thoát bẫy. Từ đó, tác giả đưa ra nguyên tắc bắt buộc phải sử dụng hàm mất mát lồi/siêu-lồi trong huấn luyện phân lớp nhị phân.

Chương 4: Tối ưu hóa phân đoạn hình ảnh bằng biểu quyết tô-pô

Chương 4 đề xuất phương pháp biểu quyết tô-pô trong phân đoạn hình ảnh nhằm thay thế cho các phương pháp biểu quyết số học truyền thống. Tác giả định nghĩa không gian phân đoạn dựa trên khoảng cách Jaccard và chỉ số giao chia cho hợp (Intersection Over Union - IOU). Ba biến thể của biểu quyết tô-pô được thiết lập:

  1. Biểu quyết tô-pô dạng đơn giản nhất: Đánh giá khoảng cách hình học và hình thái học của toàn bộ vùng phân đoạn.
  2. Biểu quyết tô-pô địa phương: Xét tương quan không gian giữa các điểm ảnh lân cận trong một cửa sổ bán kính $s$.
  3. Biểu quyết kết hợp (lai giữa tô-pô và số học): Quy trình gồm 2 vòng; Vòng 1 sử dụng khoảng cách tô-pô để loại bỏ các bộ phân đoạn (segmentor) ngoại lai (dị biệt lớn so với nhóm chung); Vòng 2 áp dụng biểu quyết số học (cứng hoặc mềm) trên các bộ phân đoạn còn lại.

Luận án chứng minh tính hợp lý của biểu quyết tô-pô trên mô hình toán học giải tích 1 chiều ($x_i \sim N(0, 1)$ và $x_i \sim U(0, 1)$) và mô hình 2 chiều với các hàm phi tuyến ($f(x) = x^3, f(x) = x^2$), khẳng định sai số của biểu quyết tô-pô nhỏ hơn sai số của biểu quyết trung bình số học.

Về mặt thực nghiệm, phương pháp biểu quyết tô-pô được thử nghiệm và so sánh với biểu quyết số học trên 3 bài toán lớn:

  • Phân đoạn muối trong ảnh địa chấn: Kiểm định 5-fold (Bảng 4.1) và 10-fold (Bảng 4.2 và Bảng 4.3), đo bằng chỉ số IOU và Binary Accuracy.
  • Phân đoạn khuôn mặt người: Kiểm định 10-fold (Bảng 4.4), đánh giá trên các ảnh chân dung có nền phức tạp.
  • Phân đoạn mạch máu võng mạc: Kiểm định 15-fold trên bộ dữ liệu DRIVE (Bảng 4.5).

Các kết quả thống kê thực nghiệm đều chỉ ra rằng phương pháp biểu quyết kết hợp (tô-pô và số học) cùng biểu quyết tô-pô địa phương đạt chỉ số IOU và độ chính xác phân đoạn cao hơn so với biểu quyết số học cứng và số học mềm.

Kết quả và những đóng góp mới

Luận án tự tổng kết các đóng góp mới về mặt khoa học lý luận và giá trị ứng dụng thực tiễn:

Về mặt lý luận:

  1. Thiết lập các bất đẳng thức định lượng chứng minh tính tương đương tô-pô của ba thước đo độ chính xác phổ biến trong phân loại nhị phân gồm AUC ROC, MBA và MWA.
  2. Cung cấp chứng minh giải tích mới, ngắn gọn và trực tiếp về tính tối ưu của máy xác suất thực và tính lồi của đường cong ROC của máy xác suất thực.
  3. Thiết lập công thức toán học xác định chặn trên (giới hạn tác dụng) của phương pháp biểu quyết khi số lượng bộ phân loại tiến ra vô cùng.
  4. Chứng minh toán học rằng các hàm mất mát bình phương, cross-entropy và các hàm siêu-lồi dẫn tới nghiệm tối ưu là máy xác suất thực; đồng thời chỉ ra cơ chế hình thành bẫy ngẫu nhiên của các hàm mất mát không lồi.
  5. Đề xuất phương pháp biểu quyết tô-pô (với 3 dạng: đơn giản nhất, địa phương, kết hợp) và chứng minh toán học tính ưu việt của biểu quyết tô-pô so với biểu quyết số học trên không gian 1 chiều và 2 chiều.

Về mặt thực tiễn:

  1. Đưa ra nguyên tắc lựa chọn và thiết kế hàm mất mát lồi/siêu-lồi để tránh bẫy suy biến trong huấn luyện mô hình học sâu phân loại nhị phân khi dữ liệu mất cân bằng.
  2. Xây dựng quy trình biểu quyết tô-pô ứng dụng hiệu quả cho bài toán phân đoạn hình ảnh thực tế trong địa chấn (ảnh vỉa muối), nhận diện sinh trắc học (khuôn mặt) và y tế (mạch máu võng mạc).

Công bố khoa học: Các kết quả nghiên cứu của luận án đã được công bố trong 2 bài báo thuộc danh mục SCIE/Scopus, 2 bài báo trong kỷ yếu hội nghị khoa học quốc tế có phản biện, và 1 báo cáo tại hội nghị quốc tế.

Hạn chế và hướng nghiên cứu tiếp

Về mặt hạn chế, luận án chỉ tập trung khảo sát bài toán học máy có giám sát cho phân lớp nhị phân và phân đoạn hình ảnh 2 lớp (binary image segmentation). Về mặt lý thuyết, việc chứng minh toán học tính hợp lý của biểu quyết tô-pô mới được thực hiện tường minh trên không gian 1 chiều và 2 chiều do tính chất phức tạp của giải tích trên không gian vô hạn chiều và cấu trúc hình học đa chiều tổng quát.

Hướng nghiên cứu tiếp theo được xác định dựa trên phạm vi luận án:

  • Mở rộng các chứng minh toán học giải tích của biểu quyết tô-pô cho trường hợp không gian dữ liệu $n$ chiều tổng quát.
  • Phát triển phương pháp biểu quyết tô-pô và phân tích hàm mất mát cho các bài toán phân loại đa lớp ($n$-phân, $n > 2$) và phân đoạn nhiều đối tượng đồng thời (multi-class segmentation).
  • Nghiên cứu cơ chế tối ưu của các hàm mất mát trong các mô hình học bán giám sát (semi-supervised) và học tự giám sát (self-supervised).

Giá trị tham khảo

Luận án là tài liệu tham khảo chuyên sâu hữu ích cho:

  • Nghiên cứu sinh, học viên cao học và giảng viên chuyên ngành Toán ứng dụng, Khoa học dữ liệu và Trí tuệ nhân tạo: Có thể tham khảo cách tiếp cận giải tích hàm và tối ưu hóa để giải thích các hiện tượng trong học máy (Chương 2 và Chương 3).
  • Các kỹ sư thị giác máy tính và chuyên gia xử lý ảnh y tế, ảnh địa chất - dầu khí: Có thể khai thác trực tiếp thuật toán biểu quyết tô-pô và quy trình kết hợp (hybrid voting) ở Chương 4 để cải thiện độ chính xác phân đoạn đường biên và hình thái đối tượng.
  • Người phát triển mô hình AI trong các bài toán dữ liệu mất cân bằng: Tham khảo nguyên tắc thiết kế hàm mất mát có trọng số và cách hiệu chỉnh ngưỡng phân loại $\sigma$ tối ưu dựa trên đường cong ROC và độ chính xác có trọng số (MWA, MBA).

Câu hỏi thường gặp

1. Vì sao ba thước đo độ chính xác AUC, MBA và MWA được chứng minh là tương đương về mặt tô-pô?
Luận án đã thiết lập hệ bất đẳng thức kẹp giữa AUC, MBA và MWA. Các bất đẳng thức này chứng minh rằng khi một trong ba thước đo dần tiến tới giá trị cực đại bằng 1 (độ chính xác hoàn hảo), thì hai thước đo còn lại cũng bắt buộc phải tiến tới 1. Do đó, chúng có tính tương đương về mặt tô-pô và có thể thay thế cho nhau khi đánh giá độ chính xác của máy phân loại nhị phân.

2. Hiện tượng "bẫy ngẫu nhiên" (random trap) khi sử dụng hàm mất mát không lồi trong học máy diễn ra như thế nào?
Khi hàm mất mát không có tính chất lồi, không gian tham số xuất hiện các điểm cực tiểu cục bộ không tối ưu. Thuật toán trượt gradient có thể bị hút vào các điểm này khiến máy hội tụ về trạng thái suy biến, ví dụ máy đoán toàn bộ mẫu thử nghiệm là cùng một nhãn (như toàn bộ là âm tính hoặc toàn bộ là dương tính), dẫn đến độ nhạy hoặc độ đặc trưng bị triệt tiêu hoàn toàn mà không thể tự thoát ra được trong quá trình học.

3. Biểu quyết tô-pô khắc phục nhược điểm gì của phương pháp biểu quyết số học truyền thống trong phân đoạn ảnh?
Biểu quyết số học (cứng và mềm) chỉ xét giá trị của từng điểm ảnh riêng lẻ một cách độc lập, dẫn đến việc bỏ qua tính liên tục, tính trơn và hình thái không gian của đối tượng cần phân đoạn. Biểu quyết tô-pô khắc phục điều này bằng cách xét cấu trúc hình học, khoảng cách hình thái (như khoảng cách Jaccard/IOU) trên toàn cục hoặc trong lân cận địa phương của bức ảnh, giúp bảo toàn đường biên và hình dạng thực của đối tượng.

4. Quy trình biểu quyết kết hợp (hybrid voting) giữa tô-pô và số học hoạt động như thế nào?
Quy trình gồm 2 vòng rõ rệt: Vòng 1 sử dụng khoảng cách tô-pô để đo mức độ tương đồng hình học giữa tất cả các bộ phân đoạn (segmentors), từ đó loại bỏ các bộ phân đoạn ngoại lai nằm quá xa nhóm chung. Vòng 2 áp dụng biểu quyết số học (cứng hoặc mềm) trên tập hợp các bộ phân đoạn đạt chuẩn còn lại để đưa ra kết quả phân đoạn cuối cùng.

5. Luận án chỉ ra giới hạn lý thuyết nào của phương pháp biểu quyết trong phân loại nhị phân?
Luận án thiết lập công thức toán học khẳng định rằng phương pháp biểu quyết giúp cải thiện độ chính xác so với từng máy đơn lẻ, nhưng tồn tại một giới hạn trên xác định. Ngay cả khi số lượng máy độc lập tham gia biểu quyết tiến tới vô cùng ($n \rightarrow \infty$), độ chính xác tổng hợp vẫn không thể đạt mức tuyệt đối 100% nếu lượng thông tin chứa trong không gian đặc trưng ban đầu bị giới hạn.

Kết luận

Luận án tiến sĩ của tác giả Lê Bích Phượng đã giải quyết thành công các vấn đề lý thuyết giải tích và tối ưu hóa trong học máy phân lớp nhị phân và phân đoạn hình ảnh. Công trình đã chứng minh chặt chẽ tính tương đương tô-pô của các thước đo độ chính xác, tính tối ưu và tính lồi đường ROC của máy xác suất thực, đồng thời làm rõ cơ chế hội tụ của hàm mất mát lồi/siêu-lồi. Phương pháp biểu quyết tô-pô được đề xuất đã chứng minh được tính hợp lý về toán học và mang lại hiệu quả vượt trội trong các thực nghiệm phân đoạn ảnh địa chấn, khuôn mặt và y tế. Các kết quả của luận án đóng góp cơ sở lý luận toán học vững chắc cho việc thiết kế mô hình và thuật toán xử lý dữ liệu trong thị giác máy tính.