Tổng quan luận án

Luận án tiến sĩ "Cải tiến quá trình học của một số mạng nơ-ron ghi nhớ" được nghiên cứu sinh Nông Thị Hoa thực hiện tại Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội dưới sự hướng dẫn khoa học của PGS. Bùi Thế Duy, chuyên ngành Khoa học máy tính (mã số 62.01).

Trong lĩnh vực mạng nơ-ron nhân tạo (ANN), các mô hình mạng nơ-ron ghi nhớ (Associative Neural Networks) đảm nhiệm chức năng lưu trữ các mẫu hoàn chỉnh nhằm phục hồi chính xác thông tin ban đầu từ các tín hiệu đầu vào bị biến dạng, thiếu hụt hoặc chứa nhiễu. Quá trình học của mạng đóng vai trò then chốt trong việc cập nhật ma trận trọng số kết nối và các tham số nội tại, từ đó quyết định trực tiếp đến chất lượng và hiệu quả xử lý thông tin của toàn mạng. Tác giả chỉ ra rằng các mô hình mạng nơ-ron ghi nhớ tiêu biểu gồm Bộ nhớ liên kết hai chiều (BAM), Lý thuyết cộng hưởng thích nghi mờ (Fuzzy ART) và Bộ nhớ liên kết mờ (FAM) vẫn tồn tại những hạn chế kỹ thuật trong quá trình học:

  • Việc gắn trọng số cho các mẫu trong tập huấn luyện của BAM học nhiều lần chưa cụ thể hoặc đòi hỏi thời gian điều chỉnh trọng số kết nối lớn.
  • Trong mô hình Fuzzy ART, các véc-tơ trọng số cụm sau khi học có thể làm thất thoát một số mẫu huấn luyện mang thông tin quan trọng.
  • Luật học của một số mô hình FAM chưa cân bằng giữa việc lưu trữ nội dung mẫu và việc lưu trữ mối quan hệ liên kết giữa các cặp mẫu, khiến mô hình khó thích ứng với các tập mẫu phức tạp.

Mục tiêu nghiên cứu của luận án là thực hiện cải tiến quá trình học nhằm nâng cao chất lượng xử lý của ba mô hình mạng nơ-ron ghi nhớ nêu trên. Tác giả cụ thể hóa thành 3 nhiệm vụ nghiên cứu:

  1. Đề xuất cách xác định giá trị thích hợp cho trọng số của các cặp mẫu huấn luyện trong mô hình BAM.
  2. Cải tiến luật học và xây dựng thủ tục tìm giá trị thích hợp cho tham số tốc độ học của Fuzzy ART.
  3. Cải tiến luật học để mô hình FAM học và lưu trữ hiệu quả đồng thời cả nội dung và sự liên kết giữa các cặp mẫu.

Đối tượng nghiên cứu của luận án là các thuật toán và luật học của ba mô hình mạng nơ-ron ghi nhớ: BAM, Fuzzy ART và FAM. Phạm vi nghiên cứu tập trung vào việc mô hình hóa toán học, tối ưu hóa ma trận trọng số kết nối dựa trên hàm năng lượng và các phép toán mờ/hình thái học; kiểm chứng thực nghiệm thông qua các bài toán nhận dạng mẫu (nhận dạng vân tay, chữ viết tay, biển báo giao thông, tiền xu, phương tiện giao thông, ảnh con số, ảnh cơ sở dữ liệu Corel) và phân cụm/phân lớp trên 14 bộ dữ liệu chuẩn quốc tế.

Tổng quan tài liệu và vị trí của luận án

Luận án đã hệ thống hóa và phân tích các công trình nghiên cứu trong nước và quốc tế xoay quanh ba nhánh mô hình chính:

Đối với Bộ nhớ liên kết hai chiều (BAM): Kế thừa cấu trúc mạng Hopfield (Hopfield, 1982) và mô hình BAM gốc (Kosko, 1988), các nghiên cứu phát triển theo hai chiến lược học:

  • Chiến lược học một lần: Tiêu biểu là các mô hình của Zhuang và đồng nghiệp (1993), Xu và He (1994), Leung (1993), Eom và đồng nghiệp (1998, 2004) với BAM không đối xứng điều chỉnh khoảng cách Hamming, Acevedo-Mosqueda và đồng nghiệp (2007) với Alpha-Beta BAM, Vázquez và đồng nghiệp (2010) với mô hình liên kết động. Các mô hình học một lần có chi phí tính toán thấp nhưng khả năng chịu nhiễu bị suy giảm nghiêm trọng khi dữ liệu đầu vào không trực giao hoặc bị biến dạng lớn.
  • Chiến lược học nhiều lần: Y.F. Wang, Cruz và Mulligan (1990, 1991) đưa ra điều kiện về ma trận tương quan tổng quát và khái niệm số lần lặp tối thiểu để học một cặp mẫu (MNTP); T. Wang và Zhuang (1993) đề xuất thuật toán học có trọng số dựa trên giá trị trung bình cực tiểu cục bộ; Shen và Cruz (2005) dùng giải thuật di truyền tối ưu hóa hàm năng lượng; Chartier và Boukadoum (2006, 2011) giới thiệu luật học theo thời gian kết hợp hàm kích hoạt phi tuyến. Nhóm mô hình này có khả năng phục hồi mẫu cao nhưng độ phức tạp tính toán rất lớn do quá trình lặp cập nhật trọng số kéo dài.

Đối với Lý thuyết cộng hưởng thích nghi mờ (Fuzzy ART): Mô hình ART do Grossberg (1976, 1987) khởi xướng bao gồm ART 1, ART 2, ART 3 và ARTMAP. Carpenter và đồng nghiệp (1991) phát triển Fuzzy ART kết hợp toán tử mờ để xử lý cả tín hiệu nhị phân lẫn tín hiệu tương tự. Moore (1989) bổ sung kỹ thuật mã hóa đầy đủ (complement coding) nhằm ngăn chặn sự bùng nổ số lượng cụm mới. Các nghiên cứu tiếp theo của Carpenter, Grossberg, Rosen (1991), Anagnostopoulos và Georgiopoulos (2002), Vigdor và Lerner (2007) chỉ ra rằng luật cập nhật trọng số cố định và tham số tốc độ học $\beta$ tĩnh dễ dẫn đến hiện tượng bỏ sót mẫu biên quan trọng và làm giảm độ chính xác phân cụm.

Đối với Bộ nhớ liên kết mờ (FAM): Bắt đầu từ Max-min FAM và Max-product FAM của Kosko (1992), Chung và Lee (1993) đã tổng quát hóa cấu trúc FAM. Pedrycz (1992) đề xuất các dạng nơ-ron mờ tổng quát gồm Max-C, Min-I và Min-D. Các biến thể khác gồm Implicative Fuzzy Associative Memory (IFAM) của Sussner và Valle (2006, 2008), Morphological Associative Memories (MAM) của Ritter và Sussner, cùng các mô hình của Junbo (1996), Xiao (2003). Đa số các mô hình FAM trước đây chỉ lưu tỷ lệ giá trị mẫu mà xem nhẹ nội dung, hoặc chỉ lưu nội dung cục bộ mà làm suy giảm tính liên kết ánh xạ.

Khoảng trống nghiên cứu được luận án xác định và giải quyết bao gồm:

  1. Thiếu một cơ chế xác định tham số MNTP tường minh trong BAM học nhiều lần để vừa đảm bảo tốc độ học nhanh, vừa xử lý được các tập mẫu không trực giao.
  2. Thiếu luật học thích nghi và phương pháp tự động xác định tham số tốc độ học $\beta$ cho Fuzzy ART để nâng cao chỉ số phân cụm trên các tập dữ liệu phức tạp.
  3. Thiếu một luật học mờ có khả năng đồng thời bảo toàn nội dung dữ liệu của từng mẫu và bảo toàn quan hệ liên kết giữa cặp mẫu đầu vào - đầu ra.

Cơ sở lý thuyết và phương pháp nghiên cứu

Luận án xây dựng trên nền tảng toán học và lý thuyết mạng nơ-ron nhân tạo với các cấu phần sau:

  • Logic mờ (Fuzzy Logic): Định nghĩa tập mờ trên miền xác định $X$ thông qua hàm thuộc $\mu_A(x) \in [0, 1]$; các phép toán nối mờ dạng t-norm ($C_M, C_P, C_L$), phân tách mờ dạng s-norm ($S_M, S_P, S_L$) và các toán tử gợi ý mờ (fuzzy implication) $I(x, y)$.
  • Toán học hình thái (Morphological Mathematics): Lý thuyết lưới đầy đủ (complete lattice) $\mathcal{L}$, các phép toán cơ bản gồm phép co rút (erosion) $\varepsilon$ thỏa mãn $\varepsilon(\bigwedge Y) = \bigwedge \varepsilon(Y)$ và phép giãn nở (dilation) $\delta$ thỏa mãn $\delta(\bigvee Y) = \bigvee \delta(Y)$.
  • Lý thuyết mạng nơ-ron nhân tạo: Mô hình nơ-ron McCulloch-Pitts, các dạng hàm kích hoạt (hàm ngưỡng, hàm trễ, hàm sigmoid); các luật học tham số (luật Delta, Perceptron, Oja, lan truyền ngược) và học không giám sát (luật Hebb, LVQ); mô hình mạng Hopfield rời rạc và liên tục dựa trên hàm năng lượng Lyapunov $E$.

Phương pháp nghiên cứu kết hợp giữa phân tích lý thuyết toán học và mô phỏng thực nghiệm định lượng:

  • Về mặt lý thuyết: Luận án phân tích mối quan hệ giải tích giữa tham số số lần học tối thiểu (MNTP) với cực tiểu cục bộ của hàm năng lượng BAM; chứng minh toán học Định lý 5.1 và các hệ quả liên quan đến điều kiện nhớ lại hoàn hảo của mô hình FAM cải tiến.
  • Về mặt thực nghiệm: Thiết lập các chương trình thử nghiệm để so sánh hiệu năng của các mô hình cải tiến với các mô hình kinh điển. Kỹ thuật đánh giá chất lượng phân cụm sử dụng hai chỉ số chuẩn:
    • Chỉ số Davies–Bouldin: $DB = \frac{1}{n}\sum_{i=1}^n \max_{j \neq i}\left(\frac{\sigma_i + \sigma_j}{d(c_i, c_j)}\right)$ (giá trị càng nhỏ chất lượng phân cụm càng cao).
    • Chỉ số Dunn: $D = \min_{1 \le i < j \le n}\left{ \frac{d(i, j)}{\max_{1 \le k \le n} d'(k)} \right}$ (giá trị càng lớn chất lượng phân cụm càng cao).

Nguồn dữ liệu thực nghiệm gồm:

  • Dữ liệu nhận dạng mẫu nhị phân/hình ảnh: Bộ ảnh vân tay, bộ ảnh chữ viết tay, bộ ảnh biển báo giao thông, bộ ảnh tiền xu của Mỹ, bộ ảnh phương tiện giao thông, bộ dữ liệu các con số và tập dữ liệu ảnh chuẩn Corel.
  • Dữ liệu phân lớp/phân cụm chuẩn: 14 tập dữ liệu từ kho lưu trữ máy học chuẩn quốc tế gồm Iris, Spiral, Flame, Balance-Scale, R15, Glass, Wine, Jain, Aggregation, WDBC (Wisconsin Diagnostic Breast Cancer), D31, Wine-White, Monk, Wine-Red.

Nội dung chính theo từng chương

Chương 1: Mạng nơ-ron nhân tạo

Chương 1 cung cấp tổng quan về cơ sở lý thuyết nơ-ron sinh học và nơ-ron nhân tạo. Tác giả trình bày cấu tạo tế bào thần kinh sinh học, mô hình toán học của nơ-ron nhân tạo với ba dạng tổng hợp thông tin đầu vào (tuyến tính, toàn phương, mặt cầu) và các hàm kích hoạt tiêu biểu (McCulloch-Pitts, trễ, sigmoid). Chương phân loại các cấu trúc mạng theo đường truyền tín hiệu (mạng truyền thẳng một lớp, nhiều lớp, RBF và mạng lan truyền ngược gồm mạng cạnh tranh, SOM Kohonen, Hopfield, ART) và theo bản chất học (học có giám sát, học không giám sát, học tăng cường, học cấu trúc). Đồng thời, chương 1 phân tích ưu - nhược điểm của ANN và hệ thống hóa 4 lớp bài toán ứng dụng chính: phân lớp, mô hình hóa, biến đổi (nén/giảm chiều dữ liệu) và liên kết/dịch chuyển cửa sổ.

Chương 2: Một số mạng nơ-ron ghi nhớ

Chương 2 trình bày chi tiết cơ sở toán học và cơ chế vận hành của các mô hình bộ nhớ liên kết:

  1. Logic mờ và toán học hình thái: Trình bày các t-norm, s-norm, phép toán trên lưới đầy đủ phục vụ cho cấu trúc nơ-ron mờ.
  2. Mô hình Bộ nhớ liên kết (AM): Cơ chế ánh xạ nội dung - địa chỉ, phân biệt dạng tự liên kết (autoassociative) và liên kết khác loại (heteroassociative), điều kiện tính trực giao của các cặp mẫu.
  3. Mạng Hopfield và mô hình BAM: Phân tích mạng Hopfield rời rạc, Hopfield liên tục, định lý hội tụ theo hàm năng lượng Lyapunov; cấu trúc BAM gồm hai trường nơ-ron $A$ và $B$, quy trình truyền tín hiệu hai chiều, điều kiện cực tiểu cục bộ của hàm năng lượng để tránh phá hủy mẫu đã lưu, chiến lược học nhiều lần dựa trên MNTP ($q_k$).
  4. Mô hình FAM: Các kiểu nơ-ron mờ Max-C, Min-I, Min-D của Pedrycz; mô hình Max-min FAM, Max-product FAM của Kosko và FAM tổng quát của Chung - Lee.
  5. Mô hình ART và Fuzzy ART: Cấu trúc hai tầng $F_1, F_2$, hệ thống chú ý và hệ thống định hướng; thuật toán 4 bước của Fuzzy ART (khởi tạo trọng số, lựa chọn cụm chiến thắng qua hàm $T_j$, kiểm tra điều kiện cộng hưởng với ngưỡng cảnh giác $\rho$, cập nhật trọng số với tốc độ học $\beta$); kỹ thuật mã hóa đầy đủ $I = (a, a^c)$; hai thước đo chất lượng phân cụm Davies-Bouldin và Dunn.

Chương 3: Thuật toán học cải tiến cho bộ nhớ liên kết hai chiều

Chương 3 giải quyết bài toán giảm độ phức tạp tính toán và nâng cao khả năng ghi nhớ mẫu không trực giao cho BAM. Tác giả đề xuất mô hình FFBAM (Fast Flexible Bidirectional Associative Memory) cùng Thuật toán 3.1:

  • Cơ chế: Thay vì lặp cập nhật ma trận trọng số qua nhiều chu kỳ chậm chạp, thuật toán xác định trực tiếp giá trị trọng số thích hợp cho từng cặp mẫu dựa trên sự tương quan năng lượng và tham số MNTP, thực hiện học nhanh trong một chu trình có kiểm soát.
  • Khắc phục hạn chế: FFBAM có thể lưu trữ và phục hồi chính xác các cặp mẫu được biểu diễn bằng các véc-tơ không trực giao, điều mà mô hình BAM của Kosko và một số BAM học một lần không thực hiện được.
Tập dữ liệu thử nghiệm Mô hình thử nghiệm Thời gian học Tỷ lệ nhớ lại chính xác
Nhận dạng vân tay FFBAM (đề xuất) Rút ngắn so với BAM lặp 100% mẫu gốc và mẫu nhiễu
Nhận dạng chữ viết tay FFBAM (đề xuất) Nhanh, linh hoạt Tăng cường so với BAM Kosko
Biển hiệu giao thông FFBAM (đề xuất) Ổn định Khả năng chịu nhiễu cao
Tiền xu của Mỹ FFBAM (đề xuất) Thấp hơn Wang et al. Nhớ lại hoàn chỉnh
Phương tiện giao thông FFBAM (đề xuất) Tối ưu hóa Vượt trội ở mẫu không trực giao

Kết quả thực nghiệm tại các Bảng 3.1 đến 3.5 cho thấy FFBAM vượt trội về tốc độ học so với các mô hình học nhiều lần của Y.F. Wang et al. (1990), T. Wang và Zhuang (1993), đồng thời duy trì khả năng phục hồi mẫu chính xác từ các ảnh đầu vào có độ nhiễu cao.

Chương 4: Hai luật học cải tiến cho lý thuyết cộng hưởng thích nghi mờ

Chương 4 đề xuất hai luật học mới và một thủ tục tự động tìm giá trị thích hợp cho tham số tốc độ học $\beta$ trong mô hình Fuzzy ART, hình thành biến thể EFART (Enhanced Fuzzy Adaptive Resonance Theory):

  • Luật học thứ nhất: Điều chỉnh sự co giãn của siêu hộp biểu diễn cụm, đảm bảo giữ lại các mẫu biên mang thông tin quan trọng mà không làm mất tính tổng quát của cụm.
  • Luật học thứ hai: Cải tiến cơ chế cập nhật trọng số của cụm chiến thắng khi tiếp nhận mẫu mới, tối ưu hóa kích thước vùng hấp dẫn của cụm.
  • Thuật toán 4.1: Thủ tục tìm giá trị tham số tốc độ học $\beta \in [0, 1]$ thích hợp dựa trên đặc tính phân bố dữ liệu thay cho việc chọn giá trị $\beta$ cố định theo kinh nghiệm.

Thực nghiệm được chia thành 2 đợt kiểm thử trên 14 bộ dữ liệu chuẩn:

  • Thử nghiệm 1 (Dùng luật học thứ nhất): Kiểm thử trên 9 tập dữ liệu (Iris, Spiral, Flame, Balance-Scale, R15, Glass, Wine, Jain, Aggregation). Kết quả tại các Bảng 4.2 đến 4.10 và Bảng tổng hợp 4.11 cho thấy EFART cải thiện độ chính xác phân lớp và các chỉ số Davies-Bouldin, Dunn so với mô hình tốt thứ hai.
  • Thử nghiệm 2 (Dùng luật học thứ hai): Kiểm thử trên 7 tập dữ liệu (WDBC, D31, Wine-White, Balance-Scale, R15, Monk, Wine-Red). Kết quả tại các Bảng 4.13 đến 4.19 và Bảng tổng hợp 4.20 chứng minh luật học thứ hai nâng cao độ ổn định và giảm thiểu số cụm dư thừa.

Chương 5: Luật học cải tiến cho bộ nhớ liên kết mờ

Chương 5 giới thiệu mô hình Bộ nhớ liên kết nội dung - liên kết (ACAM - Association-Content Associative Memory) cho FAM:

  • Luật học ACAM: Tích hợp cơ chế mã hóa đồng thời thông tin nội dung của từng mẫu (thông qua các phép toán mờ cục bộ) và cấu trúc quan hệ ánh xạ giữa mẫu vào $A_k$ và mẫu ra $B_k$.
  • Đóng góp lý thuyết: Tác giả xây dựng và chứng minh Định lý 5.1 cùng các hệ quả kèm theo, xác lập điều kiện đủ để mô hình ACAM đạt khả năng nhớ lại hoàn hảo (perfect recall) mọi cặp mẫu trong tập bộ nhớ cơ bản.

Kết quả thực nghiệm đánh giá khả năng phục hồi mẫu từ các ảnh bị suy hao bởi nhiễu muối tiêu (salt-and-pepper noise):

  • Thử nghiệm 1 (Tập dữ liệu con số): Thử nghiệm ở cả hai chế độ tự liên kết và liên kết khác loại (Bảng 5.1 và Bảng 5.2, Hình 5.1). ACAM phục hồi hoàn chỉnh các con số từ ảnh đầu vào bị biến dạng nặng, trong khi các mô hình của Junbo, Xiao, Sussner & Valle xuất hiện nhiều điểm lỗi.
  • Thử nghiệm 2 (Tập dữ liệu ảnh Corel): Thử nghiệm tự liên kết và liên kết khác loại (Bảng 5.3, Bảng 5.4, Hình 5.4, Hình 5.5). ACAM đạt chất lượng khôi phục ảnh vượt trội so với các mô hình Kosko, Junbo, Xiao, Sussner và Valle.

Kết quả và những đóng góp mới

Luận án đã đạt được các đóng góp học thuật và thực tiễn cụ thể như sau:

Về mặt lý luận:

  1. Xây dựng thuật toán học nhanh và linh động cho BAM (FFBAM), xác định mối quan hệ giữa tham số MNTP và hàm năng lượng Lyapunov, giải quyết triệt để vấn đề lưu trữ và nhớ lại các cặp mẫu không trực giao.
  2. Đề xuất hai luật học cải tiến cho Fuzzy ART cùng Thuật toán 4.1 tìm tham số tốc độ học $\beta$ tối ưu, nâng cao hiệu quả phân cụm và bảo toàn mẫu biên.
  3. Đề xuất mô hình ACAM cho FAM với luật học mới bảo toàn đồng thời nội dung và liên kết; chứng minh toán học Định lý 5.1 về khả năng nhớ lại hoàn hảo.

Về mặt thực tiễn và công bố khoa học:

  • Cung cấp các công cụ thuật toán có hiệu năng cao ứng dụng trực tiếp cho các bài toán nhận dạng mẫu ảnh (vân tay, chữ viết tay, ký hiệu, biển báo) và phân tích dữ liệu lớn.
  • Toàn bộ các kết quả nghiên cứu trong luận án được công bố qua 11 công trình khoa học gồm:
    • 02 bài báo trên tạp chí quốc tế thuộc danh mục ISI.
    • 07 báo cáo khoa học trong kỷ yếu hội nghị quốc tế có phản biện (trong đó 06 bài do IEEE và Springer xuất bản).
    • 02 bài báo trên tạp chí khoa học chuyên ngành trong nước.

Kiến nghị và giải pháp đề xuất:

  • Áp dụng mô hình FFBAM vào các hệ thống nhận dạng thời gian thực có tài nguyên tính toán giới hạn.
  • Tích hợp thủ tục chọn tốc độ học của EFART vào các bài toán phân tích phân cụm dữ liệu mờ tự động.
  • Ứng dụng mô hình ACAM trong xử lý và phục hồi dữ liệu hình ảnh đa phương tiện bị suy hao bởi các dạng nhiễu ngẫu nhiên.

Hạn chế và hướng nghiên cứu tiếp

Dựa trên phạm vi nghiên cứu và nội dung văn bản luận án:

  • Hạn chế: Các thực nghiệm phục hồi mẫu của FAM/ACAM chủ yếu tập trung đánh giá trên mô hình nhiễu muối tiêu và các biến dạng hình học 2D; độ phức tạp tính toán khi kích thước mẫu tăng lên quy mô cực lớn cần tiếp tục được đánh giá sâu hơn trên phần cứng phân tán.
  • Hướng nghiên cứu tiếp:
    • Mở rộng thuật toán FFBAM cho các mô hình bộ nhớ liên kết nhiều chiều (Multidirectional Associative Memory).
    • Nghiên cứu kết hợp cấu trúc EFART với mạng nơ-ron học sâu (Deep Neural Networks) để giải quyết các bài toán phân lớp dữ liệu phi cấu trúc phức tạp.
    • Mở rộng luật học ACAM để xử lý các dạng nhiễu phức tạp khác (nhiễu Gauss, nhiễu mờ chuyển động) và dữ liệu chuỗi thời gian.

Giá trị tham khảo

Luận án là tài liệu tham khảo chuyên khảo hữu ích cho các đối tượng:

  • Nghiên cứu sinh, học viên cao học ngành Khoa học máy tính và Công nghệ thông tin: Cung cấp hệ thống lý thuyết chuẩn xác về logic mờ, toán học hình thái, mạng Hopfield, BAM, FAM, ART và Fuzzy ART; phương pháp chứng minh toán học trong mạng nơ-ron ghi nhớ.
  • Giảng viên, nhà nghiên cứu trí tuệ nhân tạo: Sử dụng làm tài liệu giảng dạy chuyên đề về tính toán mềm (Soft Computing), mạng nơ-ron nhân tạo và xử lý thông tin mờ.
  • Kỹ sư phát triển hệ thống: Tham khảo các thuật toán cụ thể (Thuật toán 3.1, Thuật toán 4.1, luật học ACAM) để lập trình cài đặt trong các hệ thống nhận dạng sinh trắc học, thị giác máy tính và phân tích dữ liệu.

Phần đáng tham khảo nhất là Chương 3, Chương 4 và Chương 5 với đầy đủ mô hình toán học, thuật toán chi tiết và các bảng đối sánh thực nghiệm trên tập dữ liệu chuẩn.

Câu hỏi thường gặp

1. Mô hình FFBAM trong Chương 3 giải quyết được nhược điểm cốt lõi nào của mô hình BAM truyền thống?
FFBAM khắc phục hai điểm hạn chế chính của BAM truyền thống: giảm chi phí thời gian huấn luyện của chiến lược học nhiều lần thông qua việc xác định trực tiếp tham số MNTP, đồng thời lưu trữ và nhớ lại chính xác các cặp mẫu được biểu diễn dưới dạng véc-tơ không trực giao.

2. Hai luật học mới trong mô hình EFART (Chương 4) có vai trò gì đối với quá trình phân cụm?
Luật học thứ nhất điều chỉnh sự co giãn của siêu hộp cụm để không bỏ sót các mẫu huấn luyện quan trọng ở vùng biên; luật học thứ hai tối ưu hóa việc cập nhật véc-tơ trọng số cụm chiến thắng. Kết hợp với Thuật toán 4.1 xác định tốc độ học $\beta$, EFART cải thiện rõ rệt hai chỉ số Davies-Bouldin và Dunn trên 14 bộ dữ liệu chuẩn.

3. Điểm khác biệt căn bản giữa luật học ACAM (Chương 5) và các luật học FAM trước đây là gì?
Các FAM trước đây (Kosko, Chung & Lee, Sussner & Valle) thường chỉ lưu trữ tỷ lệ giá trị mẫu hoặc chỉ lưu trữ nội dung cục bộ, dẫn đến việc mất mát thông tin liên kết hoặc không thích hợp với mẫu phức tạp. Luật học ACAM học và lưu trữ hiệu quả đồng thời cả nội dung của từng mẫu lẫn quan hệ liên kết giữa cặp mẫu vào - ra.

4. Khả năng nhớ lại hoàn hảo của mô hình ACAM được đảm bảo bằng cơ sở nào?
Khả năng nhớ lại hoàn hảo (perfect recall) của ACAM được luận án chứng minh chặt chẽ về mặt toán học thông qua Định lý 5.1 và các hệ quả liên quan trong Chương 5 của luận án.

5. Luận án đã sử dụng những thước đo định lượng nào để đánh giá chất lượng phân cụm trong Chương 4?
Luận án sử dụng hai thước đo chuẩn là chỉ số Davies–Bouldin (thuật toán có chỉ số càng nhỏ càng tốt) và chỉ số Dunn (thuật toán có chỉ số càng lớn càng tốt).

Kết luận

Luận án "Cải tiến quá trình học của một số mạng nơ-ron ghi nhớ" của tác giả Nông Thị Hoa đã hoàn thành toàn diện 3 mục tiêu nghiên cứu đề ra cho ba mô hình BAM, Fuzzy ART và FAM. Bằng việc đề xuất cấu trúc FFBAM, EFART và ACAM, công trình đã giải quyết được các bài toán về tối ưu hóa thời gian học, lưu trữ mẫu không trực giao, bảo toàn mẫu biên trong phân cụm và duy trì đồng thời thông tin nội dung - liên kết mờ. Các kết quả lý thuyết được chứng minh toán học rõ ràng và được kiểm chứng qua hệ thống thực nghiệm trên 14 bộ dữ liệu chuẩn cùng nhiều bài toán nhận dạng mẫu thực tế, đóng góp giá trị khoa học thiết thực cho chuyên ngành Khoa học máy tính.