Bối cảnh và vấn đề nghiên cứu
Nhận dạng mẫu (Pattern Recognition) và phân lớp mẫu (Pattern Classification) là một trong những hướng nghiên cứu trọng tâm của khoa học máy tính và học máy, bắt nguồn từ nhu cầu xây dựng các hệ thống máy tính có khả năng quan sát và tương tác với môi trường xung quanh. Trong bối cảnh khối lượng thông tin gia tăng nhanh chóng, việc phân lớp dữ liệu nhằm khám phá tri thức đóng vai trò quyết định trong việc xử lý các bài toán thực tiễn. Phân lớp có giám sát là dạng bài toán được ứng dụng phổ biến nhất, đòi hỏi xây dựng bộ phân lớp từ tập dữ liệu huấn luyện đã được gán nhãn để dự đoán nhãn cho các đối tượng mới chưa biết.
Tuy nhiên, các công cụ toán học và mô hình kinh điển giải quyết bài toán này vẫn còn tồn tại những hạn chế nhất định. Phương pháp $k$ láng giềng gần nhất (KNN) tuy đơn giản nhưng chi phí tính toán lớn và nhạy cảm với nhiễu; trong khi đó, mạng nơ-ron nhân tạo truyền thống (ANN) đòi hỏi cấu hình phức tạp và khả năng tối ưu hóa đôi khi chưa đạt hiệu suất như kỳ vọng. Nhằm giải quyết các thách thức trên, khóa luận tập trung nghiên cứu giải thuật KohonAnts (KANTS) – một mô hình kết hợp giữa mạng bản đồ tự tổ chức (Self-Organizing Map - SOM) của Teuvo Kohonen và mô hình hệ kiến (Ant System - AS) của Chialvo và Millonas.
Mục tiêu và nhiệm vụ nghiên cứu của đề tài được xác định theo 3 nội dung chính:
- Khảo cứu cơ sở lý thuyết về bài toán phân lớp, mạng nơ-ron nhân tạo, thuật toán $k$ láng giềng gần nhất, bản đồ tự tổ chức SOM và hệ kiến nhân tạo để làm rõ nguyên lý hoạt động của giải thuật kết hợp KANTS.
- Thiết kế và cài đặt chương trình thực nghiệm bằng ngôn ngữ C++ để kiểm thử, đánh giá độ chính xác của KANTS trên các bộ dữ liệu thực nghiệm chuẩn và so sánh trực tiếp với thuật toán KNN truyền thống dưới các giá trị $k$ khác nhau.
- Đề xuất cải tiến và mở rộng giải thuật KANTS thông qua việc tích hợp phương pháp học tập hợp (Ensemble learning) nhằm nâng cao độ chính xác phân lớp và giảm thiểu tác động của dữ liệu nhiễu.
Đối tượng nghiên cứu của khóa luận là giải thuật phân lớp KANTS, mạng bản đồ tự tổ chức SOM, thuật toán KNN, hệ kiến nhân tạo và kỹ thuật học tập hợp. Phạm vi nghiên cứu về mặt dữ liệu bao gồm các bộ dữ liệu thực nghiệm kinh điển từ kho lưu trữ dữ liệu học máy UCI (UCI Machine Learning Repository), gồm: tập dữ liệu hoa Iris, tập dữ liệu thủy tinh Glass và tập dữ liệu bệnh tiểu đường của người da đỏ Pima. Về mặt môi trường thực nghiệm, chương trình được triển khai và đánh giá trên hệ điều hành Microsoft Windows với công cụ Visual Studio.
Cơ sở lý thuyết và phương pháp
Khóa luận xây dựng trên nền tảng lý thuyết tiếp cận từ nhận dạng mẫu, mạng nơ-ron và trí tuệ bầy đàn:
- Định nghĩa và bài toán nhận dạng mẫu: Tiếp cận các quan điểm học thuật kinh điển như Duda et al. (quy đối tượng vào nhóm định trước), Jürgen Schürmann (gán nhãn cho quan sát), và Selim Aksoy (máy quan sát, học phân biệt và đưa ra quyết định). Các bài toán chính gồm: phân lớp có giám sát, phân cụm không giám sát, phân tích hồi quy, nhận thực và mô tả đối tượng.
- Mạng nơ-ron nhân tạo (ANN): Mô phỏng nơ-ron sinh học dựa trên định đề Hebb (1949) và mô hình nơ-ron hình thức của Pitts (1940). Cấu trúc một nơ-ron gồm các đầu vào $x_i$, trọng số liên kết $w_i$, hàm tổng trọng số và hàm kích hoạt $F$ (hàm ngưỡng, hàm tuyến tính, hàm sigmoid, hàm tanh và hàm bán kính Gauss). Mô hình học có giám sát hướng tới việc tối thiểu hóa tổng bình phương sai số:
$$E = \sum_{i=1}^n (f(x_i) - y_i)^2$$
- Thuật toán $k$ láng giềng gần nhất (KNN): Thuật toán phân lớp dựa trên bộ nhớ, sử dụng khoảng cách Euclid để xác định $k$ đối tượng đào tạo gần nhất với mẫu truy vấn và quyết định nhãn lớp thông qua cơ chế bỏ phiếu theo đa số.
- Bản đồ tự tổ chức (SOM): Mô hình mạng nơ-ron học không giám sát do Teuvo Kohonen (1987) đề xuất, có chức năng chiếu không gian dữ liệu nhiều chiều về không gian rời rạc ít chiều hơn (thường là lưới 2 chiều) mà vẫn bảo toàn quan hệ hình học/topo. Quá trình huấn luyện sử dụng cơ chế học cạnh tranh để xác định phần tử gần đúng nhất (Best Matching Unit - BMU) và cập nhật vector trọng số theo công thức:
$$W_v(t + 1) = W_v(t) + \Theta(v, t)\alpha(t)(D(t) - W_v(t))$$
trong đó $\alpha(t)$ là tốc độ học giảm dần, $\Theta(v, t)$ là hàm lân cận và ma trận U (U-matrix) được dùng để biểu diễn khoảng cách giữa các đỉnh liền kề.
- Hệ kiến nhân tạo (Ant System - AS) và mô hình bầy đàn: Dựa trên nghiên cứu của Dorigo (1991) và mô hình chuyển động của Chialvo và Millonas (1995). Hệ kiến sử dụng hình thức giao tiếp gián tiếp qua môi trường (stigmergy) thông qua vệt mùi (pheromone). Mùi có đặc tính tích lũy khi có nhiều cá thể di chuyển qua và bay hơi theo thời gian với tốc độ $\rho$. Hàm đáp ứng nhiễu và độ nặng mùi $W(\sigma)$ kiểm soát xác suất di chuyển của kiến qua hai tham số $\beta$ (độ ngẫu nhiên theo mùi) và $\delta$ (khả năng phát hiện mùi của giác quan).
Phương pháp nghiên cứu thực nghiệm được tác giả sử dụng là phân tích lý thuyết kết hợp mô phỏng thuật toán trên máy tính. Dữ liệu thực nghiệm được lấy từ kho dữ liệu thế giới thực UCI Machine Learning Repository, sau đó được chia tách thành các cặp tập huấn luyện và kiểm thử theo hai tỷ lệ: 50% huấn luyện - 50% kiểm tra (50tran-50tst) và 90% huấn luyện - 10% kiểm tra (90tra-10tst), lặp lại độc lập 10 lần để lấy kết quả thống kê.
Thiết kế và triển khai
Khóa luận đã hiện thực hóa giải thuật KANTS và chương trình đối chứng KNN dưới dạng một ứng dụng phần mềm độc lập. Chi tiết kiến trúc kỹ thuật và thành phần triển khai được tác giả mô tả cụ thể trong văn bản:
-
Công nghệ phát triển: Ngôn ngữ lập trình C++, biên dịch và thực thi trên nền tảng Microsoft Windows bằng bộ công cụ Visual Studio.
-
Kiến trúc hướng đối tượng: Hệ thống phần mềm được tổ chức thành 3 lớp (class) trọng tâm:
- Lớp
Cell: Đại diện cho một ô đơn vị trên lưới tọa độ KANTS. Mỗi đối tượng Cell lưu trữ tọa độ không gian $(x, y)$, một vector trọng số có số chiều tương ứng với số chiều của dữ liệu đầu vào, biến xác định nhãn lớp (class) tương ứng, và một cờ (flag) trạng thái dùng để kiểm soát việc ô đã có kiến hiện diện hay chưa.
- Lớp
Ant: Đại diện cho một con kiến nhân tạo. Mỗi đối tượng mang một vector đặc trưng của mẫu huấn luyện mà nó đại diện, vị trí tọa độ $(x, y)$ hiện thời trên lưới, và nhãn lớp gốc của mẫu dữ liệu.
- Lớp
Kants: Đóng vai trò lớp điều phối toàn cục của giải thuật, quản lý một mảng hai chiều các đối tượng Cell (lưới) và một mảng danh sách các đối tượng Ant. Lớp này đồng thời quản lý ma trận trọng tâm (CTR) có kích thước tương đương kích thước lưới, trong đó mỗi vị trí $(x, y)$ lưu trữ vector trọng tâm của vùng lân cận có tâm tại ô $(x, y)$.
-
Các hàm chức năng chính trong mã nguồn:
read_patterns: Đọc và nạp dữ liệu mẫu từ các tệp dữ liệu vào hệ thống.
Decide_where_to_go: Xác định hướng di chuyển tiếp theo của từng con kiến tại mỗi bước lặp. Hàm sinh số ngẫu nhiên $q \in [0, 1]$; nếu $q < q_0$, thuật toán chọn ô lân cận tối ưu dựa trên khoảng cách Euclid giữa vector của kiến và vector trọng tâm; ngược lại, áp dụng cơ chế vòng quay sổ xố theo hàm xác suất $P_{ij}$.
updateVector: Cập nhật vector trọng số của các ô xung quanh con kiến dựa trên vector dữ liệu mà kiến mang theo, áp dụng quy tắc học tăng cường tương tự SOM.
centroid_calculate: Tính toán lại ma trận trọng tâm sau mỗi bước lặp của hệ thống.
vote_cell: Tiến hành bỏ phiếu dựa trên khoảng cách Euclid giữa các vector để xác định và gán nhãn lớp cho từng ô trên lưới.
- Hàm
main: Điều phối toàn bộ quy trình: đọc tham số cấu hình, đọc mẫu dữ liệu, khởi tạo trọng số ngẫu nhiên cho lưới, đặt ngẫu nhiên các con kiến lên lưới, thực thi vòng lặp tính trọng tâm, di chuyển kiến, cập nhật vector ô lưới, bay hơi mùi cho tới khi thỏa mãn điều kiện dừng.
Nội dung chính theo từng chương
Chương 1: Bài toán phân lớp và một số phương pháp tiếp cận
Chương này thiết lập cơ sở toán học và tin học cho bài toán nhận dạng mẫu. Tác giả phân loại khái niệm mẫu thành mẫu trừu tượng (ý tưởng, khái niệm) và mẫu cụ thể (ảnh, chữ ký, sóng âm, điện tâm đồ, dữ liệu vật lý). Hệ thống hóa các bài toán nhận dạng mẫu thường gặp thành 5 nhánh: phân lớp có giám sát, phân lớp không giám sát (phân cụm), phân tích hồi quy, nhận thực và mô tả. Trọng tâm của chương đi sâu vào hai phương pháp kinh điển:
- Mạng nơ-ron nhân tạo: Trình bày từ cấu trúc nơ-ron sinh học đến mô hình toán học của nơ-ron nhân tạo, các dạng đồ thị hàm kích hoạt (ngưỡng, tuyến tính, sigmoid, tanh, Gauss), kiến trúc mạng truyền tới nhiều tầng và cơ chế học có giám sát thông qua tối thiểu hóa sai số toàn phương.
- Phương pháp $k$ láng giềng gần nhất (KNN): Trình bày thuật toán tìm $k$ mẫu gần nhất theo khoảng cách Euclid trong không gian $n$ chiều và cơ chế bỏ phiếu đa số. Tác giả minh họa bằng ví dụ phân loại chất lượng giấy dựa trên độ bền axit và độ dẻo dai, đồng thời chỉ ra các ưu điểm (hoạt động tốt với dữ liệu có nhiễu, hiệu quả với tập đào tạo lớn) và nhược điểm (chi phí tính toán cao do phải duyệt toàn bộ mẫu, nhạy cảm với việc chọn giá trị $k$ và độ đo khoảng cách).
Chương 2: Bản đồ tự tổ chức
Chương 2 trình bày chi tiết về mạng bản đồ tự tổ chức (SOM) của Teuvo Kohonen. Tác giả làm rõ cơ chế hoạt động của SOM qua hai chế độ: huấn luyện (training - sử dụng học cạnh tranh không giám sát để lượng tử hóa vector) và ánh xạ (mapping - phân lớp vector đầu vào mới). Các nội dung kỹ thuật chính gồm:
- Cấu trúc mạng dạng lưới tứ giác hoặc lục giác; biểu diễn không gian dữ liệu bằng ma trận U (U-matrix) phản ánh khoảng cách Euclid giữa các đỉnh liền kề.
- Quy trình học cạnh tranh: Xác định BMU cho từng mẫu đầu vào, sau đó cập nhật vector trọng số của BMU và các đỉnh lân cận theo hàm lân cận Gaussian $\Theta(v, t)$ và hệ số học $\alpha(t)$ giảm dần theo thời gian.
- Minh họa trực quan thuật toán thông qua hai tập dữ liệu: không gian màu RGB (chuyển đổi từ trạng thái ngẫu nhiên ban đầu sang trạng thái phân cụm màu rõ nét) và tập dữ liệu hoa Iris (chuẩn hóa trên lưới tứ giác kích thước $40 \times 40$ sau 250 lượt huấn luyện với tốc độ học 0.1).
Chương 3: KANTS – Hệ kiến nhân tạo cho phân lớp
Chương 3 trình bày giải thuật kết hợp KANTS. Mở đầu bằng lý thuyết nhận thức bầy đàn, tác giả phân tích thí nghiệm sinh học kinh điển về hành vi gom ấu trùng của kiến: từ phân bố ngẫu nhiên ban đầu ($t = 0\text{h}$), qua các giai đoạn gom cụm chưa gọn ($t = 3\text{h}, t = 6\text{h}$), đến trạng thái phân tách thành 3 đống tách biệt gần tối ưu theo tiêu chuẩn $k$-means tại $t = 36\text{h}$. Từ đó, hệ kiến của Chialvo và Millonas được tích hợp cùng SOM để hình thành KANTS:
- Mỗi mẫu dữ liệu huấn luyện được gán cho một con kiến mang vector đặc trưng tương ứng.
- Lưới KANTS được khởi tạo ngẫu nhiên. Khi kiến di chuyển, nó thực hiện "nhả mùi" bằng cách điều chỉnh vector trọng số của các ô đi qua lại gần vector của nó thông qua hàm học tương tự SOM.
- Xác suất di chuyển $P_{ij}$ từ đỉnh $i$ sang đỉnh $j$ trong tập lân cận $N_i$ được tính toán dựa trên bán kính lân cận ($nr$), bán kính trọng tâm ($cr$), hàm độ nặng mùi $W(\sigma)$ và vector trọng tâm vùng $CTR_j$.
- Quá trình bay hơi mùi diễn ra tại mỗi bước lặp với hệ số $\rho$, kéo vector của ô lưới quay trở về vector khởi tạo ban đầu $V_i^0$.
- Quy trình phân lớp hoàn chỉnh được thực hiện qua hai pha: Pha 1 sử dụng KNN để gán nhãn cho toàn bộ các ô trên lưới KANTS dựa trên các con kiến huấn luyện gần nhất; Pha 2 tiếp nhận mẫu kiểm tra mới, đưa vào kiến và tìm $k$ ô trên lưới có khoảng cách Euclid nhỏ nhất để bỏ phiếu suy ra nhãn lớp.
Chương 4: Kết quả và thực nghiệm
Chương 4 tập trung vào việc cài đặt phần mềm kiểm thử bằng C++ và tiến hành khảo sát thực nghiệm trên các bộ dữ liệu UCI (Iris, Glass, Pima). Nội dung chương bao gồm:
- Khảo sát sự phụ thuộc của thuật toán vào các siêu tham số: mối quan hệ giữa cặp tham số $\beta - \delta$ với 3 trạng thái phân bố kiến (rối loạn, vá lỗ hổng, tạo đường mòn); tham số $k$ trong KNN; kích thước lưới tọa độ; bán kính lân cận $nr$; tham số cân bằng khai thác/khám phá $q_0$; bán kính trọng tâm $cr$; tốc độ bay hơi $\rho$; và tiêu chuẩn xác định điều kiện dừng dựa trên độ ổn định hình học của lưới.
- Đề xuất mô hình mở rộng KANTS bằng Ensemble learning: Phân tích mô hình học tập hợp nhằm kết hợp kết quả phân lớp của nhiều bộ học KNN với các giá trị $k$ khác nhau, qua đó gộp các đường biên phân lớp để triệt tiêu sai số và khử nhiễu.
Chương 5: Kết luận
Chương cuối tóm tắt lại toàn bộ kết quả nghiên cứu lý thuyết và thực nghiệm đã đạt được, đồng thời đưa ra các đánh giá tổng thể về khả năng ứng dụng của mô hình KANTS và hướng phát triển tiếp theo của đề tài.
Kết quả và đóng góp
Khóa luận đã thu được các kết quả thực nghiệm định lượng cụ thể trên các bộ dữ liệu chuẩn, đồng thời phân tích chi tiết tác động của từng nhóm tham số tới chất lượng phân lớp:
| Tham số / Cấu hình khảo sát |
Giá trị khảo sát |
Kết quả độ chính xác / Quy luật ghi nhận |
| So sánh KANTS và KNN ($K=10$) |
Tập dữ liệu Iris (tỷ lệ 90% train - 10% test) |
KANTS đạt 86.4019%, vượt trội so với KNN khi chọn hệ số phù hợp |
| Cặp tham số $\beta - \delta$ |
Không gian tham số mùi và giác quan |
Vùng tối ưu: $\beta \approx 32 - 64$; $\delta$ phụ thuộc tuyến tính vào $\beta$ trong khoảng $0 - 0.4$ |
| Trạng thái phân bố đàn kiến |
1000 bước lặp hệ thống |
Quan sát rõ 3 pha tiến hóa: Rối loạn $\rightarrow$ Vá lỗ hổng $\rightarrow$ Tạo đường mòn |
| Kích thước lưới nơ-ron |
$30\times 50$, $35\times 50$, $50\times 50$, $80\times 50$, $100\times 100$ |
Khảo sát trên Iris ghi nhận độ chính xác từ mức trên 80% |
| Tham số lân cận $k$ (KNN) |
$k \in {1, 2, 3, 4, 5}$ |
Trên tập Iris (9-1), KANTS duy trì độ chính xác cao ngay cả với $k=1$ (đạt trên 86%) |
| Bán kính lân cận $nr$ |
$nr \in {1, 2, 3, 4}$ |
Trên tập Iris (9-1), độ chính xác duy trì ở mức trên 86% |
| Bán kính trọng tâm $cr$ |
$cr \in {1, 2, 3, 4, 5}$ |
Trên tập Iris (9-1), độ chính xác đạt trên 86%; $cr$ nhỏ làm tăng số cụm bé, $cr$ quá lớn xé cụm |
Các phát hiện và quy luật kỹ thuật chính được rút ra:
- Quá trình tự tổ chức và nhả mùi của đàn kiến trên lưới KANTS đóng vai trò làm mịn không gian dữ liệu đầu vào và giảm thiểu đáng kể các thành phần nhiễu. Do đó, khác với KNN truyền thống thường kém ổn định khi $k$ nhỏ, KANTS vẫn đạt hiệu quả phân lớp cao ngay cả khi thiết lập $k = 1$.
- Tham số bán kính trọng tâm $cr$ ảnh hưởng trực tiếp đến thời gian thực thi và hình thái cụm: giá trị $cr$ tối ưu thường xấp xỉ bán kính của một cụm thực tế.
- Tốc độ bay hơi $\rho$ đóng vai trò cân bằng thích nghi: nếu $\rho$ quá lớn, vector ô lưới nhanh chóng thoái lui về vector gốc ban đầu; nếu $\rho$ quá nhỏ, vệt mùi không kịp hình thành để cung cấp thông tin học tăng cường.
Về mặt đóng góp học thuật và giải pháp:
- Khóa luận đã hệ thống hóa và làm rõ cơ chế phối hợp giữa mạng nơ-ron không giám sát (SOM) và giải thuật bầy đàn (Ant System), cung cấp mô tả toán học chi tiết về hàm di chuyển và cập nhật lưới.
- Hiện thực hóa thành công thuật toán bằng mã nguồn C++ hoàn chỉnh với kiến trúc hướng đối tượng rõ ràng (
Cell, Ant, Kants).
- Đề xuất giải pháp mở rộng kết hợp Ensemble learning cho cơ chế gán nhãn: thay vì cố định một giá trị $k$ duy nhất, hệ thống tiến hành tổng hợp kết quả bỏ phiếu từ nhiều giá trị $k$ khác nhau, giúp đường biên phân lớp trở nên tin cậy hơn và giảm thiểu rủi ro từ các điểm dữ liệu dị biệt.
Hạn chế và hướng nghiên cứu tiếp
Dựa trên các phân tích thực nghiệm và phạm vi nghiên cứu, văn bản đã chỉ ra một số hạn chế nội tại:
- Giải thuật KANTS phụ thuộc vào số lượng lớn các siêu tham số ($\beta, \delta, nr, cr, q_0, \rho$, kích thước lưới). Việc xác định bộ tham số tối ưu đòi hỏi thử nghiệm công phu và phụ thuộc chặt chẽ vào đặc thù của từng tập dữ liệu (số lượng mẫu, số chiều thuộc tính, số lượng lớp phân loại).
- Điều kiện dừng tuyệt đối của thuật toán rất khó đạt được trên thực tế do sự tồn tại song song của hai quá trình đối lập: cập nhật mùi của kiến và bay hơi mùi của môi trường, khiến bề mặt lưới luôn duy trì trạng thái dao động động học nhất định.
- Cơ chế gán nhãn cuối cùng cho các ô lưới và mẫu kiểm tra vẫn phụ thuộc vào thuật toán tìm kiếm cục bộ KNN, do đó vẫn chịu ảnh hưởng phần nào từ sự phân bố cục bộ của dữ liệu trong trường hợp kích thước lưới nhỏ nhưng số lượng lớp lại quá lớn.
Hướng phát triển tiếp theo được tác giả đề cập tập trung vào việc nghiên cứu sâu hơn và cài đặt hoàn thiện mô hình học tập hợp (Ensemble learning) tích hợp mô hình chuyên gia, đồng thời hoàn thiện các tiêu chuẩn toán học giúp tự động hóa quá trình xác định trạng thái dừng ổn định của lưới.
Giá trị tham khảo
Khóa luận là tài liệu tham khảo chuyên khảo hữu ích cho:
- Sinh viên và học viên ngành Công nghệ thông tin, Khoa học dữ liệu, Trí tuệ nhân tạo: Nắm bắt phương pháp kết hợp liên ngành giữa mô hình mạng nơ-ron nhân tạo (Neuro-computing) và tính toán bầy đàn (Swarm Intelligence / Ant Colony Optimization).
- Người nghiên cứu các thuật toán phân lớp và phân cụm: Tham khảo cấu trúc toán học chi tiết của giải thuật KANTS tại Chương 3, đặc biệt là các công thức tính xác suất di chuyển $P_{ij}$, hàm độ nặng mùi, cơ chế học tăng cường trọng tâm và quy trình gán nhãn hai pha.
- Kỹ sư phát triển phần mềm học máy: Tham khảo thiết kế hướng đối tượng bằng C++ tại Chương 4 với mô hình quản lý lưới (
Cell), tác tử kiến (Ant) và bộ điều phối (Kants) trên môi trường Visual Studio.
Câu hỏi thường gặp
1. Thuật toán KANTS là sự kết hợp của những mô hình lý thuyết nào?
KANTS là sự kết hợp giữa mô hình mạng bản đồ tự tổ chức (Self-Organizing Map - SOM) của Teuvo Kohonen và mô hình hệ kiến (Ant System - AS) của Chialvo và Millonas dùng trong bài toán nhận dạng và phân lớp mẫu.
2. Vai trò của con kiến và ô lưới trong thuật toán KANTS được biểu diễn như thế nào?
Trong KANTS, mỗi mẫu dữ liệu huấn luyện được biểu diễn dưới dạng một con kiến mang vector đặc trưng của mẫu đó. Ngược lại, mỗi ô trên lưới tọa độ chứa một vector trọng số có cùng số chiều và cùng miền giá trị với dữ liệu vào. Khi kiến di chuyển, nó kéo các vector trọng số của ô lưới lại gần vector mà nó mang theo và để lại vệt mùi trên đường đi.
3. Ba trạng thái phân bố của đàn kiến quan sát được khi khảo sát không gian tham số $\beta - \delta$ là gì?
Khi thực hiện khảo sát qua 1000 bước lặp, hệ thống thể hiện 3 trạng thái hành vi:
- Rối loạn: Giai đoạn bắt đầu học, các cụm chưa được phân tách, vị trí kiến phân tán ngẫu nhiên.
- Vá lỗ hổng: Giai đoạn học trung gian, các cụm bắt đầu hình thành nhưng chưa tròn trịa và còn nhiều khoảng trống bên trong cụm.
- Tạo đường mòn: Giai đoạn vệt mùi đã định hình rõ nét, các con kiến di chuyển theo đường mòn để tập hợp thành các cụm tách biệt, giúp việc phân biệt cụm trên lưới diễn ra dễ dàng.
4. Quy trình phân lớp mẫu mới trong KANTS được tiến hành qua những bước nào?
Quá trình phân lớp diễn ra qua hai pha:
- Pha 1 (Gán nhãn ô lưới): Với mỗi ô trên lưới KANTS, tìm $k$ con kiến huấn luyện có khoảng cách Euclid gần nhất và bỏ phiếu theo đa số để gán nhãn lớp cho ô đó.
- Pha 2 (Phân lớp dữ liệu kiểm tra): Đưa mẫu kiểm tra vào một con kiến mới, tính khoảng cách Euclid từ con kiến này tới tất cả các ô trên lưới, chọn ra $k$ ô gần nhất và bỏ phiếu lấy nhãn lớp xuất hiện nhiều nhất làm kết quả dự đoán.
5. Tại sao tác giả đề xuất áp dụng học tập hợp (Ensemble learning) vào KANTS?
Mặc dù quá trình tự tổ chức trên lưới KANTS đã làm mịn dữ liệu, thuật toán KNN ở pha phân lớp vẫn có thể gặp sai số do các điểm dữ liệu nhiễu. Phương pháp học tập hợp kết hợp kết quả từ nhiều bộ phân loại KNN với các giá trị $k$ khác nhau thông qua cơ chế bỏ phiếu tổng hợp, giúp gộp các đường biên phân lớp lại để giảm thiểu sai số và tăng độ tin cậy của mô hình.
Kết luận
Khóa luận tốt nghiệp của tác giả Nguyễn Văn Dương đã khảo cứu toàn diện giải thuật phân lớp kết hợp KANTS trên cơ sở tích hợp mạng bản đồ tự tổ chức SOM và hệ kiến nhân tạo Ant System. Tác giả đã hiện thực hóa thành công mô hình bằng ngôn ngữ C++ trên môi trường Windows/Visual Studio và tiến hành kiểm thử thực nghiệm trên các bộ dữ liệu thế giới thực từ kho dữ liệu UCI (Iris, Glass, Pima). Các kết quả phân tích tham số đã làm rõ quy luật vận hành của bầy kiến trên lưới nơ-ron, khẳng định khả năng làm mịn dữ liệu của KANTS so với KNN truyền thống, đồng thời mở ra hướng cải tiến khả thi thông qua kỹ thuật học tập hợp.