## Tổng quan nghiên cứu

Trong bối cảnh phát triển nhanh chóng của hệ thống mạng và truyền thông với độ phức tạp và tính năng động ngày càng tăng, việc phát hiện và phân loại lỗi mạng trở thành một thách thức lớn. Theo ước tính, hệ thống mạng hiện đại có thể phát sinh hàng trăm nghìn báo cáo lỗi mỗi ngày, đòi hỏi các công cụ tự động hóa để hỗ trợ người vận hành trong việc phân tích và xử lý. Luận văn tập trung nghiên cứu xây dựng mô hình phân loại lỗi mạng dựa trên thuật toán Rừng ngẫu nhiên (Random Forest) kết hợp với kỹ thuật khai phá dữ liệu văn bản tf-idf nhằm tự động đánh giá mức độ nghiêm trọng của lỗi. Mục tiêu chính là phát triển một hệ thống có khả năng phân loại các lỗi thành ba nhóm: lỗi nhỏ, lỗi thông thường và lỗi nghiêm trọng, từ đó hỗ trợ kịp thời trong việc xử lý sự cố, nâng cao hiệu suất và độ ổn định của hệ thống mạng. Phạm vi nghiên cứu tập trung vào dữ liệu lỗi thu thập từ các hệ thống Bug Tracking System (BTS) tại Việt Nam trong giai đoạn gần đây, với tổng số khoảng 483,000 báo cáo lỗi từ nhiều nguồn khác nhau. Ý nghĩa của nghiên cứu được thể hiện qua việc giảm thiểu thời gian và nguồn lực cho người vận hành, đồng thời nâng cao độ chính xác trong việc dự báo và xử lý lỗi, góp phần đảm bảo chất lượng dịch vụ mạng.

## Cơ sở lý thuyết và phương pháp nghiên cứu

### Khung lý thuyết áp dụng

- **Phân lớp dữ liệu (Data Classification):** Là quá trình xây dựng mô hình để phân loại dữ liệu vào các nhóm đã biết dựa trên tập dữ liệu huấn luyện. Mô hình phân lớp được đánh giá qua các chỉ số như Precision, Recall, Accuracy và Specificity.
- **Thuật toán Rừng ngẫu nhiên (Random Forest):** Thuật toán học máy có giám sát, tạo ra một tập hợp các cây quyết định được huấn luyện trên các mẫu bootstrap khác nhau. Kết quả phân loại được quyết định dựa trên số phiếu bầu của các cây trong rừng. Rừng ngẫu nhiên giúp giảm thiểu hiện tượng overfitting và tăng độ chính xác.
- **Kỹ thuật tf-idf (Term Frequency - Inverse Document Frequency):** Phương pháp khai phá dữ liệu văn bản dùng để đánh giá tầm quan trọng của từ khóa trong mô tả lỗi, giúp trích xuất các đặc trưng quan trọng từ nội dung văn bản.
- **Mô hình Two-Phase Defect Detection:** Bao gồm hai giai đoạn chính: phân nhóm dữ liệu log thành các loại bình thường, bất thường và không xác định; sau đó phân loại lỗi dựa trên mức độ nghiêm trọng.
- **Bug Tracking System (BTS):** Hệ thống quản lý và theo dõi lỗi phần mềm, cung cấp dữ liệu đầu vào cho mô hình phân loại.

### Phương pháp nghiên cứu

Luận văn sử dụng phương pháp nghiên cứu định lượng kết hợp khai phá dữ liệu và học máy. Dữ liệu được thu thập từ 5 nguồn BTS khác nhau với tổng dung lượng khoảng 0.77 GB, bao gồm 483,000 báo cáo lỗi. Quá trình nghiên cứu gồm các bước:

- **Thu thập dữ liệu:** Trích xuất dữ liệu lỗi từ giao diện HTML của các BTS, chuẩn hóa và đồng bộ các trường dữ liệu.
- **Tiền xử lý dữ liệu:** Loại bỏ dữ liệu nhiễu, trích xuất các thuộc tính quan trọng như mức độ nghiêm trọng, trạng thái, thành phần lỗi, phần mềm, nền tảng, từ khóa.
- **Trích xuất đặc trưng:** Áp dụng kỹ thuật tf-idf để lọc ra từ khóa quan trọng trong mô tả lỗi.
- **Xây dựng mô hình:** Sử dụng thuật toán Rừng ngẫu nhiên với các tham số được tối ưu hóa (số lượng cây, độ sâu cây, số biến tại mỗi nút) để huấn luyện mô hình phân loại trên tập dữ liệu huấn luyện (80% dữ liệu).
- **Đánh giá mô hình:** Kiểm tra mô hình trên tập dữ liệu kiểm tra (20%) và sử dụng các chỉ số như F1 Score, Precision, Recall để đánh giá hiệu quả.
- **Timeline nghiên cứu:** Quá trình nghiên cứu kéo dài trong khoảng 12 tháng, bao gồm thu thập dữ liệu (3 tháng), tiền xử lý và trích xuất đặc trưng (3 tháng), xây dựng và đánh giá mô hình (4 tháng), hoàn thiện luận văn (2 tháng).

## Kết quả nghiên cứu và thảo luận

### Những phát hiện chính

- Mô hình Rừng ngẫu nhiên đạt độ chính xác tổng thể trên 90%, với F1 Score vượt mức 0.85, cho thấy khả năng phân loại lỗi hiệu quả giữa các mức độ nghiêm trọng.
- Thuộc tính mức độ nghiêm trọng và từ khóa trích xuất bằng tf-idf có vai trò quan trọng nhất trong việc phân loại lỗi, chiếm tỷ trọng ảnh hưởng trên 60% trong mô hình.
- So với các thuật toán khác như Cây quyết định đơn lẻ, mô hình Rừng ngẫu nhiên cải thiện độ chính xác lên khoảng 15%, đồng thời giảm thiểu sai số phân loại nhầm.
- Mô hình có khả năng dự báo các lỗi nghiêm trọng sắp xảy ra dựa trên dữ liệu lịch sử, giúp người vận hành chủ động xử lý sự cố.

### Thảo luận kết quả

Kết quả cho thấy việc kết hợp kỹ thuật khai phá dữ liệu văn bản tf-idf với thuật toán Rừng ngẫu nhiên là một giải pháp hiệu quả trong việc tự động phân loại lỗi mạng. Việc trích xuất từ khóa giúp mô hình nhận diện các đặc trưng ngữ nghĩa quan trọng trong mô tả lỗi, từ đó nâng cao độ chính xác phân loại. So với các nghiên cứu trước đây sử dụng thuật toán SVM hay mạng nơ-ron, mô hình này có ưu điểm về tính ổn định và khả năng xử lý dữ liệu lớn. Các biểu đồ phân tích mức độ quan trọng của thuộc tính và ma trận hỗn loạn minh họa rõ ràng hiệu quả của mô hình trong việc phân biệt các loại lỗi. Tuy nhiên, mô hình vẫn còn hạn chế trong việc xử lý các lỗi có mô tả không rõ ràng hoặc dữ liệu thiếu, đòi hỏi nghiên cứu thêm về kỹ thuật tiền xử lý và mở rộng dữ liệu huấn luyện.

## Đề xuất và khuyến nghị

- **Triển khai hệ thống tự động phân loại lỗi:** Áp dụng mô hình Rừng ngẫu nhiên vào hệ thống giám sát mạng để tự động phân loại và cảnh báo lỗi nghiêm trọng, giảm thiểu thời gian phản ứng sự cố.
- **Nâng cao chất lượng dữ liệu đầu vào:** Tăng cường thu thập và chuẩn hóa dữ liệu lỗi từ các BTS, đồng thời cải thiện kỹ thuật tiền xử lý để giảm thiểu dữ liệu nhiễu, nâng cao độ chính xác mô hình.
- **Đào tạo và nâng cao năng lực nhân sự:** Tổ chức các khóa đào tạo cho đội ngũ vận hành về sử dụng công cụ phân loại tự động và hiểu biết về các thuật toán học máy.
- **Mở rộng nghiên cứu:** Phát triển thêm các mô hình học sâu kết hợp với dữ liệu đa phương tiện để nâng cao khả năng dự báo và phân tích lỗi phức tạp.
- **Thời gian thực hiện:** Các giải pháp trên nên được triển khai trong vòng 12-18 tháng, với sự phối hợp giữa các phòng ban CNTT và các nhà nghiên cứu.

## Đối tượng nên tham khảo luận văn

- **Chuyên gia quản trị mạng:** Hỗ trợ trong việc áp dụng công nghệ học máy để tự động hóa quản lý lỗi, giảm thiểu thời gian xử lý sự cố.
- **Nhà nghiên cứu học máy và khai phá dữ liệu:** Cung cấp mô hình và phương pháp luận ứng dụng thực tiễn trong lĩnh vực phân loại dữ liệu mạng.
- **Các tổ chức phát triển phần mềm và hệ thống BTS:** Tham khảo để cải tiến hệ thống theo dõi lỗi, tích hợp các thuật toán phân loại tự động.
- **Sinh viên và học viên ngành Công nghệ Thông tin:** Là tài liệu học tập về ứng dụng học máy trong quản lý mạng và phân tích dữ liệu lớn.

## Câu hỏi thường gặp

1. **Mô hình Rừng ngẫu nhiên có ưu điểm gì so với các thuật toán khác?**  
   Rừng ngẫu nhiên giảm thiểu overfitting, xử lý tốt dữ liệu lớn và phức tạp, đồng thời cho kết quả ổn định hơn so với cây quyết định đơn lẻ hay SVM.

2. **Phương pháp tf-idf giúp gì trong việc phân loại lỗi?**  
   Tf-idf trích xuất các từ khóa quan trọng trong mô tả lỗi, giúp mô hình nhận diện đặc trưng ngữ nghĩa, nâng cao độ chính xác phân loại.

3. **Dữ liệu lỗi được thu thập từ đâu và có đảm bảo chất lượng không?**  
   Dữ liệu được thu thập từ 5 hệ thống Bug Tracking System với tổng số 483,000 báo cáo lỗi, đã được chuẩn hóa và làm sạch để đảm bảo chất lượng.

4. **Mô hình có thể áp dụng cho các hệ thống mạng khác không?**  
   Có, mô hình có tính tổng quát cao và có thể được điều chỉnh tham số để phù hợp với các hệ thống mạng và dữ liệu lỗi khác nhau.

5. **Làm thế nào để cải thiện mô hình trong tương lai?**  
   Có thể mở rộng dữ liệu huấn luyện, áp dụng kỹ thuật học sâu, và cải tiến tiền xử lý dữ liệu để xử lý các lỗi mô tả phức tạp hoặc thiếu thông tin.

## Kết luận

- Đã xây dựng thành công mô hình phân loại lỗi mạng tự động dựa trên thuật toán Rừng ngẫu nhiên kết hợp kỹ thuật tf-idf, đạt độ chính xác trên 90%.  
- Mô hình giúp phân loại lỗi thành ba mức độ nghiêm trọng, hỗ trợ người vận hành trong việc xử lý sự cố nhanh chóng và hiệu quả.  
- Nghiên cứu góp phần nâng cao hiệu quả quản lý lỗi trong hệ thống mạng phức tạp và quy mô lớn.  
- Đề xuất triển khai hệ thống tự động phân loại lỗi và nâng cao chất lượng dữ liệu để tối ưu hóa hiệu quả mô hình.  
- Khuyến khích mở rộng nghiên cứu ứng dụng học sâu và đa phương tiện trong quản lý lỗi mạng trong các giai đoạn tiếp theo.

Hành động tiếp theo là triển khai thử nghiệm mô hình trong môi trường thực tế, thu thập phản hồi và điều chỉnh tham số để đạt hiệu quả tối ưu, đồng thời đào tạo nhân sự vận hành sử dụng công cụ mới.