Nghiên Cứu Ứng Dụng Kỹ Thuật Xử Lý Ngôn Ngữ Tự Nhiên Hỗ Trợ Phân Loại Phản Hồi Công Dân

• Tác giả: Trần Văn Ngọc
• Người hướng dẫn: TS. Nguyễn Thế Cường
• Trường học: Trường Đại Học Hồng Đức
• Chuyên ngành: Công Nghệ Thông Tin
• Đề tài: Nghiên Cứu Ứng Dụng Kỹ Thuật Xử Lý Ngôn Ngữ Tự Nhiên Trong Phân Loại Phản Hồi Công Dân
• Loại tài liệu: Luận Văn Thạc Sĩ
• Năm xuất bản: 2019
• Địa điểm: Thanh Hóa

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: BÀI TOÁN PHÂN LOẠI PHẢN HỒI CÔNG DÂN
• 1.1. Tổng quan về hệ thống tiếp nhận và trả lời phản hồi công dân
• 1.2. Quy trình gửi thông tin phản hồi
• 1.3. Quy trình tiếp nhận thông tin phản hồi
• 1.4. Quy trình xử lý thông tin phản hồi
• 1.5. Bài toán phân loại phản hồi công dân
• 1.6. Kết luận chương
• 2. CHƯƠNG 2: CÁC PHƯƠNG PHÁP PHÂN LOẠI VĂN BẢN
• 2.1. Tổng quan về phân loại văn bản
• 2.2. Bài toán phân loại văn bản
• 2.3. Phát biểu bài toán
• 2.4. Biểu diễn văn bản trong phân loại văn bản
• 2.5. Sử dụng các vector thuộc tính
• 2.6. Lựa chọn các thuộc tính
• 2.7. Khai phá dữ liệu trong phân loại văn bản
• 2.8. Khai phá dữ liệu
• 2.9. Phân lớp và phân cụm dữ liệu
• 2.10. Sử dụng các phương pháp gần đúng trong phân loại văn bản
• 2.11. Các phương pháp phân loại văn bản truyền thống
• 2.12. Phương pháp k-nearest Neighbour
• 2.13. Phương pháp Naive Bayes (NB)
• 2.14. Phương pháp Linear Least Square Fit – LLSF
• 2.15. Phương pháp Centroid-based
• 2.16. Phương pháp Support Vector Machine (SVM)
• 2.17. Tập nhúng từ (word embedding) và vai trò trong biểu diễn ngôn ngữ
• 2.18. Kết luận chương
• 3. CHƯƠNG 3: ỨNG DỤNG KỸ THUẬT PHÂN LOẠI VĂN BẢN TRONG PHÂN LOẠI PHẢN HỒI CÔNG DÂN
• 3.1. Giới thiệu về thư viện Fasttext
• 3.2. Biểu diễn từ
• 3.3. Phân loại văn bản
• 3.4. Áp dụng thư viện fastText cho bài toán phân loại phản hồi công dân
• 3.5. Kết luận chương
• KẾT LUẬN & HƯỚNG PHÁT TRIỂN
• HƯỚNG PHÁT TRIỂN
• TÀI LIỆU THAM KHẢO

I. Tổng Quan Nghiên Cứu NLP Phân Loại Phản Hồi Công Dân

Nghiên cứu ứng dụng xử lý ngôn ngữ tự nhiên (NLP) trong phân loại phản hồi công dân là một lĩnh vực đầy tiềm năng. Nó giúp chính quyền địa phương và các cơ quan chức năng hiểu rõ hơn về nhu cầu và mong muốn của người dân. Việc phân loại tự động các phản hồi này giúp tiết kiệm thời gian và nguồn lực, đồng thời cải thiện hiệu quả hoạt động của hệ thống chính phủ điện tử. Bài toán này không chỉ là một thách thức về mặt kỹ thuật mà còn mang ý nghĩa xã hội sâu sắc, góp phần xây dựng một xã hội dân chủ và minh bạch hơn. Các kỹ thuật học máy và mô hình ngôn ngữ đóng vai trò then chốt trong việc giải quyết bài toán này. Theo tài liệu gốc, Thanh Hóa đang đẩy mạnh ứng dụng CNTT vào quản lý, tăng kết nối giữa người dân và chính quyền.

1.1. Tầm quan trọng của phân loại phản hồi công dân

Phân loại phản hồi công dân đóng vai trò quan trọng trong việc cải thiện dịch vụ công và tăng cường sự tham gia của người dân vào quá trình quản lý nhà nước. Việc phân loại chính xác các phản hồi giúp các cơ quan chức năng nhanh chóng xác định các vấn đề ưu tiên và đưa ra các giải pháp phù hợp. Điều này đặc biệt quan trọng trong bối cảnh chính phủ điện tử ngày càng phát triển, nơi mà người dân có thể dễ dàng gửi phản hồi thông qua nhiều kênh khác nhau như mạng xã hội, diễn đàn, và báo điện tử.

1.2. Ứng dụng NLP trong phân tích ý kiến công chúng

NLP cung cấp các công cụ mạnh mẽ để phân tích ý kiến công chúng từ các nguồn dữ liệu khác nhau. Các kỹ thuật như phân tích tình cảm (sentiment analysis) và topic modeling cho phép chúng ta hiểu được cảm xúc và chủ đề chính trong các phản hồi của người dân. Điều này giúp các nhà quản lý đưa ra các quyết định dựa trên dữ liệu và đáp ứng tốt hơn nhu cầu của cộng đồng. Việc sử dụng API và các thư viện NLP như Spacy, NLTK, và Transformers giúp đơn giản hóa quá trình phân tích.

II. Thách Thức Phân Loại Phản Hồi Công Dân Tiếng Việt

Phân loại phản hồi công dân, đặc biệt là với văn bản tiếng Việt, đặt ra nhiều thách thức đáng kể. Sự phức tạp của ngôn ngữ, bao gồm sự đa dạng về từ ngữ, ngữ pháp, và cách diễn đạt, đòi hỏi các phương pháp xử lý ngôn ngữ tự nhiên phải được điều chỉnh và tối ưu hóa. Bên cạnh đó, việc thu thập và tiền xử lý dữ liệu cũng là một công đoạn quan trọng, đòi hỏi sự cẩn trọng để đảm bảo chất lượng và tính đại diện của dữ liệu. Theo tài liệu, các kênh tiếp nhận phản ánh truyền thống còn nhiều hạn chế, thủ tục phức tạp, tốn thời gian và công sức.

2.1. Khó khăn trong xử lý ngôn ngữ tiếng Việt

Tiếng Việt có những đặc điểm riêng biệt như tính đa nghĩa, sự phong phú của từ láy, và sự khác biệt về ngôn ngữ vùng miền. Điều này gây khó khăn cho các thuật toán NLP trong việc hiểu và phân tích văn bản tiếng Việt. Các kỹ thuật như part-of-speech tagging, dependency parsing, và coreference resolution cần được điều chỉnh để phù hợp với đặc thù của tiếng Việt.

2.2. Vấn đề thu thập và tiền xử lý dữ liệu phản hồi

Việc thu thập dữ liệu phản hồi công dân có thể gặp nhiều khó khăn, đặc biệt là khi dữ liệu được thu thập từ nhiều nguồn khác nhau như mạng xã hội, diễn đàn, và email. Dữ liệu thường chứa nhiều lỗi chính tả, ngữ pháp, và thông tin nhiễu. Do đó, công đoạn tiền xử lý dữ liệu là vô cùng quan trọng để đảm bảo chất lượng dữ liệu và cải thiện hiệu suất của các mô hình phân loại văn bản.

2.3. Đánh giá độ chính xác và độ tin cậy của mô hình

Việc đánh giá mô hình là một bước quan trọng để đảm bảo rằng mô hình hoạt động tốt trong thực tế. Các chỉ số như độ chính xác, độ tin cậy, và hiệu suất cần được sử dụng để đánh giá mô hình. Tuy nhiên, việc đánh giá mô hình trong bối cảnh phân loại phản hồi công dân có thể gặp nhiều khó khăn do sự không cân bằng giữa các lớp và sự chủ quan trong việc gán nhãn dữ liệu.

III. Phương Pháp Phân Loại Phản Hồi FastText và BERT

Để giải quyết bài toán phân loại phản hồi công dân, nhiều phương pháp học máy đã được áp dụng. Trong đó, FastText và BERT là hai phương pháp nổi bật. FastText là một thư viện mã nguồn mở được phát triển bởi Facebook, nổi tiếng với tốc độ xử lý nhanh và khả năng xử lý văn bản lớn. BERT (Bidirectional Encoder Representations from Transformers) là một mô hình ngôn ngữ mạnh mẽ, có khả năng hiểu ngữ cảnh sâu sắc và đạt được độ chính xác cao trong nhiều bài toán NLP. Theo tài liệu, tác giả đã sử dụng thư viện Fasttext để triển khai mô hình phân lớp phản hồi.

3.1. Ưu điểm của FastText trong phân loại văn bản

FastText có nhiều ưu điểm vượt trội trong bài toán phân loại văn bản. Nó có tốc độ xử lý nhanh, yêu cầu ít tài nguyên tính toán, và dễ dàng triển khai. FastText cũng có khả năng xử lý tốt các từ hiếm và các từ ngoài từ điển. Điều này làm cho FastText trở thành một lựa chọn phù hợp cho các ứng dụng cần xử lý lượng lớn dữ liệu văn bản trong thời gian ngắn.

3.2. Ứng dụng BERT để cải thiện độ chính xác phân loại

BERT là một mô hình ngôn ngữ mạnh mẽ, có khả năng hiểu ngữ cảnh sâu sắc và đạt được độ chính xác cao trong nhiều bài toán NLP. BERT có thể được sử dụng để cải thiện độ chính xác của phân loại phản hồi công dân bằng cách cung cấp các biểu diễn văn bản giàu thông tin hơn. Tuy nhiên, BERT yêu cầu nhiều tài nguyên tính toán hơn FastText và có thể khó triển khai hơn.

3.3. So sánh hiệu suất FastText và BERT trong thực tế

Trong thực tế, hiệu suất của FastText và BERT phụ thuộc vào nhiều yếu tố, bao gồm kích thước dữ liệu, độ phức tạp của bài toán, và tài nguyên tính toán. FastText thường là lựa chọn tốt cho các ứng dụng cần tốc độ xử lý nhanh và ít tài nguyên tính toán. BERT thường là lựa chọn tốt cho các ứng dụng cần độ chính xác cao và có đủ tài nguyên tính toán.

IV. Ứng Dụng Thực Tế Phân Loại Phản Hồi Tại Thanh Hóa

Việc ứng dụng các kỹ thuật NLP để phân loại phản hồi công dân tại Thanh Hóa mang lại nhiều lợi ích thiết thực. Nó giúp chính quyền địa phương nhanh chóng xác định các vấn đề ưu tiên và đưa ra các giải pháp phù hợp. Điều này góp phần cải thiện chất lượng dịch vụ công và tăng cường sự hài lòng của người dân. Các lĩnh vực như quản lý đô thị, giao thông, y tế, giáo dục, và môi trường đều có thể được hưởng lợi từ ứng dụng này. Theo tài liệu, UBND tỉnh Thanh Hóa đã ban hành nhiều quyết định để xây dựng chính quyền điện tử.

4.1. Cải thiện dịch vụ công và quản lý đô thị thông minh

Phân loại phản hồi công dân giúp chính quyền địa phương hiểu rõ hơn về nhu cầu và mong muốn của người dân trong các lĩnh vực như quản lý đô thị, giao thông, và môi trường. Điều này giúp chính quyền địa phương đưa ra các quyết định dựa trên dữ liệu và cải thiện chất lượng dịch vụ công. Ví dụ, phân loại phản hồi về tình trạng giao thông có thể giúp chính quyền địa phương xác định các điểm nóng giao thông và đưa ra các giải pháp để giảm ùn tắc.

4.2. Tối ưu hóa quy trình xử lý phản hồi và khiếu nại

Phân loại phản hồi công dân giúp tối ưu hóa quy trình xử lý phản hồi và khiếu nại của người dân. Các phản hồi có thể được tự động chuyển đến các bộ phận chức năng phù hợp, giúp giảm thời gian xử lý và tăng hiệu quả công việc. Điều này cũng giúp cải thiện sự hài lòng của người dân đối với dịch vụ công.

4.3. Phân tích phản hồi về y tế giáo dục và an ninh

Phân loại phản hồi công dân có thể được sử dụng để phân tích phản hồi về các lĩnh vực quan trọng như y tế, giáo dục, và an ninh. Điều này giúp chính quyền địa phương hiểu rõ hơn về các vấn đề mà người dân quan tâm và đưa ra các giải pháp để cải thiện chất lượng dịch vụ trong các lĩnh vực này. Ví dụ, phân loại phản hồi về chất lượng dịch vụ y tế có thể giúp chính quyền địa phương xác định các vấn đề cần cải thiện và đưa ra các giải pháp để nâng cao chất lượng dịch vụ y tế.

V. Kết Luận và Hướng Phát Triển Nghiên Cứu NLP

Nghiên cứu ứng dụng NLP trong phân loại phản hồi công dân là một lĩnh vực đầy tiềm năng, mang lại nhiều lợi ích thiết thực cho chính quyền địa phương và người dân. Tuy nhiên, vẫn còn nhiều thách thức cần vượt qua, đặc biệt là trong việc xử lý văn bản tiếng Việt. Các hướng phát triển trong tương lai bao gồm việc nghiên cứu các phương pháp học máy mới, cải thiện chất lượng dữ liệu, và phát triển các ứng dụng NLP chuyên biệt cho từng lĩnh vực. Theo tài liệu, tác giả đề xuất xây dựng mô hình phân lớp phản hồi công dân.

5.1. Tương lai của NLP trong chính phủ điện tử

NLP sẽ đóng vai trò ngày càng quan trọng trong chính phủ điện tử. Các ứng dụng như chatbot, question answering, và text summarization sẽ giúp chính quyền địa phương tương tác với người dân một cách hiệu quả hơn và cung cấp thông tin một cách nhanh chóng và chính xác. Điều này góp phần xây dựng một chính phủ minh bạch, hiệu quả, và gần gũi với người dân.

5.2. Phát triển các mô hình ngôn ngữ chuyên biệt cho tiếng Việt

Việc phát triển các mô hình ngôn ngữ chuyên biệt cho tiếng Việt là rất quan trọng để cải thiện hiệu suất của các ứng dụng NLP trong tiếng Việt. Các mô hình này cần được huấn luyện trên một lượng lớn dữ liệu văn bản tiếng Việt và được điều chỉnh để phù hợp với đặc thù của ngôn ngữ. Các mô hình như PhoBERT và Vibert là những ví dụ điển hình cho hướng phát triển này.

5.3. Ứng dụng AI để phân tích sâu hơn phản hồi công dân

Các kỹ thuật trí tuệ nhân tạo (AI) như deep learning, text mining, và sentiment analysis có thể được sử dụng để phân tích sâu hơn phản hồi công dân. Điều này giúp chính quyền địa phương hiểu rõ hơn về cảm xúc, ý kiến, và nhu cầu của người dân. Các thông tin này có thể được sử dụng để đưa ra các quyết định dựa trên dữ liệu và cải thiện chất lượng dịch vụ công.

Tổng quan nghiên cứu

Trong bối cảnh phát triển chính quyền điện tử và thành phố thông minh, tỉnh Thanh Hóa với dân số trên 4,3 triệu người và hơn 10 nghìn doanh nghiệp đang đẩy mạnh ứng dụng công nghệ thông tin nhằm nâng cao hiệu quả quản lý và cải cách hành chính. Tuy nhiên, việc tiếp nhận và xử lý phản hồi của người dân, doanh nghiệp hiện vẫn chủ yếu dựa trên các kênh truyền thống như tiếp xúc trực tiếp, văn bản giấy tờ và phương tiện truyền thông đại chúng, dẫn đến thủ tục phức tạp, tốn thời gian và hạn chế sự tham gia chủ động. Trước thực trạng này, nghiên cứu tập trung vào việc ứng dụng các kỹ thuật xử lý ngôn ngữ tự nhiên (NLP) để hỗ trợ phân loại tự động phản hồi công dân, nhằm giảm thiểu thời gian xử lý, tăng tính kết nối giữa người dân và chính quyền, đồng thời nâng cao hiệu quả quản lý.

Mục tiêu cụ thể của luận văn là nghiên cứu bài toán phân loại văn bản nói chung và phân loại phản hồi công dân nói riêng trong hoạt động chính phủ điện tử; khảo sát các thuật toán học máy có giám sát phù hợp với văn bản tiếng Việt; đề xuất giải thuật phân loại phản hồi công dân và xây dựng bản demo hệ thống kiểm thử. Phạm vi nghiên cứu tập trung vào các phản hồi của người dân và doanh nghiệp tại tỉnh Thanh Hóa trong giai đoạn 2017-2019, phù hợp với các quyết định của UBND tỉnh về xây dựng chính quyền điện tử và cải cách hành chính.

Ý nghĩa nghiên cứu thể hiện ở việc hình thành mô hình phân loại văn bản tự động có độ chính xác cao, giúp tiết kiệm thời gian xử lý phản hồi, đồng thời góp phần nâng cao chất lượng dịch vụ công và sự hài lòng của người dân, doanh nghiệp. Kết quả nghiên cứu cũng mở ra hướng phát triển ứng dụng trí tuệ nhân tạo trong quản lý nhà nước, đặc biệt trong bối cảnh chuyển đổi số đang được đẩy mạnh.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai khung lý thuyết chính: lý thuyết xử lý ngôn ngữ tự nhiên (NLP) và học máy (Machine Learning) trong phân loại văn bản.

1. Xử lý ngôn ngữ tự nhiên (NLP): Đây là lĩnh vực nghiên cứu các kỹ thuật để máy tính hiểu và xử lý ngôn ngữ con người. Các khái niệm chính bao gồm biểu diễn văn bản dưới dạng vector thuộc tính (bag-of-words, TF-IDF), loại bỏ từ dừng (stop words), rút gọn từ gốc (stemming), và nhúng từ (word embedding). Word embedding như mô hình word2vec giúp biểu diễn từ dưới dạng vector số thực, thể hiện ngữ nghĩa và mối quan hệ giữa các từ.

2. Học máy có giám sát: Phân loại văn bản được xem là bài toán học máy có giám sát, trong đó mô hình được huấn luyện trên tập dữ liệu đã gán nhãn để dự đoán nhãn cho văn bản mới. Các thuật toán được nghiên cứu gồm k-Nearest Neighbour (kNN), Naive Bayes (NB), Linear Least Square Fit (LLSF), Centroid-based, và Support Vector Machine (SVM). Mỗi thuật toán có ưu nhược điểm riêng về độ chính xác, tốc độ xử lý và khả năng xử lý dữ liệu đa nhãn.

Các khái niệm chuyên ngành quan trọng bao gồm: phân loại đơn nhãn và đa nhãn, precision, recall, TF-IDF, ma trận đồng xuất hiện, mô hình skip-gram trong word2vec, và các chỉ số đánh giá hiệu quả mô hình như độ chính xác (accuracy), hiệu quả phân loại (effectiveness).

Phương pháp nghiên cứu

Luận văn sử dụng kết hợp hai phương pháp nghiên cứu chính:

• Phương pháp nghiên cứu lý thuyết: Tổng hợp, phân tích các tài liệu chuyên ngành về quy trình tiếp nhận phản hồi công dân, các kỹ thuật xử lý ngôn ngữ tự nhiên, các thuật toán học máy trong phân loại văn bản tiếng Việt. Nghiên cứu các mô hình biểu diễn văn bản, lựa chọn thuộc tính, khai phá dữ liệu và đánh giá mô hình phân loại.

• Phương pháp nghiên cứu thực nghiệm: Thu thập dữ liệu phản hồi công dân và doanh nghiệp tại tỉnh Thanh Hóa thông qua hệ thống tiếp nhận phản hồi điện tử. Xây dựng tập dữ liệu huấn luyện, kiểm thử với cỡ mẫu khoảng vài nghìn phản hồi đã được phân loại thủ công. Áp dụng thư viện FastText để triển khai mô hình phân loại văn bản, thực hiện huấn luyện và đánh giá mô hình dựa trên các chỉ số precision, recall và độ chính xác. Thời gian nghiên cứu thực nghiệm kéo dài trong năm 2019.

Phương pháp phân tích dữ liệu chủ yếu dựa trên học máy có giám sát, sử dụng kỹ thuật vector hóa văn bản, huấn luyện mô hình phân loại và đánh giá hiệu quả bằng các bộ dữ liệu kiểm thử độc lập. Việc lựa chọn FastText dựa trên ưu điểm về tốc độ xử lý và khả năng biểu diễn từ ngữ hiệu quả trong tiếng Việt.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả phân loại phản hồi công dân: Mô hình phân loại sử dụng thư viện FastText đạt độ chính xác trung bình trên 85% trong việc phân loại phản hồi vào các nhóm chủ đề như môi trường, giao thông, hạ tầng đô thị, an toàn thực phẩm. Tỷ lệ precision và recall lần lượt đạt khoảng 83% và 87%, cho thấy khả năng nhận diện chính xác và đầy đủ các phản hồi thuộc từng lĩnh vực.

2. Tăng tốc độ xử lý phản hồi: So với phương pháp thủ công, việc áp dụng phân loại tự động giúp giảm thời gian xử lý phản hồi trung bình từ vài ngày xuống còn vài giờ, tiết kiệm khoảng 70% thời gian cho cán bộ xử lý.

3. Khả năng xử lý đa chủ đề: Mô hình hỗ trợ phân loại đa nhãn, cho phép một phản hồi có thể thuộc nhiều chủ đề khác nhau, phù hợp với đặc điểm phản hồi đa chiều của người dân. Tỷ lệ phản hồi đa nhãn chiếm khoảng 15% tổng số phản hồi.

4. Ứng dụng thực tế tại Thanh Hóa: Hệ thống demo được xây dựng và thử nghiệm tại một số đơn vị hành chính tỉnh Thanh Hóa cho thấy tính khả thi và hiệu quả trong việc hỗ trợ phân loại phản hồi, góp phần nâng cao chất lượng dịch vụ công.

Thảo luận kết quả

Nguyên nhân chính giúp mô hình đạt hiệu quả cao là việc sử dụng kỹ thuật nhúng từ (word embedding) giúp biểu diễn ngữ nghĩa từ ngữ trong phản hồi, kết hợp với thuật toán học máy có giám sát phù hợp với đặc thù tiếng Việt. Kết quả này tương đồng với các nghiên cứu gần đây trong lĩnh vực xử lý ngôn ngữ tự nhiên tiếng Việt, đồng thời vượt trội hơn so với các phương pháp truyền thống như kNN hay Naive Bayes về tốc độ và độ chính xác.

Việc áp dụng phân loại đa nhãn giúp giải quyết vấn đề phản hồi có nội dung đa chiều, tăng tính linh hoạt cho hệ thống. Tuy nhiên, vẫn tồn tại một số hạn chế như dữ liệu huấn luyện chưa đa dạng hoàn toàn, một số phản hồi có ngôn ngữ không chuẩn hoặc chứa nhiều lỗi chính tả gây khó khăn cho mô hình.

Dữ liệu có thể được trình bày qua biểu đồ cột thể hiện tỷ lệ chính xác phân loại theo từng lĩnh vực, biểu đồ đường mô tả thời gian xử lý phản hồi trước và sau khi áp dụng mô hình, cũng như bảng so sánh các chỉ số precision, recall giữa các thuật toán khác nhau.

Đề xuất và khuyến nghị

1. Triển khai mở rộng hệ thống phân loại tự động: Đẩy mạnh áp dụng mô hình phân loại phản hồi công dân trên toàn tỉnh Thanh Hóa, tích hợp với hệ thống tiếp nhận phản hồi hiện có nhằm nâng cao hiệu quả xử lý. Thời gian thực hiện trong 1-2 năm tới, chủ thể là Sở Thông tin và Truyền thông phối hợp với các đơn vị hành chính.

2. Cập nhật và mở rộng dữ liệu huấn luyện: Thu thập thêm dữ liệu phản hồi đa dạng từ nhiều lĩnh vực và địa phương khác nhau để cải thiện độ chính xác và khả năng tổng quát của mô hình. Thực hiện định kỳ hàng năm, do các trung tâm nghiên cứu và đơn vị quản lý dữ liệu đảm nhiệm.

3. Nâng cao chất lượng dữ liệu đầu vào: Xây dựng công cụ tiền xử lý dữ liệu tự động để chuẩn hóa ngôn ngữ, sửa lỗi chính tả và loại bỏ dữ liệu nhiễu, giúp mô hình phân loại hoạt động hiệu quả hơn. Thời gian triển khai 6-12 tháng, do nhóm phát triển phần mềm thực hiện.

4. Đào tạo và nâng cao năng lực cán bộ: Tổ chức các khóa đào tạo về công nghệ xử lý ngôn ngữ tự nhiên và quản lý hệ thống cho cán bộ phụ trách tiếp nhận và xử lý phản hồi, nhằm tận dụng tối đa lợi ích của hệ thống mới. Thực hiện liên tục, do các cơ sở đào tạo và đơn vị quản lý phối hợp tổ chức.

Đối tượng nên tham khảo luận văn

1. Cán bộ quản lý nhà nước và chuyên viên hành chính: Giúp hiểu rõ quy trình tiếp nhận và xử lý phản hồi công dân, áp dụng công nghệ mới để nâng cao hiệu quả công việc.

2. Nhà nghiên cứu và sinh viên ngành công nghệ thông tin, khoa học máy tính: Cung cấp kiến thức chuyên sâu về ứng dụng xử lý ngôn ngữ tự nhiên và học máy trong phân loại văn bản tiếng Việt.

3. Các đơn vị phát triển phần mềm và công nghệ: Là tài liệu tham khảo để phát triển các hệ thống tiếp nhận phản hồi tự động, cải tiến thuật toán phân loại văn bản.

4. Lãnh đạo các địa phương và tổ chức chính phủ điện tử: Hỗ trợ xây dựng chính sách, kế hoạch triển khai các giải pháp công nghệ thông tin trong quản lý hành chính công.

Câu hỏi thường gặp

1. Phân loại phản hồi công dân là gì và tại sao cần tự động hóa?
   Phân loại phản hồi công dân là quá trình xác định chủ đề của các phản hồi gửi đến hệ thống để phân công xử lý phù hợp. Tự động hóa giúp giảm thời gian xử lý, tăng độ chính xác và nâng cao hiệu quả quản lý.

2. Các thuật toán học máy nào được sử dụng trong nghiên cứu?
   Luận văn áp dụng các thuật toán như k-Nearest Neighbour, Naive Bayes, Linear Least Square Fit, Centroid-based và Support Vector Machine, trong đó FastText được sử dụng để xây dựng mô hình phân loại chính.

3. Làm thế nào để xử lý đặc thù ngôn ngữ tiếng Việt trong phân loại văn bản?
   Sử dụng kỹ thuật nhúng từ (word embedding) như word2vec giúp biểu diễn ngữ nghĩa từ ngữ, kết hợp với tiền xử lý như loại bỏ từ dừng, rút gọn từ gốc và chuẩn hóa dữ liệu để cải thiện hiệu quả phân loại.

4. Mô hình phân loại có thể xử lý phản hồi đa chủ đề không?
   Có, mô hình hỗ trợ phân loại đa nhãn, cho phép một phản hồi thuộc nhiều chủ đề khác nhau, phù hợp với tính đa dạng nội dung phản hồi thực tế.

5. Làm thế nào để đánh giá hiệu quả của mô hình phân loại?
   Sử dụng các chỉ số precision (độ chính xác), recall (độ bao phủ) và accuracy (tỷ lệ phân loại đúng) trên tập dữ liệu kiểm thử độc lập để đánh giá mô hình.

Kết luận

• Nghiên cứu đã xây dựng thành công mô hình phân loại tự động phản hồi công dân sử dụng kỹ thuật xử lý ngôn ngữ tự nhiên và học máy, đạt độ chính xác trên 85%.
• Mô hình giúp giảm thời gian xử lý phản hồi khoảng 70%, nâng cao hiệu quả quản lý và chất lượng dịch vụ công tại tỉnh Thanh Hóa.
• Hệ thống hỗ trợ phân loại đa nhãn, phù hợp với đặc điểm đa chiều của phản hồi công dân.
• Kết quả thực nghiệm tại địa phương chứng minh tính khả thi và ứng dụng thực tiễn của giải pháp.
• Đề xuất triển khai mở rộng, cập nhật dữ liệu và đào tạo cán bộ để phát huy tối đa hiệu quả hệ thống trong giai đoạn 2020-2022.

Để tiếp tục phát triển, các đơn vị quản lý và phát triển công nghệ cần phối hợp triển khai các giải pháp đề xuất, đồng thời nghiên cứu mở rộng ứng dụng xử lý ngôn ngữ tự nhiên trong các lĩnh vực quản lý nhà nước khác. Hãy bắt đầu áp dụng công nghệ để nâng cao hiệu quả phục vụ người dân ngay hôm nay!