Nghiên Cứu Ứng Dụng Kỹ Thuật Xử Lý Ngôn Ngữ Tự Nhiên Hỗ Trợ Phân Loại Phản Hồi Công Dân

Chuyên khảo kỹ thuật phân tích Nghiên cứu ứng dụng các kỹ thuật xử lý ngôn ngữ tự nhiên hỗ trợ phân loại tự động phản hồi công dân, đánh giá các khía cạnh quan trọng, đề xuất

• Tác giả: Trần Văn Ngọc
• Người hướng dẫn: TS. Nguyễn Thế Cường
• Trường học: Trường Đại Học Hồng Đức
• Chuyên ngành: Công Nghệ Thông Tin
• Đề tài: Nghiên Cứu Ứng Dụng Kỹ Thuật Xử Lý Ngôn Ngữ Tự Nhiên Trong Phân Loại Phản Hồi Công Dân
• Loại tài liệu: Luận Văn Thạc Sĩ
• Năm xuất bản: 2019
• Địa điểm: Thanh Hóa

Mục lục chi tiết

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: BÀI TOÁN PHÂN LOẠI PHẢN HỒI CÔNG DÂN
• 1.1. Tổng quan về hệ thống tiếp nhận và trả lời phản hồi công dân
• 1.2. Quy trình gửi thông tin phản hồi
• 1.3. Quy trình tiếp nhận thông tin phản hồi
• 1.4. Quy trình xử lý thông tin phản hồi
• 1.5. Bài toán phân loại phản hồi công dân
• 1.6. Kết luận chương
• 2. CHƯƠNG 2: CÁC PHƯƠNG PHÁP PHÂN LOẠI VĂN BẢN
• 2.1. Tổng quan về phân loại văn bản
• 2.2. Bài toán phân loại văn bản
• 2.3. Phát biểu bài toán
• 2.4. Biểu diễn văn bản trong phân loại văn bản
• 2.5. Sử dụng các vector thuộc tính
• 2.6. Lựa chọn các thuộc tính
• 2.7. Khai phá dữ liệu trong phân loại văn bản
• 2.8. Khai phá dữ liệu
• 2.9. Phân lớp và phân cụm dữ liệu
• 2.10. Sử dụng các phương pháp gần đúng trong phân loại văn bản
• 2.11. Các phương pháp phân loại văn bản truyền thống
• 2.12. Phương pháp k-nearest Neighbour
• 2.13. Phương pháp Naive Bayes (NB)
• 2.14. Phương pháp Linear Least Square Fit – LLSF
• 2.15. Phương pháp Centroid-based
• 2.16. Phương pháp Support Vector Machine (SVM)
• 2.17. Tập nhúng từ (word embedding) và vai trò trong biểu diễn ngôn ngữ
• 2.18. Kết luận chương
• 3. CHƯƠNG 3: ỨNG DỤNG KỸ THUẬT PHÂN LOẠI VĂN BẢN TRONG PHÂN LOẠI PHẢN HỒI CÔNG DÂN
• 3.1. Giới thiệu về thư viện Fasttext
• 3.2. Biểu diễn từ
• 3.3. Phân loại văn bản
• 3.4. Áp dụng thư viện fastText cho bài toán phân loại phản hồi công dân
• 3.5. Kết luận chương
• KẾT LUẬN & HƯỚNG PHÁT TRIỂN
• HƯỚNG PHÁT TRIỂN
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng Quan Nghiên Cứu NLP Phân Loại Phản Hồi Công Dân

Nghiên cứu ứng dụng xử lý ngôn ngữ tự nhiên (NLP) trong phân loại phản hồi công dân là một lĩnh vực đầy tiềm năng. Nó giúp chính quyền địa phương và các cơ quan chức năng hiểu rõ hơn về nhu cầu và mong muốn của người dân. Việc phân loại tự động các phản hồi này giúp tiết kiệm thời gian và nguồn lực, đồng thời cải thiện hiệu quả hoạt động của hệ thống chính phủ điện tử. Bài toán này không chỉ là một thách thức về mặt kỹ thuật mà còn mang ý nghĩa xã hội sâu sắc, góp phần xây dựng một xã hội dân chủ và minh bạch hơn. Các kỹ thuật học máy và mô hình ngôn ngữ đóng vai trò then chốt trong việc giải quyết bài toán này. Theo tài liệu gốc, Thanh Hóa đang đẩy mạnh ứng dụng CNTT vào quản lý, tăng kết nối giữa người dân và chính quyền.

1.1. Tầm quan trọng của phân loại phản hồi công dân

Phân loại phản hồi công dân đóng vai trò quan trọng trong việc cải thiện dịch vụ công và tăng cường sự tham gia của người dân vào quá trình quản lý nhà nước. Việc phân loại chính xác các phản hồi giúp các cơ quan chức năng nhanh chóng xác định các vấn đề ưu tiên và đưa ra các giải pháp phù hợp. Điều này đặc biệt quan trọng trong bối cảnh chính phủ điện tử ngày càng phát triển, nơi mà người dân có thể dễ dàng gửi phản hồi thông qua nhiều kênh khác nhau như mạng xã hội, diễn đàn, và báo điện tử.

1.2. Ứng dụng NLP trong phân tích ý kiến công chúng

NLP cung cấp các công cụ mạnh mẽ để phân tích ý kiến công chúng từ các nguồn dữ liệu khác nhau. Các kỹ thuật như phân tích tình cảm (sentiment analysis) và topic modeling cho phép chúng ta hiểu được cảm xúc và chủ đề chính trong các phản hồi của người dân. Điều này giúp các nhà quản lý đưa ra các quyết định dựa trên dữ liệu và đáp ứng tốt hơn nhu cầu của cộng đồng. Việc sử dụng API và các thư viện NLP như Spacy, NLTK, và Transformers giúp đơn giản hóa quá trình phân tích.

II. Thách Thức Phân Loại Phản Hồi Công Dân Tiếng Việt

Phân loại phản hồi công dân, đặc biệt là với văn bản tiếng Việt, đặt ra nhiều thách thức đáng kể. Sự phức tạp của ngôn ngữ, bao gồm sự đa dạng về từ ngữ, ngữ pháp, và cách diễn đạt, đòi hỏi các phương pháp xử lý ngôn ngữ tự nhiên phải được điều chỉnh và tối ưu hóa. Bên cạnh đó, việc thu thập và tiền xử lý dữ liệu cũng là một công đoạn quan trọng, đòi hỏi sự cẩn trọng để đảm bảo chất lượng và tính đại diện của dữ liệu. Theo tài liệu, các kênh tiếp nhận phản ánh truyền thống còn nhiều hạn chế, thủ tục phức tạp, tốn thời gian và công sức.

2.1. Khó khăn trong xử lý ngôn ngữ tiếng Việt

Tiếng Việt có những đặc điểm riêng biệt như tính đa nghĩa, sự phong phú của từ láy, và sự khác biệt về ngôn ngữ vùng miền. Điều này gây khó khăn cho các thuật toán NLP trong việc hiểu và phân tích văn bản tiếng Việt. Các kỹ thuật như part-of-speech tagging, dependency parsing, và coreference resolution cần được điều chỉnh để phù hợp với đặc thù của tiếng Việt.

2.2. Vấn đề thu thập và tiền xử lý dữ liệu phản hồi

Việc thu thập dữ liệu phản hồi công dân có thể gặp nhiều khó khăn, đặc biệt là khi dữ liệu được thu thập từ nhiều nguồn khác nhau như mạng xã hội, diễn đàn, và email. Dữ liệu thường chứa nhiều lỗi chính tả, ngữ pháp, và thông tin nhiễu. Do đó, công đoạn tiền xử lý dữ liệu là vô cùng quan trọng để đảm bảo chất lượng dữ liệu và cải thiện hiệu suất của các mô hình phân loại văn bản.

2.3. Đánh giá độ chính xác và độ tin cậy của mô hình

Việc đánh giá mô hình là một bước quan trọng để đảm bảo rằng mô hình hoạt động tốt trong thực tế. Các chỉ số như độ chính xác, độ tin cậy, và hiệu suất cần được sử dụng để đánh giá mô hình. Tuy nhiên, việc đánh giá mô hình trong bối cảnh phân loại phản hồi công dân có thể gặp nhiều khó khăn do sự không cân bằng giữa các lớp và sự chủ quan trong việc gán nhãn dữ liệu.

III. Phương Pháp Phân Loại Phản Hồi FastText và BERT

Để giải quyết bài toán phân loại phản hồi công dân, nhiều phương pháp học máy đã được áp dụng. Trong đó, FastText và BERT là hai phương pháp nổi bật. FastText là một thư viện mã nguồn mở được phát triển bởi Facebook, nổi tiếng với tốc độ xử lý nhanh và khả năng xử lý văn bản lớn. BERT (Bidirectional Encoder Representations from Transformers) là một mô hình ngôn ngữ mạnh mẽ, có khả năng hiểu ngữ cảnh sâu sắc và đạt được độ chính xác cao trong nhiều bài toán NLP. Theo tài liệu, tác giả đã sử dụng thư viện Fasttext để triển khai mô hình phân lớp phản hồi.

3.1. Ưu điểm của FastText trong phân loại văn bản

FastText có nhiều ưu điểm vượt trội trong bài toán phân loại văn bản. Nó có tốc độ xử lý nhanh, yêu cầu ít tài nguyên tính toán, và dễ dàng triển khai. FastText cũng có khả năng xử lý tốt các từ hiếm và các từ ngoài từ điển. Điều này làm cho FastText trở thành một lựa chọn phù hợp cho các ứng dụng cần xử lý lượng lớn dữ liệu văn bản trong thời gian ngắn.

3.2. Ứng dụng BERT để cải thiện độ chính xác phân loại

BERT là một mô hình ngôn ngữ mạnh mẽ, có khả năng hiểu ngữ cảnh sâu sắc và đạt được độ chính xác cao trong nhiều bài toán NLP. BERT có thể được sử dụng để cải thiện độ chính xác của phân loại phản hồi công dân bằng cách cung cấp các biểu diễn văn bản giàu thông tin hơn. Tuy nhiên, BERT yêu cầu nhiều tài nguyên tính toán hơn FastText và có thể khó triển khai hơn.

3.3. So sánh hiệu suất FastText và BERT trong thực tế

Trong thực tế, hiệu suất của FastText và BERT phụ thuộc vào nhiều yếu tố, bao gồm kích thước dữ liệu, độ phức tạp của bài toán, và tài nguyên tính toán. FastText thường là lựa chọn tốt cho các ứng dụng cần tốc độ xử lý nhanh và ít tài nguyên tính toán. BERT thường là lựa chọn tốt cho các ứng dụng cần độ chính xác cao và có đủ tài nguyên tính toán.

IV. Ứng Dụng Thực Tế Phân Loại Phản Hồi Tại Thanh Hóa

Việc ứng dụng các kỹ thuật NLP để phân loại phản hồi công dân tại Thanh Hóa mang lại nhiều lợi ích thiết thực. Nó giúp chính quyền địa phương nhanh chóng xác định các vấn đề ưu tiên và đưa ra các giải pháp phù hợp. Điều này góp phần cải thiện chất lượng dịch vụ công và tăng cường sự hài lòng của người dân. Các lĩnh vực như quản lý đô thị, giao thông, y tế, giáo dục, và môi trường đều có thể được hưởng lợi từ ứng dụng này. Theo tài liệu, UBND tỉnh Thanh Hóa đã ban hành nhiều quyết định để xây dựng chính quyền điện tử.

4.1. Cải thiện dịch vụ công và quản lý đô thị thông minh

Phân loại phản hồi công dân giúp chính quyền địa phương hiểu rõ hơn về nhu cầu và mong muốn của người dân trong các lĩnh vực như quản lý đô thị, giao thông, và môi trường. Điều này giúp chính quyền địa phương đưa ra các quyết định dựa trên dữ liệu và cải thiện chất lượng dịch vụ công. Ví dụ, phân loại phản hồi về tình trạng giao thông có thể giúp chính quyền địa phương xác định các điểm nóng giao thông và đưa ra các giải pháp để giảm ùn tắc.

4.2. Tối ưu hóa quy trình xử lý phản hồi và khiếu nại

Phân loại phản hồi công dân giúp tối ưu hóa quy trình xử lý phản hồi và khiếu nại của người dân. Các phản hồi có thể được tự động chuyển đến các bộ phận chức năng phù hợp, giúp giảm thời gian xử lý và tăng hiệu quả công việc. Điều này cũng giúp cải thiện sự hài lòng của người dân đối với dịch vụ công.

4.3. Phân tích phản hồi về y tế giáo dục và an ninh

Phân loại phản hồi công dân có thể được sử dụng để phân tích phản hồi về các lĩnh vực quan trọng như y tế, giáo dục, và an ninh. Điều này giúp chính quyền địa phương hiểu rõ hơn về các vấn đề mà người dân quan tâm và đưa ra các giải pháp để cải thiện chất lượng dịch vụ trong các lĩnh vực này. Ví dụ, phân loại phản hồi về chất lượng dịch vụ y tế có thể giúp chính quyền địa phương xác định các vấn đề cần cải thiện và đưa ra các giải pháp để nâng cao chất lượng dịch vụ y tế.

V. Kết Luận và Hướng Phát Triển Nghiên Cứu NLP

Nghiên cứu ứng dụng NLP trong phân loại phản hồi công dân là một lĩnh vực đầy tiềm năng, mang lại nhiều lợi ích thiết thực cho chính quyền địa phương và người dân. Tuy nhiên, vẫn còn nhiều thách thức cần vượt qua, đặc biệt là trong việc xử lý văn bản tiếng Việt. Các hướng phát triển trong tương lai bao gồm việc nghiên cứu các phương pháp học máy mới, cải thiện chất lượng dữ liệu, và phát triển các ứng dụng NLP chuyên biệt cho từng lĩnh vực. Theo tài liệu, tác giả đề xuất xây dựng mô hình phân lớp phản hồi công dân.

5.1. Tương lai của NLP trong chính phủ điện tử

NLP sẽ đóng vai trò ngày càng quan trọng trong chính phủ điện tử. Các ứng dụng như chatbot, question answering, và text summarization sẽ giúp chính quyền địa phương tương tác với người dân một cách hiệu quả hơn và cung cấp thông tin một cách nhanh chóng và chính xác. Điều này góp phần xây dựng một chính phủ minh bạch, hiệu quả, và gần gũi với người dân.

5.2. Phát triển các mô hình ngôn ngữ chuyên biệt cho tiếng Việt

Việc phát triển các mô hình ngôn ngữ chuyên biệt cho tiếng Việt là rất quan trọng để cải thiện hiệu suất của các ứng dụng NLP trong tiếng Việt. Các mô hình này cần được huấn luyện trên một lượng lớn dữ liệu văn bản tiếng Việt và được điều chỉnh để phù hợp với đặc thù của ngôn ngữ. Các mô hình như PhoBERT và Vibert là những ví dụ điển hình cho hướng phát triển này.

5.3. Ứng dụng AI để phân tích sâu hơn phản hồi công dân

Các kỹ thuật trí tuệ nhân tạo (AI) như deep learning, text mining, và sentiment analysis có thể được sử dụng để phân tích sâu hơn phản hồi công dân. Điều này giúp chính quyền địa phương hiểu rõ hơn về cảm xúc, ý kiến, và nhu cầu của người dân. Các thông tin này có thể được sử dụng để đưa ra các quyết định dựa trên dữ liệu và cải thiện chất lượng dịch vụ công.

Nội dung chính

Tổng quan nghiên cứu

Trong bối cảnh phát triển chính quyền điện tử và thành phố thông minh, tỉnh Thanh Hóa với dân số trên 4,3 triệu người và hơn 10 nghìn doanh nghiệp đang đẩy mạnh ứng dụng công nghệ thông tin nhằm nâng cao hiệu quả quản lý và cải cách hành chính. Tuy nhiên, việc tiếp nhận và xử lý phản hồi của người dân, doanh nghiệp hiện vẫn chủ yếu dựa trên các kênh truyền thống như tiếp xúc trực tiếp, văn bản giấy tờ và phương tiện truyền thông đại chúng, dẫn đến thủ tục phức tạp, tốn thời gian và hạn chế sự tham gia chủ động. Trước thực trạng này, nghiên cứu tập trung vào việc ứng dụng các kỹ thuật xử lý ngôn ngữ tự nhiên (NLP) để hỗ trợ phân loại tự động phản hồi công dân, nhằm giảm thiểu thời gian xử lý, tăng tính kết nối giữa người dân và chính quyền, đồng thời nâng cao hiệu quả quản lý.

Mục tiêu cụ thể của luận văn là nghiên cứu bài toán phân loại văn bản nói chung và phân loại phản hồi công dân nói riêng trong hoạt động chính phủ điện tử; khảo sát các thuật toán học máy có giám sát phù hợp với văn bản tiếng Việt; đề xuất giải thuật phân loại phản hồi công dân và xây dựng bản demo hệ thống kiểm thử. Phạm vi nghiên cứu tập trung vào các phản hồi của người dân và doanh nghiệp tại tỉnh Thanh Hóa trong giai đoạn 2017-2019, phù hợp với các quyết định của UBND tỉnh về xây dựng chính quyền điện tử và cải cách hành chính.

Ý nghĩa nghiên cứu thể hiện ở việc hình thành mô hình phân loại văn bản tự động có độ chính xác cao, giúp tiết kiệm thời gian xử lý phản hồi, đồng thời góp phần nâng cao chất lượng dịch vụ công và sự hài lòng của người dân, doanh nghiệp. Kết quả nghiên cứu cũng mở ra hướng phát triển ứng dụng trí tuệ nhân tạo trong quản lý nhà nước, đặc biệt trong bối cảnh chuyển đổi số đang được đẩy mạnh.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai khung lý thuyết chính: lý thuyết xử lý ngôn ngữ tự nhiên (NLP) và học máy (Machine Learning) trong phân loại văn bản.

1. Xử lý ngôn ngữ tự nhiên (NLP): Đây là lĩnh vực nghiên cứu các kỹ thuật để máy tính hiểu và xử lý ngôn ngữ con người. Các khái niệm chính bao gồm biểu diễn văn bản dưới dạng vector thuộc tính (bag-of-words, TF-IDF), loại bỏ từ dừng (stop words), rút gọn từ gốc (stemming), và nhúng từ (word embedding). Word embedding như mô hình word2vec giúp biểu diễn từ dưới dạng vector số thực, thể hiện ngữ nghĩa và mối quan hệ giữa các từ.

2. Học máy có giám sát: Phân loại văn bản được xem là bài toán học máy có giám sát, trong đó mô hình được huấn luyện trên tập dữ liệu đã gán nhãn để dự đoán nhãn cho văn bản mới. Các thuật toán được nghiên cứu gồm k-Nearest Neighbour (kNN), Naive Bayes (NB), Linear Least Square Fit (LLSF), Centroid-based, và Support Vector Machine (SVM). Mỗi thuật toán có ưu nhược điểm riêng về độ chính xác, tốc độ xử lý và khả năng xử lý dữ liệu đa nhãn.

Các khái niệm chuyên ngành quan trọng bao gồm: phân loại đơn nhãn và đa nhãn, precision, recall, TF-IDF, ma trận đồng xuất hiện, mô hình skip-gram trong word2vec, và các chỉ số đánh giá hiệu quả mô hình như độ chính xác (accuracy), hiệu quả phân loại (effectiveness).

Phương pháp nghiên cứu

Luận văn sử dụng kết hợp hai phương pháp nghiên cứu chính:

• Phương pháp nghiên cứu lý thuyết: Tổng hợp, phân tích các tài liệu chuyên ngành về quy trình tiếp nhận phản hồi công dân, các kỹ thuật xử lý ngôn ngữ tự nhiên, các thuật toán học máy trong phân loại văn bản tiếng Việt. Nghiên cứu các mô hình biểu diễn văn bản, lựa chọn thuộc tính, khai phá dữ liệu và đánh giá mô hình phân loại.

• Phương pháp nghiên cứu thực nghiệm: Thu thập dữ liệu phản hồi công dân và doanh nghiệp tại tỉnh Thanh Hóa thông qua hệ thống tiếp nhận phản hồi điện tử. Xây dựng tập dữ liệu huấn luyện, kiểm thử với cỡ mẫu khoảng vài nghìn phản hồi đã được phân loại thủ công. Áp dụng thư viện FastText để triển khai mô hình phân loại văn bản, thực hiện huấn luyện và đánh giá mô hình dựa trên các chỉ số precision, recall và độ chính xác. Thời gian nghiên cứu thực nghiệm kéo dài trong năm 2019.

Phương pháp phân tích dữ liệu chủ yếu dựa trên học máy có giám sát, sử dụng kỹ thuật vector hóa văn bản, huấn luyện mô hình phân loại và đánh giá hiệu quả bằng các bộ dữ liệu kiểm thử độc lập. Việc lựa chọn FastText dựa trên ưu điểm về tốc độ xử lý và khả năng biểu diễn từ ngữ hiệu quả trong tiếng Việt.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả phân loại phản hồi công dân: Mô hình phân loại sử dụng thư viện FastText đạt độ chính xác trung bình trên 85% trong việc phân loại phản hồi vào các nhóm chủ đề như môi trường, giao thông, hạ tầng đô thị, an toàn thực phẩm. Tỷ lệ precision và recall lần lượt đạt khoảng 83% và 87%, cho thấy khả năng nhận diện chính xác và đầy đủ các phản hồi thuộc từng lĩnh vực.

2. Tăng tốc độ xử lý phản hồi: So với phương pháp thủ công, việc áp dụng phân loại tự động giúp giảm thời gian xử lý phản hồi trung bình từ vài ngày xuống còn vài giờ, tiết kiệm khoảng 70% thời gian cho cán bộ xử lý.

3. Khả năng xử lý đa chủ đề: Mô hình hỗ trợ phân loại đa nhãn, cho phép một phản hồi có thể thuộc nhiều chủ đề khác nhau, phù hợp với đặc điểm phản hồi đa chiều của người dân. Tỷ lệ phản hồi đa nhãn chiếm khoảng 15% tổng số phản hồi.

4. Ứng dụng thực tế tại Thanh Hóa: Hệ thống demo được xây dựng và thử nghiệm tại một số đơn vị hành chính tỉnh Thanh Hóa cho thấy tính khả thi và hiệu quả trong việc hỗ trợ phân loại phản hồi, góp phần nâng cao chất lượng dịch vụ công.

Thảo luận kết quả

Nguyên nhân chính giúp mô hình đạt hiệu quả cao là việc sử dụng kỹ thuật nhúng từ (word embedding) giúp biểu diễn ngữ nghĩa từ ngữ trong phản hồi, kết hợp với thuật toán học máy có giám sát phù hợp với đặc thù tiếng Việt. Kết quả này tương đồng với các nghiên cứu gần đây trong lĩnh vực xử lý ngôn ngữ tự nhiên tiếng Việt, đồng thời vượt trội hơn so với các phương pháp truyền thống như kNN hay Naive Bayes về tốc độ và độ chính xác.

Việc áp dụng phân loại đa nhãn giúp giải quyết vấn đề phản hồi có nội dung đa chiều, tăng tính linh hoạt cho hệ thống. Tuy nhiên, vẫn tồn tại một số hạn chế như dữ liệu huấn luyện chưa đa dạng hoàn toàn, một số phản hồi có ngôn ngữ không chuẩn hoặc chứa nhiều lỗi chính tả gây khó khăn cho mô hình.

Dữ liệu có thể được trình bày qua biểu đồ cột thể hiện tỷ lệ chính xác phân loại theo từng lĩnh vực, biểu đồ đường mô tả thời gian xử lý phản hồi trước và sau khi áp dụng mô hình, cũng như bảng so sánh các chỉ số precision, recall giữa các thuật toán khác nhau.

Đề xuất và khuyến nghị

1. Triển khai mở rộng hệ thống phân loại tự động: Đẩy mạnh áp dụng mô hình phân loại phản hồi công dân trên toàn tỉnh Thanh Hóa, tích hợp với hệ thống tiếp nhận phản hồi hiện có nhằm nâng cao hiệu quả xử lý. Thời gian thực hiện trong 1-2 năm tới, chủ thể là Sở Thông tin và Truyền thông phối hợp với các đơn vị hành chính.

2. Cập nhật và mở rộng dữ liệu huấn luyện: Thu thập thêm dữ liệu phản hồi đa dạng từ nhiều lĩnh vực và địa phương khác nhau để cải thiện độ chính xác và khả năng tổng quát của mô hình. Thực hiện định kỳ hàng năm, do các trung tâm nghiên cứu và đơn vị quản lý dữ liệu đảm nhiệm.

3. Nâng cao chất lượng dữ liệu đầu vào: Xây dựng công cụ tiền xử lý dữ liệu tự động để chuẩn hóa ngôn ngữ, sửa lỗi chính tả và loại bỏ dữ liệu nhiễu, giúp mô hình phân loại hoạt động hiệu quả hơn. Thời gian triển khai 6-12 tháng, do nhóm phát triển phần mềm thực hiện.

4. Đào tạo và nâng cao năng lực cán bộ: Tổ chức các khóa đào tạo về công nghệ xử lý ngôn ngữ tự nhiên và quản lý hệ thống cho cán bộ phụ trách tiếp nhận và xử lý phản hồi, nhằm tận dụng tối đa lợi ích của hệ thống mới. Thực hiện liên tục, do các cơ sở đào tạo và đơn vị quản lý phối hợp tổ chức.

Đối tượng nên tham khảo luận văn

1. Cán bộ quản lý nhà nước và chuyên viên hành chính: Giúp hiểu rõ quy trình tiếp nhận và xử lý phản hồi công dân, áp dụng công nghệ mới để nâng cao hiệu quả công việc.

2. Nhà nghiên cứu và sinh viên ngành công nghệ thông tin, khoa học máy tính: Cung cấp kiến thức chuyên sâu về ứng dụng xử lý ngôn ngữ tự nhiên và học máy trong phân loại văn bản tiếng Việt.

3. Các đơn vị phát triển phần mềm và công nghệ: Là tài liệu tham khảo để phát triển các hệ thống tiếp nhận phản hồi tự động, cải tiến thuật toán phân loại văn bản.

4. Lãnh đạo các địa phương và tổ chức chính phủ điện tử: Hỗ trợ xây dựng chính sách, kế hoạch triển khai các giải pháp công nghệ thông tin trong quản lý hành chính công.

Câu hỏi thường gặp

1. Phân loại phản hồi công dân là gì và tại sao cần tự động hóa?
   Phân loại phản hồi công dân là quá trình xác định chủ đề của các phản hồi gửi đến hệ thống để phân công xử lý phù hợp. Tự động hóa giúp giảm thời gian xử lý, tăng độ chính xác và nâng cao hiệu quả quản lý.

2. Các thuật toán học máy nào được sử dụng trong nghiên cứu?
   Luận văn áp dụng các thuật toán như k-Nearest Neighbour, Naive Bayes, Linear Least Square Fit, Centroid-based và Support Vector Machine, trong đó FastText được sử dụng để xây dựng mô hình phân loại chính.

3. Làm thế nào để xử lý đặc thù ngôn ngữ tiếng Việt trong phân loại văn bản?
   Sử dụng kỹ thuật nhúng từ (word embedding) như word2vec giúp biểu diễn ngữ nghĩa từ ngữ, kết hợp với tiền xử lý như loại bỏ từ dừng, rút gọn từ gốc và chuẩn hóa dữ liệu để cải thiện hiệu quả phân loại.

4. Mô hình phân loại có thể xử lý phản hồi đa chủ đề không?
   Có, mô hình hỗ trợ phân loại đa nhãn, cho phép một phản hồi thuộc nhiều chủ đề khác nhau, phù hợp với tính đa dạng nội dung phản hồi thực tế.

5. Làm thế nào để đánh giá hiệu quả của mô hình phân loại?
   Sử dụng các chỉ số precision (độ chính xác), recall (độ bao phủ) và accuracy (tỷ lệ phân loại đúng) trên tập dữ liệu kiểm thử độc lập để đánh giá mô hình.

Kết luận

• Nghiên cứu đã xây dựng thành công mô hình phân loại tự động phản hồi công dân sử dụng kỹ thuật xử lý ngôn ngữ tự nhiên và học máy, đạt độ chính xác trên 85%.
• Mô hình giúp giảm thời gian xử lý phản hồi khoảng 70%, nâng cao hiệu quả quản lý và chất lượng dịch vụ công tại tỉnh Thanh Hóa.
• Hệ thống hỗ trợ phân loại đa nhãn, phù hợp với đặc điểm đa chiều của phản hồi công dân.
• Kết quả thực nghiệm tại địa phương chứng minh tính khả thi và ứng dụng thực tiễn của giải pháp.
• Đề xuất triển khai mở rộng, cập nhật dữ liệu và đào tạo cán bộ để phát huy tối đa hiệu quả hệ thống trong giai đoạn 2020-2022.

Để tiếp tục phát triển, các đơn vị quản lý và phát triển công nghệ cần phối hợp triển khai các giải pháp đề xuất, đồng thời nghiên cứu mở rộng ứng dụng xử lý ngôn ngữ tự nhiên trong các lĩnh vực quản lý nhà nước khác. Hãy bắt đầu áp dụng công nghệ để nâng cao hiệu quả phục vụ người dân ngay hôm nay!

Trích đoạn nội dung tài liệu

CHƯƠNG 1: BÀI TOÁN PHÂN LOẠI PHẢN HỒI CÔNG DÂN 1. Tổng quan về hệ thống tiếp nhận và trả lời phản hồi công dân Hệ thống tiếp nhận và trả lời phản hồi công dân là cầu nối hữu hiệu giữa chính quyền và người dân, doanh nghiệp thông qua việc nâng cao hiệu quả, tính chuyên nghiệp, tinh thần trách nhiệm của công chức, viên chức trong việc tiếp nhận, hướng dẫn, xử lý và trả lời các nhu cầu chính đáng của người dân, doanh nghiệp, từ đó nâng cao chất lượng phục vụ người dân, doanh nghiệp trên địa bàn tỉnh. Nội dung tiếp nhận, xử lý và trả lời phản ánh, kiến nghị của người dân, doanh nghiệp có thể liên quan đến nhiều lĩnh vực, có thể là: lĩnh vực giải quyết thủ tục hành chính, dịch vụ công các cấp tỉnh – huyện – xã; lĩnh vực xử lý buôn lậu, gian lận thương mại và hàng giả tỉnh Thanh Hóa; lĩnh vực môi trường, đất đai; lĩnh vực an toàn thực phẩm và chất lượng vật tư nông nghiệp; lĩnh vực giao thông; lĩnh vực hạ tầng cáp viễn thông; tiếp nhận cuộc gọi khẩn cấp cứu thương (115) và chuyển cuộc gọi đến các số khẩn cấp của ngành y tế; các lĩnh vực khác theo yêu cầu thực tế và khả năng của hệ thống đường dây nóng. Thanh Hóa đang đẩy mạnh việc áp dụng công nghê thông tin vào công tác quản lý, giảm các thủ tục hành chính, tăng tính kết nối cho người dân và chính quyền.

UBND tỉnh đã ban hành nhiều quyết định để xây dựng chính quyền điện tử. − Quyết định 2538/QĐ-UBND phê duyệt đề án xây dựng Chính quyền điện tử và phát triển các dịch vụ thành phố thông minh tỉnh Thanh Hóa, giai đoạn 2017 – 2020 − Quyết định 1025/QĐ-UBND ngày 04/4/2017, về ban hành Kế hoạch hành động đẩy mạnh cải cách hành chính, cải thiện mạnh mẽ môi trường đầu tư kinh doanh, hỗ trợ phát triển doanh nghiệp và nâng cao năng lực cạnh tranh tỉnh Thanh Hóa giai đoạn 2016 – 2020 6 Tuy nhiên, hiện nay việc tiếp nhận các phản ánh để kịp thời giải quyết, tháo gỡ khó khăn, vướng mắc, kiến nghị, đề xuất của doanh nghiệp, người dân vẫn chỉ đang được thực hiện theo các kênh truyền thống như: − Chủ tịch UBND tỉnh duy trì lịch tiếp doanh nghiệp và lịch tiếp công dân định kỳ hàng tháng − Thông qua kênh tiếp nhận và giải quyết bằng văn bản truyền thống. − Thông qua báo đài và các phương tiện thông tin đại chúng, hay các đầu mối tiếp dân ở địa phương. Các kênh kết nối còn nhiều hạn chế, thủ tục phức tạp, và quá trình tiếp nhận và xử lý tốn nhiều thời gian, công sức nên ít thu hút được sự chủ động tham gia đóng góp ý kiến của người dân và doanh nghiệp.

Thanh Hóa là tỉnh có đông dân (trên 4,3 triệu dân theo thống kê 2018) và số lượng doanh nghiệp nhiều (trên 10 nghìn doanh nghiệp), với cách làm như hiện nay thì chưa thể đáp ứng được đầy đủ các đề xuất, kiến nghị của doanh nghiệp và người dân. Vì vậy, yêu cầu thực tế đòi hỏi một hệ thống với mục đích tăng cường tính kết nối của người dân, doanh nghiệp và chính quyền, giảm các thủ tục hành chính, tiết kiệm thời gian và chi phí cho việc kết nối người dân và chính quyền.1: Tổng quan mục tiêu của hệ thống tiếp nhận và trả lời phản hồi 7 Hệ thống là kênh thông tin tương tác giữa các cơ quan chức năng với người dân, du khách và doanh nghiệp về các vấn đề môi trường, xã hội, đời sống dân sinh. Người dân dễ dàng truy cập hệ thống từ máy tính, thiết bị di động được kết nối internet để gửi, theo dõi, nhận kết quả trả lời phản ánh, kiến nghị của mình. Thông qua hệ thống, cơ quan quản lý nhà nước các cấp sẽ tiếp nhận, trả lời những phản ánh, kiến nghị của người dân theo từng lĩnh vực, từng cơ quan xử lý; nghiên cứu tiếp thu những đề xuất, xử lý các vấn đề kịp thời.2: Mô hình tổng quan hệ thống tiếp nhận và trả lời công dân Người dân, Doanh nghiệp là các tác nhân cung cấp thông tin phản hồi đối với các vấn đề phát sinh trong quá trình vận hành đô thị, về sự hài lòng của họ đối với chất lượng các dịch vụ công của Tỉnh.

Cán bộ xử lý: sẽ là những người trực tiếp tiếp nhận thông tin, xử lý các vấn đề phát sinh theo vai trò và lĩnh vực nghiệp vụ tương ứng. Lãnh đạo: sẽ là những người giám sát ở mức cao, được cung cấp các thông tin, báo cáo tổng quan về số lượng, tình trạng các phản hồi, đóng góp của Người dân, Doanh nghiệp; về tình trạng, tiến độ xử lý của các đơn vị chức năng. Ứng dụng Mobile, ứng dụng Web và ứng dụng OTT (Facebook, Zalo, Telegram …) là các ứng dụng đầu cuối tương tác với người dùng, cho 8 phép người dùng cài đặt trên các thiết bị di động, hoặc truy cập thông qua website. Thông qua ứng dụng gửi đi những ý kiến phản ánh, và theo dõi tiến độ xử lý của các đơn vị xử lý, cũng như các thông tin thông báo, giao việc, hoặc thống kê và báo cáo tổng hợp tuỳ theo vai trò người sử dụng.

Các module của hệ thống: Thu nhận và Cung cấp thông tin: Thu nhận dữ liệu các ứng dụng đầu cuối (Mobile, Web), chuẩn hoá các định dạng dữ liệu phù hợp trước khi lưu vào cơ sở dữ liệu của hệ thống. Cung cấp các thông tin đã được xử lý, tình trạng tiến độ xử lý cho các phản ánh của Người dân, Doanh nghiệp; tổng hơp thông tin, báo cáo theo các định dạng phù hợp cho các cán bộ xử lý hay lãnh đạo phụ trách theo dõi. Xác thực và Phân loại thông tin: Xác thực nội dung của phản ánh có thực, hoặc mang tính tin báo rác, tin không có thực và phân loại các tin báo, phản ánh theo các nhóm, các lĩnh vực chuyên ngành phù hợp để xử lý như lĩnh vực môi trường, an ninh trật tự, giao thông … Giao việc và quản lý tiến độ xử lý: Tổ chức giao việc theo các thông tin tiếp nhận từ người dân, doanh nghiêp đến cho các cán bộ phù hợp trong lĩnh vực quản lý của mình để xử lý. Đồng thời, cho phép theo dõi tình trạng xử lý công việc của các cán bộ xử lý theo các qui định về thời gian xử lý các hạng mục công việc đã được định nghĩa trước, và cập nhật tình trạng xử lý cho các cán bộ để nắm thông tin và chỉ đạo, đôn đốc hay trợ giúp khi cần thiết.

Xử lý thông tin theo luồng nghiệp vụ: Khi thông tin tiếp nhận được phân loại vào nhóm chủ đề thì theo quy trình tự động, yêu cầu xử lý sẽ được gửi đến cán bộ phù hợp được giao trách nhiệm xử lý sự việc cho lĩnh vực đó, và đồng thời thông báo đến cán bộ quản lý của lĩnh vực đó để nắm thông tin. Khi cán bộ xử lý giải quyết sự việc từng bước thì kết quả cũng sẽ được thông báo đến cán bộ quản lý tương ứng và thông báo đến công dân kết quả xử lý. Thống kê và tạo báo cáo tổng hợp: sẽ cung cấp các công cụ thống kê tình hình phản ánh từ người dân, doanh nghiệp, cũng như tình hình xử lý của 9 các cán bộ và đơn vị chức năng khi tiếp nhận thông tin. Nó sẽ giúp cung cấp cho lãnh đạo cái nhìn toàn cảnh về tình trạng các vấn đề phát sinh, cách thức xử lý, và thái độ của người dân, doanh nghiệp – đối với chất lượng của các dịch vụ công mà thành phố đang cung cấp, qua đó có kế hoạch xử lý, nâng cao các chất lượng dịch vụ, đáp ứng tốt hơn đến người dân, doanh nghiệp.

Cơ sở dữ liệu của hệ thống: là nơi lưu trữ cả dữ liệu có cấu trúc và dữ liệu phi cấu trúc (ví dụ: hình ảnh, video …) của các phản ánh của Người dân, Doanh nghiệp. Cơ sở dữ liệu tích hợp: tích hợp dữ liệu hệ thống với các cổng thông tin dữ liệu mở khác để tiếp nhận hoặc xử lý phản hồi. Quy trình gửi thông tin phản hồi Mô tả quy trình gửi thông tin phản hồi từ người dân. - Người dân truy cập vào hệ thống phần mềm tiếp nhận phản ánh thông tin - Người dân nhập nội dung thông tin phản hồi cần xử lý - Hệ thống tiếp nhận thông tin phản hồi thực hiện chức năng tiếp nhận, kiểm tra trùng lặp nội dung phản hồi - Hệ thống gửi thông báo tiếp nhận cho người dân Hình 1.3: Quy trình gửi thông tin góp ý của người dùng lên hệ thống phản hồi công dân 10 1.

Quy trình tiếp nhận thông tin phản hồi Mô tả quy trình tiếp nhận thông tin phản hồi từ người dùng. - Thông tin phản ánh từ người dân sau khi được hệ thống kiểm tra và tiếp nhận sẽ tự động chuyển tới đơn vị quản lý. - Đơn vị quản lý sẽ nhận được thông báo tiếp nhận phản hồi qua thư điện tử, tin nhắn SMS hoặc qua cảnh báo thông qua ứng dụng được cài trên thiết bị của tài khoản đã được đăng ký:Hệ thống sẽ tiếp tục tự động phân loại phản hồi để chuyển đến đơn vị chức năng phù hợp xử lý phản hồi. - Đơn vị xử lý sẽ nhận được thông báo xử lý phản hồi qua thư điện tử, tin nhắn SMS hoặc qua cảnh báo thông qua ứng dụng được cài trên thiết bị của tài khoản đã được đăng ký.

- Đơn vị xử lý tiếp nhận thông tin tiến hành kiểm tra nội dung phản ánh. - Đơn vị xử lý lên kế hoạch xử lý và thực hiện xử lý nội dung phản ánh trong thời gian sớm nhất theo các quy định. - Trong trường hợp phản ánh có liên quan đến nhiều đơn vị khác nhau thì đơn vị xử lý thông báo cho cán bộ quản trị hệ thống tiến hành gửi thêm tới các đơn vị xử lý liên quan khác. - Sau khi xử lý xong phản ánh của người dân, đơn vị xử lý sẽ cập nhật lại trạng thái phản ánh trên hệ thống.

- Kết quả sẽ được gửi lại cho người phản ánh sau khi đã được xử lý. Người dân Hệ thống quản lý Đơn vị xử lý Kiểm tra Tiếp nhận ý Phản ánh ý kiến trùng lặp kiến Không Có Tiếp nhận phản ánh bị trả lại Hình 1.4: Quy trình tiếp nhận thông tin phản hồi 11 1. Quy trình xử lý thông tin phản hồi Mô tả các bước quy trình: - Thông tin phản ánh từ người dân sau khi nhập trên hệ thống mà không bị lỗi thì sẽ được tự động chuyển đến các đơn vị xử lý phù hợp theo phân quyền đã thực hiện.