Tổng quan luận án

Luận án tiến sĩ kỹ thuật chuyên ngành Khoa học máy tính (mã số: 62.01) của nghiên cứu sinh Vilavong Souksan, do PGS. Phan Huy Khánh hướng dẫn tại Đại học Đà Nẵng (năm 2017), tập trung giải quyết bài toán phân loại văn bản tiếng Lào tự động thông qua việc nghiên cứu và đề xuất các giải pháp tách từ phù hợp với đặc thù chữ viết tiếng Lào.

Tính cấp thiết và khoảng trống nghiên cứu

Sự gia tăng nhanh chóng của các giao dịch thông tin điện tử và văn bản hành chính đặt ra yêu cầu cấp thiết về việc tổ chức, lưu trữ và tìm kiếm văn bản tự động. Tại trường Đại học Champasak (Cộng hòa Dân chủ Nhân dân Lào), công tác phân loại, xử lý và lưu trữ văn bản hành chính văn phòng hàng ngày diễn ra với khối lượng lớn nhưng chủ yếu bằng phương pháp thủ công, dẫn đến tình trạng sai sót, nhầm lẫn và chậm tiến độ.

Trong lĩnh vực xử lý ngôn ngữ tự nhiên, tiếng Lào là ngôn ngữ đơn lập, đơn âm tiết, có thanh điệu nhưng hệ thống chữ viết không sử dụng dấu khoảng trắng (Space) để phân cách giữa các từ trong câu. Sự vắng mặt của ký tự phân cách từ gây ra hiện tượng nhập nhằng và đa nghĩa nghiêm trọng. Cho đến thời điểm tác giả thực hiện nghiên cứu, các công trình xử lý tiếng Lào còn rất hạn chế, thiếu vắng các kho ngữ liệu chuẩn, từ điển điện tử phục vụ máy học và chưa có giải pháp đồng bộ nào giải quyết bài toán tách từ kết hợp phân loại văn bản hành chính tiếng Lào.

Mục tiêu nghiên cứu

Mục đích của đề tài là tìm hiểu các đặc trưng chính tả của hệ viết tiếng Lào; khảo sát các phương pháp tách từ và phân loại văn bản đã áp dụng cho tiếng Anh, tiếng Thái và tiếng Việt; đề xuất giải pháp tách từ hiệu quả và lựa chọn phương pháp phân loại văn bản phù hợp; xây dựng mô hình thử nghiệm phân loại văn bản hành chính văn phòng tại trường Đại học Champasak và đánh giá kết quả đạt được.

Để thực hiện mục đích trên, luận án xác định 3 nhiệm vụ nghiên cứu cụ thể:

  1. Nghiên cứu chuyên sâu về xử lý ngôn ngữ tự nhiên, đặc trưng ngôn ngữ và chính tả tiếng Lào; phân tích, đánh giá các công trình xử lý tiếng Lào đã công bố và khảo sát hiện trạng hoạt động hành chính văn phòng tại trường Đại học Champasak.
  2. Đề xuất giải pháp phân tách từ trong văn bản tiếng Lào trên cơ sở xây dựng kho ngữ liệu từ đơn và cụm từ, xây dựng cơ sở luật và máy suy diễn dựa trên đặc trưng ngữ pháp của hệ viết Lào.
  3. Lựa chọn phương pháp phân loại văn bản thích hợp cho tiếng Lào, đề xuất mô hình thử nghiệm phân loại văn bản kết hợp tách từ sử dụng các giải pháp đề xuất và kho ngữ vựng đã xây dựng.

Đối tượng và phạm vi nghiên cứu

  • Đối tượng nghiên cứu:
    1. Các bài toán thuộc lĩnh vực xử lý ngôn ngữ tự nhiên, xử lý tiếng Lào, đặc trưng chính tả và ngữ pháp của hệ thống chữ viết Lào.
    2. Các phương pháp giải quyết bài toán tách từ và phân loại văn bản nói chung và áp dụng cho tiếng Lào nói riêng.
    3. Hoạt động hành chính văn phòng thực tế tại trường Đại học Champasak, nước CHDCND Lào.
  • Phạm vi nghiên cứu:
    1. Lĩnh vực trí tuệ nhân tạo, xử lý ngôn ngữ tự nhiên, ngôn ngữ học tiếng Lào và đối sánh với ba ngôn ngữ láng giềng (tiếng Việt, tiếng Thái, tiếng Khmer).
    2. Vấn đề mã hóa và soạn thảo văn bản, giải pháp xây dựng kho ngữ liệu, thuật toán tách từ, phân loại văn bản, học máy và thống kê toán học.
    3. Môi trường, công cụ lập trình thử nghiệm giải quyết bài toán tách từ và phân loại văn bản hành chính văn phòng dạng tệp văn bản phi cấu trúc (TXT) tại trường Đại học Champasak.

Tổng quan tài liệu và vị trí của luận án

Các hướng nghiên cứu trước được điểm lại

Luận án đã tổng hợp các hướng nghiên cứu xử lý tiếng Lào và phân loại văn bản trên thế giới:

  • Phần mềm soạn thảo và bộ mã ký tự tiếng Lào: Các công cụ gõ và xử lý hiển thị như Keyman, LaoScript for Windows, Lao Word Pro, Lao Pad, Lao Unikey cùng các phông chữ Lao95, Lao2000, LaoUnicode, Alice0, Alice1, Alice2, Phesarath OT, SaysetthaUnicode, Saysettha OT, Chantabuli Lao. Bộ mã Unicode cho tiếng Lào được chuẩn hóa từ dải mã 0E80 đến 0EFF (The Unicode Standard, Version 9.0, 2016). Tuy nhiên, các phần mềm này chưa tích hợp chức năng kiểm lỗi chính tả tự động.
  • Từ điển trực tuyến và dịch máy: Một số từ điển song ngữ Lào - Anh (SEAlang Lao Dictionary), Lào - Việt, Lào - Pháp và công cụ dịch máy thống kê Google Translate (cặp ngôn ngữ Lào - Anh).
  • Nghiên cứu tách từ tiếng Lào: Hướng tiếp cận tách từ sử dụng mô hình trường ngẫu nhiên có điều kiện CRF (Conditional Random Fields) đã được thử nghiệm trong một số công trình trước đó.
  • Nghiên cứu phân loại văn bản trên các ngôn ngữ khác: Các thuật toán phân loại phổ biến trên tiếng Anh, tiếng Trung, tiếng Thái và tiếng Việt gồm Naïve Bayes, k-Nearest Neighbors (k-NN), Cây quyết định (Decision Tree), Mạng nơ-ron nhân tạo (Neural Networks / RBF), Học quy nạp (Rule Induction) và Máy học véc-tơ hỗ trợ (SVM). Đối với tiếng Việt, công cụ tách từ vnTokenizer thuộc dự án VLSP đạt độ chính xác 97%.

Khoảng trống luận án lựa chọn giải quyết

Mặc dù tiếng Lào thuộc họ ngôn ngữ Tai-Kadai và có nhiều điểm tương đồng với tiếng Thái, các giải pháp xử lý ngôn ngữ tự nhiên của tiếng Thái không thể áp dụng trực tiếp cho tiếng Lào do sự khác biệt về bảng chữ cái, quy tắc chính tả và cấu trúc từ vựng. Tại Lào, chưa có hệ thống phân loại văn bản tự động nào được triển khai trong thực tế hành chính; thiếu các kho ngữ liệu chuẩn và thiếu công cụ mã nguồn mở phục vụ bóc tách từ tiếng Lào. Luận án lựa chọn giải quyết khoảng trống này bằng cách kết hợp phương pháp so khớp tối đa với cơ sở luật nhận diện từ đơn để xử lý hiện tượng nhập nhằng, phục vụ trực tiếp cho mô hình phân loại văn bản hành chính bằng SVM và RBF.

Cơ sở lý thuyết và phương pháp nghiên cứu

Lý thuyết, khái niệm và khung phân tích

  • Đặc trưng loại hình học tiếng Lào: Tiếng Lào là ngôn ngữ đơn lập, đơn âm, có thanh điệu. Cấu trúc chữ viết gồm 3 tầng (chân, thân, tóc). Chữ viết không có khoảng trống phân tách ranh giới từ.
  • Mô hình biểu diễn văn bản: Văn bản được chuyển đổi về dạng phi cấu trúc (tệp .TXT), sau đó được mô hình hóa theo không gian véc-tơ (Vector Space Model) dựa trên trọng số tần suất xuất hiện của từ khóa.
  • Thuật toán học máy phân loại văn bản:
    • Máy véc-tơ hỗ trợ (Support Vector Machine - SVM): Phân loại văn bản dựa trên lý thuyết học thống kê, sử dụng siêu phẳng tối ưu để phân lớp dữ liệu với hàm nhân Gauss (Gaussian Kernel) và các nhân tử Lagrange.
    • Mạng nơ-ron hàm bán kính xuyên tâm (Radial Basis Function Network - RBF): Mạng nơ-ron nhân tạo sử dụng các hàm bán kính cơ sở, có ưu điểm cấu hình đơn giản và thời gian huấn luyện ngắn.
  • Thuật toán tách từ:
    • Phương pháp so khớp tối đa (Maximum Matching - MM): Thuật toán duyệt chuỗi từ trái qua phải, đối sánh cụm từ dài nhất có trong kho từ vựng. Chiến lược chọn 3-từ tốt nhất dựa trên hai tiêu chuẩn: độ dài trung bình của 3 từ là lớn nhất và độ chênh lệch độ dài giữa 3 từ là nhỏ nhất.
    • Phương pháp trường ngẫu nhiên có điều kiện (Conditional Random Fields - CRF): Mô hình xác suất phân biệt trên đồ thị vô hướng $G = (V, E)$, tính toán phân phối xác suất chuỗi nhãn $Y$ dựa trên chuỗi quan sát $X$ thông qua nguyên lý cực đại hóa Entropy và định lý Hammersley-Clifford: $$P(y|x) = \frac{1}{Z(x)} \prod_{A \in C} \psi_A(y_A | x)$$ với hàm tiềm năng dạng: $$\psi_A(y_A | x) = \exp\left(\sum_k \lambda_k f_k(y_A | x)\right)$$

Phương pháp nghiên cứu thực tế

Nghiên cứu kết hợp phương pháp phân tích ngôn ngữ học cấu trúc (xây dựng mô hình hình thái, vị từ, hàm và cơ sở luật) với phương pháp thực nghiệm tính toán học máy:

  1. Xây dựng cơ sở luật và máy suy diễn: Mô hình hóa các đặc trưng kết hợp giữa phụ âm đầu, nguyên âm (trên, dưới, trước, sau), dấu thanh và phụ âm cuối của âm tiết tiếng Lào thành tập luật suy diễn để nhận diện ranh giới từ đơn.
  2. Khử nhập nhằng: Tích hợp cơ sở luật ngữ pháp vào giải thuật so khớp tối đa trên kho từ vựng để giải quyết các trường hợp giao thoa ranh giới từ.
  3. Thực nghiệm phân loại: Huấn luyện và đánh giá mô hình phân loại văn bản (SVM và RBF) trên các tập dữ liệu được tách từ bằng các phương pháp khác nhau (CRF, MM và MM kết hợp luật).

Nguồn tư liệu và dữ liệu

  • Văn bản hành chính văn phòng thực tế thu thập tại trường Đại học Champasak (CHDCND Lào), bao gồm các thể loại: Nghị định, Quyết định, Báo cáo, Công văn, Đơn từ... thuộc nhiều lĩnh vực đào tạo, khoa học công nghệ, kinh tế, pháp luật, nhân sự.
  • Từ điển và tài liệu văn phạm tiếng Lào: Bảng chữ cái chuẩn do Bộ Giáo dục Lào ban hành năm 1975, các tài liệu ngôn ngữ học Tai-Kadai, từ điển song ngữ Lào - Việt, Lào - Anh.

Nội dung chính theo từng chương

Chương 1: Vấn đề xử lý tiếng Lào

Chương 1 phân tích bức tranh toàn cảnh về ngôn ngữ học và hiện trạng công nghệ thông tin tại CHDCND Lào:

  • Phân bố dân tộc và ngôn ngữ tại Lào: Nước CHDCND Lào có 49 dân tộc thuộc 4 dòng ngôn ngữ chính:
    1. Dòng Lào - Tai (8 dân tộc: Lào, Xaek, Nhouan, Tai, Thai-Neua, Phouthai, Yang, Lue), chiếm 55% dân số, sinh sống ở vùng đồng bằng ven sông Mê Kông; tiếng Lào - Tai là Quốc ngữ.
    2. Dòng Mon - Khơme (32 dân tộc), chiếm 27% dân số, sống ở vùng đồng bằng và trung du.
    3. Dòng Chin - Tybệt (7 dân tộc), chiếm 11% dân số, sống ở vùng núi phía Bắc.
    4. Dòng H'Mông - Miền (2 dân tộc: Hmong, Iewmien), chiếm 7% dân số, sống ở vùng núi cao.
  • Nguồn gốc và ngữ pháp tiếng Lào: Tiếng Lào thuộc họ Tai-Kadai, chịu ảnh hưởng của tiếng Phạn (Sanskrit) và Pali. Bảng chữ cái gồm 33 phụ âm (chia thành 3 nhóm thanh điệu: 6 phụ âm thấp, 8 phụ âm trung, 13 phụ âm cao và các phụ âm ghép), 28 nguyên âm (12 nguyên âm ngắn, 12 nguyên âm dài, 4 nguyên âm đặc biệt), 4 dấu thanh (mái ệc, mái thô, mái tri, mái chặt-ta-wa), 3 dấu cuối (ຯ, ໆ, ໌) và 10 chữ số (từ ໐ đến ໙).
  • Cấu trúc chữ viết 3 tầng: Tầng 1 (Tóc: dấu thanh và nguyên âm trên), Tầng 2 (Thân: phụ âm trung tâm, phụ âm ghép, nguyên âm trước/sau), Tầng 3 (Chân: nguyên âm dưới).
  • So sánh đối sánh tiếng Lào với tiếng Việt, tiếng Thái và tiếng Khmer:
Đặc điểm so sánh Tiếng Lào Tiếng Việt Tiếng Thái Tiếng Khmer
Số phụ âm 33 (+ 6 phụ âm ghép đôi) 17 (+ 16 phụ âm ghép) 44 (+ 10 phụ âm ghép đôi, 1 ghép ba) 33 (15 giọng O, 18 giọng Ô)
Số nguyên âm 28 (12 ngắn, 12 dài, 4 đặc biệt) 12 (đơn, bổ sung 32 đôi và 13 ba) 38 (24 thường/không độc lập, 14 độc lập) 32 (9 ngắn, 9 dài, 3 hợp âm)
Số dấu thanh 4 5 4 Không có
Dấu phụ Không có Không có Không có 33
Hệ chữ viết Tai-Kadai (không phân biệt hoa/thường) Nam Á (La Tinh, phân biệt hoa/thường) Tai-Kadai (không phân biệt hoa/thường) Môn-Khmer (không phân biệt hoa/thường)
Chữ số 10 chữ số Lào 10 chữ số 0-9 10 chữ số Thái 10 chữ số Khmer
Tầng âm tiết Tiếng Lào Tiếng Việt Tiếng Thái Tiếng Khmer
Tầng 1 (tóc) Dấu thanh, nguyên âm trên Dấu thanh Dấu thanh, nguyên âm trên Dấu thanh, nguyên âm
Tầng 2 (thân) Phụ âm trung tâm, phụ âm ghép, nguyên âm Phụ âm và nguyên âm (không dấu) Phụ âm trung tâm, phụ âm ghép, nguyên âm Phụ âm và nguyên âm
Tầng 3 (chân) Nguyên âm dưới Dấu thanh (nặng) Nguyên âm dưới Nguyên âm
Cấu trúc từ đơn & câu Tiếng Lào Tiếng Việt Tiếng Thái Tiếng Khmer
Số âm tiết của từ đơn 1 1 1 Nửa âm tiết, 1, 2 và nhiều âm tiết
Độ dài chữ cái (min - max) 2 - 12 1 - 7 2 - 27 1 - 21
Dấu phân cách từ trong câu Không có Có (khoảng trắng) Không có Không có
Quan hệ từ trong câu Có 2 loại Có 4 loại Có 2 loại Có 7 loại
Cấu trúc từ phức 6 loại 8 loại 6 loại 6 loại

Chương 2: Phân loại văn bản và bài toán tách từ

Chương 2 thiết lập khung lý thuyết về phân loại văn bản và tách từ:

  • Khái niệm và biểu diễn văn bản: Định nghĩa văn bản phi cấu trúc (Unstructured Text) và có cấu trúc (Structured Text). Luận án quy chuẩn toàn bộ tài liệu đầu vào về dạng tệp .TXT. Trình bày quy trình phân loại văn bản hai giai đoạn: Giai đoạn huấn luyện (Trích chọn đặc trưng, tạo CSDL đặc trưng, học máy) và Giai đoạn dự đoán (Phân lớp văn bản dựa trên mô hình đã huấn luyện).
  • Phân tích các thuật toán phân loại: Đánh giá ưu nhược điểm của Naïve Bayes, k-NN, Cây quyết định, Mạng nơ-ron RBF và Máy học véc-tơ hỗ trợ (SVM). Luận án lựa chọn SVM và RBF làm hai giải thuật trọng tâm nhờ khả năng xử lý không gian đặc trưng nhiều chiều và tốc độ huấn luyện phù hợp.
  • Phân tích bài toán tách từ: Đánh giá phương pháp So khớp tối đa (MM) và Trường ngẫu nhiên có điều kiện (CRF). Phương pháp MM có ưu điểm chạy nhanh, không cần huấn luyện nhưng gặp hạn chế lớn về nhập nhằng và không nhận diện được từ mới. Phương pháp CRF khắc phục được hiện tượng thiên vị nhãn (Label Bias) của mô hình Markov cực đại hóa entropy (MEMMs) nhưng đòi hỏi tập dữ liệu gán nhãn lớn.
  • Quy trình 5 bước phân loại văn bản tiếng Lào:
    1. Bước 1: Phân tích hiện trạng, thu thập và xây dựng CSDL văn bản hành chính tại trường Đại học Champasak.
    2. Bước 2: Xây dựng mô hình cấu trúc từ đơn, cơ sở luật và máy suy diễn nhận diện từ đơn tiếng Lào.
    3. Bước 3: Xây dựng và cập nhật kho ngữ vựng tiếng Lào (từ đơn, từ ghép, cụm từ) từ nhiều nguồn dữ liệu.
    4. Bước 4: Bóc tách từ bằng phương pháp so khớp tối đa kết hợp cơ sở luật khử nhập nhằng.
    5. Bước 5: Thực nghiệm phân loại văn bản bằng SVM và RBF, đánh giá và so sánh kết quả.

Chương 3: Giải pháp tách từ trong văn bản tiếng Lào

Chương 3 trình bày giải pháp kỹ thuật cốt lõi của luận án:

  • Mô hình hóa cấu trúc từ đơn tiếng Lào: Dựa trên các đặc trưng ngữ pháp và quy tắc phối hợp chữ cái, từ đơn (âm tiết) tiếng Lào được mô hình hóa theo cấu trúc logic bao gồm: phụ âm đầu (đơn hoặc ghép), nguyên âm trước, nguyên âm trên, nguyên âm dưới, nguyên âm sau, dấu thanh và phụ âm cuối.
  • Cơ sở dữ liệu chữ cái: Thiết kế cấu trúc XML lưu trữ toàn bộ tập ký tự chữ cái tiếng Lào cùng các thuộc tính ngữ pháp (loại phụ âm: cao, trung, thấp; loại nguyên âm: ngắn, dài, vị trí tầng; loại dấu thanh).
  • Xây dựng vị từ, hàm và cơ sở luật: Thiết lập tập hợp các vị từ kiểm tra sự tồn tại và hợp lệ của các ký tự theo vị trí; xây dựng các luật suy diễn để máy suy diễn (Inference Engine) tự động phát hiện ranh giới kết thúc của một âm tiết/từ đơn trong chuỗi ký tự viết liền.
  • Tích hợp kho ngữ vựng và xử lý nhập nhằng: Xây dựng kho ngữ liệu từ vựng tiếng Lào gồm từ đơn và từ ghép. Khi giải thuật so khớp tối đa gặp các điểm xung đột ranh giới (nhập nhằng phân đoạn), máy suy diễn sẽ kích hoạt cơ sở luật để chọn phương án phân tách phù hợp với ngữ cảnh cú pháp.

Chương 4: Thực nghiệm PLVB và đánh giá kết quả

Chương 4 mô tả quá trình thử nghiệm và đối sánh thực nghiệm:

  • Chuẩn bị dữ liệu thực tế: Khảo sát và thu thập văn bản hành chính văn phòng tại các phòng ban, khoa chuyên môn của trường Đại học Champasak; tiền xử lý và xây dựng kho văn bản hành chính tiếng Lào chuẩn phục vụ thử nghiệm.
  • Thử nghiệm các phương pháp tách từ: Tiến hành thử nghiệm đối sánh 3 giải pháp tách từ:
    1. Phương pháp Trường ngẫu nhiên có điều kiện (CRF).
    2. Phương pháp So khớp tối đa (MM / MMS).
    3. Phương pháp So khớp tối đa kết hợp Cơ sở luật ngữ pháp (Dùng luật).
  • Thử nghiệm phân loại văn bản: Kết hợp các phương pháp tách từ với hai thuật toán phân loại học máy:
    • Phân loại bằng SVM kết hợp tách từ bằng CRF.
    • Phân loại bằng SVM kết hợp tách từ dựa trên Cơ sở luật.
    • Phân loại bằng Mạng nơ-ron RBF kết hợp tách từ bằng CRF.
    • Phân loại bằng Mạng nơ-ron RBF kết hợp tách từ dựa trên Cơ sở luật.
  • Đánh giá kết quả: Các kết quả thực nghiệm chỉ ra rằng mô hình kết hợp phương pháp tách từ dựa trên cơ sở luật ngữ pháp giúp nâng cao độ chính xác của quá trình phân loại văn bản trên cả hai thuật toán SVM và RBF so với việc sử dụng tách từ CRF thuần túy.

Kết quả và những đóng góp mới

Đóng góp mới về mặt lý luận và khoa học

  1. Đề xuất mô hình cấu trúc từ đơn dựa trên đặc trưng hình thái 3 tầng của hệ viết tiếng Lào; xây dựng thành công hệ thống vị từ, hàm, cơ sở luật ngữ pháp và máy suy diễn cho phép tự động nhận diện và bóc tách từ đơn (âm tiết) trong chuỗi văn bản không có dấu khoảng cách.
  2. Đề xuất giải pháp tách từ lai ghép: kết hợp giải thuật so khớp tối đa với cơ sở luật nhận diện từ đơn để xử lý triệt để hiện tượng nhập nhằng ranh giới từ và hỗ trợ xử lý từ chưa có trong từ điển.

Đóng góp mới về mặt thực tiễn

  1. Xây dựng bộ kho ngữ liệu thực nghiệm đầu tiên cho tiếng Lào trong lĩnh vực hành chính văn phòng, bao gồm: CSDL ký tự chữ cái Lào dạng XML, kho ngữ vựng từ đơn và từ ghép, cùng kho văn bản hành chính thu thập từ trường Đại học Champasak.
  2. Cài đặt hoàn chỉnh hệ thống phần mềm thử nghiệm phân loại văn bản tiếng Lào tự động, kiểm chứng hiệu quả kết hợp giữa các giải thuật phân loại (SVM, RBF) và các kỹ thuật tách từ, cung cấp công cụ phục vụ hiện đại hóa hoạt động hành chính văn phòng tại trường Đại học Champasak (CHDCND Lào).

Kiến nghị và giải pháp đề xuất

  • Ứng dụng mô hình phân loại văn bản tự động vào công tác quản lý văn thư, lưu trữ tại trường Đại học Champasak nhằm giảm thiểu sai sót và đẩy nhanh tiến độ xử lý văn bản.
  • Tiếp tục mở rộng CSDL kho ngữ vựng tiếng Lào từ nhiều nguồn tài liệu công cộng và chuyên ngành khác nhau.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của luận án

  • Nguồn tài nguyên xử lý ngôn ngữ tự nhiên tiếng Lào còn hạn chế về số lượng chuyên gia, thiếu các kho ngữ liệu chuẩn quy mô lớn và công cụ mã nguồn mở hỗ trợ.
  • Tập dữ liệu văn bản hành chính thực nghiệm mới chỉ thu thập trong phạm vi trường Đại học Champasak.
  • Định dạng xử lý văn bản đầu vào mới tập trung vào dữ liệu phi cấu trúc (tệp .TXT), các văn bản ở định dạng khác (DOC, PDF, HTML) phải trải qua bước chuyển đổi trung gian.

Hướng nghiên cứu tiếp theo

  • Cập nhật, mở rộng quy mô kho ngữ vựng từ đơn, từ ghép và từ ngữ chuyên ngành tiếng Lào.
  • Hoàn thiện và bổ sung cơ sở luật ngữ pháp nhằm nâng cao độ chính xác khi khử nhập nhằng cho các câu có cấu trúc cú pháp phức tạp.
  • Mở rộng phạm vi thử nghiệm sang các loại hình văn bản thuộc các cơ quan nhà nước, tổ chức kinh tế và trường đại học khác tại CHDCND Lào.

Giá trị tham khảo

Luận án là tài liệu tham khảo hữu ích cho các nhóm đối tượng:

  • Nghiên cứu sinh và học viên cao học ngành Khoa học máy tính, Công nghệ thông tin: Tham khảo phương pháp tiếp cận xử lý ngôn ngữ tự nhiên cho các ngôn ngữ nghèo tài nguyên (Low-resource Languages), đặc biệt là các ngôn ngữ thuộc hệ Tai-Kadai và nhóm ngôn ngữ đơn lập không dùng dấu cách phân cách từ.
  • Giảng viên và chuyên gia Ngôn ngữ học tính toán: Tham khảo các bảng đối sánh hình thái, cú pháp giữa 4 ngôn ngữ (Lào, Việt, Thái, Khmer), mô hình hóa cấu trúc 3 tầng của âm tiết tiếng Lào và phương pháp xây dựng máy suy diễn dựa trên luật.
  • Cán bộ quản trị và tin học hóa hành chính tại CHDCND Lào: Tham khảo mô hình quy trình 5 bước và giải pháp công nghệ để triển khai các phần mềm quản lý văn bản, tìm kiếm và lưu trữ hồ sơ hành chính tự động.

Câu hỏi thường gặp

1. Tại sao bài toán tách từ tiếng Lào lại phức tạp hơn so với tiếng Anh và tiếng Việt?

Tiếng Lào là ngôn ngữ đơn âm, đơn lập và hệ thống chữ viết không sử dụng dấu khoảng trống (Space) để phân cách giữa các từ trong câu. Khác với tiếng Anh (ngôn ngữ đa âm có dấu cách) và tiếng Việt (ngôn ngữ đơn âm nhưng mỗi âm tiết/tiếng được viết rời nhau qua dấu cách), văn bản tiếng Lào là một chuỗi ký tự viết liền mạch. Do đó, việc xác định ranh giới từ đòi hỏi phải khử bỏ sự nhập nhằng cú pháp và giải quyết vấn đề từ mới không có trong từ điển.

2. Bảng chữ cái tiếng Lào có các thành phần cấu tạo như thế nào?

Theo chuẩn công bố năm 1975 của Bộ Giáo dục Lào, bảng chữ cái tiếng Lào gồm:

  • 33 phụ âm (gồm 6 phụ âm thấp, 8 phụ âm trung, 13 phụ âm cao và các phụ âm ghép).
  • 28 nguyên âm (12 nguyên âm ngắn, 12 nguyên âm dài, 4 nguyên âm đặc biệt).
  • 4 dấu thanh (mái ệc, mái thô, mái tri, mái chặt-ta-wa) và 3 dấu cuối (ຯ, ໆ, ໌).
  • 10 chữ số từ ໐ đến ໙.
  • Dải mã Unicode chuẩn từ 0E80 đến 0EFF.

3. Quy trình 5 bước giải quyết bài toán phân loại văn bản tiếng Lào được tác giả đề xuất gồm những bước nào?

Quy trình gồm:

  1. Phân tích hiện trạng, thu thập và xây dựng CSDL văn bản hành chính tại trường ĐH Champasak.
  2. Xây dựng mô hình cấu trúc từ đơn, cơ sở luật và máy suy diễn nhận diện từ đơn tiếng Lào.
  3. Xây dựng kho ngữ vựng tiếng Lào (từ đơn, từ ghép, cụm từ) từ nhiều nguồn dữ liệu.
  4. Tách từ văn bản bằng phương pháp so khớp tối đa kết hợp cơ sở luật xử lý nhập nhằng.
  5. Thử nghiệm phân loại văn bản bằng SVM và mạng nơ-ron RBF, đánh giá kết quả.

4. Hai tiêu chuẩn trong chiến lược chọn 3-từ tốt nhất của thuật toán so khớp tối đa phức tạp là gì?

Khi xảy ra hiện tượng nhiều từ ghép cùng có mặt trong từ điển, thuật toán so khớp tối đa phức tạp áp dụng 2 tiêu chuẩn:

  • Tiêu chuẩn 1: Độ dài trung bình của 3 từ liên tiếp là lớn nhất (giúp phân đoạn đúng các cụm từ ghép dài).
  • Tiêu chuẩn 2: Sự chênh lệch độ dài giữa 3 từ liên tiếp là ít nhất (giúp cân bằng ranh giới phân tách khi độ dài trung bình tương đương nhau).

5. Tại sao tác giả kết hợp phương pháp so khớp tối đa với cơ sở luật thay vì chỉ dùng CRF thuần túy?

Phương pháp CRF là mô hình học máy thống kê đòi hỏi kho dữ liệu huấn luyện gán nhãn rất lớn để đạt độ chính xác cao, trong khi nguồn tài nguyên ngữ liệu tiếng Lào còn rất khan hiếm. Phương pháp so khớp tối đa (MM) có tốc độ xử lý nhanh, dễ triển khai nhưng hay gặp lỗi nhập nhằng ranh giới từ. Việc kết hợp MM với cơ sở luật ngữ pháp dựa trên cấu trúc 3 tầng của âm tiết tiếng Lào giúp giải quyết triệt để các vị trí nhập nhằng mà không phụ thuộc hoàn toàn vào tập dữ liệu huấn luyện lớn.

Kết luận

Luận án tiến sĩ của Vilavong Souksan đã giải quyết bài toán phân loại văn bản hành chính tiếng Lào tự động thông qua việc tiếp cận có hệ thống từ phân tích ngôn ngữ học đến xây dựng giải thuật tính toán. Bằng cách đề xuất mô hình cấu trúc từ đơn 3 tầng, xây dựng máy suy diễn dựa trên cơ sở luật kết hợp với thuật toán so khớp tối đa, nghiên cứu đã xử lý hiệu quả rào cản không có dấu phân cách từ của chữ viết tiếng Lào. Kết quả thử nghiệm trên hai mô hình học máy SVM và RBF với dữ liệu thực tế tại trường Đại học Champasak khẳng định tính khả thi của giải pháp, đặt nền móng kỹ thuật cho các ứng dụng xử lý ngôn ngữ tự nhiên và tin học hóa hành chính văn phòng tại CHDCND Lào.