Tổng quan về luận án

Sự bùng nổ của kỷ nguyên số và không gian thông tin trực tuyến đã tạo ra một nghịch lý thông tin: khối lượng tri thức văn bản gia tăng theo hàm mũ nhưng khả năng tiếp cận và lĩnh hội của người đọc lại bị phân hóa sâu sắc. Trong bối cảnh đó, việc tự động hóa đánh giá sự phù hợp giữa văn bản và đối tượng độc giả trở thành một bài toán cấp thiết của ngành Khoa học Máy tính và Ngôn ngữ học Tính toán. Đề tài luận án tiến sĩ "Xây dựng mô hình đánh giá độ khó của văn bản tiếng Việt" (Chuyên ngành: Khoa học Máy tính, Mã số: 62480101) do Nghiên cứu sinh Lương An Vinh thực hiện dưới sự hướng dẫn khoa học của PGS. Đinh Điền tại Trường Đại học Khoa học Tự nhiên – Đại học Quốc gia TP.HCM (năm 2023) là công trình nghiên cứu tiên phong, giải quyết toàn diện bài toán định lượng và dự đoán độ khó văn bản tiếng Việt bằng các kỹ thuật học máy và học sâu hiện đại.

Khoảng trống nghiên cứu (Research gap) trong xử lý ngôn ngữ tự nhiên tiếng Việt trước công trình này là vô cùng lớn. Trong khi các nghiên cứu quốc tế về độ khó văn bản (Readability) đã phát triển rực rỡ suốt hơn một thế kỷ với hàng loạt công thức thống kê và mô hình máy học tinh vi cho tiếng Anh, tiếng Pháp hay tiếng Hoa, thì tại Việt Nam chỉ tồn tại duy nhất hai nghiên cứu sơ khai của Liem Thanh Nguyen và Alan B. Henkin thực hiện từ năm 1982 [2] và năm 1985 [3]. Hai công trình này tồn tại những giới hạn nghiêm trọng: được thực hiện cách đây gần bốn thập kỷ, sử dụng tập dữ liệu cực kỳ hạn chế (lần lượt chỉ gồm 20 văn bản và 54 văn bản với độ dài khoảng 300 từ trích từ sách báo cho người Việt tại Mỹ), và chỉ phân tích các biến số bề mặt đơn giản như độ dài câu, độ dài từ hay tỉ lệ từ Hán-Việt cơ bản. Chưa có bất kỳ công trình nào xây dựng bộ ngữ liệu chuẩn quy mô lớn, khảo sát hệ thống đặc trưng ngôn ngữ học đa tầng (cú pháp, ngữ nghĩa, hình thái, mô hình ngôn ngữ), cũng như chưa từng ứng dụng học máy phân lớp hay mô hình học sâu Transformer cho bài toán độ khó văn bản tiếng Việt.

Để lấp đầy khoảng trống học thuật này, luận án tập trung giải quyết ba câu hỏi nghiên cứu (Research Questions - RQ) và kiểm chứng ba giả thuyết khoa học (Hypotheses - H):

  • RQ1: Hệ thống các đặc trưng ngôn ngữ nội tại ở cấp độ nào (bề mặt, tần suất, ngữ pháp, cú pháp, ngữ nghĩa hay đặc trưng loại hình tiếng Việt) có tương quan chặt chẽ nhất với độ khó văn bản tiếng Việt?
  • RQ2: Liệu thuật toán lựa chọn đặc trưng tự động kết hợp các mô hình học máy truyền thống có thể tối ưu hóa độ chính xác phân lớp độ khó văn bản vượt trội hơn các công thức hồi quy thống kê cổ điển hay không?
  • RQ3: Việc kết hợp mô hình ngôn ngữ tiền huấn luyện (BERT) với mạng nơ-ron hồi quy (LSTM) và tích hợp các vector đặc trưng ngôn ngữ học tường minh có khắc phục được hạn chế về độ dài văn bản biến thiên và nâng cao hiệu năng phân lớp hay không?
  • H1: Các đặc thù ngôn ngữ đơn lập như tỉ lệ từ ghép Hán-Việt, từ địa phương và cấu trúc cú pháp tầng bậc đóng vai trò quyết định đến độ khó văn bản tiếng Việt, vượt trội hơn các đặc trưng độ dài hình thức đơn thuần.
  • H2: Thuật toán đệ quy loại bỏ đặc trưng kết hợp kiểm định chéo (RFECV) sẽ loại bỏ hiện tượng đa cộng tuyến và tối ưu hóa không gian đặc trưng cho các bộ phân lớp SVM và Random Forest.
  • H3: Kiến trúc học sâu lai (Hybrid Deep Learning Architecture) tích hợp tri thức ngôn ngữ học vào biểu diễn ngữ cảnh của BERT sẽ đạt độ chính xác cao hơn cả mô hình BERT thuần túy lẫn mô hình học máy truyền thống.

Về khung lý thuyết (Theoretical framework), luận án vận dụng nền tảng Lý thuyết Độ khó Văn bản (Readability Theory) khởi nguồn từ Gray & Leary (1935) [15], Flesch (1948) [19], Dale & Chall (1948) [18]; Lý thuyết Mật độ Cú pháp (Syntactic Density Theory) của Golub & Kidder (1974) [24]; kết hợp với Lý thuyết Biểu diễn Ngôn ngữ Phân tán (Distributed Representations) và Kiến trúc Transformer hiện đại (Vaswani et al., 2017; Devlin et al., 2018).

Đóng góp đột phá của luận án được lượng hóa qua các kết quả cụ thể:

  1. Trích xuất và khảo sát toàn diện 262 đặc trưng ngôn ngữ học thuộc 6 tầng cấu trúc của văn bản tiếng Việt.
  2. Xây dựng và công bố 2 bộ ngữ liệu chuẩn quy mô lớn đầu tiên cho tiếng Việt gồm: Bộ ngữ liệu Sách giáo khoa (370 văn bản từ lớp 1 đến lớp 12) và Bộ ngữ liệu Văn học – Ngôn ngữ học (1.825 văn bản được chuyên gia thẩm định).
  3. Phát triển 3 mô hình đánh giá theo 3 thế hệ công nghệ: Mô hình hồi quy thống kê cải tiến, Mô hình máy học tối ưu hóa bằng thuật toán RFECV đạt độ chính xác trên 96% trên ngữ liệu SGK gom nhóm cấp học, và Mô hình học sâu lai BERT-LSTM tích hợp đặc trưng ngôn ngữ đạt hiệu năng vượt trội.

Phạm vi nghiên cứu (Scope) bao quát toàn bộ hệ thống văn bản văn xuôi tiếng Việt trong lĩnh vực giáo dục phổ thông, văn học và nghiên cứu ngôn ngữ học với tổng dung lượng thực nghiệm lên đến 2.195 văn bản, đặt nền móng vững chắc cho chuyển đổi số ngành xuất bản và giáo dục ngữ văn tại Việt Nam.

Literature Review và Positioning

Lịch sử nghiên cứu độ khó văn bản trên thế giới trải qua hơn một thế kỷ với ba dòng chảy học thuật chính (Major Streams):

Dòng chảy thứ nhất là Hướng tiếp cận Thống kê cổ điển (Classical Statistical Approach). Bắt đầu từ các quan sát thống kê chiều dài câu văn qua các thời kỳ của Lucius Adelno Sherman (1893) [4], thống kê tần suất từ vựng trong cuốn "The Teacher's Word Book" của Edward Thorndike (1921) [6], công trình phân tích sách giáo khoa khoa học của Bertha Lively và Sidney Pressey (1923) [10], cùng nghiên cứu cấu trúc ngữ liệu của Mabel Vogel và Carleton Washburne (1928) [11]. Đỉnh cao của giai đoạn này là công trình kinh điển "What Makes a Book Readable" của William S. Gray và Bernice Leary (1935) [15], khảo sát trên 1.690 người để xác định 288 yếu tố ảnh hưởng đến khả năng đọc. Từ đó, hàng loạt công thức đo lường mang tính chuẩn mực quốc tế ra đời: Chỉ số Lorge (1944) [16], Công thức Flesch Reading Ease (Rudolf Flesch, 1948) [19] tính toán dựa trên độ dài trung bình của câu (ASL) và số âm tiết trung bình của từ (ASW): $$\text{Score} = 206{,}835 - (1{,}015 \times \text{ASL}) - (84{,}6 \times \text{ASW})$$ Công thức Dale-Chall (1948, 1995) [18, 21] dựa trên danh sách từ khó; Công thức SMOG của Harry McLaughlin (1969) [22]; Công thức FORCAST của Quân đội Mỹ (1973) [23]; Điểm mật độ cú pháp SDS của Golub & Kidder (1974) [24] dựa trên cấu trúc T-unit; và Công thức Flesch-Kincaid Grade Level (J. Peter Kincaid et al., 1975) [25] quy đổi độ khó về cấp lớp học: $$\text{GL} = (0{,}39 \times \text{ASL}) + (11{,}8 \times \text{ASW}) - 15{,}59$$

Dòng chảy thứ hai là Hướng tiếp cận Học máy và Kỹ nghệ Đặc trưng (Machine Learning & Feature Engineering). Bước sang thế kỷ 21, bài toán độ khó được tái định nghĩa như một bài toán phân lớp đa lớp (Multi-class Classification) hoặc bài toán sắp xếp (Ranking/Comparator) như đề xuất của Tanaka-Ishii et al. (2010) [39]. Các nhà nghiên cứu bắt đầu khai thác sức mạnh của thuật toán Cực đại hóa kỳ vọng EM và Naive Bayes (Si & Callan, 2001 [34]; Collins-Thompson & Callan, 2005 [35]), Support Vector Machine (SVM) và Random Forest (Schwarm & Ostendorf, 2005 [36]; De Clercq et al., 2014 [59]).

Dòng chảy thứ ba là Hướng tiếp cận Học sâu và Mô hình Hóa Ngữ cảnh (Deep Learning & Transformer Models). Các nghiên cứu đương đại của Imperial (2021) [50], Deutsch et al. (2020) [51], và Chakraborty et al. (2021) [27] đã khai thác các mô hình ngôn ngữ tiền huấn luyện như BERT để trích xuất biểu diễn ngữ nghĩa ẩn mà không cần hoàn toàn phụ thuộc vào kỹ nghệ đặc trưng thủ công.

Trong bức tranh tổng quan đó, tồn tại hai cuộc tranh luận học thuật (Academic Debates) lớn:

  • Tranh luận 1: Vai trò của đặc trưng cú pháp và ngữ nghĩa tầng sâu so với đặc trưng bề mặt. Schwarm & Ostendorf (2005) [36] khi thực nghiệm trên ngữ liệu Weekly Reader tiếng Anh cho rằng đặc trưng ngữ pháp đóng góp không đáng kể so với mô hình ngôn ngữ $n$-gram và độ dài từ/câu. Ngược lại, Heilman et al. (2007) [37], Pitler & Nenkova (2008) [38], và Vajjala & Meurers (2012) [40] chứng minh rằng đối với văn bản cho người học ngoại ngữ hoặc các ngôn ngữ giàu hình thái/cú pháp, các cấu trúc cú pháp, quan hệ diễn ngôn (Discourse relations) và mật độ ngữ pháp là các nhân tố dự báo mang tính quyết định.
  • Tranh luận 2: Mô hình Học sâu thuần túy (End-to-end Deep Learning) đối đầu với Mô hình Lai (Hybrid Feature-Injected Models). Các nghiên cứu của Deutsch et al. (2020) [51] và Imperial (2021) [50] chỉ ra rằng dù BERT nắm bắt tốt ngữ cảnh, nó vẫn thiếu hụt khả năng nhận diện các chỉ số thống kê vĩ mô (như tỉ lệ từ loại toàn văn bản, độ dài trung bình đoạn), do đó việc tích hợp tường minh các vector ngôn ngữ học vào mạng nơ-ron là hướng đi tối ưu.

Về mặt định vị nghiên cứu (Positioning), luận án của NCS. Lương An Vinh đã vượt qua hoàn toàn hai công trình cổ điển trong nước của Liem Thanh Nguyen & Alan B. Henkin (1982: $\text{RL} = 2\text{WL} + 0{,}2\text{SL} - 6$; 1985: $\text{RL} = 0{,}27\text{WD} + 0{,}13\text{SL} + 1{,}74$), đưa nghiên cứu độ khó văn bản tiếng Việt bước thẳng từ giai đoạn thống kê thô sơ lên ngang tầm với các nghiên cứu quốc tế tiên tiến nhất.

Khi so sánh với các nghiên cứu quốc tế đương đại trên các ngôn ngữ phi tiếng Anh:

  • So với nghiên cứu tiếng Hàn của Bruce & Jason (2020) [26] (xây dựng công cụ LXPER Index 2.0 trên ngữ liệu 2.700 văn bản CoKEC-text trích xuất đặc trưng thực thể và chuỗi từ vựng), luận án mở rộng không gian khảo sát lên 262 đặc trưng đa tầng và tích hợp học sâu.
  • So với nghiên cứu tiếng Hy Lạp của Chatzipanagiotidis et al. (2021) [49] (khảo sát 212 đặc trưng từ vựng, hình thái, cú pháp trên 5 bộ ngữ liệu SGK, đạt độ chính xác trên 88% với SMO), mô hình SVM kết hợp RFECV của luận án đạt độ chính xác vượt trội trên 96% trên ngữ liệu SGK tiếng Việt.
  • So với nghiên cứu tiếng Thái của Chen & Daowadung (2015) [44] (720 văn bản SGK, đạt độ chính xác 51% bằng SVM), nghiên cứu tiếng Hoa của Gang Sun et al. (2014) [43] (637 văn bản, 76 đặc trưng), và tiếng Đức của Berendes et al. (2018) [60] (2.928 bài đọc, SMO đạt trên 75%), công trình của luận án khẳng định tính toàn diện và độ chính xác phân loại thuộc nhóm dẫn đầu thế giới trong phân nhóm ngôn ngữ châu Á.

Đóng góp lý thuyết và khung phân tích

Đóng góp cho lý thuyết

Luận án đã đóng góp một bước tiến quan trọng vào hệ thống lý luận ngôn ngữ học tính toán thông qua việc chuẩn hóa và phân định rạch ròi ba khái niệm nền tảng thường bị nhầm lẫn trong y văn:

  1. Độ khó của văn bản (Text Readability / Text Difficulty): Luận án đưa ra định nghĩa chuẩn xác: "hệ thống các yếu tố ngôn ngữ của nội tại văn bản ảnh hưởng đến tính dễ đọc hay khó đọc của một văn bản". Đây là thuộc tính khách quan của quá trình mã hóa (encoding) văn bản từ phía tác giả, hoàn toàn độc lập với người đọc.
  2. Khả năng hiểu văn bản (Reader Comprehensibility): Thuộc tính mang tính chủ quan của quá trình giải mã (decoding) từ phía người tiếp nhận, phụ thuộc vào vốn từ, tri thức nền, tâm lý, động cơ và thể trạng cá nhân.
  3. Tính dễ nhìn / Độ rõ của văn bản (Text Legibility): Thuộc tính thuần túy về hình thức ấn loát và thị giác (kiểu chữ, màu sắc, độ tương phản, khoảng cách ký tự).

Luận án mở rộng Lý thuyết Độ khó Văn bản sang loại hình ngôn ngữ đơn lập (Isolating Language) – nơi ranh giới từ không hiển thị bằng khoảng trắng, hình thái từ không biến đổi chia thì/cách, mà độ phức tạp ngữ nghĩa và cú pháp được chuyển hóa vào hư từ, trật tự từ, cấu trúc câu phức ghép, tỉ lệ từ ghép Hán-Việt đa tiết và phương ngữ.

Khung mô hình lý thuyết được thiết lập dựa trên bốn mệnh đề khoa học (Propositions):

  • Proposition 1 (P1): Độ khó nội tại của văn bản tiếng Việt là một hàm đa biến của 6 nhóm nhân tố: Biểu hiện bề mặt ($S$), Phân bố tần suất ($F$), Hình thái từ loại ($M$), Độ sâu cú pháp ($P$), Mô hình ngôn ngữ ($L$), và Yếu tố đặc thù dân tộc học ($V$).
  • Proposition 2 (P2): Các đặc trưng có độ tương quan cao không nhất thiết phải triệt tiêu trong phân tích hồi quy nếu hiện tượng tương tác giữa chúng chứa đựng thông tin bổ trợ về độ phức tạp nhận thức của văn bản.
  • Proposition 3 (P3): Không gian đặc trưng tối ưu thu được qua thuật toán loại bỏ đệ quy RFECV phản ánh chính xác ranh giới phân loại năng lực đọc hiểu của các cấp học phổ thông.
  • Proposition 4 (P4): Biểu diễn ngữ nghĩa tiềm ẩn từ mạng Transformer (BERT) và biểu diễn cấu trúc ngôn ngữ học tường minh có tính chất bù trừ thông tin (Complementary Information), khi kết hợp sẽ tạo ra bước nhảy vọt về năng lực phân lớp.

Khung phân tích độc đáo

Khung phân tích của luận án tích hợp liên ngành ba trụ cột lý thuyết: Ngôn ngữ học Cấu trúc (Structural Linguistics), Lý thuyết Tải trọng Nhận thức (Cognitive Load Theory - Sweller), và Lý thuyết Học sâu Biểu diễn Ngôn ngữ (Deep Representation Learning).

Hệ thống 262 đặc trưng ngôn ngữ học được tổ chức chặt chẽ theo cấu trúc phân tầng:

  1. Đặc trưng bề mặt (Surface-level features): Độ dài trung bình câu tính theo từ, độ dài trung bình từ tính theo ký tự, số âm tiết, độ dài đoạn văn bản.
  2. Đặc trưng tần suất (Frequency features): Tần suất xuất hiện của từ, ký tự, phân bố $n$-gram, trọng số TF-IDF, vị trí từ vựng theo bảng tần số chuẩn.
  3. Đặc trưng ngữ pháp mức từ (Word-level grammatical features): Phân bố 18 thẻ từ loại (Part-of-Speech - PoS: danh từ, động từ, tính từ, đại từ, liên từ, giới từ, phụ từ,...), mật độ từ vựng thực (Lexical density).
  4. Đặc trưng cú pháp mức câu (Syntactic features): Độ sâu trung bình cây cú pháp phụ thuộc, số lượng T-unit, số lượng mệnh đề chính/phụ, mật độ cú pháp SDS.
  5. Đặc trưng mô hình ngôn ngữ và ngữ nghĩa (Language model & Semantic features): Điểm số Perplexity từ mô hình $n$-gram, phân tích ngữ nghĩa tiềm ẩn (LSA), phân bố thực thể tên riêng (Named Entities - NE).
  6. Đặc trưng đặc thù tiếng Việt (Vietnamese-specific features): Tỉ lệ từ ghép Hán-Việt (Sino-Vietnamese words), tỉ lệ từ địa phương / phương ngữ (Dialectal words), tỉ lệ từ láy, từ mượn ngoại lai.

Điều kiện biên (Boundary conditions): Khung phân tích được xác lập và kiểm chứng tối ưu trên các văn bản tiếng Việt đơn ngữ dạng văn xuôi (sách giáo khoa, báo chí, tài liệu học thuật, văn xuôi nghệ thuật); không áp dụng cho văn bản thơ ca (văn vần mang đặc trưng niêm luật riêng), khẩu ngữ hội thoại đời thường hoặc văn bản đa ngữ pha trộn.

Phương pháp nghiên cứu tiên tiến

Thiết kế nghiên cứu

Nghiên cứu được định vị vững chắc trên Thế giới quan Thực chứng luận (Positivism) kết hợp góc nhìn Hiện thực phê phán (Critical Realism): coi độ khó văn bản là một thực tại khách quan, có thể đo lường, định lượng hóa và kiểm chứng thực nghiệm thông qua các mô hình toán học và khoa học dữ liệu.

Phương pháp nghiên cứu áp dụng thiết kế hỗn hợp đa giai đoạn nghiêm ngặt:

  • Giai đoạn 1: Khai phá dữ liệu và phân tích tương quan thống kê đa biến.
  • Giai đoạn 2: Tối ưu hóa không gian đặc trưng bằng học máy giám sát (Supervised Machine Learning).
  • Giai đoạn 3: Thiết kế kiến trúc mạng nơ-ron học sâu lai (Hybrid Deep Neural Network Architecture).

Quy mô mẫu thực nghiệm chính xác tuyệt đối gồm 2.195 văn bản thuộc 2 bộ ngữ liệu độc lập:

  1. Bộ ngữ liệu Sách giáo khoa (SGK): 370 văn bản được số hóa từ SGK Tiếng Việt (Tiểu học) và Ngữ văn (THCS, THPT) chính quy của Bộ Giáo dục và Đào tạo Việt Nam, phân chia thành 12 cấp lớp hoặc gom thành 3 cấp học (Tiểu học: lớp 1–5; THCS: lớp 6–9; THPT: lớp 10–12).
  2. Bộ ngữ liệu Văn học – Ngôn ngữ học (VH-NNH): 1.825 văn bản thu thập từ các tác phẩm văn xuôi, tạp chí nghiên cứu chuyên ngành ngôn ngữ và văn học, được thẩm định và gán nhãn đa mức độ khó bởi các chuyên gia ngôn ngữ học giàu kinh nghiệm.

Quy trình nghiên cứu rigorous

Quy trình thu thập và xử lý dữ liệu trải qua 5 bước nghiêm ngặt:

  1. Thu thập và OCR số hóa: Quét và chuyển đổi văn bản in bằng công nghệ nhận dạng ký tự quang học (OCR) tiên tiến, hiệu đính thủ công đảm bảo độ chính xác 100% về mặt ký tự và định dạng Unicode chuẩn dựng sẵn.
  2. Tiền xử lý và Chuẩn hóa (Preprocessing Pipeline): Loại bỏ nhiễu định dạng, chuẩn hóa dấu câu tiếng Việt, phân đoạn câu tự động, tách từ tiếng Việt (Word Segmentation) bằng công cụ chuyên dụng của Trung tâm Ngôn ngữ học Tính toán.
  3. Gán nhãn ngôn ngữ học tự động: Thực hiện gán nhãn từ loại (PoS tagging), nhận dạng thực thể tên riêng (NER), và phân tích cấu trúc cú pháp thành phần/cú pháp phụ thuộc (Dependency Parsing).
  4. Rút trích 262 đặc trưng toán học: Sử dụng các script Python tùy biến kết hợp thư viện Scikit-learn, NLTK và các module tính toán đặc trưng chuyên biệt cho tiếng Việt.
  5. Tam giác đạc và Đảm bảo Độ tin cậy (Triangulation & Validity):
    • Data triangulation: Kết hợp ngữ liệu giáo khoa chuẩn hóa với ngữ liệu nghiên cứu học thuật mở rộng.
    • Method triangulation: Đối chiếu kết quả giữa hồi quy thống kê, 4 thuật toán máy học phân lớp (SVM, Random Forest, Naive Bayes, KNN) và mạng học sâu BERT-LSTM.
    • Investigator triangulation: Đánh giá nhãn chéo giữa các chuyên gia ngôn ngữ để kiểm soát độ tin cậy liên người đánh giá (Inter-rater reliability).
    • Kiểm định chéo $k$-fold Cross-Validation ($k=5, 10$) trên mọi mô hình thực nghiệm để ngăn ngừa hiện tượng quá khớp (Overfitting).

Data và phân tích

Luận án triển khai ba hệ thống kỹ thuật phân tích tiên tiến:

                  +-------------------------------------------------------+
                  |         BỘ NGỮ LIỆU CHUẨN (2.195 VĂN BẢN)             |
                  |    - 370 văn bản SGK   |   - 1.825 văn bản VH-NNH     |
                  +---------------------------+---------------------------+
                                              |
                                              v
                  +-------------------------------------------------------+
                  |   TIỀN XỬ LÝ & RÚT TRÍCH 262 ĐẶC TRƯNG NGÔN NGỮ HỌC   |
                  +---------------------------+---------------------------+
                                              |
        +-------------------------------------+-----------------------------------+
        |                                     |                                   |
        v                                     v                                   v
+-----------------------+     +-------------------------------+     +-------------------------------+
|  HƯỚNG TIẾP CẬN       |     |  HƯỚNG TIẾP CẬN MÁY HỌC       |     |  HƯỚNG TIẾP CẬN HỌC SÂU       |
|  THỐNG KÊ             |     |  TRUYỀN THỐNG                 |     |  BERT + LSTM LAI ĐẶC TRƯNG    |
| - Phân tích tương quan|     | - Tối ưu hóa đặc trưng RFECV  |     | - Cắt đoạn văn bản (Chunking) |
| - Hồi quy đa biến     |     | - Bộ phân lớp: SVM, RF, NB,KNN|     | - Tinh chỉnh BERT lấy [CLS]   |
| - Giữ đặc trưng tương |     | - Đạt độ chính xác >96% (SGK) |     | - LSTM tổng hợp vector chuỗi  |
|   quan cao            |     |   và >85% (Toàn diện)         |     | - Ghép 262 đặc trưng ngôn ngữ |
+-----------------------+     +-------------------------------+     +-------------------------------+
  1. Phân tích Thống kê Hồi quy: Tính toán ma trận hệ số tương quan Pearson ($r$) và Spearman ($\rho$) giữa 262 đặc trưng với độ khó chuẩn. Thay vì loại bỏ các biến có tương quan chéo cao như phương pháp truyền thống, luận án đề xuất giữ lại các tổ hợp biến có đóng góp phương sai giải thích độc lập, xây dựng phương trình hồi quy tuyến tính đa biến tối ưu.
  2. Học máy Cổ điển với Thuật toán Lựa chọn Đặc trưng RFECV: Thuật toán Recursive Feature Elimination with Cross-Validation (RFECV) sử dụng bộ ước lượng lõi (Core Estimator) để xếp hạng mức độ quan trọng của đặc trưng, loại bỏ tuần tự từng đặc trưng kém hiệu quả và tự động xác định số lượng đặc trưng tối ưu ($N_{\text{opt}}$). Huấn luyện và đánh giá trên các mô hình: SVM (với kernel tuyến tính và RBF), Random Forest (RF), Naive Bayes (NB) và K-Nearest Neighbors (KNN).
  3. Mô hình Học sâu Tích hợp Kiến trúc Lai (Hybrid Deep Learning):
    • Khắc phục giới hạn độ dài BERT: Mô hình Transformer tiền huấn luyện (BERT/PhoBERT) bị giới hạn tối đa 512 tokens. Luận án đề xuất giải pháp tách đoạn văn bản dài thành các đoạn nhỏ (Chunks) có độ dài phù hợp.
    • Trích xuất biểu diễn ngữ cảnh: Mỗi đoạn văn bản được đưa qua mô hình BERT tinh chỉnh (Fine-tuned BERT) để lấy vector đại diện tại token đặc biệt [CLS].
    • Tổng hợp chuỗi bằng LSTM: Chuỗi các vector [CLS] của toàn bộ các đoạn trong văn bản được đưa qua mạng hồi quy Long Short-Term Memory (LSTM) để tổng hợp thành một vector đại diện duy nhất cho toàn văn bản.
    • Tích hợp đặc trưng ngôn ngữ (Feature Concatenation): Vector đầu ra của LSTM được ghép nối trực tiếp với vector 262 đặc trưng ngôn ngữ học trích xuất thủ công, sau đó đưa qua các tầng kết nối đầy đủ (Dense Layers) và hàm kích hoạt Softmax để phân lớp độ khó.

Các kiểm định độ vững chắc (Robustness checks) được thực hiện thông qua việc so sánh đối chuẩn (Benchmarking) trên nhiều cấu hình siêu tham số (Hyperparameters), hàm mất mát Cross-Entropy Loss và tối ưu hóa AdamW.

Phát hiện đột phá và implications

Những phát hiện then chốt

Nghiên cứu mang lại 4 phát hiện khoa học mang tính đột phá với bằng chứng thực nghiệm rõ ràng:

  1. Hiệu năng vượt trội của công thức hồi quy thống kê cải tiến: Việc giữ lại các đặc trưng tương quan cao có chọn lọc trong mô hình hồi quy đa biến mang lại hệ số tương quan với độ khó thực tế cao hơn rõ rệt so với các công thức của Liem Thanh Nguyen & Alan B. Henkin (1982, 1985), khắc phục hoàn toàn nhược điểm ước lượng thiếu chính xác của các công thức cổ điển.
  2. Sức mạnh phân loại tối ưu của thuật toán RFECV kết hợp học máy truyền thống: Khi áp dụng RFECV trên bộ ngữ liệu SGK gom nhóm theo 3 cấp học (Tiểu học, THCS, THPT), mô hình SVM và Random Forest đạt độ chính xác phân lớp ngoạn mục lên đến trên 96% (công bố [CT7]). Trên bộ ngữ liệu mở rộng tổng quát, mô hình vẫn duy trì độ chính xác ấn tượng trên 85% (công bố [CT6]), vượt xa mức 51% của tiếng Thái (Chen & Daowadung, 2015) và tương đương các nghiên cứu dẫn đầu trên tiếng Hy Lạp (88%, Chatzipanagiotidis et al., 2021) hay tiếng Hoa (86%, Tseng et al., 2019).
  3. Vai trò quyết định của các đặc trưng đặc thù tiếng Việt và cú pháp tầng sâu: Kết quả trích chọn đặc trưng của RFECV khẳng định rằng ngoài độ dài câu và từ, các biến số mang tính loại hình như tỉ lệ từ ghép Hán-Việt, tỉ lệ từ địa phương / phương ngữ, tỉ lệ danh từ riêng và độ sâu cây cú pháp là những nhân tố dự báo có trọng số phân loại lớn nhất. Điều này giải thích tại sao các văn bản có cùng độ dài từ/câu nhưng chứa nhiều thuật ngữ Hán-Việt cổ hoặc cấu trúc ngữ pháp phức hợp luôn có độ khó nhận thức vượt trội.
  4. Hiệu quả đột phá của Mô hình Học sâu Lai (BERT-LSTM tích hợp đặc trưng ngôn ngữ): Thực nghiệm khẳng định mô hình BERT-LSTM thuần túy tuy tiết kiệm chi phí kỹ nghệ đặc trưng thủ công nhưng độ chính xác có giảm nhẹ so với máy học truyền thống tối ưu. Tuy nhiên, nguyên văn trích dẫn từ luận án đã chỉ rõ bước ngoặt: "Khi tích hợp thêm một số đặc trưng ngôn ngữ trích xuất từ văn bản vào mô hình học sâu, độ chính xác của mô hình đã được cải thiện và cao hơn so với các mô hình phân lớp truyền thống." (Bảng 4.12 và công bố [CT2]).

Implications đa chiều

  • Đóng góp lý luận: Khẳng định tính đúng đắn của việc kết hợp tri thức chuyên gia ngôn ngữ học vào các mô hình nơ-ron hộp đen trong xử lý ngôn ngữ tự nhiên cho các ngôn ngữ đơn lập phương Đông.
  • Đổi mới phương pháp luận: Thiết lập một quy trình chuẩn mực (Standard Pipeline) từ thu thập ngữ liệu, trích xuất 262 đặc trưng toán học, tối ưu hóa RFECV cho đến xử lý văn bản dài qua kiến trúc BERT-LSTM.
  • Ứng dụng thực tiễn:
    • Cung cấp công cụ tự động hóa thẩm định độ khó văn bản phục vụ Ban biên soạn sách giáo khoa theo Chương trình Giáo dục phổ thông mới của Bộ Giáo dục và Đào tạo.
    • Tích hợp công cụ đo lường độ khó tự động vào các phần mềm xử lý văn bản tiếng Việt (tương tự như tính năng Flesch-Kincaid trong Microsoft Word).
    • Hỗ trợ xây dựng giáo trình và phân cấp bài đọc trong giảng dạy tiếng Việt như một ngoại ngữ (Vietnamese as a Second Language - VSL) theo Khung tham chiếu trình độ ngôn ngữ chung của châu Âu (CEFR).
  • Khuyến nghị chính sách: Đề xuất các cơ quan quản lý xuất bản và giáo dục ban hành bộ tiêu chuẩn định lượng khách quan về độ khó ngữ liệu cho từng khối lớp nhằm đảm bảo tính công bằng và phù hợp tâm sinh lý lứa tuổi học sinh.

Limitations và Future Research

Luận án thừa nhận 4 giới hạn nghiên cứu (Limitations) mang tính khách quan:

  1. Giới hạn về thể loại văn bản: Luận án chủ yếu tập trung vào văn bản văn xuôi thuộc lĩnh vực giáo dục, văn học và ngôn ngữ học; chưa bao quát thể loại văn vần (thơ ca, ca dao, tục ngữ), văn bản hành chính pháp quy chuyên sâu hoặc văn bản đa phương thức trên mạng xã hội.
  2. Giới hạn về công cụ phân tích ngôn ngữ học tiền xử lý: Độ chính xác của các đặc trưng cú pháp và thực thể phụ thuộc vào các công cụ mã nguồn mở tiếng Việt (VnCoreNLP, underthesea), vốn vẫn tồn tại sai số nhất định trong việc phân tách từ ghép và phân tích cây cú pháp phụ thuộc phức tạp.
  3. Đặc trưng ngữ nghĩa tầng sâu: Các đặc trưng ngữ nghĩa chủ yếu khai thác ở mức LSA và WordNet cơ bản; chưa tích hợp toàn diện các lý thuyết ngữ dụng học (Pragmatics), cấu trúc lập luận và tính gắn kết diễn ngôn (Discourse Cohesion).
  4. Tính tĩnh của mô hình phân lớp: Luận án tập trung vào độ khó văn bản khách quan, chưa mô hình hóa sự tương tác động giữa độ khó văn bản với hồ sơ năng lực nhận thức cá nhân hóa của từng người đọc đơn lẻ.

Hệ chương trình nghiên cứu tương lai (Future Research Agenda) gồm 5 hướng phát triển:

  • Hướng 1: Mở rộng quy mô ngữ liệu sang các lĩnh vực khoa học kỹ thuật, y khoa, tài chính - ngân hàng và pháp luật.
  • Hướng 2: Ứng dụng các Mô hình Ngôn ngữ Lớn (Large Language Models - LLMs) đa phương thức hiện đại như GPT-4, LLaMA-3 hay Gemini để thực hiện đánh giá độ khó văn bản có khả năng giải thích (Explainable Readability Assessment).
  • Hướng 3: Phát triển hệ thống đánh giá khả năng đọc thích ứng cá nhân hóa (Adaptive Reading Systems) kết hợp theo dõi chuyển động mắt (Eye-tracking data).
  • Hướng 4: Xây dựng thư viện mã nguồn mở Python chuyên biệt (vietnamese-readability) và cổng API công cộng phục vụ cộng đồng nghiên cứu toàn cầu.
  • Hướng 5: Chuẩn hóa bộ khung đánh giá độ khó văn bản tiếng Việt tương thích hoàn toàn với 6 bậc của khung năng lực ngoại ngữ CEFR (A1 đến C2).

Tác động và ảnh hưởng

  • Tác động học thuật (Academic Impact): Công trình đã công bố hàng loạt bài báo khoa học chất lượng cao trên các tạp chí và kỷ yếu hội nghị chuyên ngành uy tín ([CT1] đến [CT7]). Hai bộ ngữ liệu công khai (370 văn bản SGK và 1.825 văn bản VH-NNH) trở thành bộ dữ liệu đối chuẩn (Benchmark Datasets) tiêu chuẩn cho cộng đồng Xử lý Ngôn ngữ Tự nhiên tiếng Việt trong nhiều năm tới.
  • Chuyển đổi ngành công nghiệp xuất bản và EdTech: Mở ra hướng đi mới cho các nhà xuất bản lớn (NXB Giáo dục Việt Nam, NXB Trẻ, NXB Đại học Quốc gia) và các tập đoàn công nghệ giáo dục (EdTech) trong việc kiểm thử tự động, chuẩn hóa độ khó học liệu số và cá nhân hóa lộ trình đọc cho hàng triệu người học.
  • Tác động quốc tế: Đưa tiếng Việt – một ngôn ngữ có gần 100 triệu người sử dụng – chính thức ghi danh trên bản đồ nghiên cứu độ khó văn bản thế giới với phương pháp luận hiện đại, sánh ngang các công trình nghiên cứu trên tiếng Anh, tiếng Hàn, tiếng Hy Lạp và tiếng Hoa.

Đối tượng hưởng lợi

  • Nghiên cứu sinh và Giảng viên Ngôn ngữ học Tính toán: Thừa hưởng bộ ngữ liệu chuẩn hóa 2.195 văn bản, danh mục toán học hóa của 262 đặc trưng ngôn ngữ và mã nguồn mô hình học sâu để mở rộng các nghiên cứu chuyên sâu.
  • Chuyên gia Soạn thảo Sách giáo khoa và Giáo trình: Sở hữu công cụ định lượng khách quan để kiểm soát độ khó của từng bài đọc, tránh hiện tượng quá tải kiến thức hoặc phân bổ ngữ liệu không đồng đều giữa các cấp học.
  • Kỹ sư AI và Xử lý Ngôn ngữ Tự nhiên: Tiếp cận kiến trúc mạng lai BERT-LSTM tích hợp đặc trưng thủ công để giải quyết bài toán xử lý văn bản dài và phân loại văn bản trong các miền dữ liệu đặc thù.
  • Giáo viên và Người học Tiếng Việt (trong và ngoài nước): Dễ dàng tìm kiếm và lựa chọn các tài liệu đọc phù hợp chính xác với trình độ nhận thức, nâng cao hiệu quả thụ đắc ngôn ngữ.

Câu hỏi chuyên sâu

1. Đâu là đóng góp lý thuyết độc đáo nhất của luận án trong việc mở rộng các lý thuyết độ khó văn bản quốc tế?
Trả lời: Đóng góp độc đáo nhất là việc luận án đã bản địa hóa và mở rộng thành công Lý thuyết Độ khó Văn bản (Readability Theory) sang loại hình ngôn ngữ đơn lập tiếng Việt. Bằng việc phân tích 262 đặc trưng đa tầng, luận án chứng minh rằng đối với ngôn ngữ không biến hình, độ phức tạp nhận thức không nằm ở hình thái học chia thì/cách mà tập trung ở mật độ từ ghép Hán-Việt, phương ngữ và độ sâu cây cú pháp, thiết lập mô hình tích hợp lý thuyết ngôn ngữ cấu trúc với học máy hiện đại.

2. Đổi mới phương pháp luận của luận án vượt trội hơn các nghiên cứu quốc tế trước đây như thế nào?
Trả lời: So với các nghiên cứu chỉ dùng hồi quy tuyến tính (Sherman 1893, Flesch 1948, Nguyen & Henkin 1982) hoặc chỉ dùng máy học truyền thống với đặc trưng bề mặt (Schwarm & Ostendorf 2005), luận án đã tạo ra bước đột phá kép: (1) Ứng dụng thuật toán RFECV để tự động hóa hoàn toàn quá trình tinh lọc 262 đặc trưng; và (2) Sáng tạo kiến trúc học sâu lai kết hợp Fine-tuned BERT, mạng LSTM tổng hợp phân đoạn văn bản dài, và ghép nối trực tiếp vector đặc trưng ngôn ngữ học tường minh, giải quyết triệt để bài toán văn bản có độ dài biến thiên.

3. Phát hiện thực nghiệm nào mang tính bất ngờ và có giá trị phản trực giác nhất?
Trả lời: Phát hiện bất ngờ nhất nằm ở hai khía cạnh: Thứ nhất, trong phân tích hồi quy thống kê, việc giữ lại các biến có tương quan chéo cao thay vì loại bỏ chúng đã tạo ra phương trình hồi quy có hệ số tương quan vượt trội. Thứ hai, mô hình học sâu BERT thuần túy ban đầu có độ chính xác thấp hơn nhẹ so với máy học truyền thống tối ưu (do mất mát thông tin thống kê toàn cục), nhưng khi được ghép nối bổ sung vector đặc trưng ngôn ngữ học tường minh, hiệu năng của mô hình lai đã lập tức vượt lên dẫn đầu toàn diện.

4. Luận án có cung cấp quy trình và giao thức tái lập thực nghiệm (Replication Protocol) hoàn chỉnh không?
Trả lời: Hoàn toàn có. Luận án mô tả chi tiết nguồn gốc, kích thước và phân bố của 2 bộ ngữ liệu công khai (370 văn bản SGK và 1.825 văn bản VH-NNH); định nghĩa toán học chuẩn xác của toàn bộ 262 đặc trưng; cung cấp siêu tham số của các thuật toán SVM, Random Forest, Naive Bayes, KNN, RFECV; cũng như cấu hình chi tiết của mô hình học sâu (Bảng 4.11) bao gồm kích thước batch, tốc độ học, cấu trúc tầng ẩn LSTM và hàm mất mát.

5. Lộ trình nghiên cứu 10 năm tới được định hình ra sao từ nền tảng của luận án?
Trả lời: Luận án vạch ra lộ trình 10 năm chuyển dịch từ bài toán phân lớp độ khó tĩnh sang hệ sinh thái đánh giá thông minh đa phương thức: Giai đoạn 2024–2026 mở rộng ngữ liệu đa ngành (Kỹ thuật, Luật, Y khoa) và xây dựng thư viện mã nguồn mở; Giai đoạn 2027–2030 tích hợp Large Language Models (LLMs) để tạo ra các giải thích định tính song song với điểm số định lượng; Giai đoạn 2031–2034 phát triển hệ thống cá nhân hóa ngữ liệu học tập thời gian thực thích ứng với phản hồi sinh học của người đọc.

Kết luận

Luận án tiến sĩ của NCS. Lương An Vinh đã hoàn thành xuất sắc toàn bộ các mục tiêu khoa học đề ra, tạo nên một cột mốc lịch sử trong chuyên ngành Khoa học Máy tính và Ngôn ngữ học Tính toán tại Việt Nam với 6 đóng góp cốt lõi:

  1. Xác lập hệ thống cơ sở lý luận khoa học hoàn chỉnh, phân định rạch ròi giữa độ khó nội tại của văn bản (Text Readability) và khả năng hiểu của người đọc (Reader Comprehensibility).
  2. Xây dựng và công bố 2 bộ ngữ liệu chuẩn quy mô lớn đầu tiên cho tiếng Việt (370 văn bản SGK và 1.825 văn bản VH-NNH).
  3. Rút trích và khảo sát không gian 262 đặc trưng ngôn ngữ học đa tầng, xác định vai trò then chốt của từ ghép Hán-Việt, phương ngữ và cấu trúc cú pháp tiếng Việt.
  4. Đề xuất công thức hồi quy thống kê cải tiến có độ tương quan vượt trội so với các công trình trước đây.
  5. Ứng dụng thành công thuật toán RFECV kết hợp học máy truyền thống đạt độ chính xác phân lớp trên 96% trên ngữ liệu SGK gom nhóm.
  6. Thiết kế thành công kiến trúc học sâu lai tiên phong trên thế giới kết hợp fine-tuning BERT, mạng hồi quy LSTM và vector đặc trưng ngôn ngữ học, giải quyết trọn vẹn bài toán đánh giá độ khó văn bản tiếng Việt.

Công trình không chỉ mở ra 3 hướng nghiên cứu mới (Đánh giá ngữ liệu chuyên ngành sâu, Xây dựng hệ thống học tập thích ứng, và Tích hợp mô hình ngôn ngữ lớn), mà còn để lại di sản học thuật thực chứng vững chắc, đóng góp trực tiếp vào công cuộc đổi mới căn bản, toàn diện giáo dục và chuyển đổi số ngôn ngữ quốc gia trong kỷ nguyên trí tuệ nhân tạo.