Tổng quan luận án
Bài toán nhận dạng thực thể có tên (Named Entity Recognition - NER, hay nhận dạng thực thể định danh) là một nhiệm vụ nền tảng trong lĩnh vực xử lý ngôn ngữ tự nhiên (NLP) và khai phá văn bản. Nghiên cứu của Trần Mai Vũ (2018) tại Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội tập trung giải quyết bài toán nhận dạng thực thể trên hai miền dữ liệu đặc thù: văn bản tiếng Việt và văn bản y sinh tiếng Anh.
Theo trình bày của tác giả, mặc dù NER đã đạt được nhiều thành tựu trên các thực thể thông thường trong văn bản tiếng Anh, việc áp dụng vào dữ liệu tiếng Việt và dữ liệu y sinh tiếng Anh gặp phải khoảng trống nghiên cứu rõ rệt:
- Đối với tiếng Việt: Thiếu hụt các tập ngữ liệu gán nhãn chuẩn có quy mô đủ lớn và các tài nguyên từ điển chuyên dụng; các nghiên cứu trước đây chủ yếu thực hiện NER độc lập hoặc giải quyết nhận dạng quan hệ ở quy mô ngữ liệu nhỏ (khoảng 1.200 câu), chưa tích hợp nhận dạng thực thể cùng với trích chọn thuộc tính thực thể trong cùng một mô hình.
- Đối với văn bản y sinh tiếng Anh: Thiếu định nghĩa hình thức rõ ràng về thực thể biểu hiện (phenotype); các nghiên cứu trước đây (như của Khordad, 2014) bỏ sót nhiều thực thể do chưa bao quát quan hệ giữa biểu hiện với các thực thể khác ngoài gen (bệnh, hóa chất, bộ phận cơ thể); đồng thời gặp thách thức lớn về sự suy giảm hiệu năng khi chuyển giao giữa các miền dữ liệu y sinh khác nhau (domain adaptation).
Mục tiêu và các vấn đề nghiên cứu của luận án được xác định cụ thể như sau:
- Khảo sát và đưa ra các phương án xử lý đặc điểm riêng biệt của dữ liệu tiếng Việt và dữ liệu y sinh tiếng Anh.
- Đề xuất phương án tiếp cận mới kết hợp các mô hình học máy thống kê và tri thức miền nhằm nâng cao chất lượng nhận dạng thực thể.
- Xây dựng các bộ dữ liệu chuẩn phục vụ cho thực nghiệm và kiểm thử.
- Xây dựng thực nghiệm đánh giá các mô hình đề xuất với các độ đo tiêu chuẩn.
- Xây dựng hệ thống ứng dụng thực tế cho các mô hình đạt kết quả khả quan (hệ thống hỏi đáp tự động tiếng Việt và hệ thống tra cứu quan hệ y sinh PhenoMiner).
- Định hướng phát triển và nâng cấp nghiên cứu.
Đối tượng và phạm vi nghiên cứu:
- Đối tượng nghiên cứu: Các thực thể có tên tiếng Việt (tập trung vào thực thể tên người và 10 thuộc tính liên quan) và các thực thể y sinh tiếng Anh (thực thể biểu hiện - phenotype, gen, bệnh, thuốc, hóa chất, bộ phận cơ thể).
- Phạm vi dữ liệu và không gian: 10.000 câu văn bản Wikipedia tiếng Việt; hai tập dữ liệu y sinh Phenominer A (bệnh tự miễn dịch, 900 câu) và Phenominer B (bệnh tim mạch, 900 câu) xây dựng từ tóm tắt PubMed; tập dữ liệu BioCreative V CDR Task (bệnh và hóa chất).
- Phạm vi thời gian và khảo sát: Thống kê các công trình từ năm 2002 đến tháng 11/2017 trên cơ sở dữ liệu Springer và các hội nghị chuyên ngành (MUC, CoNLL, ACE, BioNLP, BioCreative).
Tổng quan tài liệu và vị trí của luận án
Luận án điểm lại lịch sử phát triển của bài toán NER từ đầu thập niên 1990 (Rau, 1991; Appelt và cộng sự, 1993 tại MUC-6) và phân loại các hướng tiếp cận chính:
- Các nghiên cứu nhận dạng thực thể tổng quát trên thế giới:
- Phương pháp học máy thống kê: Mô hình Entropy cực đại (Maximum Entropy Model - MaxEnt) của Borthwick và cộng sự (1996); Mô hình trường ngẫu nhiên có điều kiện (Conditional Random Fields - CRF) của Lafferty, McCallum và Pereira (2001).
- Phương pháp lai ghép mô hình (ensemble learning): Florian và cộng sự (2003) đạt điểm F1 88,76% trên tập dữ liệu CoNLL-2003.
- Phương pháp bán giám sát và học sâu: Ando và Zhang (2005) sử dụng 27 triệu từ chưa gán nhãn đạt F1 90,8%; Ratinov và Roth (2009) kết hợp gom cụm Brown đạt F1 89,31%; Collobert và cộng sự (2011) áp dụng mạng nơ-ron nhiều tầng với 852 triệu từ chưa gán nhãn đạt F1 89,59%.
- Thích nghi miền: Daume (2007) và Wang và cộng sự (2009) đánh giá thích nghi miền trong nhận dạng thực thể protein.
- Các nghiên cứu nhận dạng thực thể trong tiếng Việt:
- Xử lý ngôn ngữ tiếng Việt chịu ảnh hưởng bởi tính chất đơn lập, ghép từ, từ láy, từ vay mượn, hiện tượng đồng âm khác nghĩa và cấu trúc ngữ pháp linh hoạt (Đỗ Hữu Châu, 1996).
- Học máy giám sát: Nguyen Cam Tu và cộng sự (2005) áp dụng CRF trên 8 loại thực thể đạt F1 85,51%; Tran và cộng sự (2007) sử dụng SVM qua công cụ YamCha đạt F1 87,75%; Thao và cộng sự (2007) dùng kỹ thuật bỏ phiếu (voting) nâng lên 88,02%; Le và cộng sự (2013) cùng Nguyen và cộng sự (2012) bổ sung đặc trưng ontology và giải thuật di truyền.
- Học máy bán giám sát và mẫu: Sam và cộng sự (2011a) sử dụng lan truyền nhãn dựa trên đồ thị; Le Trung và cộng sự (2014) sử dụng bootstrapping sinh mẫu nhận dạng.
- Trích xuất quan hệ và sự kiện: Sam Chanrathany (2013) dùng học bán giám sát cho quan hệ hai ngôi trên 1.200 câu; Nguyễn Thanh Hiên (2011) giải quyết phân biệt nhập nhằng bằng ontology trên 1.200 câu; Nguyen và cộng sự (2013) trích xuất sự kiện dịch bệnh.
- Tích hợp bài toán: Ngo và cộng sự (2006) áp dụng CRF cho tách từ đạt F1 94,05%; Oanh và cộng sự (2009) áp dụng CRF cho gán nhãn từ loại đạt độ chính xác 90,17%; Tran Thi Oanh và cộng sự (2010) tích hợp tách từ và gán nhãn từ loại.
- Các nghiên cứu nhận dạng thực thể y sinh tiếng Anh:
- Các chiến dịch đánh giá cộng đồng (Huang và Lu, 2015): 14 nhiệm vụ trong giai đoạn 2002–2014 (BioCreative, BioNLP, i2b2, JNLPBA, LLL).
- Dựa trên luật và mẫu: Fukuda và cộng sự (1998) cho protein; Narayanaswamy và cộng sự (2003) cho hóa chất; Hou và Chen (2003); Franzén và cộng sự (2002); mô hình Entity-Quality (EQ) của Collier và cộng sự (2013) và Groza và cộng sự (2013).
- Dựa trên phân lớp và chuỗi: Mitsumori và cộng sự (2005), Takeuchi và Collier (2005) dùng SVM; Kinoshita và cộng sự (2005) dùng HMM; Settles (2009) dùng MEMM; Okanohara và cộng sự (2006) dùng CRF.
- Tiếp cận lai ghép (ensemble): Abacha và cộng sự (2011); Sasaki và cộng sự (2008) kết hợp từ điển và CRF; Zhou và cộng sự (2005) lai ghép 2 mô hình HMM qua SVM; Mika và Rost (2004) dùng 4 bộ phân lớp SVM; Cai và Cheng (2009) dùng 3 bộ phân lớp.
- Luận án liên quan: Vlachos (2010) nhận dạng gen và sự kiện y sinh; Khordad (2014) nhận dạng thực thể biểu hiện và quan hệ biểu hiện – gen.
- Chuỗi hội nghị WePS (WePS-1, WePS-2, WePS-3; Artiles và cộng sự, 2009, 2010): WePS-2 trích chọn 18 thuộc tính cá nhân (kết quả cao nhất của PolyUHK đạt F1 12,2%); WePS-3 đạt F1 18%, P 22%, R 24%; Banko và Etzioni (2008) đề xuất O-CRF (P 88,3%, R 45,2%); Miwa và Sasaki (2014) dùng suy luận gộp (joint inference) với Beam Search.
Vị trí của luận án: Luận án giải quyết đồng thời bài toán NER và trích chọn thuộc tính tên người tiếng Việt trên tập dữ liệu 10.000 câu bằng mô hình CRF tích hợp; đồng thời xây dựng định nghĩa hình thức và các mô hình lai ghép, học xếp hạng (SVM-LTR) cho nhận dạng thực thể biểu hiện y sinh tiếng Anh trên các tập dữ liệu chuẩn 900 câu.
Cơ sở lý thuyết và phương pháp nghiên cứu
Cơ sở lý thuyết và khung phân tích
- Định nghĩa bài toán NER (Aggarwal và Zhai, 2012): Xác định các thực thể định danh từ văn bản tự do và phân loại chúng vào các nhóm được định nghĩa trước.
- Mô hình Entropy cực đại kết hợp giải mã tìm kiếm chùm (Maximum Entropy Model with Beam Search - MEM+BS): Dựa trên nguyên lý ước lượng phân phối xác suất có entropy lớn nhất thỏa mãn các ràng buộc thống kê quan sát, kết hợp thuật toán tìm kiếm chùm (với độ rộng chùm $k = 3$) nhằm giảm không gian trạng thái và tăng tốc độ xử lý so với thuật toán giải mã Viterbi.
- Trường ngẫu nhiên có điều kiện (Conditional Random Fields - CRF): Mô hình đồ thị vô hướng $G = (V, E)$ biểu diễn phân phối xác suất có điều kiện $P(Y|X)$ của chuỗi nhãn $Y$ với chuỗi quan sát $X$, khắc phục hiện tượng thiên vị nhãn (label bias problem) của mô hình Markov ẩn (HMM) và MEMM.
- Lược đồ gán nhãn BIO (Ramshaw và Marcus, 1995): Phân loại từng từ vị thành bắt đầu một thực thể ($B$), nằm trong thực thể ($I$) hoặc nằm ngoài thực thể ($O$).
- Mô hình học xếp hạng bằng máy vector hỗ trợ (SVM-Learn to Rank - SVM-LTR): Sử dụng hàm tối ưu hóa phân lớp để xếp hạng các ứng viên thực thể dựa trên điểm số đánh giá từ các bộ phân loại thành phần.
Phương pháp nghiên cứu thực tế và công cụ
Luận án áp dụng phương pháp nghiên cứu thực nghiệm định lượng kết hợp xử lý ngôn ngữ tự nhiên:
- Bộ công cụ vTools: Do tác giả tự phát triển dựa trên mô hình MaxEnt kết hợp giải mã Beam Search, phục vụ tiền xử lý tiếng Việt (tách từ, gán nhãn từ loại). Tại cuộc thi VLSP 2013, vTools đạt giải nhì với điểm F1 tách từ 97,40%, gán nhãn từ loại 90,73% và nhận dạng cụm từ 83,17%.
- Tập đặc trưng cho tiếng Việt: Bao gồm đặc trưng từ hiện tại ($W_0$), nhãn từ loại ($POS(W_0)$), đặc trưng chữ hoa/thường (
Is_Lower, Is_Initial_Cap, Is_All_Cap), ngữ cảnh ($W_{-2}, W_{-1}, W_1, W_2$), liên kết từ vựng (Syllable_Conj(-2,2)), biểu thức chính quy (Regex(0,0)), kiểm tra âm tiết tiếng Việt hợp lệ (Is_Valid_Vietnamese_Syllable), các đặc trưng từ điển và tiền tố.
- Kỹ thuật đánh giá: Sử dụng phương pháp kiểm thử chéo 10 lần (10-fold cross validation); kiểm thử độ tin cậy thống kê bằng phương pháp xấp xỉ ngẫu nhiên (randomization test).
- Các độ đo đánh giá: Độ chính xác (Precision - $P$), Độ hồi tưởng (Recall - $R$) và Điểm F1 ($F_1$-measure).
$$P = \frac{TP}{TP + FP}, \quad R = \frac{TP}{TP + FN}, \quad F_1 = \frac{2 \cdot P \cdot R}{P + R}$$
Nguồn tư liệu và dữ liệu nghiên cứu
- Dữ liệu tiếng Việt: 10.000 câu văn bản thu thập từ Wikipedia tiếng Việt, được gán nhãn thủ công các thực thể và thuộc tính thực thể.
- Từ điển hỗ trợ tiếng Việt:
- Từ điển tên người tiếng Anh trích xuất từ Freebase (1.150.000 tên).
- Từ điển tên người tiếng Việt tự xây dựng (20.000 tên).
- Từ điển địa danh tiếng Việt (18.000 địa danh).
- Từ điển tiền tố (790 từ) phân loại theo tên người, địa danh và tổ chức.
- Dữ liệu y sinh tiếng Anh:
- Tập dữ liệu Phenominer A: Gồm 900 câu gán nhãn trích xuất từ các tóm tắt PubMed về bệnh tự miễn dịch.
- Tập dữ liệu Phenominer B: Gồm 900 câu gán nhãn trích xuất từ các tóm tắt PubMed về bệnh tim mạch.
- Tập dữ liệu kiểm thử BioCreative V CDR Task (Chemical-Disease Reactions).
Nội dung chính theo từng chương
Chương 1 - Khái quát về nhận dạng thực thể
Chương 1 hệ thống hóa các vấn đề lý thuyết và thực tiễn của bài toán nhận dạng thực thể định danh (NER):
- Trình bày định nghĩa hình thức của NER theo Aggarwal và Zhai (2012), phân loại các tập thực thể theo chuẩn MUC-6 (người, địa điểm, tổ chức, thời gian, số lượng), ACE (thực thể phân cấp), và BioNLP/BioCreative (gen, protein, bệnh, thuốc, hóa chất).
- Phân tích các thách thức cốt lõi: Tập thực thể mở, tính phụ thuộc ngữ cảnh gây nhập nhằng danh xưng (ví dụ: "JFK", "Sông Lam Nghệ An"), sự đa dạng từ vựng và biên thực thể lồng nhau.
- Điểm lại các độ đo chuẩn ($P$, $R$, $F_1$) và vai trò của NER trong các ứng dụng hạ nguồn: Trích xuất quan hệ (Relation Extraction), trích xuất sự kiện (Event Extraction), và hệ thống hỏi đáp tự động (Question Answering).
- Khái quát các hướng phát triển kỹ thuật từ hệ luật thủ công, học máy thống kê (MaxEnt, CRF), phương pháp lai ghép (ensemble), đến học bán giám sát và học sâu.
- Phân tích đặc thù của dữ liệu tiếng Việt (ngôn ngữ đơn lập, ranh giới từ phức tạp, thiếu tài nguyên) và dữ liệu y sinh tiếng Anh (thuật ngữ chuyên ngành, danh pháp không chuẩn hóa, ranh giới thực thể biểu hiện dài và phức tạp).
Chương 2 – Nhận dạng thực thể tên người kết hợp với nhận dạng thuộc tính thực thể có tên trong văn bản tiếng Việt
Chương 2 trình bày giải pháp tích hợp xử lý đồng thời bài toán nhận dạng thực thể tên người và bài toán trích chọn 10 thuộc tính thực thể liên quan (dựa trên tần suất xuất hiện từ chiến dịch WePS-2):
| STT |
Loại thuộc tính |
Tên nhãn thực thể |
Tên nhãn quan hệ thuộc tính |
| 1 |
Thực thể tên người chính |
Oper |
— |
| 2 |
Nhân thân |
Rper |
R_Relationship |
| 3 |
Tên gọi khác |
NickPer |
R_OtherName |
| 4 |
Nơi sinh, quê quán |
VBornLoc |
R_WhereBorn |
| 5 |
Nơi mất |
VDeadLoc |
R_WhereDead |
| 6 |
Quốc tịch |
VHomeLoc |
R_Nationality |
| 7 |
Nơi làm việc |
VJobOrg |
R_WhereJob |
| 8 |
Nghề nghiệp |
Vjob |
R_Job |
| 9 |
Giới tính |
Vsex |
R_Sex |
| 10 |
Ngày sinh |
VBornTime |
R_WhenBorn |
| 11 |
Ngày mất |
VDeadTime |
R_WhenDead |
Tập nhãn danh nghĩa gồm 21 nhãn, khi mở rộng theo danh pháp BIO tạo thành 43 thẻ gán nhãn chuỗi.
Quy trình mô hình gồm 3 pha:
- Pha 1 - Huấn luyện: Tiền xử lý dữ liệu bằng vTools, trích xuất vector đặc trưng từ vựng, hình thái và từ điển, sau đó huấn luyện mô hình CRF hoặc MEM+BS.
- Pha 2 - Gán nhãn: Dự đoán các nhãn thực thể và nhãn quan hệ trên dữ liệu kiểm thử.
- Pha 3 - Lọc câu: Loại bỏ các câu không chứa đầy đủ hai thành phần bắt buộc: Thực thể tên người chính (
Oper) và giá trị thuộc tính tương ứng.
Thống kê số lượng thực thể trong tập ngữ liệu 10.000 câu gán nhãn Wikipedia tiếng Việt:
| STT |
Tên nhãn |
Số lượng |
STT |
Tên nhãn |
Số lượng |
| 1 |
Oper |
9.869 |
12 |
R_OtherName |
1.528 |
| 2 |
NickPer |
1.873 |
13 |
R_Relationship |
168 |
| 3 |
RPer |
141 |
14 |
R_WhereBorn |
1.937 |
| 4 |
VBornLoc |
2.135 |
15 |
R_WhereDead |
219 |
| 5 |
VDeadLoc |
258 |
16 |
R_WhenDead |
296 |
| 6 |
VHomeLoc |
4.986 |
17 |
R_Job |
93 |
| 7 |
VJobOrg |
2.853 |
18 |
R_WhereJob |
514 |
| 8 |
VJob |
9.611 |
19 |
R_Sex |
72 |
| 9 |
VSex |
1.017 |
20 |
R_WhenBorn |
4.088 |
| 10 |
VBornTime |
7.440 |
21 |
R_WhenDead (quan hệ) |
293 |
| 11 |
VDeadTime |
3.216 |
— |
— |
— |
Chương 2 cũng trình bày việc áp dụng mô hình nhận dạng thực thể và thuộc tính vào hệ thống hỏi đáp tự động về thực thể tên người tiếng Việt. Hệ thống thực hiện phân tích thành phần câu hỏi, gán nhãn vai trò ngữ nghĩa của câu hỏi, và truy xuất câu trả lời chính xác dựa trên cấu trúc quan hệ thực thể đã trích chọn.
Chương 3 – Nhận dạng thực thể biểu hiện trong văn bản y sinh tiếng Anh
Chương 3 tập trung vào nhận dạng thực thể biểu hiện (phenotype) và các thực thể y sinh liên quan (gen, bệnh, bộ phận cơ thể):
- Xây dựng định nghĩa hình thức cho thực thể biểu hiện và xác lập lược đồ ngữ nghĩa biểu diễn mối quan hệ giữa kiểu hình, gen và bệnh lý.
- Xây dựng hai tập ngữ liệu chuẩn gồm Phenominer A (900 câu về các bệnh tự miễn dịch) và Phenominer B (900 câu về các bệnh tim mạch).
- Đề xuất mô hình nhận dạng thực thể y sinh kết hợp các đặc trưng ngôn ngữ học và các ontology y sinh chuẩn.
- Thực hiện 4 thực nghiệm đánh giá:
- Thực nghiệm 1: Đánh giá và so sánh hiệu quả của các kỹ thuật học máy khác nhau (CRF, MEM+BS, SVM) trên tập dữ liệu biểu hiện.
- Thực nghiệm 2: So sánh kết quả của mô hình đề xuất với các hệ thống nhận dạng thực thể y sinh liên quan trên thế giới.
- Thực nghiệm 3: Đánh giá mức độ đóng góp độc lập của từng nguồn tài nguyên tri thức đối với độ chính xác nhận dạng.
- Thực nghiệm 4: Áp dụng mô hình tham gia nhiệm vụ nhận dạng thực thể bệnh và thuốc trong cuộc thi BioCreative V CDR Task (Chemical-Disease Reactions).
- Khảo sát bài toán thích nghi miền (domain adaptation) khi chuyển giao mô hình huấn luyện từ miền bệnh tự miễn dịch (Phenominer A) sang kiểm thử trên miền bệnh tim mạch (Phenominer B) và ngược lại.
Chương 4 – Một mô hình nâng cấp hiệu quả nhận dạng thực thể y sinh dựa trên kỹ thuật lai ghép và học xếp hạng
Chương 4 nghiên cứu giải pháp tối ưu hóa hiệu năng nhận dạng thực thể y sinh bằng việc kết hợp đa mô hình:
- Phân tích kiến trúc tổng quan của hệ thống NER y sinh lai ghép.
- Đề xuất và so sánh 3 phương pháp lai ghép kết quả:
- Phương pháp lai ghép sử dụng luật: Dựa trên danh sách ưu tiên (Priority List - PL) để giải quyết các trường hợp trùng lặp hoặc mâu thuẫn ranh giới thực thể.
- Phương pháp lai ghép sử dụng học máy gán nhãn chuỗi: Áp dụng mô hình MEM+BS tích hợp đầu ra của các bộ phân loại thành phần thành các đặc trưng chuỗi.
- Phương pháp lai ghép sử dụng học xếp hạng: Ứng dụng mô hình SVM-LTR để học trọng số đánh giá và xếp hạng độ tin cậy của các thực thể ứng viên.
- Tiến hành thực nghiệm đánh giá so sánh hiệu quả của từng phương pháp lai ghép trên tập dữ liệu Phenominer A.
- Thực hiện kiểm thử độ tin cậy thống kê bằng phương pháp xấp xỉ ngẫu nhiên đối với các thực nghiệm loại bỏ lần lượt từng nguồn tài nguyên (ablation test) nhằm khẳng định tính vững chắc của kết quả thực nghiệm.
- Phân tích và thảo luận chi tiết các dạng lỗi phân loại giữa phương pháp danh sách ưu tiên (PL) và phương pháp học xếp hạng (SVM-LTR).
Kết quả và những đóng góp mới
Luận án đã đạt được các đóng góp khoa học về mặt lý luận và thực tiễn:
Về mặt lý luận và phương pháp
- Đề xuất mô hình tích hợp đồng thời hai nhiệm vụ nhận dạng thực thể tên người và trích chọn thuộc tính thực thể trong văn bản tiếng Việt dựa trên mô hình gán nhãn chuỗi CRF với 43 thẻ nhãn mở rộng, giúp giải quyết triệt để sự phân tách của mô hình xử lý đường ống (pipeline).
- Xây dựng định nghĩa cụ thể về khái niệm thực thể biểu hiện (phenotype) trong văn bản y sinh tiếng Anh, làm rõ phạm vi ranh giới và quan hệ ngữ nghĩa của thực thể biểu hiện với các thực thể liên quan như gen, bệnh và bộ phận cơ thể.
- Đề xuất khung kiến trúc lai ghép kết hợp các nguồn tri thức miền với các kỹ thuật học máy gán nhãn chuỗi (MEM+BS) và học xếp hạng (SVM-LTR), nâng cao độ chính xác nhận dạng thực thể y sinh và giải quyết xung đột ranh giới thực thể.
- Đánh giá thực nghiệm về bài toán thích nghi miền dữ liệu y sinh giữa các nhóm bệnh học khác nhau.
Về mặt thực tiễn và dữ liệu
- Xây dựng và công bố bộ ngữ liệu 10.000 câu văn bản Wikipedia tiếng Việt được gán nhãn chi tiết thực thể tên người và 10 loại thuộc tính liên quan.
- Xây dựng 3 bộ từ điển hỗ trợ xử lý tiếng Việt: Tên người (20.000 từ), địa danh (18.000 từ) và tiền tố (790 từ).
- Xây dựng 2 bộ ngữ liệu y sinh tiếng Anh chuẩn hóa gồm Phenominer A (900 câu về bệnh tự miễn dịch) và Phenominer B (900 câu về bệnh tim mạch).
- Phát triển và ứng dụng bộ công cụ xử lý ngôn ngữ tiếng Việt vTools (đạt kết quả cao tại VLSP 2013).
- Triển khai hai hệ thống ứng dụng thực tế:
- Hệ thống hỏi đáp tự động tiếng Việt về thực thể tên người.
- Hệ thống tra cứu và phân tích mối quan hệ giữa thực thể biểu hiện và bệnh PhenoMiner trên nền tảng web.
Hạn chế và hướng nghiên cứu tiếp
Theo phạm vi nghiên cứu và nội dung văn bản luận án trình bày:
- Phạm vi mô hình nhận dạng thực thể và thuộc tính tiếng Việt hiện dừng lại ở mức câu (thực thể chính và thuộc tính phải xuất hiện cùng câu), chưa xử lý các liên kết thuộc tính xuyên câu hoặc mức toàn văn bản.
- Việc tạo lập các bộ luật ưu tiên (PL) đòi hỏi phân tích thủ công; tỷ lệ bao phủ của các từ điển chuyên ngành vẫn phụ thuộc vào nguồn tri thức sẵn có.
- Hiệu năng nhận dạng thực thể biểu hiện y sinh vẫn chịu ảnh hưởng khi chuyển giao giữa các miền dữ liệu bệnh học có từ vựng quá khác biệt (hiện tượng suy giảm chất lượng trong thích nghi miền).
- Hướng nghiên cứu tiếp theo được tác giả định hướng gồm: Nâng cấp mô hình xử lý quan hệ thực thể xuyên câu, mở rộng các lớp thực thể y sinh mới, và nghiên cứu sâu hơn các kỹ thuật học sâu và học bán giám sát cho bài toán thích nghi miền.
Giá trị tham khảo
Luận án là tài liệu tham khảo cho các đối tượng nghiên cứu và ứng dụng sau:
- Nghiên cứu sinh và học viên ngành Hệ thống thông tin, Khoa học máy tính, Xử lý ngôn ngữ tự nhiên: Tham khảo phương pháp xây dựng bộ đặc trưng hình thái tiếng Việt, quy trình gán nhãn chuỗi BIO mở rộng, và kỹ thuật thiết lập mô hình tích hợp nhận dạng thực thể và thuộc tính bằng CRF.
- Các nhà nghiên cứu trong lĩnh vực Xử lý ngôn ngữ tự nhiên Y sinh (BioNLP): Tham khảo định nghĩa và quy chuẩn gán nhãn thực thể biểu hiện (phenotype), phương pháp lai ghép đa mô hình học máy kết hợp SVM-LTR, cùng quy trình kiểm thử độ tin cậy thống kê bằng phương pháp xấp xỉ ngẫu nhiên.
- Kỹ sư phát triển hệ thống khai phá văn bản và công cụ tìm kiếm: Tham khảo kiến trúc hệ thống hỏi đáp tự động dựa trên phân tích thực thể và mô hình tra cứu thông tin quan hệ y sinh PhenoMiner.
Câu hỏi thường gặp
1. Luận án sử dụng những mô hình học máy nào để giải quyết bài toán nhận dạng thực thể?
Luận án sử dụng các phương pháp học máy thống kê gồm: Trường ngẫu nhiên có điều kiện (CRF), Mô hình Entropy cực đại kết hợp giải mã tìm kiếm chùm (MEM+BS với $k=3$), Máy vector hỗ trợ (SVM), và Mô hình học xếp hạng bằng máy vector hỗ trợ (SVM-LTR) cho kỹ thuật lai ghép.
2. Bộ dữ liệu đánh giá bài toán nhận dạng thực thể và thuộc tính tiếng Việt có quy mô bao nhiêu?
Tập dữ liệu được xây dựng từ 10.000 câu trích xuất từ Wikipedia tiếng Việt, gán nhãn thủ công cho thực thể tên người chính (Oper), 10 loại giá trị thuộc tính và 10 loại quan hệ thuộc tính tương ứng (tổng cộng 43 thẻ gán nhãn theo BIO).
3. Tại sao tác giả tích hợp nhận dạng thực thể và trích chọn thuộc tính trong cùng một mô hình?
Mô hình đường ống (pipeline) truyền thống thường gây lãng phí tài nguyên tính toán do lặp lại các bước trích xuất đặc trưng và dễ tích lũy sai số khi liên kết thực thể với thuộc tính. Việc tích hợp cho phép mô hình gán nhãn chuỗi đồng thời xác định ranh giới thực thể và gán đúng vai trò thuộc tính trong cùng một lượt tính toán.
4. Hai tập dữ liệu y sinh Phenominer A và Phenominer B khác nhau ở điểm nào?
Tập Phenominer A gồm 900 câu gán nhãn về nhóm bệnh tự miễn dịch, trong khi tập Phenominer B gồm 900 câu gán nhãn về nhóm bệnh tim mạch, cả hai đều được trích xuất từ các tóm tắt y khoa trên cơ sở dữ liệu PubMed.
5. Hệ thống ứng dụng thực tế của luận án được triển khai dưới dạng nào?
Tác giả đã triển khai mô hình vào hệ thống hỏi đáp tự động tiếng Việt về thực thể tên người và xây dựng hệ thống web tra cứu mối quan hệ giữa thực thể biểu hiện và bệnh mang tên PhenoMiner.
Kết luận
Luận án tiến sĩ của Trần Mai Vũ đã hệ thống hóa và giải quyết bài toán nhận dạng thực thể định danh trên hai miền dữ liệu đặc thù là văn bản tiếng Việt và văn bản y sinh tiếng Anh. Tác giả đã đề xuất mô hình CRF tích hợp nhận dạng thực thể và thuộc tính tên người tiếng Việt trên tập dữ liệu 10.000 câu, đồng thời xây dựng mô hình lai ghép kết hợp MEM+BS và SVM-LTR cho nhận dạng thực thể biểu hiện y sinh trên các tập dữ liệu chuẩn. Các kết quả nghiên cứu đã được kiểm chứng thực nghiệm bằng các phương pháp thống kê và được triển khai thành các ứng dụng thực tế trong hệ thống hỏi đáp tiếng Việt và hệ thống tra cứu y sinh PhenoMiner.
