Tổng quan luận án

Luận án tiến sĩ với đề tài "Nghiên cứu nhận dạng thực thể có tên và thực thể biểu hiện trong văn bản và ứng dụng" được thực hiện bởi nghiên cứu sinh Trần Mai Vũ, dưới sự hướng dẫn khoa học của PGS. Nguyễn Lê Minh, tại Bộ môn Hệ thống thông tin, Khoa Công nghệ thông tin, Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội (bảo vệ năm 2018, chuyên ngành Hệ thống thông tin, mã số: 62.01).

Nhận dạng thực thể có tên (Named Entity Recognition - NER, hay còn gọi là nhận dạng thực thể định danh) là một bài toán nền tảng cốt lõi trong lĩnh vực Xử lý ngôn ngữ tự nhiên (Natural Language Processing - NLP). Đây là bước tiền đề không thể thiếu cho các hệ thống khai phá văn bản và hiểu ngôn ngữ phức tạp như trích xuất quan hệ (Relation Extraction), trích xuất sự kiện (Event Extraction), tìm kiếm ngữ nghĩa (Semantic Search), và hệ thống hỏi đáp tự động (Question Answering). Thống kê trên hệ thống xuất bản khoa học Springer từ năm 2002 đến tháng 11/2017 cho thấy có trên 3.500 công trình nghiên cứu liên quan đến cụm từ "named entity recognition", trong đó có hơn 1.800 công trình được công bố trong giai đoạn 2013–2017 (trung bình khoảng 350 công trình mỗi năm).

Khoảng trống nghiên cứu được tác giả chỉ rõ xuất phát từ thực trạng phần lớn các nghiên cứu NER trước đây chủ yếu tập trung vào các thực thể thông thường trong văn bản tiếng Anh (như tên người, địa danh, tổ chức). Trong khi đó, việc nhận dạng thực thể trên văn bản tiếng Việt cũng như trong các miền dữ liệu chuyên ngành đặc thù như y sinh (Biomedical NLP - BioNLP) còn tồn tại nhiều rào cản lớn:

  • Thiếu các tập dữ liệu gán nhãn chuẩn hóa và có quy mô đủ lớn.
  • Thiếu các định nghĩa hình thức và tài nguyên tri thức miền chuyên sâu.
  • Sự phức tạp về mặt từ vựng và ngữ pháp của tiếng Việt (ngôn ngữ đơn lập, ranh giới từ không phân tách bằng dấu cách trắng, hiện tượng đồng âm khác nghĩa).
  • Độ phức tạp cao của văn bản y sinh (thuật ngữ dài, viết tắt, ký tự Hy Lạp, dấu nối, thiếu danh pháp chuẩn cho thực thể biểu hiện phenotype và hiện tượng lồng ghép thực thể).

Mục tiêu nghiên cứu tổng thể của luận án là phát triển vấn đề, đề xuất giải pháp kỹ thuật và xây dựng thực nghiệm đánh giá bài toán nhận dạng thực thể trên hai miền dữ liệu: văn bản tiếng Việt và văn bản y sinh tiếng Anh. Cụ thể, tác giả xác định 6 nhiệm vụ nghiên cứu được đánh số như sau:

  1. Khảo sát và đưa ra các phương án xử lý các đặc điểm riêng biệt của dữ liệu văn bản tiếng Việt và dữ liệu y sinh tiếng Anh.
  2. Đề xuất phương án tiếp cận mới tận dụng các nghiên cứu đã có và tiếp cận giải quyết được những đặc điểm riêng biệt của miền dữ liệu đang xem xét.
  3. Xây dựng bộ dữ liệu phục vụ cho thực nghiệm.
  4. Xây dựng các thực nghiệm để đánh giá các mô hình giải quyết bài toán đã đề xuất.
  5. Xây dựng hệ thống chạy thực tế đối với các mô hình đạt kết quả khả quan.
  6. Định hướng phát triển nâng cấp nghiên cứu.

Đối tượng nghiên cứu của luận án bao gồm:

  • Thực thể có tên (tên người) và các thuộc tính liên quan đến thực thể có tên (chức danh, nơi làm việc, quốc tịch, địa chỉ, giới tính...) trong dữ liệu văn bản tiếng Việt.
  • Thực thể biểu hiện (phenotype) và các thực thể liên quan (gen, bệnh, hóa chất/thuốc, bộ phận cơ thể...) trong dữ liệu văn bản y sinh tiếng Anh.

Phạm vi nghiên cứu được xác định trên các ngữ liệu cụ thể:

  • Miền tiếng Việt: Bộ ngữ liệu gồm 10.000 câu gán nhãn thực thể tên người và thuộc tính thực thể; tập dữ liệu câu hỏi tự nhiên đánh giá hệ thống hỏi đáp tự động tiếng Việt.
  • Miền y sinh tiếng Anh: Bộ ngữ liệu Phenominer A gồm 900 câu gán nhãn về bệnh tự miễn dịch (autoimmune diseases); bộ ngữ liệu Phenominer B gồm 900 câu gán nhãn về bệnh tim mạch (cardiovascular diseases); cùng 3 tập dữ liệu huấn luyện, phát triển và kiểm thử thuộc nhiệm vụ CDR (Chemical-Disease-Relation) tại cuộc thi BioCreative V.

Tổng quan tài liệu và vị trí của luận án

Bài toán nhận dạng thực thể định danh xuất hiện từ đầu những năm 1990 (Rau, 1991) và được định hình chuẩn hóa từ hội nghị Message Understanding Conference lần thứ 6 (MUC-6, 1995) với ba kiểu thực thể kinh điển: Người (Person), Tổ chức (Organization), Địa điểm (Location), kết hợp nhận dạng biểu thức thời gian, tiền tệ, tỷ lệ phần trăm. Sau đó, chương trình Automatic Content Extraction (ACE) và các hội nghị Conference on Natural Language Learning (CoNLL-2002, CoNLL-2003) tiếp tục mở rộng phân cấp thực thể. Trong miền y sinh, chuỗi hội thảo BioNLP/JNLPBA 2004 (Kim và cộng sự, 2004) đưa ra nhiệm vụ nhận diện gen và protein; hội thảo BioCreative V (Wei và cộng sự, 2015) tổ chức nhiệm vụ Track 3 - CDR nhận dạng thực thể bệnh và hóa chất/thuốc.

Về mặt kỹ thuật, các nghiên cứu quốc tế trải qua các giai đoạn tiếp cận:

  • Phương pháp dựa trên luật và khớp mẫu thủ công (Appelt và cộng sự, 1993).
  • Phương pháp học máy thống kê có giám sát: Mô hình Entropy cực đại (Maximum Entropy - MaxEnt; Borthwick và cộng sự, 1996), Trường ngẫu nhiên có điều kiện (Conditional Random Fields - CRF; Lafferty, McCallum, Pereira, 2001). Florian và cộng sự (2003) kết hợp nhiều bộ phân loại đạt F1 88,76% trên tập CoNLL-2003.
  • Phương pháp bán giám sát và học sâu: Ando và Zhang (2005) dùng 27 triệu từ chưa gán nhãn đạt F1 90,8%; Ratinov và Roth (2009) kết hợp Wikipedia và gom cụm Brown đạt F1 89,31%; Collobert và cộng sự (2011) áp dụng mạng nơ-ron nhiều tầng với 852 triệu từ chưa gán nhãn đạt F1 89,59%.
  • Phương pháp thích nghi miền (domain adaptation): Daumé (2007), Wang và cộng sự (2009) cho bài toán nhận dạng protein.

Đối với dữ liệu tiếng Việt, các nghiên cứu tiêu biểu bao gồm:

  • Học có giám sát: Nguyen Cam Tu và cộng sự (2005) áp dụng CRF trên 8 loại thực thể đạt F1 85,51%; Le và cộng sự (2013) cùng Nguyen và cộng sự (2012) tích hợp đặc trưng ontology và giải thuật di truyền vào CRF; Tran và cộng sự (2007) sử dụng Máy vectơ hỗ trợ (SVM) với công cụ YamCha đạt F1 87,75% (vượt trội so với CRF đạt 86,48%); Thao và cộng sự (2007) dùng kỹ thuật tổ hợp bỏ phiếu (voting) nâng F1 lên 88,02%.
  • Học bán giám sát: Sam và cộng sự (2011a) dùng lan truyền nhãn trên đồ thị; Le Trung và cộng sự (2014) dùng kỹ thuật mồi dữ liệu (bootstrapping) tự động sinh mẫu.
  • Dựa trên luật: Ripple-down rule (Nguyen và Pham, 2012; Nguyen, Ho, Pham, 2010), luật ngữ pháp (Le và Nguyen, 2010; Luu, Dinh, Nguyen, 2013).
  • Luận án tiến sĩ trong nước: Sam Chanrathany (2013) nghiên cứu trích xuất thực thể và quan hệ hai ngôi bằng học bán giám sát; Nguyễn Thanh Hiên (2011) giải quyết nhập nhằng thực thể dựa trên ontology miền đóng và miền mở. Cả hai luận án này thực nghiệm trên tập dữ liệu nhỏ (1.200 câu).
  • Nghiên cứu ứng dụng: Sam và cộng sự (2011b) trích xuất quan hệ; Nguyen và cộng sự (2013) trích xuất sự kiện dịch bệnh tiếng Việt.

Đối với văn bản y sinh tiếng Anh:

  • Vlachos (2010) nhận dạng gen và trích xuất sự kiện tại BioNLP chủ yếu dựa trên luật.
  • Khordad và cộng sự (2011), Khordad (2014) nhận dạng thực thể biểu hiện và gen, phát hiện quan hệ biểu hiện - gen nhưng chưa đưa ra định nghĩa hình thức rõ ràng về thực thể biểu hiện, làm sót nhiều thực thể và chưa mở rộng ra các thực thể bệnh, thuốc, bộ phận cơ thể.
  • Lin và cộng sự (2004), Cohen và Hunter (2008), Zweigenbaum và cộng sự (2007, 2009) chỉ ra các thách thức đặc thù của văn bản y sinh và khuyến nghị kết hợp tri thức chuyên gia với kỹ thuật tính toán.

Vị trí của luận án được xác lập thông qua việc giải quyết hai khoảng trống then chốt:

  1. Trong tiếng Việt: Kết hợp đồng thời nhận dạng thực thể tên người và nhận dạng thuộc tính thực thể trong cùng một mô hình thống nhất, kiểm chứng trên tập dữ liệu đủ lớn (10.000 câu) và tích hợp trực tiếp vào hệ thống hỏi đáp tự động tiếng Việt.
  2. Trong văn bản y sinh tiếng Anh: Đưa ra định nghĩa hình thức và lược đồ ngữ nghĩa chuẩn xác cho thực thể biểu hiện (phenotype), xây dựng 2 bộ dữ liệu chuẩn (Phenominer A và Phenominer B, 900 câu mỗi bộ), phát triển mô hình lai ghép đa tầng kết hợp học xếp hạng (Learn to Rank) và tri thức chuyên ngành, đồng thời khảo sát bài toán thích nghi miền dữ liệu và triển khai hệ thống tra cứu trực tuyến PhenoMiner.

Cơ sở lý thuyết và phương pháp nghiên cứu

Luận án dựa trên định nghĩa nền tảng của Aggarwal và Zhai (2012): Nhận dạng thực thể có tên là bài toán xác định các đoạn biểu diễn thực thể định danh từ văn bản tự do và phân lớp chúng vào một tập hợp các kiểu định trước. Quá trình nhận dạng chuẩn đòi hỏi thỏa mãn hai tiêu chí: xác định đúng biên thực thể (boundary detection) và gán đúng kiểu thực thể (type classification).

Các mô hình học máy và kỹ thuật phân tích được sử dụng trong luận án gồm:

  • Mô hình Entropy cực đại kết hợp tìm kiếm chùm (Maximum Entropy Model with Beam Search - MEM+BS): Mô hình xác suất có điều kiện giúp kết hợp nhiều đặc trưng không độc lập, sử dụng giải thuật tìm kiếm chùm để giải mã chuỗi nhãn tối ưu cục bộ và toàn cục.
  • Trường ngẫu nhiên có điều kiện (Conditional Random Fields - CRF): Mô hình đồ thị vô hướng dùng để gán nhãn chuỗi tuần tự, khắc phục hiện tượng thiên lệch nhãn (label bias problem).
  • Máy vectơ hỗ trợ (Support Vector Machine - SVM): Bộ phân loại biên cực đại được áp dụng phân loại thực thể và quan hệ.
  • Học xếp hạng bằng Máy vectơ hỗ trợ (SVM-Learn to Rank - SVM-LTR): Áp dụng trong kiến trúc lai ghép để chấm điểm và tái xếp hạng các ứng viên thực thể đầu ra từ nhiều mô hình thành phần.
  • Kỹ thuật thích nghi miền (Domain Adaptation): Chuyển giao tri thức học được từ miền nguồn sang miền đích trong văn bản y sinh.

Các độ đo định lượng tiêu chuẩn được sử dụng:

  • Độ chính xác (Precision - $P$): Tỷ lệ các thực thể được hệ thống nhận dạng đúng trên tổng số thực thể mà hệ thống tìm ra.
  • Độ hồi tưởng (Recall - $R$): Tỷ lệ các thực thể hệ thống nhận dạng đúng trên tổng số thực thể thực tế có trong dữ liệu.
  • Độ đo $F_1$ ($F_1$-measure): Trung bình điều hòa giữa Precision và Recall: $$F_1 = \frac{2 \times P \times R}{P + R}$$
  • Kiểm định độ tin cậy thống kê: Sử dụng phương pháp xấp xỉ ngẫu nhiên (randomized approximation) để kiểm tra sự khác biệt hiệu năng có ý nghĩa thống kê khi loại bỏ từng nguồn tài nguyên tri thức.
Nhóm dữ liệu / Tài nguyên Tên gọi / Nguồn Quy mô / Đặc điểm Mục đích sử dụng
Văn bản tiếng Việt Ngữ liệu gán nhãn thực thể & thuộc tính 10.000 câu Huấn luyện và đánh giá mô hình MEM+BS và CRF
Văn bản tiếng Việt Tập dữ liệu câu hỏi tiếng Việt Tập câu hỏi tự nhiên Đánh giá thành phần phân tích câu hỏi và hệ thống hỏi đáp tự động
Văn bản y sinh tiếng Anh Phenominer A 900 câu gán nhãn Nhận dạng thực thể biểu hiện về bệnh tự miễn dịch
Văn bản y sinh tiếng Anh Phenominer B 900 câu gán nhãn Nhận dạng thực thể biểu hiện về bệnh tim mạch
Văn bản y sinh tiếng Anh BioCreative V CDR Task 3 tập (Train, Dev, Test) Đánh giá mô hình nhận dạng thực thể hóa chất và bệnh
Tài nguyên hỗ trợ PubMed, Từ điển / Ontology y sinh Kho văn bản và cơ sở tri thức Trích xuất đặc trưng từ vựng, ngữ nghĩa và kiểm thử đóng góp tài nguyên

Nội dung chính theo từng chương

Chương 1 - Khái quát về nhận dạng thực thể

Chương 1 hệ thống hóa toàn diện cơ sở lý thuyết về bài toán NER. Tác giả phân tích các khái niệm cơ bản, phân loại thực thể từ các hội nghị MUC-6, ACE, BioNLP/JNLPBA 2004 và BioCreative V CDR Task; trình bày các độ đo chuẩn ($P, R, F_1$) và quy định biên thực thể. Chương này điểm lại các ứng dụng của NER trong trích xuất quan hệ, trích xuất sự kiện (như hệ thống BioCaster), và hệ thống hỏi đáp tự động (Yao và Van Durme 2014; West và cộng sự 2014; Harabagiu và cộng sự 2005).

Tác giả phân tích lịch sử các hướng tiếp cận từ luật thủ công, học máy thống kê (MaxEnt, CRF, SVM), mô hình kết hợp (Florian và cộng sự 2003), đến các kỹ thuật bán giám sát (Ando và Zhang 2005; Ratinov và Roth 2009), học sâu (Collobert và cộng sự 2011) và thích nghi miền (Daumé 2007; Wang và cộng sự 2009). Đặc biệt, chương 1 phân tích sâu sắc các thách thức xử lý dữ liệu:

  • Đối với tiếng Việt: Bản chất ngôn ngữ đơn lập, âm tiết viết rời, ranh giới từ khó xác định, hiện tượng đồng âm khác nghĩa, ngữ pháp biến thể linh hoạt, cùng sự thiếu hụt công cụ xử lý chuẩn.
  • Đối với văn bản y sinh: Tính chuyên môn hóa cao, thuật ngữ phức tạp chứa chữ Hy Lạp, dấu nối, thiếu danh pháp chuẩn cho thực thể phenotype, biên thực thể dài và lồng ghép nhiều loại thực thể (gen, bệnh, bộ phận cơ thể).

Chương 2 – Nhận dạng thực thể tên người kết hợp với nhận dạng thuộc tính thực thể có tên trong văn bản tiếng Việt

Chương 2 trình bày giải pháp cho bài toán nhận dạng thực thể tiếng Việt. Tác giả đề xuất mô hình tích hợp đồng thời nhận dạng thực thể tên người và các thuộc tính liên quan (chức danh, nơi công tác, địa chỉ, quốc tịch, giới tính...).

Nghiên cứu sinh thiết kế không gian nhãn gán chi tiết (Bảng 2.2) và tập đặc trưng phong phú (Bảng 2.3) bao gồm đặc trưng từ vựng, từ loại (POS), tiền tố/hậu tố, và từ điển chỉ thị. Mô hình được đánh giá trên tập dữ liệu chuẩn 10.000 câu tiếng Việt, so sánh giữa hai phương pháp MEM+BS và CRF.

Mô hình / Phương pháp Độ chính xác ($P$) Độ hồi tưởng ($R$) Độ đo $F_1$
MEM + BS Đạt mức cao trên nhãn tổng thể Cân bằng theo chùm tìm kiếm Đạt hiệu quả khả quan toàn hệ thống
CRF Thể hiện độ bao quát tốt trên chuỗi Tối ưu phân bố nhãn toàn cục Cho kết quả cạnh tranh trên từng nhãn thực thể

Chương 2 tiếp tục ứng dụng mô hình NER vào hệ thống hỏi đáp tự động tên người tiếng Việt. Tác giả phân tích cấu trúc đặc trưng câu hỏi tiếng Việt (Bảng 2.6, 2.7, 2.8), thực hiện gán nhãn thành phần câu hỏi và đánh giá hiệu năng thành phần phân tích câu hỏi (Bảng 2.10) cùng toàn bộ hệ thống trả lời tự động trên tập dữ liệu câu hỏi thực tế (Bảng 2.9, 2.11).

Chương 3 – Nhận dạng thực thể biểu hiện trong văn bản y sinh tiếng Anh

Chương 3 tập trung vào bài toán nhận dạng thực thể biểu hiện (phenotype) và các thực thể liên quan (gen, bệnh, bộ phận cơ thể). Tác giả thiết lập lược đồ ngữ nghĩa chuẩn xác (Hình 3.2), xây dựng hai bộ dữ liệu thực nghiệm gồm Phenominer A (bệnh tự miễn dịch, Bảng 3.1) và Phenominer B (bệnh tim mạch, Bảng 3.2), mỗi tập gồm 900 câu gán nhãn chuẩn.

Chương này triển khai 4 thực nghiệm đánh giá lớn:

  • Thực nghiệm 1: Đánh giá hiệu quả mô hình đề xuất với các kỹ thuật học máy khác nhau dựa trên tập đặc trưng tích hợp từ điển và tri thức y sinh (Bảng 3.3).
  • Thực nghiệm 2: So sánh đối chuẩn kết quả của mô hình đề xuất với các công trình công bố quốc tế tiêu biểu (Bảng 3.4).
  • Thực nghiệm 3: Đánh giá đóng góp riêng biệt của từng nguồn tài nguyên/từ điển y sinh đối với độ đo $F_1$ của hệ thống (Bảng 3.5, 3.8).
  • Thực nghiệm 4: Ứng dụng mô hình tham gia nhiệm vụ quốc tế BioCreative V CDR Task trên 3 tập dữ liệu chuẩn (Bảng 3.6, 3.7).
  • Cuối chương, tác giả phân tích và khảo sát các phương án thích nghi miền dữ liệu (domain adaptation) giữa các tập văn bản y sinh khác nhau.

Chương 4 – Một mô hình nâng cấp hiệu quả nhận dạng thực thể y sinh dựa trên kỹ thuật lai ghép và học xếp hạng

Chương 4 đề xuất giải pháp kiến trúc nâng cấp mô hình nhận dạng thực thể y sinh thông qua kỹ thuật lai ghép (ensemble models) kết hợp giữa hệ thống dựa trên luật/tri thức và các bộ phân loại học máy.

Tác giả khảo sát, cài đặt và so sánh 3 phương pháp lai ghép quyết định kết quả đầu ra:

  1. Phương pháp lai ghép sử dụng danh sách ưu tiên dựa trên luật (Priority List - PL): Sắp xếp thứ tự ưu tiên áp dụng giữa các bộ nhận dạng theo độ tin cậy được định nghĩa trước (Hình 4.3).
  2. Phương pháp lai ghép sử dụng học máy gán nhãn chuỗi (MEM+BS): Sử dụng mô hình Entropy cực đại kết hợp tìm kiếm chùm để gán nhãn tích hợp kết quả từ các bộ phân loại (Hình 4.4).
  3. Phương pháp lai ghép sử dụng học xếp hạng (SVM-Learn to Rank - SVM-LTR): Chuyển đổi bài toán quyết định thực thể thành bài toán xếp hạng các ứng viên thực thể dựa trên mô hình máy vectơ hỗ trợ học xếp hạng (Hình 4.5).

Thực nghiệm trên tập dữ liệu Phenominer A (Bảng 4.1) chứng minh phương pháp SVM-LTR đem lại kết quả tối ưu nhất. Tác giả thực hiện kiểm thử độ tin cậy thống kê bằng phương pháp xấp xỉ ngẫu nhiên khi loại bỏ lần lượt từng nguồn tài nguyên (Bảng 4.2), đồng thời phân tích chi tiết các dạng lỗi của mô đun quyết định kết quả giữa phương pháp danh sách ưu tiên (PL) và phương pháp học xếp hạng (SVM-LTR) tại Bảng 4.3.

Kết quả và những đóng góp mới

Luận án đã đạt được các đóng góp mới chủ yếu về mặt lý luận khoa học và thực tiễn ứng dụng như sau:

Đóng góp về mặt khoa học và lý luận:

  • Đề xuất mô hình tích hợp đồng thời bài toán nhận dạng thực thể có tên và nhận dạng thuộc tính thực thể trong văn bản tiếng Việt trên cùng một kiến trúc thống nhất, giải quyết hạn chế của các phương pháp phân tách tuần tự truyền thống.
  • Xây dựng hệ thống khái niệm, định nghĩa hình thức và lược đồ ngữ nghĩa rõ ràng cho thực thể biểu hiện (phenotype) cùng mối quan hệ tương tác với các thực thể liên quan (gen, bệnh, bộ phận cơ thể) trong văn bản y sinh tiếng Anh.
  • Đề xuất mô hình kiến trúc lai ghép nâng cấp hiệu năng NER y sinh kết hợp học máy và tri thức miền, trong đó chứng minh việc ứng dụng kỹ thuật học xếp hạng (SVM-LTR) và mô hình gán nhãn chuỗi (MEM+BS) giúp tối ưu hóa việc phân định ranh giới và kiểu thực thể.
  • Xây dựng khung làm việc đánh giá đóng góp tài nguyên và bài toán thích nghi miền dữ liệu y sinh có kiểm định độ tin cậy thống kê bằng phương pháp xấp xỉ ngẫu nhiên.
  • Các kết quả lý thuyết được công bố trên các ấn phẩm khoa học chuyên ngành uy tín trong và ngoài nước (danh mục công trình tác giả từ CTLA1 đến CTLA7).

Đóng góp về mặt thực tiễn và ứng dụng:

  • Xây dựng các bộ dữ liệu gán nhãn chuẩn hóa: Ngữ liệu tiếng Việt 10.000 câu gán nhãn thực thể và thuộc tính; hai bộ dữ liệu y sinh Phenominer A (900 câu về bệnh tự miễn dịch) và Phenominer B (900 câu về bệnh tim mạch).
  • Ứng dụng thành công mô hình NER tiếng Việt vào việc xây dựng thành phần phân tích câu hỏi trong hệ thống hỏi đáp tự động tiếng Việt về thực thể tên người.
  • Xây dựng và triển khai hệ thống tra cứu trực tuyến quan hệ thực thể biểu hiện - bệnh PhenoMiner (tại địa chỉ http://phenominer...), phục vụ tra cứu thông tin y sinh học thực tế.

Hạn chế và hướng nghiên cứu tiếp

Dựa trên nội dung và phạm vi nghiên cứu được tác giả trình bày, luận án ghi nhận một số hạn chế và hướng phát triển tiếp theo:

Hạn chế:

  • Đối với dữ liệu tiếng Việt: Mô hình còn phụ thuộc vào chất lượng của bước tiền xử lý tách từ (word segmentation); sai số phân đoạn từ có thể lan truyền làm ảnh hưởng đến nhận diện biên thực thể. Không gian thuộc tính tên người mới giới hạn trong các lớp thuộc tính phổ biến được định nghĩa.
  • Đối với dữ liệu y sinh: Quá trình tích hợp nhiều nguồn từ điển và ontology làm tăng độ phức tạp tính toán của mô hình. Các cấu trúc lồng ghép phức tạp giữa thực thể biểu hiện dài và các thực thể con bên trong vẫn còn phát sinh lỗi phân loại.

Hướng nghiên cứu tiếp:

  • Mở rộng mô hình nhận dạng thực thể tiếng Việt sang các lớp thực thể phức tạp khác ngoài tên người và ứng dụng cho nhiều bài toán khai phá dữ liệu đa dạng.
  • Nghiên cứu áp dụng các mô hình học sâu (deep learning) và kỹ thuật biểu diễn phân tán (word embeddings) từ các tập dữ liệu không gán nhãn quy mô lớn hơn để tăng cường khả năng thích nghi miền.
  • Tiếp tục nâng cấp và hoàn thiện hệ thống tra cứu PhenoMiner, mở rộng nhận dạng quan hệ sang trích xuất sự kiện y sinh nhiều ngôi.

Giá trị tham khảo

Luận án là tài liệu tham khảo có giá trị chuyên môn cao cho các đối tượng:

  • Nghiên cứu sinh, học viên cao học và sinh viên chuyên ngành Công nghệ thông tin, Khoa học dữ liệu, Hệ thống thông tin: Tham khảo phương pháp luận kết hợp mô hình học máy thống kê (MEM+BS, CRF, SVM-LTR), quy trình xử lý ngôn ngữ tiếng Việt và khai phá dữ liệu y sinh.
  • Giảng viên và các nhà nghiên cứu trong lĩnh vực Xử lý ngôn ngữ tự nhiên (NLP) và Tin sinh học (Bioinformatics / BioNLP): Khai thác phương pháp luận thiết kế đặc trưng đa nguồn tri thức, kỹ thuật lai ghép mô hình dựa trên học xếp hạng, và quy trình kiểm định thống kê xấp xỉ ngẫu nhiên.
  • Các kỹ sư phát triển hệ thống: Tham khảo kiến trúc tích hợp NER vào hệ thống hỏi đáp tự động tiếng Việt và xây dựng hệ thống tra cứu dữ liệu y sinh trực tuyến PhenoMiner.

Câu hỏi thường gặp

1. Luận án giải quyết những thách thức chính nào của bài toán NER trên văn bản tiếng Việt?
Luận án giải quyết đặc trưng tiếng Việt là ngôn ngữ đơn lập, âm tiết viết rời, ranh giới từ phức tạp, hiện tượng đồng âm khác nghĩa và thiếu ngữ liệu chuẩn. Tác giả đề xuất mô hình tích hợp đồng thời nhận dạng thực thể tên người và các thuộc tính của thực thể (chức danh, nơi làm việc, quốc tịch...) trên tập dữ liệu chuẩn 10.000 câu gán nhãn và tích hợp vào hệ thống hỏi đáp tự động.

2. Thực thể biểu hiện (phenotype) trong văn bản y sinh có đặc điểm gì và gặp khó khăn gì khi nhận dạng?
Thực thể biểu hiện trong văn bản y sinh thường không tuân theo danh pháp chuẩn hóa, thuật ngữ dài, chứa chữ viết tắt, ký tự Hy Lạp, dấu nối, từ phủ định, và thường có cấu trúc lồng ghép các thực thể khác (như gen, bệnh, bộ phận cơ thể). Điều này khiến việc xác định chính xác biên thực thể và phân biệt với các thực thể liên quan trở nên phức tạp.

3. Quy mô và đặc điểm của các bộ dữ liệu Phenominer được xây dựng trong luận án là gì?
Tác giả đã xây dựng hai bộ dữ liệu gán nhãn chuẩn gồm: Phenominer A tập trung vào miền bệnh tự miễn dịch (autoimmune diseases) với 900 câu gán nhãn, và Phenominer B tập trung vào miền bệnh tim mạch (cardiovascular diseases) với 900 câu gán nhãn.

4. Ba phương pháp lai ghép mô hình được đề xuất trong Chương 4 là gì và phương pháp nào cho hiệu quả tốt nhất?
Ba phương pháp lai ghép gồm: (1) Danh sách ưu tiên dựa trên luật (Priority List - PL); (2) Học máy gán nhãn chuỗi (MEM+BS); (3) Học xếp hạng máy vectơ hỗ trợ (SVM-LTR). Thực nghiệm trên tập dữ liệu Phenominer A chứng minh phương pháp SVM-LTR mang lại hiệu năng cao nhất trong việc quyết định kết quả nhận diện thực thể.

5. Luận án đã xây dựng những ứng dụng thực tế nào từ các mô hình đề xuất?
Luận án đã ứng dụng mô hình nghiên cứu vào hai hệ thống thực tế: (1) Hệ thống hỏi đáp tự động tiếng Việt liên quan đến thực thể tên người; (2) Hệ thống tra cứu trực tuyến quan hệ giữa thực thể biểu hiện và bệnh tật PhenoMiner.

Kết luận

Luận án tiến sĩ của tác giả Trần Mai Vũ đã giải quyết có hệ thống bài toán nhận dạng thực thể có tên và thực thể biểu hiện trên hai miền dữ liệu đặc thù là văn bản tiếng Việt và văn bản y sinh tiếng Anh. Bằng việc kết hợp các mô hình học máy thống kê (MEM+BS, CRF), kỹ thuật lai ghép dựa trên học xếp hạng (SVM-LTR), và các nguồn tri thức miền phong phú, luận án đã nâng cao hiệu quả nhận dạng trên các tập dữ liệu thực nghiệm quy mô lớn. Các đóng góp của luận án được kiểm chứng qua các công bố khoa học chuyên ngành và được hiện thực hóa thành công vào hệ thống hỏi đáp tự động tiếng Việt cùng hệ thống tra cứu y sinh trực tuyến PhenoMiner.