Chương 1: Giới thiệu về bôi cảnh ra đời, nhu câu thực tiên của bệnh án điện tử. Giai đoạn xây dựng và khai thác BADT ở Việt Nam. Pham vi và mục tiêu của đề tài. Chương 2: Trình bày một vài công trình ở các nước phát triển họ đã thực hiện, các phương pháp tiếp cận khác nhau cho bài toán rút trích thuật ngữ.
Chương 3: Nhặc lại một sô khái niệm vê ngôn ngữ, kiên thức cơ bản. Chương 4: Trình bày phương pháp giải bài toán. Chương 5: Trinh bay từng công đoạn của quy trình, giải thuật và ví du. Chương 6: Kết quả, đánh giá hiệu suất quy trình, so sánh với công trình tương đương, một số hạn chế, hướng phát triển, cải tiễn thêm cho quy trình.
CHƯƠNG 2 CÁC CÔNG TRÌNH LIÊN QUAN 2. Các hướng tiếp cận bài toán Trong lĩnh vực sinh học phân tử, tên protein, gen [2] thay đối rất nhanh chóng. Trong lĩnh vực ôn định hon, như y học lâm sàng, tồn tại nhiều thuật n et địa phương mà chưa được liệt kê trong bất kỳ từ điển nào. Vì thế việc khai thác thuật ngữ một cách tự động trong văn bản lâm sàng là việc rất cần thiết hiện nay.
Thế giới có công trình tiếng Anh [3], tiếng Thụy Điền [8], tiếng Pháp [28][6], tiếng Đức [4], tiếng Hà Lan [7], tiếng Tây Ban Nha [1], gan day nhat 1a công trình tiếng Ba Lan [10]. Ở Việt Nam có công trình dau tiên về trích xuất thuật ngữ y học trong BAĐT tiếng Việt [18]. Rút trích thuật ngữ tự động (Automatic Term Extraction — ATE) là phương pháp sử dụng máy tính để nhận dạng các chuỗi từ có tiềm năng là thuật ngữ trong đoạn văn bản. Việc trích xuất thuật ngữ sử dụng máy tính có thể hiện thực hoàn toàn tự động, hoặc bán tự động kết hợp với các chuyên gia để tăng độ chính xác trong kết quả hoặc trường hợp trích xuất thuật ngữ trong các đoạn văn bản mang tính chất đặc biệt.
Tự động trích xuất thuật ngữ đóng vai trò cực ky quan trọng trong nhiều hệ thống như truy hỏi thông tin, hệ thông van đáp, xây dựng và tự động mở rộng các bộ từ điển hay bản thé học (Ontology) và mạng ngữ nghĩa từ (WordNet). Từ khi phát triển tới nay, rất nhiều phương pháp tiếp cận được dé xuất cho van dé tự động trích xuất thuật ngữ như: sử dụng kỹ thuật ngôn ngữ học [9], sử dụng kỹ thuật thống kê [23], hoặc sử dụng kết hợp cả hai kỹ thuật. Để tăng thêm độ chính xác của kết quả đầu ra, các tài nguyên có sẵn bên ngoài khác (Ví dụ: từ điển chuyên ngành, tập văn bản chuyên nganh,.) có thé được sử dụng dé hỗ trợ cho quá trình đánh giá thuật ngữ. Bên cạnh các kỹ thuật về ngồn ngữ học và xác suất, người fa còn sử dụng hoc máy trong trích xuất thuật ngữ [18].
Bước đầu tiên của trích xuất thuật ngữ là trích xuất các thuật ngữ tiềm năng từ tập văn bản. Ở bước này, kỹ thuật ngôn ngữ học thường được áp dụng. Bước tiếp theo là xếp hạng các thuật ngữ tiềm năng dựa trên điểm số thống kê của chúng, điều này nhăm đưa các từ có tiềm năng cao là thuật ngữ lên dau của day kết quả. Dựa trên tong hop cua Kruthmmer and Nenadic 2004 [24], các hướng tiép can cua bài toán ATE được chia ra lam 4 loại chính là: ngôn ngữ hoc, giá tri thống kê, học máy và lai (kết hợp các phương pháp với nhau).
Ngoài ra, còn có phương pháp hỗ trợ là sử dụng tri thức ngoài. Phương pháp ngôn ngữ học Trong bài toán tự động trích xuất thuật ngữ, phương pháp ngôn ngữ học thường là bước đâu tiên để trích xuất các thuật ngữ tiềm năng từ văn bản. Vì thuật ngữ chỉ xuất hiện trong một số giới hạn cấu trúc ngữ pháp là danh từ, động từ hay tính từ. Việc sử dụng kỹ thuật ngôn ngữ học dé lọc bớt số chuỗi từ không phải là thuật ngữ tiém năng, day là bước quan trọng cải thiện độ chính xác cua tap đầu ra, cũng như kết quả cuối cùng của ATE.
Thông thường, việc trích xuất thuật ngữ tiềm năng từ văn bản khi sử dụng phương pháp ngôn ngữ học sẽ theo các bước sau: - Gán nhãn từ loại cho toàn bộ văn bản cân trích xuât, với những phân tích sâu hơn, văn bản cũng có thé được đánh dau bởi các thông tin cú pháp phức tạp hơn. - Trích xuất các thuật ngữ tiềm năng băng các bộ lộc như: ngữ nghĩa, từ vựng, hình thái. Việc chọn lựa giữa các bộ lọc tùy thuộc vào đặc trưng của thuật ngữ ( thuật ngữ đơn từ, thuật ngữ đa từ, hay thuật ngữ có tiên tố - hậu tố đặc biệt. - Tuy thuộc vào đặc trưng của bài toán có thể loại bỏ bớt các thuật ngữ tiềm năng băng danh sách từ loại bỏ (list of stop-words).
Ví dụ: đã, dễ, này, kia, nọ, xong, thỉnh_ thoảng, .| IS] Dựa vào mục đích của việc trích xuất mà thuật ngữ tiém nang co thé 1a két qua cudi cùng của hệ thống, hoặc được chuyền tiếp sang các bước ATE khác. Công trình LEXTER của Bourigault vào năm 1992 trên tiếng Pháp [9] là một ví dụ của hệ thống ATE chỉ sử dụng thuần kỹ thuật ngôn ngữ học. Nghiên cứu này dựa trên nhãn từ loại (PoS tagging) để lọc thuật ngữ tiềm năng băng bộ lộc ngữ nghĩa. Bên cạnh việc sử dụng đặc trưng từ loại để nhận dạng thuật ngữ, một SỐ ngôn ngữ có đặc tính biến hình như tiếng Anh, tiếng LaTinh còn sử dụng đặc trưng là các tiếp đầu ngữ (prefix) và tiếp vị ngữ (suffix) để nhận dạng thuật ngữ.
Hoặc đối với các ngồn ngữ đơn hình như tiếng Trung Quốc, tiếng Nhật là sử dụng các đầu tố đặc biệt. Tuy nhiên, việc sử dụng thuần phương pháp ngôn ngữ học, chỉ giúp phát hiện các từ có câu trúc về mặt ngôn ngữ tương tự với các thuật ngữ mà không xét tới độ liên quan của từ đó với chuyên ngành của thuật ngữ cần trích xuất cũng như độ quan trọng của từ đó trong văn bản đang xét. Điều này khiến cho việc chỉ sử dụng bộ lọc ngôn ngữ sẽ đem lại kết quả không cao. Vì vậy, phương pháp ngôn ngữ học thường được kết hợp sử dụng với kỹ thuật thống kê, hoặc học máy, sự kết hợp này được gọi là phương pháp lai.
Phương pháp thông kê Đối với phương pháp này, các từ và cụm từ sẽ được hệ thống đánh giá theo một trong hai thang đo chính: Termhood và Unihood. Thang đo Termhood thé hiện độ liên quan của từ, cụm từ so với nội dung của văn bản đầu vào. Ngược lại, thang đo Unihood thê hiện độ liên kêt giữa các từ, cụm từ với nhau trong văn bản. Trước khi sử dụng được phương pháp thống kê, hướng tiếp cận này cần xác định các từ, cụm từ để đánh giá hay còn gọi là thuật ngữ tiềm năng.
Có hai cách để xác định thuật ngữ tiềm năng: dùng phương pháp n-gram hoặc dùng phương pháp ngôn ngữ học đã trình bày ở trên. Với phương pháp n-gram, hệ thống sẽ lay ra tat cả các cụm từ có không nhiêu hơn n từ. Ví dụ, với 3-gram, hệ thống sẽ lẫy tat cả các từ có 1,2, và 3 tiếng trong toàn bộ văn bản. Do đó, khi sử dụng n-gram, SỐ lượng thuật ngữ tiềm năng là rất lớn khi n lớn.
Một số công trình như [20] [3| sử dụng thang đo Termhood. Ngược lại, công trình như [25] sử dụng thang đo Unihood hoặc sử dụng kết hợp cả hai thang đo Termhood và Unihood trong cùng một hệ thống như [10]. Phương pháp học máy Trong bài báo [26], tac giả Jody Foo sử dụng phương pháp học máy theo luật (Learning Rules) cụ thể là sử dụng thuật toán Ripper. Một trong những lý do quan trọng mà tác giả dùng học máy theo luật là vì kết quả của hệ thống cuối cùng có thể đọc hiểu được, chúng ở dang các quy luật, có thé biểu diễn trực tiếp (dùng luật néu- thì : if-then rules) hoặc biéu diễn gián tiếp ( dùng cây quyết định: Decision Tree).
Với thuật toán Ripper, tác giả thực hiện huấn luyện cho hệ thống trích xuất thuật ngữ dựa trên các đặc trưng của từ, cum từ trong Bảng 2. Các đặc trưng POS, msd, func, sem được sinh ra bởi bộ gan nhãn FDG. Đặc trưng freg được đếm trong tập văn bản đầu vào. Các đặc trưng zeroprobs, logprob, ppll và ppl2 được tác giả xây dựng bằng cách xây dựng mô hình ngôn ngữ sử dụng gói phan mém SRILM [26].
Tuy nhiên, cách tiếp cận này cho bài toán trích xuất thuật ngữ trong bệnh án điện tử tiếng Việt gặp nhiều trở ngại. Trong tiếng Việt, chưa có các công trình nghiên cứu hay một bộ phân mềm tương tự SRILM. Do đó có nhiều đặc trưng chưa thé sử dụng được. Đồng thời, để xây dựng một mô hình ngôn ngữ đòi hỏi khối lượng công việc khá nhiều, không thể đáp ứng trong khoảng thời gian chúng tôi làm luận văn.
Ngoài ra, một số phương pháp học máy khác như mô hình Markov ấn (Hidden Markov Model), vector hỗ trợ (Support Vector Machine) cũng được sử dụng như một phương pháp tiếp cận. Tuy nhiên, những bai toán thường được áp dung chỉ là tự động trích xuất cum từ khóa (Automatic Keyphrase Extraction — AKE) hoặc trích xuất thuật ngữ dạng tên thực thể như tên bệnh, tên gen, tên phòng khoa tham gia, v.v, các loại thuật ngữ khác đạt kết quả không cao.4 Các đặc trưng sử dụng trong phương pháp học máy. Đặc trưng Mô tả POS Từ loại msd Hình thai cú pháp func Chức năng ngữ pháp sem Thông tin ngữ nghĩa freg Tân sô ngram trong văn bản zeroprobs Số token với xác suat băng không trong mô hình ngôn ngữ logprob Giá trị xác suât. bỏ qua các từ va token chưa biết ppll Giá trị trung bình của 1/ xác suất của mỗi token ppl2 Trung bình độ hỗn loạn của mỗi từ 10 2.
Phương pháp sử dung tri thức ngoài Một số công trình nghiên cứu và xây dựng hệ thống áp dụng phương pháp sử dụng tri thức ngoài như [10][27]. Nhưng đa số phương pháp này chỉ là phần giúp cải thiện độ chính xác của hệ thống, là một thành phần trong phương pháp lai. Cách tiếp cận của phương pháp này trong các bài nghiên cứu là sử dụng một trong ba loại tri thức ngoài: WordNet, văn bản thường và từ điển chuyên ngành. Công trình trích xuất thuật ngữ sử dụng văn bản thường dién hình như của tác giả Chung công bố năm 2003 [28].
Hai tac giả Fukushige and Noguchi thì sử dụng cả 2 loại van ban thường và từ điển chuyên ngành [29].