LOI CAM DOAN Tôi — Lễ Quang Thắng — xin cam kết Luận văn tốt nghiệp là công trinh nghiên cứu của bân thân tôi dưới sự hướng đẫn của PGS. Trần Đỗ Đạt, Viện nghiên cứu quốc tế MICA, trường Đại học Bách Khoa Hà Nội Các kết quả nên trong Tuận văn tôi nghiệp là trung thực, không sao chép loàn vẫn của bắt kỳ công trình nào khác. 11ã Nội, ngày 04 tháng 09 năm 2014 Học viên thực hiện luận văn. Lẻ Quang Thắng LỜI CẢM ƠN Dau tiên, em xin được gũi lời cảm ơn chân thành đến các thầy giáo, cổ giáo thuộc trường đại học Bách Khoa Hà Nội.
Đặc biệt là các thây giáo, cô giáo tộc Viện. Công nghệ Thông tia và Truyền thông. Các thầy cỏ đã trang bị cho em những kiến. thức quý báu trong thời gian em học tập và nghiên cứu tại trường, Em cũng xin dược gửi lời cảm ơn dặc biết dến PGS.
Thay là người đã rất kiên trì chỉ dẫn tận tỉnh và cho em những kinh nghiệm quý báu trong suốt quá trình làm luận vẫn và trong cả cuộc sống sau này. Đồng thời em cũng xin gửi lời cảm ơn chân thành đến G8 T8 Miyao Yusnke và tal cỗ mọi người trong Miyao lab, thuộc viện công nghệ thông tin quốc gia Nhật Bản vì đã giúp 43 em rất nhiều trong việc thực hiện các nghiên cứu trong luận văn. tim cũng cảm ơn PGS.TS Lê Định Duy, TS Nguyễn Văn Kiên, 1S Trần Minh Quang cùng các anh chị nghiên củu sinh, thuộc viện công nghệ thông tin quốc gia Nhật Bân đã chia sẽ với em những kinh nghiệm quý báu về việc làm nghiên cứu, giúp em hoàn thánh luận vấn mội cách tốt hơn, Cuối cùng, cu xin gửi lời câm ơn tới gia đình, bạn hè. Những người đã luôn ở bên cạnh em cho đến tận giây phút cuỗi củng, MUC LUC LOT CAM ĐOÀN.
161 CAM ON LOW NOI BAU. Dan mục cic bang trang luận vát Danh mục các hình trong luận văn CHUONGL MỞĐẦU. Bài toán phân tích cả pháp. Fei trà của phân tích củ pháp trong tổng hợp tiếng nói.
đạc tiêu và nội dung cm luận văn. CÁC NGHIÊN CỨU TÔNG QUAN VẺPHẢNTÍCH CÚ PHÁP.__ Tướng tiếp cậu sử dụng Treebamk cho phân tích cú pháp. Miý phân hàn tập dữ liệu Traehank.3, Hiện wang cdc nvéng nghidn ctu cho phan tich cit phd.1 Mê hình xác suất PCFŒ 23.2 Các mô hình Generative. Các mỏ hành Discrindnative.
Thuật toán perteptrơn cấu trúc. 24 Các nghiên chủ về phân tích củ pháp tẳng PIệt,. HỆ THÔNG PHẢN TỈCH CÚ PHÁP SHIFT REPUCI BL Ùÿ thuyết cơ rử về hệ thông phân tịch siljf-redice,. Khai niém slate vi action trong plain lich shifl-reduce 3.2 Quả trình phân tích củ pháp shift-reduce.
Huấn luyện hệ thông phân tích shif-reduce sử dọng thuật (oán Perceptron c 3. Bai toan tim kiểm trong hệ thống phản tích ghữf-redue 3. tệ thông phan tich shift-reduce vic dung (bard tovw best first search BES). Các nghiên cứu di trede vé BFS cho phan tich ci phap shift-vreduce.
3 ng phân tich ci phap shift-reducc sử dụng BES của luận văn. rong số âm và cach giải quyết ‘Chua Loan quy hoạch động che phân tích stufl-zcđucc. Đánh giá hiệu nẵng của hệ thông phưân tích shifi-reduce sử đụng BES. SỬDỤNG THUẬT TOÁN A* CHO HỆ THÓNG PHÂN TÍCH SIIFT-REDUCE.
Hần để của hệ thẳng phím tích shị-reduee với tim kiếm 8ES. Bộ đặc trừng sử dụng thông lin bề mật 39 +43. Sit dung ước lượng A* đề tăng tắc độ phân tích của hệ thẳng.1, Phép chiếu GP (Granwmar Projectio). Phép chiến LF (Less Feature), 45 43.
Phép chiến két hop cita GP vaLF. ĐÁNH GIÁ À THỮ NGHIỆM H THONG. Chuẩn bị thử ngủ $3. Kết quả tỷ nghiệm vôi hộ thẳng nhiên tích củ nhấp.
Kết quá tá nghiệm voi hệ thông tổng hợp tiềng nói. những thuật toản học máy mạnh nhất cho phân tích cú pháp nói riêng và xử lý ngôn. ngữ tự nhiên nói chung, và cũng là thuật toán học máy luận vẫn sẽ s dụng cho hệ thông phản tích cú pháp tiếng Việt của mình. Cuối chương sẽ là một số tôm tắt khái quát về tình hình nghiên cứu phân tịch củ pháp cho tiếng, Việt, Chương 3chủ yếu tập trung nói về hệ thông phân tích củ pháp của luận văn, được dựa trên nẻn tảng là phương pháp phân tích cú phap Shift-Reduce két hợp với thuật toán học máy Terceptron cấu trúc của Zhu (2013)ƒ14].
Trong chương nay, luận văn sẽ trình bảy cách thức đề giải quyết bài toán tim kiểm chính xác dựa trên. thuật toán Best-Eirst-Search (BES) thay vi phải sử đựng giải thuật tìm kiếm không chính xác như Bean Search của Zhu. Cuối chương sẽ là một số thì nghiêm để đánh giá độ hiệu quả của hệ thống so với các hệ thống phân tích cú pháp Shift-Reduce sử dụng giải thuật BES trong các nghiên cứu đi trước Chương 4là chương mô tả các ý tưởng để xuất của luận văn đánh cho hệ thông ở chương 3 nhằm tăng tốc độ và độ chính xác của hệ thông. Đầu tiên là việc đề xuất và sử dụng một bộ đặc trưng mới dành cho phân tích củ pháp Shift-Reduce để nhằm làm giảm độ phúc tạp thuật toản mà không bị mắt mát vẻ độ chính xác.
Thứ bai là ý tưởng về các ước lượng A* dễ giúp tốc độ của hệ thống tăng lên gấp nhiều lần trong khi vẫn đám bảo được sự tối ưu về mặt tìm kiểm. Chương 5 là chương dành giá và thực nghiệm, sẽ bao gồrn 3 loại thi nghiệm: thị nghiệm của hệ thống phân tích củ pháp trên đữ liệu tiếng Anh, thí nghiệm của hệ thông trên đữ liệu tiếng Việt và cuỗi cùng thí nghiệm đánh giá độ ảnh hướng của hệ thông phân tích cú pháp của luận văn đối với hệ thông tổng hợp tiếng nói tiếng Việt Cuối cùng là kết luận vả tài hiên tham khảo. Lê Quang Thắng ~ CNTT. Do d6, viée nghiên cửu các thành phần ngữ pháp của một câu văn bản là rất hửa hẹn trong việc tăng chất lượng của bộ tông hợp tiếng nói.
Trong giới hạn hiều biết của người làm luận văn, có thẻ liệt kê ra một số các nghiên cửu phỏ biên trên thể giới trong việc áp dụng phân tích củ pháp vảo tông hợp tiếng nói (đặc biệt là cho tiếng Việt) như sau: - Tao ra cay ngit diéu (prosodic hierarchy): mét trong những ứng dụng phd biển của cây cú pháp trong tổng hop tiếng nói đó là việc tạo ra cây ngữ điệu từ cây củ pháp. Dựa vảo đó, hệ thống tổng hợp tiếng nỏi sẽ biết cách. ngắt nghỉ hợp lý hơn. Trên thế giới việc nghiên cửu làm sao đề chuyên từ cây cú pháp sang cây ngữ điệu đã phát triển từ lâu và đạt được một số kết quả nhất định [17] ROOT aUa lí age NNSy VÉP ADVP LÏ european wild TT cats are RE VEN _——— PP, ae often misclassified IN, NP in NP, PP; aN My NNS; IN, NPy old textbooks about NNS; animals Lê Quang Thắng - CNTT.
4 g 9 wr ra \ \ FRE FOF ri ha soa 696 G6 oor Firo pon wild catsare of ten miscli sified in old text-books a bout a nie mals - Mét sé cac hé thong tong hợp tiếng nói khác trên thể giới còn sử dụng các phương pháp học máy với đặc trưng lả các thông tin trích rút ra từ cây ngữ pháp của câu văn bản và đạt được những kết quả rất khả quan.[18] ~_ Các thông tin vẻ mặt cầu trúc của câu được cung cấp tử cây ngữ pháp đã từng được áp dụng vào phương pháp tổng hợp ghép nói các đơn vị âm không đồng nhất góp phan làm tăng hiệu quả vả chất lượng của bộ tổng. hợp tiếng nói tiếng Việt [5][2] ~_ Ngoài ra, trong một nghiên cửu khác vẻ tiếng Việt, cây củ pháp còn cung, cap thông vẻ từ trung tâm giúp hệ thong tổng hợp tiếng biết cách đặt trọng âm vảo đúng vị trí. Mục tiêu và nội dung của luận văn Luận văn sẽ tập trung hướng tới xây dựng một bộ phân tích củ pháp tiếng. Việt để qua đó áp dung lam nâng cao chất lượng của hệ thông tổng hợp tiếng nói Hệ thông phân tích củ pháp tiếng, Việt nảy sẽ phải thỏa mãn hai điều kiên: độ chính xác cao và tốc độ phân tích đủ nhanh đề có thê vần hành trong hệ thông thực.
Để làm được điều đó, luận văn sẽ khảo sát qua một loạt các nghiên cửu trên thế giới trước khi phân tích, lựa chọn hướng phát triển thích hợp cho nghiên cứu đồng thời trình bày một số ý tưởng cải tiền chất lượng của bộ phân tích củ pháp tiếng Việt Về mặt nội dung chính, luận văn được chia thành Š chương: Chương 2sẽ trình bảy về một số hưởng nghiên cửu tổng quan trên thể giới về phân tích cú pháp, các phương pháp vả các mô hình được sử dụng cho phân tích cú pháp. Gần cuối chương sẽ cỏ đẻ cập đến thuật toản Perceptron câu trúc, một trong, Lê Quang Thắng - CNTT. Bài toán phân tích cú pháp Phân tích cú pháptừ lâu đã được biết đến là một trong những bài toán cơ bản và quan trọng nhất của ngành xử lý ngôn ngữ tự nhiên. Mục địch của phân tích cú pháp.
lả cung cấp thông tin về ngữ pháp của một câu văn bản, thường được xác định dưới dạng cây như Hình 1-1. Trong rât nhiêu các nghiên cứu trên thể giới, phân tích cú pháp được ứng dụng rộng rãi trong các hệ thóng cao hơn như dịch máy dự động, tóm tắt văn bản, trích rút thông tin, hệ thông hiểu ngôn ngữ tự nhiên.Tuy nhiên, sự nhập nhằng vẻ mặt kết quả cộng với độ phức tạp cao lảm cho bải toán nảy trở nên rất thử thách. Đặc biệt là với tiếng Việt, sự hạn chế cả vẻ mặt tốc độ lân độ chỉnh xác của các hệ thông phân tích củ pháp tiếng Việt hiện tại đã khiển cho các hệ thông. phân tích cú pháp không thẻ áp dụng được vào trong thực tế.
[ "Tôi đăng làm đồ án" — S—PVP _—" VP—+RVP _— << VPSVN tôi đang em eee làm đỗ án tôi —P (pronoun) đang — R (adverb) lâm — V (verb) đồ án = N (noun) [ Tế |] dang [tim] đồán Hình 1-1 Minh họa một cây cú pháp cho một câu văn bản. Vai trò của phân tích cú pháp trong tong hợp tiếng nói Trong số các hệ thống ứng dụng phân tích củ pháp nhiều nhật, cỏ thẻ kẻ đến tổng, hop tiếng nói. Tổng hợp tiếng là quá trinh chuyển đổi từ văn bản sang tín hiệu tiếng nói tương ứng, được sử dụng rất nhiều trong thực tẻ. Chất lượng của một hệ thống, tổng hợp tiếng phụ thuộc vảo rất nhiều yếu tố: độ tư nhiên, độ để nghe vả độ truyền Lê Quang Thắng - CNTT.
3 những thuật toản học máy mạnh nhất cho phân tích cú pháp nói riêng và xử lý ngôn.