ĐẠI HỌC QUỐC GIA TP. HCM TRƢỜNG ĐẠI HỌC BÁCH KHOA --------------------------------------- BÙI NGUYỄN TÂY NGUYÊN TRUY HỒI Ý KIẾN TRÊN BÁO ĐIỆN TỬ TIẾNG VIỆT Chuyên ngành: Khoa Học Máy Tính Mã số: 60.01 LUẬN VĂN THẠC SĨ TP. HỒ CHÍ MINH, tháng 7 năm 2014 Công trình đƣợc hoàn thành tại: Trƣờng Đại Học Bách Khoa – ĐHQG-HCM Cán bộ hƣớng dẫn khoa học: GS. Cao Hoàng Trụ.
(Ghi rõ họ, tên, học hàm, học vị và chữ ký) Cán bộ chấm nhận xét 1: TS. Võ Thị Ngọc Châu. (Ghi rõ họ, tên, học hàm, học vị và chữ ký) Cán bộ chấm nhận xét 2: TS. Hồ Bảo Quốc ….
(Ghi rõ họ, tên, học hàm, học vị và chữ ký) Luận văn thạc sĩ đƣợc bảo vệ tại: Trƣờng Đại Học Bách Khoa, ĐHQG TP. HCM ngày 17 tháng 07 năm 2014 Thành phần Hội đồng đánh giá luận văn thạc sĩ gồm: 1. Nguyễn Đức Thái 2. Nguyễn Văn Minh Mẫn 3.
Võ Thị Ngọc Châu 4. Hồ Bảo Quốc 5. Cao Hoàng Trụ Xác nhận của Chủ tịch Hội đồng đánh giá LV và Trƣởng Khoa quản lý chuyên ngành sau khi luận văn đã đƣợc sửa chữa (nếu có). CHỦ TỊCH HỘI ĐỒNG TRƢỞNG KHOA………… ĐẠI HỌC QUỐC GIA TP.HCM CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM TRƢỜNG ĐẠI HỌC BÁCH KHOA Độc lập -Tự do -Hạnh phúc NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ và tên học viên: BÙI NGUYỄN TÂY NGUYÊN.
Ngày, tháng, năm sinh: 14/06/1981. Nơi sinh: BÌNH THUẬN. Chuyên ngành: KHOA HỌC MÁY TÍNH. TÊN ĐỀ TÀI: TRUY HỒI Ý KIẾN TRÊN BÁO ĐIỆN TỬ TIẾNG VIỆT.
NHIỆM VỤ VÀ NỘI DUNG: Nghiên cứu đề xuất các phƣơng pháp truy hồi các trang tin có chứa ý kiến của độc giả về các vấn đề đƣợc nêu lên trên các báo điện tử tiếng Việt. NGÀY GIAO NHIỆM VỤ: 20/01/2014……………. NGÀY HOÀN THÀNH NHIỆM VỤ: 20/06/2014. CÁN BỘ HƢỚNG DẪN: GS.
CAO HOÀNG TRỤ TP. năm 20… CÁN BỘ HƢỚNG DẪN TRƢỞNG KHOA…. CAO HOÀNG TRỤ LỜI CẢM ƠN Đầu tiên, tôi xin gửi lời cảm ơn chân thành và sâu sắc nhất đến GS. Cao Hoàng Trụ, ngƣời đã luôn tận tình chỉ dẫn, động viên, khích lệ tôi trong suốt quá trình làm luận văn này.
Sự hƣớng dẫn tận tình, những lời khuyên quý báu cũng nhƣ những sự động viên, khích lệ từ thầy là động lực để tôi có thể hoàn thành đƣợc luận văn này. Tôi cũng xin gửi lời cảm ơn chân thành đến nhóm sinh viên kỹ sƣ tài năng K2010 và bạn bè đã giúp đỡ tôi thu thập dữ liệu kiểm tra. Tôi xin gửi lời cảm ơn đến gia đình tôi, những ngƣời luôn ủng hộ, cổ vũ và tạo điều kiện tốt nhất cho tôi trong công việc học tập và nghiên cứu. Và cuối cùng, xin chân thành biết ơn sự tận tình giảng dạy và giúp đỡ của tất cả quý thầy cô tại trƣờng Đại học Bách khoa, đặc biệt là các thầy cô trong khoa Khoa học và Kỹ thuật Máy tính.
TÓM TẮT Truy hồi ý kiến là một quá trình truy hồi văn bản, trong đó yêu cầu các văn bản đƣợc truy hồi và xếp hạng theo mức diễn đạt ý kiến của chúng đối với một câu truy vấn. Một văn bản liên quan phải thỏa hai điều kiện: liên quan tới câu truy vấn, và chứa ý kiến về câu truy vấn bất kể nó đồng ý (positive) hay không đồng ý (negative). Trong luận văn này, một hệ thống truy hồi ý kiến trên tiếng Việt đƣợc xây dựng theo phƣơng pháp dựa vào phân loại sử dụng bộ phân loại SVM. Hệ thống đã đƣợc thực nghiệm trên tập dữ liệu tiếng Việt đƣợc chúng tôi tự xây dựng bao gồm 10 câu truy vấn và 7.
Kết quả thực nghiệm tƣơng đối khả quan: độ chính xác đạt 61,26%, độ đầy đủ đạt 44,20%, và MAP đạt 0,4326. ABSTRACT Opinion retrieval is a document retrieval process, which requires documents to be retrieved and ranked according to their opinions about a query topic. A relevant document must satisfy two criteria: relevant to the query topic, and contains opinions about the query, no matter if they are positive or negative. In this thesis, an opinion retrieval system in Vietnamese was built based on the classification-based approach using SVM classifier.
The system was tested using a Vietnamese data collection built on our own which consists of 10 queries and 7,500 documents. The experiment result is promised: a precision of 61.20%, and a MAP of 0. LỜI CAM ĐOAN Tôi xin cam đoan rằng, ngoại trừ các kết quả tham khảo từ các công trình khác nhƣ đã ghi rõ trong luận văn, các nội dung trình bày trong luận văn này là do chính tôi thực hiện và chƣa có phần nội dung nào của luận văn này đƣợc nộp để lấy bằng cấp ở một trƣờng khác. Bùi Nguyễn Tây Nguyên MỤC LỤC MỤC LỤC.
i DANH MỤC HÌNH. ii DANH MỤC BẢNG. iii CHƢƠNG 1 GIỚI THIỆU. Mục tiêu của luận văn.
1 CHƢƠNG 2 CƠ SỞ LÝ THUYẾT. Truy hồi thông tin. Học máy và truy hồi thông tin. Lịch sử của truy hồi ý kiến.
TREC Blog Track. 15 CHƢƠNG 3 CÁC CÔNG TRÌNH LIÊN QUAN. Truy hồi ý kiến dựa vào phân loại. Truy hồi ý kiến dựa vào từ vựng.
20 CHƢƠNG 4 TRUY HỒI Ý KIẾN TRÊN TIẾNG VIỆT. Phƣơng pháp nền trên tiếng Anh. Hiện thực phƣơng pháp nền trên tiếng Việt. 30 CHƢƠNG 5 ĐÁNH GIÁ.
Tập dữ liệu. Kết quả thí nghiệm. 39 CHƢƠNG 6 TỔNG KẾT. Hƣớng phát triển.
45 TÀI LIỆU THAM KHẢO. 47 i DANH MỤC HÌNH Hình 2. Mặt siêu phẳng lề tối ƣu trong SVM. Mô hình truy hồi ý kiến tổng quát.
Cách lấy mẫu dƣơng bƣớc 1. Cách lấy mẫu dƣơng bƣớc 2. Cách lấy mẫu âm bƣớc 1. Cách lấy mẫu âm ở bƣớc 2.
36 ii DANH MỤC BẢNG Bảng 4. Bảng contingency cho Pearsons chi-square. Một số điểm khác biệt cần lƣu ý giữa tiếng Anh và tiếng Việt. Tập dữ liệu đã xây dựng.
Tập dữ liệu chạy thí nghiệm. Kết quả thí nghiệm chỉ với thành phần IR. Ví dụ AP thấp nhiều so với độ chính xác P và độ đầy đủ R. Kết quả thí nghiệm của toàn hệ thống.
42 iii CHƢƠNG 1 GIỚI THIỆU 1. Tổng quan Hiện nay mạng Internet đã trở nên phổ cập và cho phép ngƣời sử dụng dễ dàng trình bày quan điểm của mình về một vấn đề nào đó thuộc một chủ đề bất kì nhƣ chính trị, xã hội, kinh tế thông qua các bài viết, ý kiến phản hồi trên các diễn đàn, trang cá nhân (blog), các báo điện tử. Với một lƣợng thông tin khổng lồ và nhiều nguồn nhƣ vậy, câu hỏi đặt ra là làm sao để biết đƣợc ý kiến của đại đa số ngƣời sử dụng về một vấn đề đƣợc đƣa ra nhƣ thế nào? Ví dụ, một vấn đề xã hội hiện tại đang nhận đƣợc sự quan tâm của nhiều ngƣời là “bỏ thi tốt nghiệp phổ thông trung học, nên hay không?”; câu hỏi là làm sao để truy hồi đƣợc các ý kiến của ngƣời sử dụng đã đăng trên Internet có liên quan tới vấn đề này? Các công cụ tìm kiếm hiện tại nhƣ Google chỉ cung cấp dịch vụ truy hồi thông tin ở mức độ văn bản là các sự kiện, mô tả, định nghĩa liên quan đến truy vấn chứ chƣa cung cấp dịch vụ chỉ truy hồi các ý kiến bình luận liên quan truy vấn. Do đó ý tƣởng xây dựng một hệ thống truy hồi ý kiến là có cơ sở và là động lực thúc đẩy chúng tôi nghiên cứu và thực hiện luận văn này.
Mục tiêu của luận văn Mục tiêu của luận văn này là xây dựng một hệ thống truy hồi ý kiến (opinion retrieval) bình luận về các vấn đề xã hội đƣợc đăng trên các báo điện tử tiếng Việt. Nhập vào một câu truy vấn bằng tiếng Việt của vấn đề cần truy hồi ý kiến, ví dụ “bỏ thi tốt nghiệp phổ thông trung học”, hệ thống sẽ đƣa ra danh sách các văn bản có chứa ý kiến bình luận liên quan đến câu truy vấn và đƣợc sắp xếp theo mức độ liên quan. 1 Truy hồi ý kiến là một quá trình truy hồi văn bản, trong đó yêu cầu các văn bản đƣợc truy hồi và xếp hạng theo mức diễn đạt ý kiến của chúng đối với một câu truy vấn. Một văn bản liên quan phải thỏa hai điều kiện: liên quan tới câu truy vấn, và chứa ý kiến về câu truy vấn, bất kể nó đồng ý (positive) hay không đồng ý (negative) [29].
Truy hồi ý kiến khác với truy hồi thông tin (information retrieval). Truy hồi ý kiến trả về những văn bản chứa đựng ý kiến bình luận có liên quan đến câu truy vấn, trong khi truy hồi thông tin trả về những văn bản liên quan đến câu truy vấn có chứa hoặc không chứa ý kiến bình luận. Ví dụ, với câu truy vấn “iPhone5”, truy hồi ý kiến chỉ lấy những văn bản có chứa ý kiến về iPhone5 nhƣ “Tôi thích iPhone5”, trong khi đó những văn bản nói về đặc tính kỹ thuật của iPhone5 sẽ đƣợc coi là không liên quan. Truy hồi ý kiến khác với phân tích ý kiến (sentiment analysis hay opinion mining).
Truy hồi ý kiến đi tìm những văn bản chứa đựng ý kiến bình luận, trong khi phân tích ý kiến thực hiện công việc trên những văn bản chứa đựng ý kiến bình luận sẵn có và cho biết ý kiến này đồng ý hay không đồng ý với vấn đề đƣợc đƣa ra. Cho đến nay có khá nhiều công trình nghiên cứu về lĩnh vực truy hồi ý kiến cho tiếng Anh mà tiêu biểu nhƣ [25] [28] [29] nhƣng chƣa có công trình nào thực hiện cho tiếng Việt. Đó là lí do đề tài đƣợc chọn thực hiện với tiếng Việt. 2 CHƢƠNG 2 CƠ SỞ LÝ THUYẾT 2.
Truy hồi thông tin Gerard Salton, ngƣời tiên phong trong lĩnh vực truy hồi thông tin, định nghĩa truy hồi thông tin nhƣ sau [22]. “Truy hồi thông tin là một lĩnh vực liên quan đến việc cấu trúc, phân tích, tổ chức, lưu trữ, tìm kiếm, và truy hồi của thông tin.” Lĩnh vực truy hồi thông tin làm việc với các ứng dụng khác nhau liên quan đến việc tìm kiếm nhiều loại thông tin khác nhau nhƣ văn bản, hình ảnh, phim, âm thanh, và âm nhạc. Ứng dụng thông thƣờng nhất của truy hồi thông tin là tìm kiếm web trong đó ngƣời ứng dụng gõ câu truy vấn vào một công cụ tìm kiếm và nhận về một danh sách văn bản đƣợc xếp hạng đƣợc trình bày trên web. Một số ứng dụng ví dụ khác là tìm kiếm chiều dọc (Vertical search), tìm kiếm xí nghiệp (Enterprise search), tìm kiếm để bàn (Desktop search), và tìm kiếm ngang hàng (Peer-to-peer search).
- Tìm kiếm chiều dọc là một dạng đặc biệt của tìm kiếm web, tập trung vào một loại nội dung online nhƣ tin tức, mua sắm, du lịch.