Mở đầu Chương 2: Giới thiệu tổng quan về mô hình các chủ đề và xây dựng công cụ tìm kiếm các tài liệu theo ngữ nghĩa. Chương 3: Một sốkỹ thuật tạo mô hình các chủ đề và xây dựng công cụ tìm kiếm tài liệu theo ngữ nghĩa đồng thời đề cập đến các vấn đề liên quan. Chương 4: Xây dựng mô hình các chủ đề và công cụ tìm kiếm theo ngữ nghĩa. Chương 5: Đánh giá kết quả thực nghiệm đồng thờichỉ ra những điểm cần khắc phục đồng thời đặt ra hướng cần phát triển trong tương lai.
3 CHƢƠNG 2: GIỚI THIỆU TỔNG QUAN VỀ MÔ HÌNH CÁC CHỦ ĐỀ VÀ XÂY DỰNG CÔNG CỤ TÌM KIẾM CÁC TÀI LIỆU THEO NGỮ NGHĨA 2. Giới thiệu về mô hình các chủ đề: Với số lượng thông tin ngày một lớn thì việc tìm kiếm dữ liệu trở nên rất quan trọng và cấp thiết, và việc tìm kiếm dữ liệu cũng đang được phát triển rất mạnh và đa dạng. Giữa một lượng thông tin khổng lồ thì việc tìm kiếm dữ liệu chính xác và nhanh nhất luôn là vấn đề cần thiết và rất quan trọng trong tình hình hiện nay. Hiện trên thế giới cũng có những chương trình tìm kiếm rất mạnh và chính xác phục vụ cho công việc tìm kiếm trên Intenet của hàng triệu người trên thế giới mỗi ngày như: Google, Bing,….
Các công cụ này phục vụ cho quá trình tìm kiếm online trên Internet rất hữu dụng và được dùng rộng rãi. Nếu chúng ta có một nguồn dữ liệu lớn cho riêng mình và chúng ta cần tìm kiếm trên nguồn dữ liệu đó thì chúng ta có thể lưu vào các cơ sở dữ liệu phổ biến hiện nay như Oracle, SQL, MySQL,…các công cụ đó điều hỗ trợ tìm kiếm dữ liệu rất tốt và đa dạng tuy nhiên nếu chúng ta cần một sự tìm kiếm thông minh như tìm kiếm theo ngữ nghĩa thì chúng ta phải xây dựng một mô hình cho riêng mình để tiến hành việc tìm kiếm trên. Hiện trên thế giới cũng có nhiều công cụ và mã nguồn mở hỗ trợ việc tìm kiếm như: Lucene,… Tuy nhiên ở Việt Nam thì việc tìm kiếm theo ngữ nghĩa còn nhiều hạn chế. Vì thế việc tìm kiếm theo ngữ nghĩa hỗ trợ tiếng Việt đang là vấn đề cần nghiên cứu và phát triền hiện nay đặc biệt là ở nước ta để giải quyết các vấn đề tìm kiếm dữ liệu theo ngữ nghĩa đang ngày một cấp thiết.
Mô hình các chủ đề được xây dựng và nghiên cứu phục vụ cho nhiều mục đích khác nhau, được xây dựng và phát triển khá phổ biến trong những năm gần đây. Tuy nhiên các mô hình hỗ trợ tiếng Việt khá hạn chế và chưa được phát triển nhiều. 4 Mô hình các chủ đề là xây dựng một mô hình quan hệ các chủ đề với nhau, các chủ đề đó liên quan với nhau dựa trên những mối quan hệ nào đó. Tùy mục đích khác nhau mà các mô hình các chủ đề được xây dựng khác nhau.
Trong luận văn này mô hình các chủ đề được xây dựng dựa trên mối liên hệ giữa các từ, giữa các tài liệu với các tài liệu,giữa các từ với các chủ đề ,….Mô hình này xây dựng nhằm phục vụ cho quá trình tìm kiếm được tốt hơn và đặc biệt hỗ trợ tốt cho quá trình tìm kiếm theo ngữ nghĩa. Mô hình các chủ đề được xây dựng cho ngôn ngữ tiếng Việt, Mô hình xây dựng trên các thuật toán tách từ CRF và SVM. Saukhi các tài liệu được thu thập trên mạng bằng WebCrawler các tài liệu đó sẽ được loại bỏ đi những từ dư thừa ít ảnh hưởng đến tài liệu và sau đó tiến hành tách từ thành từng cụm từ tiếng Việt có nghĩa. Sau khi các tài liệu được tách thành những từ có nghĩa các tài liệu đó sẽ áp dụng thuật toán LDA để phân loại ra các chủ đề chứa các từ xuất hiện phổ biến trong chủ đề đó cùng với những trọng số của nó.
Đồng thời thuật toán cũng hỗ trợ tìm ra các từ và trọng số của nó trong một tài liệu, số lần xuất hiện của tài liệu trong các topic,… Quá trình thực hiện các bước trên hoàn toàn tự động giúp tiết kiệm được thời gian và tăng cường độ chính xác. Tổng quan: Với số lươ ̣ng thông tin lớn như hiê ̣n nay và đòi hỏi đô ̣ chính xác cao của viê ̣c tìm kiếm, đòi hỏi phải có mô hin ̀ h dữ liê ̣u đươ ̣c xây dựng tố t để đáp ứng các yêu cầ u trên, với yêu cầ u cấ p thiế t trên mô hình dữ liệu đươc xây dựng để giúp việc tìm kiế m dữ liê ̣u đươ ̣c tố t hơn. Trên thực tế các trang web hỗ trơ ̣ viê ̣c tìm kiế m n ội dung cho trang web mang tiń h chấ t tim ̀ các đoa ̣n văn chứa các từ cầ n tim ̀ , điề u này có đô ̣ chính xác không cao và không liệt kê được các câu có tuần suất từ đó xuất hiê ̣n nhiề u hiể n thi ̣trên cùng cho người dùng ho ặc các nội dung liên quan với nội dung mà người dùng muốn tìm kiếm nhưng nội dung lại không chứa các từ mà người dùng nhập vào…Mô hình dữ liê ̣u xây dựng mới sẽ đáp ứng các yêu cầ u trên đồ ng 5 thời tăng tố c đô ̣ tim ̀ kiế m , tăng đô ̣ chin ́ h xác , liê ̣t kê các câu tim ̀ đươ ̣c theo mức đô ̣ xuấ t hiê ̣n của các từ… Mô hình các chủ đề đang được nghiên cứu và phát triển rộng rãi ở nước ngoài, ở Việt Nam cũng đang được nghiên cứu và phát triển. Ngoài nước: Trên trang web google code của google có hẳn một nhóm 50 người phát triển một phần mền về mô hình các chủ đề viết bằng ngôn ngữ java sử dụng thuật toán LDA và cho tải về miễn phí [9]giao diện người dùng như hình 2.1 phục vụ cho việt sử dụng và nghiên cứu.
Công cụ hỗ trợ tạo ra những chủ đề với những từ thường xuyên xuất hiện cùng nhau, mô hình các chủ đề có thể kết nối các từ có nghĩa giống nhau và phân biệt giữa những từ nhiều nghĩa. Công cụ mô hình các chủ đề của nhóm 50 ngƣời phát triển trên google code 6 Tuy nhiên công cụ không hỗ trợ tốt tiếng Việt, kết quả trả về là tập tinh HTML hơi chung chung nếu như muốn sử dụng phải chỉnh sửa lại theo đúng nhu cầu sử dụng. Đề tài :“The Author-Topic Model for Authors and Documents” tạm dịch là “Mô hình tác giả - chủ đề cho tác giả và các tài liệu ” của nhóm tác giả Michal Rosen-Zvi, Thomas Griffiths, Mark Steyvers, Padhraic Smyth các tác giả này đều quốc tịch Mỹ địa chỉ trang Web tham khảo [1] Đề tài sử dụng thuật toan LDA phiên bản năm 2003 , đề tài thể hiện mối quan hệ giữa tác giả với các tài liệu và mỗi tài liệu thì lại có nhiều tác giả,…. Đề tài : “Distributed Algorithms for Topic Models” tạm dịch là “Thuật toán phân tán cho mô hình các chủ đề” của nhóm tác giả David Newman, Arthur Asuncion, Padhraic Smyth, Max Welling của trường đại học khoa học máy tính California USA.
Địa chỉ trang web tham khảo [2]. Đề tài mô tả thuật toán phân tán hai mô hình các chủ đề mô hình LDA vàmô hình HDP, đề tài mô tả thuật thuật toán phân tán và phân chia dữ liệu xử lý riêng biệt và song song. Đề tài “Interactive Topic Modeling ”tạm dịch là “ Tích hợp mô hình các chủ đề ” của nhóm tác giả Yuening Hu, Jordan Boyd-Graber, Brianna Satinoffthuộc trường đại học Maryland [3]. Đề tài mô tả một framework cho phép người dùng định nghĩa lại chủ đề bởi những mô hình như LDA bằng cách đưa thêm những ràng buộc tập hợp các từ phải xuất hiện cùng nhau trong cùngchủ đề.
Hầu hết các mô hình trên áp dụng cho tiếng anh không hỗ trợ cho tiếng Việt nếu muốn sử dụng cho tiếng Việt phải dùng những thuật toán khác tạo ra những cụm từ tiếng Việt có nghĩa trước khi áp dụng những mô hình trên.Các bài báo trên cũng mô tả nhiều giải pháp tốt cho việc áp dụng mô hình các chủ đề cho các mục đích khác nhau tuy nhiên muốn có một mô hình các chủ đề phục vụ cho việc tìm kiếm theo ngữ nghĩa thì phải chuyển hóa lại những cái có sẵn theo mục đích tìm kiếm. 7 Trong nước: Hiện trong nước việc xây dựng mô hình các chủ đề chưa được phát triển nhiều, tác giả chỉ tìm hiểu được duy nhất mô hình các chủ đề JGibbLDA [10] của Nguyễn Cẩm Tú và Phan Xuân Hiếu, mô hình dùng để tìm các chủ đề cùng với các từ, cụm từ và trọng số của các từ, cụm từ trong mỗi chủ đề đó.Các công trình nghiên cứu về tìm kiếm theo ngữ nghĩa trong nước còn nhiều hạn chế. Quy trình xây dựng mô hình các chủ đề và tìm kiếm theo ngữ nghĩa: Qua tìm hiểu nghiên cứu, tác giả rút ra quy trình xây dựng mô hình các chủ đề phục vụ cho việc tìm kiếm tài liệu theo ngữ nghĩa. Tìm kiếm theo Mô hình Trang Web ngữ nghĩa các chủ đề Web Crawler Nội dung LDA Bóc tách từ Web Hình 2.
Quy trình xây dựng mô hình các chủ đề và công cụ tìm kiếm theo ngữ nghĩa Để tiến hành xây dựng mô hình các chủ đề hỗ trợ cho việc tìm kiếm theo ngữ nghĩa tác giả thực hiện các bước sau: Bước 1: Dùng chương trình WebCrawler để tiến hành thu thập các nội dung web trên mạng để phục vụ cho việc xây dựng mô hình các chủ đềvà công cụ tìm kiếm theo ngữ nghĩa Bước 2: Tiến hành bóc tách từ trong các bài báo gom nhóm các từ có nghĩa thành những từ hoặc cụm từ. 8 Bước 3: Dùng thuật toán LDA để tạo các chủ đề bao gồm các từ, số lần xuất hiện các tài liệu trong các chủ đề,v. Bước 4: Dùng Ontologyxây dựng mô hình các chủ đề thể hiện mối liên hệ giữa các từ với các chủ đề, các chủ đề với các tài liệu,v. Bước 5: Xây dựng công cụ tìm kiếm theo ngữ nghĩa dựa trên mô hình các chủ đề xây dựng.
Kết luận: Từ những vấn đề trên cho ta thấy được việc tìm kiếm theo ngữ nghĩa trong tình hình dữ liệu lớn như hiện nay là rất cần thiết, tuy nhiên để phát triển nó cần có những quy trình phức tạp và đòi hỏi độ chính xác cao để cho được kết quả tìm kiếm cuối cùng có độ chính xác tốt nhất.