Luận Án Tốt Nghiệp: Phát Triển Mô Hình Nơ Ron Để Phân Tích Quan Điểm Theo Khía Cạnh

• Người hướng dẫn: PGS. Lê Anh Cường
• Trường học: Đại học Công nghệ, Đại học Quốc gia Hà Nội
• Chuyên ngành: Khoa học máy tính
• Đề tài: Mô Hình Nơ Ron Cho Phân Tích Quan Điểm
• Loại tài liệu: luận án tiến sĩ
• Năm xuất bản: 20
• Địa điểm: Hà Nội

• LỜI CẢM ƠN
• LỜI CAM ĐOAN
• MỤC LỤC
• DANH MỤC CÁC CHỮ VIẾT TẮT
• DANH MỤC CÁC BẢNG
• DANH MỤC CÁC HÌNH VẼ
• MỞ ĐẦU
• 1. CHƯƠNG 1: TỔNG QUAN VẤN ĐỀ NGHIÊN CỨU
• 1.1. Giới thiệu bài toán
• 1.2. Các bài toán trong phân tích quan điểm
• 1.2.1. Tổng quan một hệ thống phân tích quan điểm
• 1.2.2. Phân tích quan điểm cho toàn bộ văn bản
• 1.2.3. Phân tích quan điểm theo khía cạnh
• 1.2.4. Các bài toán trong phân tích quan điểm theo khía cạnh
• 1.3. Các nghiên cứu liên quan
• 1.3.1. Trích xuất từ thể hiện khía cạnh
• 1.3.2. Xác định khía cạnh
• 1.3.3. Phân đoạn khía cạnh
• 1.3.4. Phân loại quan điểm theo khía cạnh
• 1.3.5. Xếp hạng khía cạnh
• 1.3.6. Xác định hạng và trọng số khía cạnh ẩn
• 1.4. Các tiếp cận giải quyết bài toán
• 1.5. Nghiên cứu trên thế giới và Việt Nam
• 2. CHƯƠNG 2: KIẾN THỨC CƠ SỞ
• 2.1. Các ký hiệu và khái niệm liên quan
• 2.2. Các mô hình học máy cơ sở cho phân tích quan điểm theo khía cạnh
• 2.2.1. Mô hình hồi quy đánh giá ẩn
• 2.2.2. Thuật toán xác suất xếp hạng khía cạnh
• 2.2.3. Các mô hình học biểu diễn mức từ, câu, đoạn/văn bản
• 2.2.3.1. Mô hình Word2Vec
• 2.2.3.2. Mô hình GloVe
• 2.2.3.3. Mô hình véc-tơ Paragraph
• 2.2.3.4. Mô hình mạng nơ-ron tích chập CNN
• 2.2.3.5. Mô hình véc-tơ kết hợp
• 2.4. Kết luận và thảo luận
• 3. CHƯƠNG 3: ĐỀ XUẤT MÔ HÌNH DỰA TRÊN MẠNG NƠ-RON XÁC ĐỊNH HẠNG VÀ TRỌNG SỐ KHÍA CẠNH CỦA THỰC THỂ
• 3.1. Mô hình hóa bài toán
• 3.1.1. Bài toán xác định hạng và trọng số khía cạnh ẩn của thực thể
• 3.1.2. Bài toán xác định trọng số khía cạnh chung của các thực thể
• 3.2. Phương pháp đề xuất
• 3.2.1. Xác định hạng và trọng số khía cạnh ẩn của thực thể sử dụng mô hình mạng nơ-ron một lớp ẩn
• 3.2.2. Xác định hạng và trọng số khía cạnh ẩn của thực thể sử dụng mô hình học biểu diễn đa tầng
• 3.2.3. Xác định trọng số khía cạnh chung của thực thể sử dụng mô hình mạng nơ-ron
• 3.3. Cài đặt mô hình
• 3.4. Kết quả thực nghiệm
• 3.5. Hiệu quả của các tham số trong mô hình LRNN-ASR
• 4. CHƯƠNG 4: HỌC VEC-TƠ BIỂU DIỄN TỪ CHO PHÂN TÍCH QUAN ĐIỂM THEO KHÍA CẠNH
• 4.1. Mô hình hóa bài toán
• 4.1.1. Bài toán tinh chỉnh véc-tơ biểu diễn từ
• 4.1.2. Bài toán học véc-tơ biểu diễn từ
• 4.2. Phương pháp đề xuất
• 4.2.1. Mô hình tinh chỉnh véc-tơ biểu diễn từ
• 4.2.2. Mô hình học véc-tơ biểu diễn từ SSCWE
• 4.3. Dữ liệu thực nghiệm và các độ đo
• 4.4. Cài đặt và đánh giá mô hình tinh chỉnh véc-tơ từ WEFT
• 4.4.1. Cài đặt mô hình
• 4.4.2. Đánh giá mô hình
• 4.5. Cài đặt và đánh giá mô hình SSCWE
• 4.5.1. Cài đặt mô hình
• 4.5.2. Đánh giá mô hình
• 4.5.3. So sánh hai mô hình WEFT và SSCWE
• 5. CHƯƠNG 5: MÔ HÌNH ĐA KÊNH DỰA TRÊN CNN NHẰM KHAI THÁC ĐA VEC-TƠ BIỂU DIỄN TỪ VÀ KÝ TỰ CHO PHÂN TÍCH QUAN ĐIỂM THEO KHÍA CẠNH
• 5.1. Mô tả bài toán
• 5.2. Phương pháp đề xuất
• 5.2.1. Thành phần tích chập
• 5.2.2. Mô hình mạng nơ-ron tích chập đa kênh cho phân tích quan điểm theo khía cạnh
• 5.3. Dữ liệu thực nghiệm và cài đặt mô hình MCNN
• 5.4. Môi trường và thời gian thực nghiệm
• 5.5. Hiệu quả của các loại tham số
• KẾT LUẬN
• DANH MỤC CÔNG TRÌNH KHOA HỌC CỦA TÁC GIẢ LIÊN QUAN ĐẾN LUẬN ÁN
• TÀI LIỆU THAM KHẢO

I. Tổng quan vấn đề nghiên cứu

Chương này trình bày tổng quan về các vấn đề nghiên cứu trong luận án, bao gồm giới thiệu chung về bài toán, kiến trúc chung của một hệ thống phân tích quan điểm, các bài toán trong phân tích quan điểm theo khía cạnh, các nghiên cứu liên quan, các tiếp cận, và tình hình nghiên cứu trên thế giới và Việt Nam. Sự phát triển của mô hình nơ ron đã mở ra nhiều cơ hội mới trong việc phân tích dữ liệu và phân tích quan điểm. Các nghiên cứu hiện tại cho thấy rằng việc áp dụng học sâu có thể cải thiện đáng kể độ chính xác trong việc phân loại và phân tích các khía cạnh khác nhau của ý kiến. Tuy nhiên, vẫn còn nhiều thách thức trong việc xử lý và biểu diễn dữ liệu, đặc biệt là trong việc xác định các khía cạnh ẩn và trọng số của chúng.

1.1 Giới thiệu bài toán

Các ý kiến phản hồi của khách hàng đối với các sản phẩm, dịch vụ trực tuyến trên mạng Internet là nguồn thông tin quan trọng đối với các doanh nghiệp. Chúng giúp họ hiểu được điểm mạnh, điểm yếu trong sản phẩm, dịch vụ của mình. Tuy nhiên, với số lượng ý kiến rất lớn và cập nhật liên tục, nhu cầu xây dựng một hệ thống tự động để phân tích quan điểm trở nên cấp thiết. Các mô hình hiện tại thường chỉ tập trung vào việc đánh giá tổng thể, trong khi thực tế, khách hàng thường bày tỏ quan điểm về nhiều khía cạnh khác nhau. Do đó, việc phát triển các mô hình nơ ron cho phép phân tích theo khía cạnh là rất cần thiết.

1.2 Các bài toán trong phân tích quan điểm

Phân tích quan điểm theo khía cạnh bao gồm nhiều bài toán khác nhau như xác định khía cạnh, phân loại quan điểm, và xếp hạng khía cạnh. Mỗi bài toán đều có những thách thức riêng, đặc biệt là trong việc xử lý ngôn ngữ tự nhiên. Các mô hình nơ ron có thể được áp dụng để giải quyết các bài toán này thông qua việc học các đặc trưng từ dữ liệu lớn. Việc sử dụng học sâu giúp cải thiện khả năng nhận diện và phân loại các khía cạnh, từ đó nâng cao độ chính xác trong việc phân tích ý kiến.

II. Kiến thức cơ sở

Chương này trình bày các khái niệm và ký hiệu liên quan đến mô hình nơ ron và các phương pháp học máy cơ sở cho phân tích quan điểm. Các mô hình học máy như hồi quy đánh giá ẩn và các mô hình học biểu diễn như Word2Vec, GloVe, và mạng nơ ron tích chập (CNN) sẽ được thảo luận. Những mô hình này đã chứng minh được hiệu quả trong việc xử lý ngôn ngữ tự nhiên và có thể được áp dụng cho các bài toán phân tích quan điểm. Việc hiểu rõ các mô hình này là rất quan trọng để phát triển các phương pháp mới nhằm cải thiện độ chính xác và hiệu quả trong phân tích dữ liệu.

2.1 Các ký hiệu và khái niệm liên quan

Các ký hiệu và khái niệm cơ bản trong lĩnh vực phân tích quan điểm sẽ được giới thiệu. Điều này bao gồm các thuật ngữ như khía cạnh, trọng số khía cạnh, và các mô hình học máy cơ sở. Việc nắm vững các khái niệm này sẽ giúp cho việc áp dụng các mô hình nơ ron trở nên hiệu quả hơn. Các khái niệm này cũng sẽ được sử dụng để xây dựng các mô hình mới trong luận án.

2.2 Các mô hình học máy cơ sở cho phân tích quan điểm

Các mô hình học máy cơ sở như hồi quy đánh giá ẩn và các mô hình học biểu diễn sẽ được phân tích. Những mô hình này đã được áp dụng thành công trong nhiều bài toán khác nhau và có thể được cải tiến để phục vụ cho phân tích quan điểm. Việc áp dụng các mô hình nơ ron trong lĩnh vực này sẽ giúp nâng cao khả năng phân loại và xác định khía cạnh của các ý kiến.

III. Đề xuất mô hình dựa trên mạng nơ ron

Chương này tập trung vào việc đề xuất các mô hình dựa trên mạng nơ ron nhằm xác định hạng và trọng số khía cạnh của thực thể. Các mô hình này được thiết kế để giải quyết các bài toán cụ thể trong phân tích quan điểm. Việc sử dụng các mô hình học sâu cho phép khai thác thông tin từ nhiều nguồn khác nhau, từ đó cải thiện độ chính xác trong việc phân loại và xác định khía cạnh. Các kết quả thực nghiệm sẽ được trình bày để chứng minh hiệu quả của các mô hình đề xuất.

3.1 Mô hình hóa bài toán

Mô hình hóa bài toán xác định hạng và trọng số khía cạnh ẩn của thực thể là một trong những nhiệm vụ chính trong chương này. Việc xác định hạng và trọng số khía cạnh ẩn sẽ giúp cho việc phân tích quan điểm trở nên chính xác hơn. Các mô hình nơ ron một lớp ẩn và mô hình học biểu diễn đa tầng sẽ được áp dụng để giải quyết bài toán này.

3.2 Cài đặt mô hình

Cài đặt mô hình sẽ được thực hiện trên các tập dữ liệu thực tế để đánh giá hiệu quả của các mô hình đề xuất. Các độ đo điển hình sẽ được sử dụng để đánh giá kết quả thực nghiệm. Việc cài đặt mô hình không chỉ giúp kiểm tra tính khả thi mà còn cung cấp thông tin quý giá cho việc cải tiến các mô hình trong tương lai.