Bối cảnh và vấn đề nghiên cứu
Sự bùng nổ của mạng Internet, các cổng thông tin, diễn đàn, mạng xã hội và đặc biệt là các nền tảng thương mại điện tử đã làm thay đổi căn bản phương thức truyền thông cũng như hành vi mua sắm của người tiêu dùng. Lượng dữ liệu phi cấu trúc dạng văn bản sinh ra hàng ngày từ các tương tác, đánh giá và phản hồi của khách hàng là rất lớn. Đối với các đơn vị kinh doanh trực tuyến, việc nắm bắt kịp thời quan điểm, ý kiến và mức độ hài lòng của khách hàng về từng dòng sản phẩm đóng vai trò thiết yếu để tối ưu hóa chính sách chăm sóc khách hàng và điều chỉnh chiến lược kinh doanh.
Tuy nhiên, việc xử lý và gắn nhãn dữ liệu đánh giá theo phương pháp thủ công truyền thống bộc lộ nhiều hạn chế: tiêu tốn nhiều thời gian, chi phí nhân sự cao và dễ xảy ra sai sót do tính chủ quan của người đánh giá. Do đó, việc xây dựng một hệ thống tự động thu thập, tiền xử lý và phân tích cảm xúc từ phản hồi người dùng bằng các kỹ thuật học sâu (Deep Learning), sau đó tích hợp trực tiếp vào ứng dụng web thương mại điện tử là một yêu cầu cấp thiết và có ý nghĩa ứng dụng thực tiễn cao.
Đồ án tốt nghiệp "Phân tích cảm xúc và quan điểm bằng học sâu và ứng dụng" do sinh viên Nguyễn Ngọc Hòa và Lê Đình Khang thực hiện dưới sự hướng dẫn của ThS. Quách Đình Hoàng tại Trường Đại học Sư phạm Kỹ thuật TP. Hồ Chí Minh xác định các mục tiêu và nhiệm vụ nghiên cứu cụ thể như sau:
-
Mục tiêu nghiên cứu:
- Nghiên cứu cơ sở lý thuyết về bài toán phân tích cảm xúc và quan điểm (Sentiment Analysis) trong xử lý ngôn ngữ tự nhiên (NLP).
- Nghiên cứu các mô hình mạng nơ-ron học sâu phổ biến, tập trung vào mạng nơ-ron hồi tiếp (RNN), mạng bộ nhớ dài-ngắn (LSTM) và các kỹ thuật biểu diễn từ (Word Embedding như Word2Vec, Doc2Vec).
- Xây dựng mô hình phân loại cảm xúc nhị phân (tích cực/tiêu cực) cho dữ liệu văn bản đánh giá sản phẩm.
- Xây dựng một ứng dụng web bán thực phẩm hoàn chỉnh, tích hợp mô hình phân tích cảm xúc vào hệ thống backend để tự động đánh giá phản hồi của khách hàng và cung cấp bảng điều khiển (dashboard) thống kê cho quản trị viên.
-
Nhiệm vụ nghiên cứu:
- Khảo sát các tài liệu khoa học về xử lý ngôn ngữ tự nhiên, kỹ thuật nhúng từ và các kiến trúc học sâu.
- Thu thập và tiền xử lý tập dữ liệu bình luận về thực phẩm (bộ dữ liệu bình luận thực phẩm sạch từ Amazon).
- Huấn luyện, đánh giá và so sánh hiệu năng của các mô hình học máy truyền thống (Logistic Regression, Naive Bayes, Support Vector Machine) và các mô hình học sâu (CNN, LSTM).
- Thiết kế cơ sở dữ liệu, kiến trúc phần mềm và xây dựng hệ thống ứng dụng web bằng FastAPI, Uvicorn, SQLAlchemy và giao diện HTML/CSS/JavaScript.
- Kiểm thử toàn diện hệ thống chức năng và tích hợp mô hình dự đoán vào backend.
-
Đối tượng và phạm vi nghiên cứu:
- Đối tượng nghiên cứu: Dữ liệu bình luận văn bản của người dùng về các sản phẩm thực phẩm; các thuật toán học máy và học sâu (ANN, RNN, LSTM, CNN); các kỹ thuật nhúng từ (Word2Vec với hai kiến trúc Skip-gram và CBOW, Doc2Vec, TF-IDF); các công nghệ và framework phát triển web hiện đại (FastAPI, Uvicorn, SQLAlchemy).
- Phạm vi nghiên cứu: Bài toán phân tích cảm xúc ở cấp độ tài liệu (Document-level sentiment analysis) được mô hình hóa thành bài toán phân loại nhị phân (2 lớp: tích cực và tiêu cực); triển khai ứng dụng web bán thực phẩm sạch với các chức năng tương tác mua sắm cho khách hàng và phân hệ quản trị tích hợp phân tích bình luận cho admin.
- Thời gian thực hiện: Từ ngày 30/03/2022 đến ngày 10/07/2022.
Cơ sở lý thuyết và phương pháp
Khóa luận xây dựng hệ thống dựa trên sự kết hợp giữa lý thuyết xử lý ngôn ngữ tự nhiên, các mô hình học máy/học sâu và các công nghệ phát triển web hướng dịch vụ hiện đại.
Khung lý thuyết và mô hình kỹ thuật
- Xử lý ngôn ngữ tự nhiên (NLP) và Phân tích cảm xúc (Sentiment Analysis): Văn bản hệ thống hóa 3 cấp độ phân tích cảm xúc chính:
- Cấp độ tài liệu (Document level): Phân loại toàn bộ văn bản hoặc bài đánh giá thành tích cực hoặc tiêu cực.
- Cấp độ câu (Sentence level): Xác định sắc thái tình cảm của từng câu đơn lẻ (tích cực, tiêu cực, trung tính).
- Cấp độ khía cạnh (Aspect level): Xác định cảm xúc hướng tới từng thực thể hoặc thuộc tính cụ thể của thực thể trong câu (ví dụ: đánh giá riêng về màn hình và thời lượng pin). Khóa luận lựa chọn bài toán ở cấp độ tài liệu để hiện thực hóa vào hệ thống.
- Kỹ thuật biểu diễn văn bản và nhúng từ (Word Embedding):
- Bag-of-Words (BoW) & Bag-of-N-Grams: Phương pháp đếm tần suất truyền thống, bộc lộ hạn chế làm mất thứ tự từ và không phản ánh được ngữ nghĩa không gian giữa các từ đồng nghĩa.
- Word2Vec (Tomas Mikolov et al., 2013): Ánh xạ từ vựng vào không gian véc-tơ nhiều chiều dựa trên độ tương đồng Cosine. Hai kiến trúc được phân tích chi tiết:
- Skip-gram: Dự đoán các từ ngữ cảnh xung quanh dựa trên một từ trung tâm cho trước; tối ưu hóa hàm log-likelihood bằng thuật toán Stochastic Gradient Descent (SGD) với hàm kích hoạt Softmax.
- Continuous Bag-of-Words (CBOW): Dự đoán từ trung tâm dựa trên trung bình véc-tơ của các từ ngữ cảnh xung quanh trong một cửa sổ trượt (window size).
- Doc2Vec: Mở rộng từ Word2Vec để biểu diễn toàn bộ đoạn văn bản (DBOW và Distributed Memory - DM).
- TF-IDF: Phương pháp đánh trọng số từ theo tần suất xuất hiện trong văn bản và nghịch đảo tần suất xuất hiện trong toàn bộ tập tài liệu.
- Các kiến trúc mạng nơ-ron học sâu:
- Artificial Neural Network (ANN): Mạng truyền thẳng cơ bản gồm lớp đầu vào (input layer), lớp ẩn (hidden layer) và lớp đầu ra (output layer), cập nhật trọng số thông qua lan truyền ngược.
- Recurrent Neural Network (RNN): Mạng xử lý dữ liệu tuần tự có trạng thái ẩn $a^{\langle t \rangle}$ phụ thuộc vào bước thời gian trước đó $a^{\langle t-1 \rangle}$, sử dụng thuật toán lan truyền ngược theo thời gian (BPTT). RNN tồn tại hạn chế lớn là triệt tiêu đạo hàm (vanishing gradient) hoặc bùng nổ đạo hàm (exploding gradient) khi xử lý các chuỗi dài.
- Long Short-Term Memory (LSTM): Cấu trúc khắc phục hạn chế của RNN truyền thống nhờ tích hợp ô nhớ trạng thái ($c^{\langle t \rangle}$) và 4 cổng điều khiển chuyên biệt:
- Cổng cập nhật ($\Gamma_u$): Quyết định mức độ ghi nhận thông tin mới.
- Cổng ứng viên/liên kết ($\Gamma_r$): Xem xét thông tin ngữ cảnh để điều chỉnh trạng thái ô nhớ tạm thời $\tilde{c}^{\langle t \rangle}$.
- Cổng quên ($\Gamma_f$): Quyết định mức độ loại bỏ dữ liệu từ trạng thái trước đó.
- Cổng ra ($\Gamma_o$): Xác định giá trị kích hoạt đầu ra $a^{\langle t \rangle}$ được truyền tiếp.
- Convolutional Neural Network (CNN): Mạng nơ-ron tích chập áp dụng vào trích xuất các đặc trưng cục bộ dạng n-gram nổi bật của chuỗi văn bản.
Phương pháp nghiên cứu thực nghiệm
- Thu thập và phân chia dữ liệu: Sử dụng tập dữ liệu đánh giá thực phẩm từ Amazon, chia thành 3 tập độc lập: Tập huấn luyện (Train), Tập kiểm tra (Test) và Tập kiểm định (Validation).
- Tiền xử lý văn bản: Xóa bỏ ký tự thừa, chuẩn hóa về chữ thường (lowercasing), tính toán tỷ lệ phân bố từ (ratio), loại bỏ nhiễu và véc-tơ hóa dữ liệu bằng TF-IDF và Word2Vec.
- Phương pháp huấn luyện và đối sánh: Xây dựng quy trình thử nghiệm song song trên cùng một tập dữ liệu đối với 5 lớp mô hình: Logistic Regression, Naive Bayes, Support Vector Machine (SVM), CNN (huấn luyện 5 epochs) và LSTM.
- Phương pháp phát triển phần mềm: Áp dụng quy trình kỹ nghệ phần mềm với mô hình ca sử dụng (Use Case), lược đồ tuần tự (Sequence Diagram), lược đồ quan hệ thực thể (ERD), thiết kế kiến trúc phân tầng tích hợp giao diện lập trình ứng dụng RESTful API.
Thiết kế và triển khai hệ thống
Hệ thống được phát triển theo mô hình ứng dụng web đa tầng, phân tách rõ ràng giữa giao diện người dùng (Frontend), tầng xử lý nghiệp vụ/dịch vụ (Backend & API) và tầng dữ liệu (Database).
+---------------------------------------+
| Giao diện Người dùng (Frontend) |
| HTML5 / CSS3 / JavaScript |
| (Khách hàng & Bảng điều khiển Admin)|
+-------------------+-------------------+
|
HTTP / REST API
|
+-------------------v-------------------+
| Tầng Dịch vụ & Xử lý (Backend) |
| ASGI Server: Uvicorn |
| Web Framework: FastAPI |
| +---------------------------------+ |
| | Module Dự đoán Học sâu (NLP) | |
| | (Tiền xử lý, Embedding, LSTM) | |
| +---------------------------------+ |
+-------------------+-------------------+
|
SQLAlchemy ORM
|
+-------------------v-------------------+
| Tầng Cơ sở Dữ liệu (Database) |
| Hệ quản trị CSDL quan hệ (ERD) |
+---------------------------------------+
Công nghệ phát triển
- FastAPI: Framework web hiệu năng cao viết bằng Python, xây dựng dựa trên tiêu chuẩn mở OpenAPI (hỗ trợ sinh tài liệu tương tác tự động qua Swagger UI), hỗ trợ xác thực dữ liệu qua JSON schema và xử lý bất đồng bộ native.
- Uvicorn: Máy chủ web chuẩn ASGI (Asynchronous Server Gateway Interface) cho Python, cho phép thực thi ứng dụng dưới dạng các coroutine không chặn (non-blocking I/O).
- SQLAlchemy: Bộ công cụ ORM triển khai theo mẫu kiến trúc Data Mapper, phân tách độc lập giữa các đối tượng trong ứng dụng và cấu trúc bảng trong cơ sở dữ liệu.
- Giao diện (Frontend): HTML, CSS, JavaScript thuần, xây dựng giao diện tương thích cho cả trang mua hàng và trang quản trị.
Mô hình hóa và chức năng hệ thống
Hệ thống được thiết kế phục vụ hai tác nhân (actors) chính:
- Phân hệ Khách hàng: Bao gồm 9 chức năng cơ bản: Đăng ký tài khoản, Đăng nhập, Tìm kiếm sản phẩm, Quản lý thông tin cá nhân, Xem chi tiết sản phẩm, Chỉnh sửa giỏ hàng, Đặt hàng, Xác nhận đã nhận đơn hàng, Viết bình luận và đánh giá sản phẩm.
- Phân hệ Quản trị viên (Admin): Bao gồm 6 chức năng nghiệp vụ: Đăng nhập quản trị, Hiển thị Dashboard thống kê tổng quan, Quản lý danh mục và thông tin sản phẩm, Quản lý đơn hàng, Quản lý danh sách khách hàng, Quản lý và theo dõi kết quả phân tích cảm xúc các bình luận của khách hàng.
Kiểm thử hệ thống
Tác giả thiết kế quy trình kiểm thử chức năng hoàn chỉnh từ Bảng 3.30 đến Bảng 3.34 với các ca kiểm thử (test cases) cụ thể cho từng màn hình: Đăng ký, Đăng nhập, Giỏ hàng, Đặt hàng, Bình luận, và các giao diện quản trị Admin, bảo đảm tính đúng đắn của logic nghiệp vụ và luồng tích hợp dữ liệu từ mô hình học sâu.
Nội dung chính theo từng chương
Chương 1: Mở đầu
Chương 1 trình bày bối cảnh thực tiễn của sự phát triển thương mại điện tử và nhu cầu cấp bách trong việc khai thác dữ liệu ý kiến người dùng. Tác giả xác định rõ ràng mục tiêu nghiên cứu, các nhiệm vụ cần thực hiện, đối tượng và phạm vi nghiên cứu, phương pháp tiếp cận và cấu trúc báo cáo của toàn bộ khóa luận. Đề tài hướng trọng tâm vào việc kết nối giữa nghiên cứu mô hình lý thuyết học sâu với bài toán triển khai ứng dụng thực tế.
Chương 2: Cơ sở lí thuyết
Chương này cung cấp nền tảng toán học và kỹ thuật chi tiết của đề tài:
- Trình bày tổng quan về các công nghệ phần mềm: FastAPI, Uvicorn, kiến trúc ASGI so với WSGI truyền thống, và cơ chế ORM của SQLAlchemy.
- Phân tích khái niệm, vai trò và phân loại của NLP và Sentiment Analysis (cấp độ tài liệu, câu và khía cạnh).
- Trình bày chi tiết lý thuyết các mô hình học sâu: ANN, mạng nơ-ron hồi tiếp RNN (công thức truyền xuôi, hàm mất mát và lan truyền ngược theo thời gian), mạng LSTM với cơ chế 4 cổng đóng/mở thông tin chi tiết.
- Phân tích toàn diện kỹ thuật nhúng từ Word2Vec: Cơ chế toán học, hàm mất mát, lan truyền xuôi và lan truyền ngược cập nhật ma trận trọng số $W_{input}$ và $W_{output}$ của hai mô hình Skip-gram và CBOW, kèm giới thiệu về Doc2Vec.
Chương 3: Phát triển ứng dụng
Chương 3 là phần trọng tâm về kỹ thuật và thực nghiệm của đồ án:
- Khảo sát hiện trạng: Phân tích giao diện và hệ thống bình luận đánh giá của ba nền tảng thương mại điện tử lớn tại Việt Nam gồm Shopee, Bách Hóa Xanh và Tiki để làm cơ sở thiết kế chức năng.
- Mô hình hóa yêu cầu: Xây dựng lược đồ Use Case tổng quát và bảng đặc tả chi tiết cho từng ca sử dụng của khách hàng và admin.
- Thiết kế hệ thống: Thiết lập lược đồ cơ sở dữ liệu quan hệ (ERD), thiết kế giao diện người dùng cho toàn bộ các màn hình, và xây dựng 4 lược đồ tuần tự (Sequence Diagram) chính: Đăng ký tài khoản, Thêm sản phẩm vào giỏ hàng, Đánh giá/bình luận sản phẩm, và Hiển thị Dashboard admin.
- Thực nghiệm mô hình phân tích cảm xúc: Thực hiện tiền xử lý dữ liệu, chia tập Train/Validation/Test, và tiến hành huấn luyện các mô hình: Logistic Regression (với TF-IDF và Word2Vec), Naive Bayes (Laplace smoothing = 1), SVM, CNN và LSTM.
- Cài đặt và kiểm thử: Trình bày môi trường triển khai thực tế, quy trình kiểm thử hệ thống và danh sách chi tiết các ca kiểm thử chức năng phần mềm.
Chương 4: Kết luận
Chương 4 tổng kết các hạng mục công việc đã hoàn thành so với mục tiêu đề ra ban đầu, đánh giá khả năng vận hành của ứng dụng và đề xuất các hướng mở rộng, nâng cấp mô hình trong tương lai.
Kết quả và đóng góp
Kết quả thực nghiệm và huấn luyện mô hình
Tác giả đã triển khai thực nghiệm so sánh các kỹ thuật phân loại văn bản khác nhau trên cùng bộ dữ liệu đánh giá thực phẩm. Các kết quả trích xuất trực tiếp từ văn bản cho thấy:
| Mô hình phân loại |
Kỹ thuật biểu diễn đặc trưng |
Đánh giá trên tập Validation |
Đánh giá trên tập Test |
| Logistic Regression |
TF-IDF |
Đã thực nghiệm dự đoán |
Hoàn thành đánh giá kiểm thử |
| Logistic Regression |
Word2Vec |
Đã thực nghiệm dự đoán |
Hoàn thành đánh giá kiểm thử |
| Naive Bayes |
Smoothing = 1 |
Đã thực nghiệm dự đoán |
Hoàn thành đánh giá kiểm thử |
| Support Vector Machine (SVM) |
Tối ưu hóa tham số điều chuẩn |
Đã thực nghiệm dự đoán |
Hoàn thành đánh giá kiểm thử |
| Convolutional Neural Network (CNN) |
Word Embedding (5 Epochs) |
Đã theo dõi quá trình train & val |
Hoàn thành đánh giá kiểm thử |
| Long Short-Term Memory (LSTM) |
Word Embedding / Sequence |
Đã theo dõi quá trình train & val |
Hoàn thành đánh giá kiểm thử |
Mô hình LSTM kết hợp với kỹ thuật nhúng từ Word2Vec đã chứng minh khả năng học được các mối liên hệ phụ thuộc dài hạn trong văn bản đánh giá và được lựa chọn để đóng gói, tích hợp trực tiếp vào hệ sinh thái backend của ứng dụng web.
Đóng góp thực tiễn của đề tài
- Hoàn thiện hệ thống học sâu ứng dụng: Khóa luận không chỉ dừng lại ở việc thử nghiệm mô hình trong môi trường nghiên cứu (Jupyter Notebook/mã nguồn rời rạc) mà đã đóng gói hoàn chỉnh mô hình nơ-ron học sâu để phục vụ dự đoán thời gian thực qua API.
- Xây dựng ứng dụng web thương mại điện tử hoàn chỉnh: Xây dựng thành công trang web bán thực phẩm sạch với đầy đủ luồng nghiệp vụ từ đăng ký, mua sắm, thanh toán, quản lý đơn hàng đến đánh giá sản phẩm.
- Phân hệ quản trị thông minh: Trang bị công cụ Dashboard cho phép ban quản trị website theo dõi trực quan tỷ lệ cảm xúc (tích cực/tiêu cực) của người tiêu dùng trên từng danh mục sản phẩm, giúp hỗ trợ ra quyết định kinh doanh một cách tự động.
Hạn chế và hướng nghiên cứu tiếp
Dựa trên nội dung được tác giả trình bày và phạm vi nghiên cứu của đồ án, một số hạn chế và hướng phát triển tiếp theo bao gồm:
-
Hạn chế:
- Thời gian thực hiện đồ án tương đối ngắn (khoảng 3 tháng), dẫn đến việc thử nghiệm mô hình chỉ dừng lại ở bài toán phân loại cảm xúc nhị phân ở cấp độ tài liệu/văn bản (Document-level: Tích cực và Tiêu cực), chưa phân tách được các trạng thái cảm xúc trung tính hoặc phức hợp.
- Mô hình chưa đi sâu vào phân tích cảm xúc ở cấp độ khía cạnh (Aspect-level sentiment analysis) để chỉ rõ khách hàng hài lòng hay không hài lòng ở yếu tố cụ thể nào (chất lượng thực phẩm, đóng gói, thái độ giao hàng hay giá cả).
- Kiến trúc mô hình LSTM có chi phí tính toán huấn luyện tương đối cao, đòi hỏi cấu hình tài nguyên phần cứng lớn.
-
Hướng nghiên cứu tiếp:
- Mở rộng bài toán phân loại cảm xúc lên cấp độ câu (Sentence-level) và cấp độ khía cạnh (Aspect-level), kết hợp các cơ chế chú ý (Attention Mechanism) để giải thích rõ ràng hơn các trọng số ngữ cảnh.
- Thu thập và chuẩn hóa thêm các bộ dữ liệu tiếng Việt đa dạng thuộc nhiều ngành hàng khác nhau để nâng cao khả năng tổng quát hóa của mô hình trong thực tế thương mại điện tử tại Việt Nam.
- Tối ưu hóa hiệu năng mô hình học sâu nhằm giảm độ trễ khi xử lý dự đoán thời gian thực với lượng truy cập đồng thời lớn trên hệ thống web.
Giá trị tham khảo
Tài liệu khóa luận tốt nghiệp này mang lại giá trị tham khảo hữu ích cho các đối tượng:
- Sinh viên ngành Kỹ thuật Dữ liệu, Khoa học Dữ liệu và Công nghệ Thông tin: Là tài liệu tham khảo có cấu trúc rõ ràng về phương pháp luận kết hợp giữa nghiên cứu mô hình Trí tuệ nhân tạo (NLP/Deep Learning) với kỹ thuật xây dựng phần mềm ứng dụng thực tế.
- Người nghiên cứu và phát triển ứng dụng NLP: Có thể tham khảo chi tiết toán học và cơ chế hoạt động của thuật toán nhúng từ Word2Vec (Skip-gram, CBOW), giải thuật lan truyền ngược qua thời gian của RNN và kiến trúc 4 cổng của mạng LSTM.
- Lập trình viên phát triển Backend/Web: Cung cấp tài liệu mẫu về cách thức thiết kế cơ sở dữ liệu quan hệ, xây dựng RESTful API bất đồng bộ hiệu năng cao với FastAPI, Uvicorn và tích hợp tầng ORM thông qua SQLAlchemy.
Câu hỏi thường gặp
1. Khóa luận giải quyết bài toán phân tích cảm xúc ở cấp độ nào?
Khóa luận tập trung giải quyết bài toán phân tích cảm xúc ở cấp độ tài liệu (Document sentiment analysis) dưới dạng bài toán phân loại nhị phân, phân chia các đánh giá của người dùng thành hai lớp: tích cực và tiêu cực.
2. Các thuật toán học sâu và học máy nào đã được tác giả huấn luyện và so sánh trong đồ án?
Tác giả đã triển khai huấn luyện và đối sánh 5 lớp mô hình: Logistic Regression (kết hợp với TF-IDF và Word2Vec), Naive Bayes (với tham số làm mịn Laplace smoothing = 1), Support Vector Machine (SVM), Mạng nơ-ron tích chập (CNN với 5 epochs) và Mạng bộ nhớ dài-ngắn (LSTM).
3. Kiến trúc mạng LSTM giải quyết vấn đề gì của mạng RNN truyền thống và gồm những cổng nào?
Mạng LSTM giải quyết hiện tượng triệt tiêu đạo hàm (vanishing gradient) và bùng nổ đạo hàm (exploding gradient) của mạng RNN truyền thống khi xử lý chuỗi dài. Cấu trúc một nút LSTM trong văn bản gồm 4 cổng điều khiển: Cổng cập nhật ($\Gamma_u$), Cổng liên kết/ứng viên ($\Gamma_r$), Cổng quên ($\Gamma_f$) và Cổng ra ($\Gamma_o$).
4. Tech stack được nhóm tác giả sử dụng để xây dựng ứng dụng web bán hàng là gì?
Hệ thống sử dụng Python làm ngôn ngữ chính; Backend sử dụng framework FastAPI chạy trên máy chủ ASGI Uvicorn; tầng quản lý cơ sở dữ liệu sử dụng ORM SQLAlchemy; Frontend xây dựng bằng HTML, CSS, JavaScript; mô hình NLP/Deep Learning được nhúng trực tiếp vào dịch vụ backend.
5. Điểm khác biệt lớn nhất giữa kiến trúc Skip-gram và CBOW trong Word2Vec là gì?
Mô hình Skip-gram sử dụng một từ đích trung tâm để dự đoán phân phối xác suất của các từ ngữ cảnh xung quanh trong một cửa sổ trượt; trong khi đó, mô hình CBOW (Continuous Bag of Words) lấy trung bình véc-tơ của các từ ngữ cảnh xung quanh để dự đoán từ đích trung tâm.
Kết luận
Khóa luận tốt nghiệp "Phân tích cảm xúc và quan điểm bằng học sâu và ứng dụng" của sinh viên Nguyễn Ngọc Hòa và Lê Đình Khang đã giải quyết trọn vẹn từ cơ sở lý thuyết xử lý ngôn ngữ tự nhiên, kỹ thuật nhúng từ Word2Vec, thuật toán học sâu LSTM đến việc hiện thực hóa thành một ứng dụng web thương mại điện tử hoàn chỉnh. Bằng việc sử dụng framework hiện đại FastAPI, Uvicorn và SQLAlchemy, hệ thống đã kết nối thành công mô hình dự đoán trí tuệ nhân tạo vào quy trình nghiệp vụ bán hàng và quản trị thực tế. Đề tài là tài liệu tham khảo giá trị cho sinh viên và kỹ sư trong việc nghiên cứu, triển khai các giải pháp học máy và học sâu phục vụ tự động hóa phân tích dữ liệu văn bản.