ĐẠI HỌC QUOC GIA TP. HO CHÍ MINH TRUONG DAI HQC CONG NGHE THONG TIN KHOA HE THONG THONG TIN NGUYEN THI VIET HUONG - 19521595 KHOA LUAN TOT NGHIEP DỰA TREN PHAN TÍCH CAM XUC VA HOC MAY XÂY DUNG MO HÌNH DỰ BAO TIEN MA HOÁ VÀ CHUNG KHOAN BASED ON SENTIMENT ANALYSIS AND MACHINE LEARNING: BUILDING FORECASTING MODELS FOR CRYPTOCURRENCY AND STOCK PRICES CU NHAN NGANH THUONG MAI DIEN TU GIANG VIEN HUONG DAN PGS.TS NGUYEN ĐÌNH THUAN TP. HO CHi MINH, 2023 LỜI CẢM ƠN Lời đầu tiên, chúng em xin được cảm ơn trường Đại học Công nghệ Thông tin - Đại học Quốc gia Thành phố Hồ Chí Minh đã tạo điều kiện tốt nhất để chúng em có thể học tập và phát triển. Học tập tại đây, chúng em đã gặp được rất nhiều những thầy cô, những người bạn, và những con người tuyệt vời, song song đó là những cơ hội quý giá để phát triển ban thân trong sự nghiệp lẫn cuộc sống.
Đề hoàn hoàn thành khóa luận này, chúng em xin được gửi lời cảm ơn đặc biệt đến những người sau đây. Chúng em xin trân trọng gửi lời cảm ơn tới thầy PGS.TS Nguyễn Đình Thuân và KS. Nguyễn Minh Nhựt, những người đã hết lòng giúp đỡ chúng em trong con đường nghiên cứu lẫn học tập. Thầy Thuan là một nguồn cảm hứng to lớn cho em có thể tự tin và vượt qua vô số thử thách trên con đường học tập và nghiên cứu trong suốt thời gian qua.
Tiếp theo, chúng em muốn dành lời cảm ơn đến những thầy cô trong trường, đã dạy dỗ và truyền đạt những kinh nghiệm, kiến thức quý báu trong suốt những năm học. Bên cạnh đó, chúng em muốn gửi lời cảm ơn các thay cô trong khoa Hệ Thống Thông Tin đã tạo nhiều cơ hội dé chúng em có thé phát triển. Chúng em cũng muốn cảm ơn những anh chị và những người bạn đã luôn đồng hành cùng chúng em trong suốt hành trình học đại học, đặc biệt là các bạn ở lớp TMCL2019 và các bạn ở nhóm nghiên cứu FTISU. Cuối cùng, chúng em muốn gửi lời cảm ơn đến bố mẹ, gia đình cùng những người thân của chúng em, những người đã luôn đồng hành, tin tưởng, ủng hộ, và quan tâm giúp đỡ chúng em trong những lúc khó khăn nhất.
Không có mọi người, chúng em đã không thể có được như ngày hôm nay. Mục tiêu của để tài. Đối tượng và phạm vi nghiên CỨU. Đối tượng nghiên cứu.
Phạm vi nghiên cỨU.-¿--- -- +52 2 E*EE2% 2 EEk£k*EESEkEkEEx kg re4 1. Kiến trúc đề tài. ch ng HT HT ngàn6 CHƯƠNG 2: CÁC CÔNG TRÌNH NGHIÊN CỨU LIÊN QUAN. Lý thuyết chuỗi thời gian 3.
Định nghĩa chuỗi thời gian .--¿-5¿5+25t‡2xt2Ext2EveEEverxrerrerrrsrrrrrrrek 10 3. Các thành phần của chuỗi thời gian. Các lý thuyết và kỹ thuật 3. Làn HH HH HH HH H00 HH HH HH Hàn 17 3.
1S kSnH HH HH HH HH HH TH HH 21 E5. Án HH HT HT HT HH TH HH HH 23 3. Các thuật toán trí tuệ nhân tạO. Linear ÑegT€SSiOI.
222L 110004 HH HH HH HH HH 24 3. cá HT TH TH HH HH TH Hi 26 3. LSTM VN 0w cac. ÁCL LH HH HH HH TH ky 26 3.
TR ee MOO a LG. HH rà, 28 CHƯƠNG 4: NỘI DUNG VÀ PHƯƠNG PHAP. Tổng quan và tiền xử lý. Các giai đoạn chính.
Pharse 1 — Học mô hình dự báo. Pharse 2 — Quy trình xây dựng hệ thống API. Thiết kế thành phần chức năng. Thiết kế thành phần dit liệu.
Pharse 3 — Triển khai hệ thống API lên Server Cloud Linux. Pharse 4 — Xây dựng giao diện và giao tiếp API.-------©cccccsscsrx 4I CHƯƠNG 5. THỰC NGHIỆM VÀ ĐÁNH GIÁ 5. Dữ Liệu Sử Dụng.---- ¿+11 TT nh TH TH nh Hàn nh Hàn re 45 5.
Chia BO Dit ma. Thông Số Đánh Gid. Kết Quả Và Thảo Luận. Sentiment Analysis Và Các Trường Hợp Dự Đoán Dựa Trên Ensemble Learning.
Trường Hợp Dự Doan Dựa Trên Mô Hình Thong Kê. TONG KET VA HƯỚNG PHAT TRIEN. Han Chế Và Công Việc Trong Tương Laii. c2 22tvv 21212 1 1221 tr HH re 63 TÀI LIEU THAM KHẢO.--22222222222222222222E222EE222212222211 22221 2E re 64 DANH MỤC HÌNH ẢNH Hình 1.
Kiến trúc hệ thống.---¿- 22 22©+£+2E+22EEE2EEEE222122221227312711222122211 22x e2 5 Hình 3. Biểu đồ thể hiện giá (USD) của Bitcoin theo thời gian. Các thành phần của chuỗi thời gian trong Decomposition of time series Hình 3. Các bước dé tiền xử lý và làm sạch một tweet Hình 3.
Các bước chính của kỹ thuật Bagging cho bài toán hồi quy. Các bước chính của kỹ thuật Boosting cho bài toán Hồi quy. Cấu trúc cơ bản của mô hình LSTM. Cấu trúc cơ bản của mô hình GRU.¿¿¿22vv+++22vvvvrssrrrrerrree 28 Hình 4.
Minh họa tổng quan về quá trình xử lý tổng thể và các thuật toán được sử dụng trong thực nghiệm này Hình 4. Trang web dùng để download dữ liệu Bitcoin Hình 4. Đồ thị về Closing Price theo thời gian của indexes BTC, TSLA, và TWTR 34 Hình 4.Usecase tổng quan hệ thống dự báo và khuyến nghị BTC, TWTR, và TSLA. Class diagram hệ thống.
¿+ ©2+¿2©2++2E+++EE+++EE+tSEEErerxrerrrrerrrrrrs 37 Hình 4. Sequence Diagram Dự báo giá BTC, TWTR, và TSLA. File cấu hình crontab. API auto crawl data tại €OrItFOÏÏ€T.
Hàm auto crawl data tại S€TVIC€.1 *2 v9 1xx rrrriyn 4I Hình 4. Màn hình tổng quan Home .--- 2 2£©+£+2E+£+EE+£+EEE2zx+tzrxzerrsrsrx 42 Hình 4. Màn hình tổng quan Ethereum. Màn hình xem lịch sử giá BitCoin.---- ee ences ee k Street 4 Hình 4.
Màn hình lựa chọn thuật toán và dự báo.Cross Validation được minh hoa với k= Hình 5. Trực quan hóa kết quả của các thuật toán tốt nhất cho các mô hình chi số BTC 52 Hình 5. Trực quan hóa kết qua của các thuật toán tốt nhất cho các mô hình chi số TSLA 55 Hình 5. Trực quan hóa kết quả của các thuật toán tốt nhất cho các mô hình chỉ số DANH MỤC TỪ VIẾT TÁT Số thứ tự | Thuật ngữ Mô tả 1 AI Artificial Intelligence 2 API Application Programming Interface 3 CPU Central Processing Unit 4 DL Deep Learning 5 GPU Graphics Processing Unit 6 ML Machine Learning 7 RAM Random-Access Memory 8 NLP Natural Language Processing 9 IR Information Retrieval 10 QA Question Answering 11 NLI Natural Language Inference Nhận thay tam quan trong của van đề, khoá luận này đề xuất và xây dựng một hệ thống cung cấp cho người dùng hai dịch vụ chính là sử dụng các mô hình thống kê trong dự đoán thời gian dài và đề xuất thêm các kĩ thuật Sentiment Analysis dựa trên tweets của người dùng để tăng khả năng dự đoán và kết hợp thêm Ensemble Learning trong dự đoán thời gian ngắn.
Mục tiêu của đề tài Mục tiêu đề tài bao gồm: e Mô tả các đặc tinh của các mô hình dự báo chuỗi thời gian, trí tuệ nhân tạo từ đó đánh giá sự phù hợp của mô hình đề xuất và áp dụng vào dự báo. e_ Sử dụng dữ liệu trong quá khứ thông qua mô hình dự báo chuỗi thời gian và thuật toán trí tuệ nhân tạo dé dự báo giá trị và đưa ra các quyết định trong tương lai. e Tim hiểu cách hoạt động và kết hợp giữa các mô hình dự báo như: LR, EN, AB, GB, LSTM, GRU, AR, ES, NNETAR, TBATS, GARCH, và phương pháp kết hợp Boosting, Bagging. e Đề xuất và xây dựng website dự báo giá (tiền mã hoa và chứng khoán) bằng các thuật toán đề xuất, thông qua trang web: https://finance.
e Phân tích quan điểm của các người dùng tiền mã hoá, chứng khoán và những người có ảnh hưởng lớn. Đối tượng và phạm vỉ nghiên cứu 1. Đối tượng nghiên cứu © Nghién cứu dữ liệu giá tiền mã hoá (BTC) va chứng khoán (TWTR, TSLA) từ năm 2015 — 2022. e Binh luận của người dùng và người có ảnh hưởng lớn từ năm 2015 — 2022.
Phạm vi nghiên cứu Trong đề tài này, phạm vi nghiên cứu hướng đến: © Mô hình thống kê: AR, ES, NNETAR, TBATS, GARCH. e Mô hình trí tuệ nhân tao: LR, EN, AB, GB, LSTM, GRU. ¢ _ Các mô hình kết hợp: Boosting, Bagging. ¢ Bộ dữ liệu về lịch sử giá (tiền mã hoá và chứng khoán): crawl từ website Yahoo!Finance.
¢ Ngôn ngữ lập trình sử dung: Python, Java Springboot, Nextjs, các framework và thu vién lién quan. e Phương pháp crawl dữ liệu thong qua API của Twitter: Thư viện Scrapy, Tweepy ¢ Kiến thức xây dung Website. Kiến trúc dé tài | L PART 1. TEST MODEL FORECAST.
BUILDING API SERVER ‘Sentiment Analyse 1 ae, +, Choose Best Modet————> (PubliefModel State Models KN Vetuang PART 3. BUILDING CLIENT xa Linux Server ora MySOL Jayaseipt oss) Nexis HTML Hinh 1. Kién tric hé thong Mô tả kiến trúc đề tài (Hình 1.1) gồm 4 pharse cơ bản như sau: e Triển khai Pharse 1: Học trên các mô hình dự báo, sau đó chọn ra mô hình dự báo tốt nhất đề tiền hành dự báo. Từ PART /, tat cả mô hình máy học được đưa vào PART 2 thư mục public.
Triển khai Pharse 2: Xây dựng các API clone dữ liệu từ Website BTC, TWTR và TSLA về, xây dựng các Controller, kiến trúc CSDL. Triển khai Pharse 3: Giai đoạn đưa API lên Cloud Server Linux, dùng cơ chế CRON Schedule của hệ điều hành Linux cho các hoạt động định thời chạy các mô hình máy học hoặc lấy dữ liệu từ Website Data BTC/TWTR/ TSLA. Triển khai Pharse 4: Ở PART 3, xây dựng Website Client để người dùng có thé thây giá trị dự báo. Các đóng góp Xây dựng các mô hình dự đoán giá tiền mã hoá và chứng khoán thông qua phân tích cảm xúc, thực nghiệm kiểm thử.
Xây dựng cơ chế CRON chạy mô hình theo thời gian thực. Xây dựng Controller phù hợp cho mô hình dựa trên Framework của nhóm nghiên cứu. Cấu hình Dynamic Param cho từng ngày. Hỗ trợ thiết kế giao diện.
Coding thành phan giao diện Component. Quản lý bảo trì hệ thống chạy ồn định. CHƯƠNG 2: CÁC CÔNG TRÌNH NGHIÊN CỨU LIÊN QUAN Dựa trên các đặc điểm, từ khóa liên quan về các thử nghiệm liên quan đến dự đoán, học máy, học sâu, phân tích tình cảm, v. chúng tôi đã tìm kiếm các bài báo liên quan trong những năm gần đây và dựa vào những bài toán đó dé thực hiện nghiên cứu này và thể hiện chỉ tiết qua Bảng 2.
Những thành công của trí tuệ nhân tạo trong những năm gần đây đã làm cho các nghiên cứu về dự báo giá chứng khoán được cải thiện về độ chính xác và hiệu suất. Việc kết hợp các mô hình không chỉ hạn chế sai số từ mô hình đơn thông thường mà còn khai thác được thế mạnh tiềm ẩn bên trong các mô hình. Với mục tiêu đó, Subhajit Chakrabarty et al. [1] đã áp dụng các mô hình bao gồm Support Vector Regression, Decision Tree Regression, Gradient Boosted Regression, Rvàom Forest Regression, Ada Boost, Extreme gradient boost (XGBoost), Light Gradient Boosted Machine (LightGBM), Long Short-Term Memory (LSTM) va Stacked Generalization ensemble để dự đoán giá chứng khoán S&P 500 với bộ dữ liệu khoảng 29 năm.