Bối cảnh và vấn đề nghiên cứu

Thị trường chứng khoán Việt Nam sau hơn hai mươi năm hình thành và phát triển đã trải qua nhiều giai đoạn biến động phức tạp và khó kiểm soát. Chuỗi thời gian tài chính trên thị trường này mang đặc tính phi tuyến tính, bất định và chứa nhiều yếu tố nhiễu. Điển hình trong giai đoạn làn sóng dịch COVID-19 lần thứ tư bùng phát, số lượng nhà đầu tư cá nhân mới tham gia gia tăng nhanh chóng, thúc đẩy chỉ số VN-Index lần đầu tiên vượt mốc 1.500 điểm – mức cao nhất trong lịch sử thị trường tính đến thời điểm đó. Biến động mạnh mẽ này đặt ra thách thức lớn đối với việc phân tích và dự báo xu hướng tương lai của các chỉ số chứng khoán.

Theo lý thuyết thị trường hiệu quả, giá cổ phiếu phản ánh đầy đủ các thông tin sẵn có. Tuy nhiên, trên thực tế, thị trường tài chính tại các quốc gia đang phát triển thường không đạt trạng thái hiệu quả hoàn hảo, khiến các nhà đầu tư và chuyên gia luôn tìm kiếm những công cụ phân tích có độ chính xác cao để hỗ trợ quyết định và kiểm soát rủi ro. Sự phát triển của trí tuệ nhân tạo và học máy (Machine Learning) đã mở ra hướng tiếp cận mới trong việc xử lý dữ liệu lớn, trích xuất các quy luật phức tạp mà các mô hình kinh tế lượng truyền thống khó nắm bắt.

Mục tiêu nghiên cứu của đề tài gồm:

  • Mục tiêu tổng quát: Xây dựng mô hình học máy hiện đại để dự báo chỉ số chứng khoán VN-Index, so sánh khả năng dự đoán chính xác giữa các thuật toán được lựa chọn và đưa ra khuyến nghị hỗ trợ nhà đầu tư.
  • Mục tiêu cụ thể:
    1. Phân tích đặc điểm của các mô hình học máy được sử dụng trong nghiên cứu để dự báo chỉ số chứng khoán trên thị trường chứng khoán Việt Nam.
    2. Xác định mức độ quan trọng của quá trình thu thập, tiền xử lý và huấn luyện dữ liệu đối với kết quả xây dựng mô hình dự báo.
    3. So sánh kết quả từ các thuật toán thực nghiệm nhằm lựa chọn mô hình có hiệu suất dự báo tối ưu, từ đó đề xuất khuyến nghị cho nhà đầu tư.

Nhiệm vụ và câu hỏi nghiên cứu của khóa luận được xác định cụ thể:

  1. Những đặc điểm của các mô hình học máy được sử dụng trong bài để dự báo chỉ số chứng khoán trên thị trường chứng khoán Việt Nam là gì?
  2. Quá trình thu thập và tiền xử lý dữ liệu có ảnh hưởng như thế nào đến hiệu suất dự báo chỉ số chứng khoán?
  3. Thuật toán nào có hiệu suất dự báo tối ưu nhất và các khuyến nghị tương ứng dành cho nhà đầu tư là gì?

Đối tượng và phạm vi nghiên cứu:

  • Đối tượng nghiên cứu: Quy trình và phương pháp xây dựng các mô hình học máy ứng dụng trong dự báo chỉ số chứng khoán trên thị trường chứng khoán Việt Nam.
  • Phạm vi không gian: Dữ liệu giao dịch của chỉ số VN-Index tại Sở Giao dịch Chứng khoán Thành phố Hồ Chí Minh (HOSE), kết hợp cùng 7 chỉ báo kỹ thuật tài chính.
  • Phạm vi thời gian: Dữ liệu chuỗi thời gian theo ngày trong giai đoạn từ ngày 03/01/2012 đến ngày 29/12/2023, bao gồm 2.995 quan sát hàng ngày trải qua giai đoạn phục hồi sau khủng hoảng tài chính 2008 và biến động của đại dịch COVID-19.

Cơ sở lý thuyết và phương pháp

Khóa luận được xây dựng dựa trên nền tảng lý thuyết thị trường tài chính và các thuật toán học máy có giám sát (Supervised Learning):

  • Khung lý thuyết nền tảng: Lý thuyết thị trường hiệu quả (Efficient Market Hypothesis - Fama, 1970) và Lý thuyết phân tích kỹ thuật (Dow Theory - Murphy, 1999). Phân tích kỹ thuật giả định rằng các mẫu hình biến động giá trong quá khứ có xu hướng lặp lại và phản ánh tâm lý cung - cầu của thị trường, do đó có thể dùng các chỉ báo kỹ thuật để ước tính giá trị tương lai.
  • Các mô hình học máy áp dụng:
    1. Máy vectơ hỗ trợ trong bài toán hồi quy (Support Vector Regression - SVR / SVM): Mô hình tìm kiếm một siêu phẳng (hyperplane) tối ưu trong không gian đa chiều với dải biên cực đại nhằm giảm thiểu sai số dự báo. Để giải quyết tính phi tuyến tính của chuỗi thời gian tài chính, tác giả sử dụng hàm nhân RBF (Radial Basis Function Kernel): $$K(x, x') = \exp(-\sigma |x - x'|^2)$$
    2. Mạng nơ-ron nhân tạo (Artificial Neural Network - ANN): Mô hình sử dụng cấu trúc mạng thần kinh truyền thẳng ba lớp (Three-layer Feedforward Neural Network - FNN) gồm lớp đầu vào (Input Layer), lớp ẩn (Hidden Layer) và lớp đầu ra (Output Layer). Quá trình tối ưu hóa trọng số được thực hiện thông qua thuật toán Lan truyền ngược (Backpropagation Algorithm).
Đặc điểm kỹ thuật Mô hình Support Vector Regression (SVR) Mô hình Artificial Neural Network (ANN / FNN)
Bản chất thuật toán Tối ưu hóa siêu phẳng phân tách dựa trên các vector hỗ trợ Mô phỏng cấu trúc kết nối nơ-ron sinh học, truyền thẳng
Hàm kích hoạt / Nhân Radial Basis Function (RBF Kernel) Hàm kích hoạt xử lý phi tuyến tại các lớp ẩn
Phương pháp tối ưu Tối đa hóa khoảng cách dải biên (Margin) Lan truyền ngược (Backpropagation) để cập nhật trọng số
Biến mục tiêu Giá trị chỉ số VN-Index 14 ngày tiếp theo (Lag14) Giá trị chỉ số VN-Index 14 ngày tiếp theo (Lag14)
  • Phương pháp nghiên cứu: Phương pháp nghiên cứu định lượng thực nghiệm. Quy trình xử lý dữ liệu và mô hình hóa được thực hiện bằng ngôn ngữ lập trình Python trên môi trường đám mây Google Colaboratory thông qua các thư viện chuyên dụng: Scikit-learn, Pandas, NumPy, Matplotlib và VnStock.
  • Nguồn và cấu trúc dữ liệu: Toàn bộ dữ liệu giá đóng cửa, giá trị chỉ số và khối lượng giao dịch được trích xuất từ thư viện VnStock. Bộ dữ liệu gồm 2.995 phiên giao dịch được phân chia theo tỷ lệ:
    • Tập huấn luyện (Training Set): 80% mẫu (tương đương 2.396 ngày giao dịch).
    • Tập kiểm tra (Testing Set): 20% mẫu (tương đương 599 ngày giao dịch).
  • Bộ biến số nghiên cứu (9 biến độc lập):
    1. Giá đóng cửa VN-Index (Close Price)
    2. Khối lượng giao dịch (Volume)
    3. Đường trung bình động đơn giản 10 ngày (SMA10)
    4. Đường trung bình động đơn giản 20 ngày (SMA20)
    5. Đường trung bình động lũy thừa 10 ngày (EMA10)
    6. Chỉ số sức mạnh tương đối (RSI)
    7. Động lượng (Momentum)
    8. Chỉ số kênh hàng hóa (CCI)
    9. Phân kỳ hội tụ trung bình động (MACD)
  • Thước đo đánh giá hiệu suất mô hình: Hệ số xác định ($R^2$), Sai số bình phương trung bình (MSE), Căn bậc hai sai số bình phương trung bình (RMSE), Sai số tuyệt đối trung bình (MAE).

Nội dung chính theo từng chương

Chương 1: Giới thiệu đề tài nghiên cứu

Chương 1 thiết lập khung nghiên cứu tổng thể của khóa luận. Tác giả phân tích tính cấp thiết của việc dự báo chỉ số chứng khoán trong bối cảnh thị trường Việt Nam phát triển nhanh chóng và chịu tác động mạnh từ các biến cố vĩ mô như dịch bệnh COVID-19. Chương này làm rõ 3 mục tiêu cụ thể, 3 câu hỏi nghiên cứu, xác định đối tượng nghiên cứu là mô hình học máy ứng dụng trong dự báo VN-Index và giới hạn phạm vi nghiên cứu từ tháng 01/2012 đến tháng 12/2023. Tác giả cũng tóm lược phương pháp thực hiện trên nền tảng Python, chỉ ra các đóng góp về mặt học thuật lẫn thực tiễn của công trình, đồng thời phác thảo kết cấu 5 chương của khóa luận.

Chương 2: Cơ sở lý thuyết và tổng quan nghiên cứu

Chương 2 cung cấp hệ thống lý luận hoàn chỉnh về phân tích dự báo tài chính và công nghệ học máy:

  • Phân biệt hai trường phái phân tích cơ bản (Fundamental Analysis) dựa trên các chỉ tiêu tài chính doanh nghiệp (P/E, P/B, EPS, ROI) và phân tích kỹ thuật (Technical Analysis) dựa trên lịch sử giá, khối lượng và các chỉ báo dao động.
  • Trình bày tổng quan về học máy và phân loại thành ba nhóm: Học có giám sát (Supervised Learning), Học không giám sát (Unsupervised Learning) và Học tăng cường (Reinforcement Learning).
  • Đi sâu vào cơ chế toán học của mô hình SVM/SVR (cơ chế biên cực đại, hàm kernel RBF) và mô hình ANN (cấu trúc mạng FNN ba lớp, thuật toán Backpropagation, các quy tắc xác định số lượng nơ-ron ẩn nhằm tránh hiện tượng overfitting và underfitting).
  • Tổng hợp các công trình nghiên cứu thực nghiệm trong nước (Lê Văn Tuấn et al., 2021; Tran Phuoc et al., 2024; Đào Lê Kiều Oanh & Nguyễn Thị Minh Châu, 2024; Bui Thanh Khoa & Tran Trong Huynh, 2022; Nguyen Anh Tu et al., 2024; Vũ Thị Loan & Vũ Thị Hậu, 2017) và quốc tế (Vijh et al., 2020; Kim & Kang, 2019; Cao et al., 2019; Kara et al., 2011; Kumar & Thenmozhi, 2014).
  • Xác định khoảng trống nghiên cứu: Phần lớn các nghiên cứu trước đây tại Việt Nam chỉ tập trung vào các mã cổ phiếu riêng lẻ hoặc dự báo tỷ suất sinh lời trong khung thời gian ngắn; thiếu các nghiên cứu so sánh trực diện giữa SVM và ANN trên chuỗi dữ liệu chỉ số VN-Index dài hạn kết hợp với hệ thống 7 chỉ báo kỹ thuật.

Chương 3: Phương pháp nghiên cứu

Chương 3 chi tiết hóa quy trình triển khai mô hình qua 4 bước: Xác định vấn đề $\rightarrow$ Thu thập và tiền xử lý dữ liệu $\rightarrow$ Thiết kế mô hình học máy $\rightarrow$ Thảo luận và hàm ý chính sách.

  • Giới thiệu hệ sinh thái lập trình Python và môi trường Google Colaboratory phục vụ huấn luyện mô hình.
  • Mô tả phương pháp thu thập dữ liệu chỉ số VN-Index từ sàn HOSE giai đoạn 2012–2023 (2.995 quan sát) và giải quyết vấn đề thiếu hụt khối lượng giao dịch bằng thư viện VnStock.
  • Thiết lập cách tính toán biến phụ thuộc là giá trị VN-Index sau 14 ngày (Lag14) cùng 9 biến độc lập gồm giá đóng cửa, khối lượng giao dịch và các chỉ báo kỹ thuật (SMA10, SMA20, EMA10, RSI, Momentum, CCI, MACD).
  • Trình bày phương pháp phân chia dữ liệu theo tỷ lệ 80/20 (2.396 mẫu train / 599 mẫu test) và xác lập các tiêu chí đánh giá hiệu suất dự báo gồm $R^2$, MSE, RMSE và MAE.

Chương 4: Kết quả nghiên cứu và thảo luận

Chương 4 công bố các kết quả thực nghiệm sau khi chạy mô hình trên tập kiểm tra:

  • Thống kê mô tả đặc tính phân phối của các biến số đầu vào trong mô hình nghiên cứu.
  • So sánh hiệu suất dự báo giữa mô hình Support Vector Regression (SVR với RBF Kernel) và Artificial Neural Network (Feedforward Neural Network).
  • Trực quan hóa đường cong dự báo của từng mô hình so với chuỗi giá trị thực tế của VN-Index trên tập dữ liệu kiểm tra 599 ngày.
  • Thảo luận học thuật: Phân tích nguyên nhân dẫn đến sự chênh lệch hiệu suất giữa hai mô hình, trong đó cấu trúc kết nối đa tầng của mạng nơ-ron nhân tạo thể hiện khả năng thích ứng và học các mẫu hình phi tuyến tính của chuỗi thời gian tài chính tốt hơn so với siêu phẳng hồi quy vectơ hỗ trợ.

Chương 5: Kết luận và hàm ý chính sách

Chương 5 đúc kết các phát hiện chính của công trình nghiên cứu, chỉ rõ mức độ đáp ứng mục tiêu nghiên cứu ban đầu. Tác giả xây dựng hệ thống hàm ý chính sách và khuyến nghị thực tiễn dành cho các nhà đầu tư cá nhân, tổ chức tài chính trong việc tích hợp công cụ học máy vào chiến lược đầu tư và quản trị danh mục. Cuối cùng, chương trình bày các giới hạn nội tại của đề tài về nguồn dữ liệu và phạm vi biến số, từ đó vạch ra các hướng mở rộng cho các nghiên cứu tiếp theo.


Kết quả và đóng góp

Kết quả nghiên cứu chính

  • Khóa luận đã xây dựng hoàn chỉnh quy trình ứng dụng hai mô hình học máy hiện đại (SVM/SVR và ANN/FNN) để dự báo chỉ số VN-Index với độ trễ 14 ngày dựa trên tập dữ liệu 2.995 quan sát trong suốt 12 năm (2012–2023).
  • Kết quả kiểm định trên tập kiểm tra độc lập (599 ngày) cho thấy cả hai mô hình đều có khả năng bám sát xu hướng vận động của chỉ số VN-Index.
  • So sánh định lượng qua các thước đo sai số (MSE, MAE, RMSE) và hệ số xác định ($R^2$) chỉ ra rằng mô hình Mạng Nơ-ron Nhân tạo (ANN) đạt hiệu suất dự báo vượt trội hơn so với mô hình Máy Vectơ Hỗ trợ (SVM). ANN thể hiện sai số nhỏ hơn và mức độ khớp với dữ liệu thực tế cao hơn trong việc nắm bắt các biến động bất thường của thị trường chứng khoán Việt Nam.

Khuyến nghị và hàm ý thực tiễn

  • Đối với nhà đầu tư cá nhân và tổ chức: Việc ứng dụng các thuật toán học máy kết hợp chỉ báo kỹ thuật cung cấp một công cụ phân tích định lượng khách quan, hỗ trợ giảm thiểu yếu tố cảm tính trong việc xác định điểm mua/bán và xây dựng chiến lược quản trị rủi ro.
  • Khuyến nghị xây dựng quy trình tiền xử lý dữ liệu và lựa chọn chỉ báo kỹ thuật một cách chặt chẽ, bởi chất lượng dữ liệu đầu vào và các biến trễ đóng vai trò quyết định đến độ chính xác của các thuật toán học máy.

Đóng góp học thuật

  • Bổ sung bằng chứng thực nghiệm về việc so sánh hiệu suất giữa hai thuật toán SVM và ANN trên thị trường chứng khoán mới nổi như Việt Nam trong một chuỗi thời gian dài 12 năm (2012–2023), bao gồm cả các giai đoạn khủng hoảng và phục hồi kinh tế.
  • Đề xuất khung tích hợp giữa dữ liệu giao dịch cơ bản (giá đóng cửa, khối lượng) với 7 chỉ báo kỹ thuật phổ biến nhằm nâng cao năng lực dự báo chỉ số tài chính, khắc phục hạn chế của các nghiên cứu trước vốn chỉ dùng dữ liệu giá đơn lẻ.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của đề tài

  • Phạm vi dữ liệu: Nghiên cứu chỉ tập trung dự báo chỉ số VN-Index đại diện cho sàn HOSE, chưa mở rộng sang các chỉ số khác như HNX-Index, UPCOM-Index hay các chỉ số nhóm ngành chuyên biệt.
  • Biến số đầu vào: Mô hình mới chỉ sử dụng dữ liệu giá, khối lượng và các chỉ báo kỹ thuật (Technical Indicators), chưa kết hợp các biến số kinh tế vĩ mô (lãi suất, lạm phát, tăng trưởng GDP, tỷ giá) cũng như các chỉ số tài chính cơ bản của doanh nghiệp niêm yết.
  • Dữ liệu phi cấu trúc: Đề tài chưa khai thác nguồn dữ liệu văn bản như tin tức tài chính, mạng xã hội hoặc phân tích cảm xúc thị trường (Sentiment Analysis) – những yếu tố có tác động mạnh đến tâm lý nhà đầu tư ngắn hạn.

Hướng nghiên cứu tiếp theo

  • Mở rộng phạm vi thực nghiệm sang các kiến trúc học sâu nâng cao (Deep Learning) chuyên biệt cho chuỗi thời gian như Long Short-Term Memory (LSTM), Gated Recurrent Unit (GRU), Temporal Convolutional Networks (TCN) hoặc các mô hình lai (Hybrid Models như ARIMA-SVM, ARIMA-ANN).
  • Tích hợp thêm các biến kinh tế vĩ mô và chỉ số thị trường quốc tế (S&P 500, Dow Jones, giá vàng, giá dầu) vào tập biến đầu vào để nâng cao khả năng giải thích của mô hình.
  • Ứng dụng xử lý ngôn ngữ tự nhiên (NLP) để kết hợp điểm số cảm xúc thị trường từ tin tức tài chính hàng ngày với dữ liệu chuỗi thời gian định lượng.

Giá trị tham khảo

Khóa luận là tài liệu tham khảo hữu ích cho các nhóm đối tượng:

  • Sinh viên và học viên ngành Tài chính – Ngân hàng, Công nghệ Tài chính (FinTech): Cung cấp tài liệu mẫu về cách áp dụng phương pháp định lượng hiện đại và công cụ Machine Learning để giải quyết các bài toán dự báo trong lĩnh vực tài chính.
  • Người nghiên cứu khoa học dữ liệu ứng dụng: Tham khảo được quy trình thu thập dữ liệu chứng khoán Việt Nam qua thư viện VnStock, kỹ thuật tính toán và làm sạch dữ liệu chỉ báo kỹ thuật bằng Python trên Google Colab (Chương 3).
  • Nhà đầu tư và chuyên viên phân tích tài chính: Nắm bắt được phương pháp tiếp cận có hệ thống trong việc kiểm định độ tin cậy của các chỉ báo kỹ thuật khi kết hợp cùng mô hình thuật toán.

Câu hỏi thường gặp

1. Khóa luận sử dụng tập dữ liệu trong khoảng thời gian nào và phân chia tỷ lệ huấn luyện/kiểm tra ra sao?
Dữ liệu nghiên cứu gồm 2.995 quan sát theo ngày của chỉ số VN-Index được thu thập trong giai đoạn từ ngày 03/01/2012 đến ngày 29/12/2023. Bộ dữ liệu được chia theo tỷ lệ 80% cho tập huấn luyện (2.396 ngày) và 20% cho tập kiểm tra (599 ngày).

2. Những biến số đầu vào cụ thể nào được sử dụng để xây dựng mô hình dự báo?
Mô hình sử dụng 9 biến độc lập gồm: Giá đóng cửa VN-Index, Khối lượng giao dịch (Volume trích xuất qua VnStock), và 7 chỉ báo kỹ thuật: SMA(10), SMA(20), EMA(10), RSI, Momentum, CCI, MACD để dự báo giá trị VN-Index sau 14 ngày (Lag14).

3. Khóa luận sử dụng các thuật toán học máy nào và hàm nhân (kernel) nào được áp dụng cho mô hình SVM?
Nghiên cứu sử dụng hai thuật toán học máy có giám sát là Support Vector Machine (ở dạng hồi quy SVR) và Artificial Neural Network (mạng truyền thẳng FNN 3 lớp). Với mô hình SVM, tác giả áp dụng hàm nhân Radial Basis Function (RBF Kernel) để xử lý mối quan hệ phi tuyến tính.

4. Kết quả so sánh thực nghiệm cho thấy mô hình nào có hiệu suất dự báo tối ưu hơn?
Kết quả thực nghiệm trên tập dữ liệu kiểm tra chỉ ra rằng mô hình Mạng Nơ-ron Nhân tạo (ANN) đạt hiệu suất dự báo tốt hơn so với mô hình Máy Vectơ Hỗ trợ (SVM), thể hiện qua các chỉ số sai số MSE, MAE, RMSE thấp hơn và độ chính xác bám sát thực tế cao hơn.


Kết luận

Khóa luận của tác giả Đậu Đình Khoa đã ứng dụng thành công hai mô hình học máy Support Vector Machine (SVM) và Artificial Neural Network (ANN) để dự báo chỉ số VN-Index giai đoạn 2012–2023 dựa trên hệ thống 9 biến đặc trưng kỹ thuật. Kết quả thực nghiệm khẳng định mô hình mạng nơ-ron nhân tạo (ANN) có năng lực dự báo vượt trội so với mô hình máy vectơ hỗ trợ (SVM) trên chuỗi thời gian tài chính có độ biến động cao. Công trình đóng góp một quy trình nghiên cứu định lượng rõ ràng, kết hợp hiệu quả giữa lập trình Python và phân tích kỹ thuật, mang lại giá trị tham khảo thiết thực cho công tác nghiên cứu học thuật và hoạt động đầu tư trên thị trường chứng khoán Việt Nam.