Bối cảnh và vấn đề nghiên cứu

Trong bối cảnh cuộc Cách mạng công nghiệp lần thứ tư diễn ra mạnh mẽ cùng sự bùng nổ của dữ liệu lớn (Big Data) và năng lực tính toán của bộ xử lý đồ họa (GPU), các mô hình học máy (Machine Learning) và học sâu (Deep Learning) đã khẳng định vai trò trụ cột trong nhiều lĩnh vực kỹ thuật phức tạp như thị giác máy tính, xử lý ngôn ngữ tự nhiên và hệ thống tự hành. Trong lĩnh vực tài chính, công nghệ học sâu đã mở ra nhiều hướng tiếp cận mới đối với các bài toán giao dịch thuật toán, đánh giá rủi ro, phát hiện gian lận và quản trị danh mục đầu tư. Tại Việt Nam, sự ra đời của các tổ chức nghiên cứu chuyên sâu như Viện Nghiên cứu Trí tuệ nhân tạo (VinAI Research) vào năm 2019 thể hiện xu thế tiếp cận và làm chủ các công nghệ trí tuệ nhân tạo tiên tiến.

Tuy nhiên, việc dự báo biến động giá trên thị trường chứng khoán luôn là một thách thức lớn do tính phi tuyến, biến động phức tạp và chịu ảnh hưởng của nhiều yếu tố ngẫu nhiên. Nhận thấy tiềm năng của mạng nơ-ron hồi quy trong xử lý chuỗi thời gian tài chính, đề tài "Ứng dụng học máy và học sâu trong dự báo giá cổ phiếu tại thị trường Việt Nam" được thực hiện nhằm cung cấp cơ sở lý luận và thực nghiệm về khả năng dự báo giá và hiệu quả đầu tư thực tế của mô hình học sâu.

Mục tiêu nghiên cứu

Công trình xác định hai mục tiêu nghiên cứu cụ thể:

  1. Đánh giá khả năng dự đoán giá cổ phiếu của mô hình học sâu (cụ thể là mô hình Long Short Term Memory - LSTM).
  2. Kiểm tra tính thực tiễn và hiệu quả của việc áp dụng mô hình học sâu khi thực hiện giao dịch giả lập trên dữ liệu thực tế tại thị trường chứng khoán Việt Nam.

Câu hỏi nghiên cứu

  1. Các phương pháp và chỉ tiêu nào được sử dụng để đo lường mức độ chính xác của mô hình dự đoán?
  2. Mức độ chính xác của mô hình học sâu thể hiện như thế nào khi đặt trong tương quan so sánh với mô hình kinh tế lượng truyền thống (ARIMA)?
  3. Kết quả giao dịch trên dữ liệu thực tế khi áp dụng chiến lược từ mô hình học sâu có sự khác biệt ra sao so với các phương pháp đầu tư khác?

Đối tượng và phạm vi nghiên cứu

  • Đối tượng nghiên cứu: Ứng dụng của mô hình học sâu trong việc dự đoán biến động giá cổ phiếu và xây dựng danh mục đầu tư.
  • Phạm vi nghiên cứu: 70 doanh nghiệp được niêm yết trên Sở Giao dịch Chứng khoán Thành phố Hồ Chí Minh (HOSE) từ trước ngày 04/01/2010.

Cơ sở lý thuyết và phương pháp

Khóa luận kết hợp nền tảng lý thuyết tài chính vi mô, kinh tế lượng chuỗi thời gian và khoa học máy tính nhằm xây dựng một quy trình dự báo và tối ưu danh mục hoàn chỉnh.

Khung lý thuyết và mô hình sử dụng

  1. Lý thuyết Thị trường hiệu quả (EMH): Dựa trên nghiên cứu của Malkiel và Fama (1970), ở các dạng hiệu quả vừa hoặc yếu, thông tin quá khứ và các biến động giá được phản ánh qua các chỉ báo kỹ thuật, tạo tiền đề cho việc trích xuất đặc trưng phục vụ dự báo.
  2. Mô hình Kinh tế lượng ARIMA ($p, d, q$): Mô hình tích hợp tự hồi quy và trung bình động (Box và cộng sự, 2015). Nghiên cứu sử dụng cấu hình phổ biến ARIMA(1, $d$, 1), trong đó bậc sai phân $d$ được xác định thông qua kiểm định nghiệm đơn vị Dickey-Fuller (ADF) để đảm bảo chuỗi đạt tính dừng (stationary).
  3. Mô hình Mạng nơ-ron hồi quy LSTM: Kiến trúc mạng học sâu phát triển bởi Hochreiter và Schmidhuber (1997), khắc phục hiện tượng triệt tiêu đạo hàm (vanishing gradient) và bùng nổ đạo hàm (exploding gradient) của RNN truyền thống. Mô hình quản lý luồng thông tin qua trạng thái tế bào (cell state) và 3 cổng: cổng quên (forget gate), cổng nhập (input gate), cổng xuất (output gate).
  4. Mô hình Tối ưu danh mục Trung bình - Phương sai (Mean - Variance): Khung lý thuyết danh mục đầu tư hiện đại của Markowitz (1956), đưa bài toán tối ưu đa mục tiêu (tối đa hóa lợi nhuận kỳ vọng và tối thiểu hóa phương sai rủi ro) về dạng bài toán tối ưu hóa đơn mục tiêu có ràng buộc.

Phương pháp nghiên cứu

Nghiên cứu áp dụng phương pháp định lượng thực nghiệm:

  • Xử lý đặc trưng (Feature Engineering): Tính toán 10 chỉ báo kỹ thuật liên tục (thay vì nhị phân hóa) trong chu kỳ ngắn hạn $n = 14$ ngày để giữ trọn vẹn thông tin biên độ giá và khối lượng.
  • Quy trình huấn luyện học sâu: Sử dụng thuật toán lan truyền ngược (backpropagation), cơ chế tối ưu hóa đạo hàm, kỹ thuật bỏ học (dropout) để hạn chế hiện tượng quá khớp (overfitting).
  • Mô phỏng giao dịch và kiểm định: Xây dựng các danh mục đầu tư theo quy mô $n$ cổ phiếu ($n = 1, 2, 3, 4, 5$), tính toán lợi nhuận tích lũy có tính đến chi phí giao dịch, và sử dụng kiểm định $t$-test để so sánh mức độ vượt trội của danh mục LSTM so với các danh mục đối chuẩn.

Nội dung chính theo từng chương

CHƯƠNG I: Cơ sở lý luận và tổng quan các nghiên cứu liên quan

Chương 1 hệ thống hóa các khái niệm nền tảng về đầu tư cổ phiếu, phân biệt hai trường phái đầu tư chủ động (phân tích cơ bản, phân tích kỹ thuật) và đầu tư bị động (theo dõi chỉ số). Tác giả làm rõ cơ sở của mạng nơ-ron nhân tạo (ANN), từ Perceptron đơn lớp (Rosenblatt, 1957), hạn chế hàm XOR (Minsky & Papert, 1969), đến giải thuật lan truyền ngược (Rumelhart, Williams, Hinton, 1986) và sự phát triển của Deep Learning qua các mốc DBN (Hinton, 2006), ImageNet (Fei-Fei Li, 2009), AlexNet (2012).

Phần tổng quan tài liệu điểm lại các nghiên cứu quốc tế tiêu biểu:

  • Kara và cộng sự (2011), Patel và cộng sự (2015): Sử dụng ANN, SVM, Random Forest, Naive-Bayes để dự báo chiều biến động chỉ số dựa trên chỉ báo kỹ thuật.
  • Krauss và cộng sự (2017), Fischer và cộng sự (2018): Ứng dụng DNN, Gradient-Boosted Trees, LSTM trên rổ S&P 500, chỉ ra ưu thế xử lý dữ liệu chuỗi thời gian của LSTM.
  • Freitas và cộng sự (2009), Ta và cộng sự (2020), Ma và cộng sự (2021): Kết hợp dự báo giá trị lợi nhuận định lượng với việc xây dựng danh mục đầu tư, so sánh LSTM với ARIMA, SVR và CNN.

Từ việc phân tích các nghiên cứu tiền nhiệm, tác giả chỉ ra khoảng trống nghiên cứu: phần lớn các nghiên cứu trước đây chỉ dùng chuỗi giá quá khứ đơn thuần hoặc nhị phân hóa chỉ báo kỹ thuật làm mất thông tin; đồng thời tại thị trường Việt Nam còn thiếu vắng các nghiên cứu thực nghiệm toàn diện kết hợp LSTM với giao dịch giả lập có kiểm chuẩn đối kháng.

CHƯƠNG II: Thiết kế nghiên cứu

Chương 2 trình bày chi tiết cấu trúc toán học của các mô hình và quy trình thu thập, tiền xử lý dữ liệu:

  1. Bộ đặc trưng kỹ thuật đầu vào: Hệ thống 10 chỉ báo kỹ thuật được chuẩn hóa với chu kỳ $n = 14$ ngày:
STT Chỉ báo Ký hiệu Ý nghĩa kỹ thuật
1 Simple Moving Average SMA Đo lường chênh lệch giữa giá đóng cửa và giá trung bình giản đơn
2 Weighted Moving Average WMA Trung bình động có trọng số, nhạy cảm hơn với các biến động giá gần nhất
3 Momentum MTM Đo lường vận tốc và gia tốc thay đổi của giá trong kỳ
4 Moving Average Convergence Divergence MACD Xác định tín hiệu hội tụ/phân kỳ giữa các đường EMA và đường tín hiệu Signal Line
5 Stochastic Oscillator %K %K Xác định vị thế giá đóng cửa so với biên độ dao động cao nhất - thấp nhất
6 Stochastic Oscillator %D %D Đường trung bình động làm mượt của %K, hỗ trợ tìm điểm quá mua/quá bán
7 Relative Strength Index RSI So sánh xung lực tăng và giảm giá, xác định ngưỡng đảo chiều xu hướng
8 Larry William's %R %R Đo lường áp lực mua/bán trong biên độ [-100, 0]
9 Accumulation/Distribution Oscillator A/D Kết hợp biến động giá với khối lượng giao dịch để đo dòng tiền tích lũy/phân phối
10 Commodity Channel Index CCI Đo lường độ lệch chuẩn của giá so với giá trị trung bình thống kê
  1. Cơ chế vận hành của đơn vị LSTM:

    • Cổng quên: $f_t = \sigma(W_f x_t + W_{fh} h_{t-1} + b_f)$
    • Cổng nhập: $i_t = \sigma(W_i x_t + W_{ih} h_{t-1} + b_i)$ và giá trị dự bị $\tilde{C}t = \tanh(W_c x_t + W{ch} h_{t-1} + b_c)$
    • Cập nhật trạng thái ô nhớ: $C_t = f_t \circ C_{t-1} + i_t \circ \tilde{C}_t$
    • Cổng xuất: $o_t = \sigma(W_o x_t + W_{oh} h_{t-1} + b_o)$ và trạng thái ẩn $h_t = o_t \circ \tanh(C_t)$
  2. Mô hình hóa bài toán danh mục Markowitz: Chuyển đổi bài toán tối ưu đa mục tiêu sang hàm mục tiêu đơn tối thiểu hóa phương sai kết hợp kỳ vọng lợi nhuận có tỷ trọng phân bổ đều.

CHƯƠNG III: Kết quả nghiên cứu và thảo luận

Chương 3 tập trung vào hai nhóm kết quả chính:

  1. Đo lường sai số dự báo: Đánh giá thông qua sai số bình phương trung bình (MSE) và độ chính xác chiều biến động (Hit accuracy) giữa mô hình LSTM đề xuất và mô hình ARIMA đối chuẩn.
  2. Đánh giá hiệu quả đầu tư và mô phỏng giao dịch: Thiết lập các danh mục đầu tư giả lập theo các quy mô số lượng cổ phiếu khác nhau ($n = 1, 2, 3, 4, 5$). Phân tích lợi nhuận tích lũy sau khi đã khấu trừ chi phí giao dịch, so sánh với danh mục tối ưu Mean-Variance và danh mục đầu tư thụ động.
  3. Kiểm định thống kê: Áp dụng kiểm định $t$-test độc lập để kiểm tra tính có ý nghĩa thống kê của mức chênh lệch lợi nhuận giữa danh mục xây dựng từ mô hình LSTM (theo lợi nhuận dự báo và theo tỷ suất lợi nhuận/rủi ro) so với các danh mục đối chuẩn khác.

Kết quả và đóng góp

Kết quả chính

  • Khả năng dự báo vượt trội của LSTM: Mô hình LSTM sử dụng đầu vào là 10 chỉ báo kỹ thuật dạng liên tục cho kết quả dự báo biến động giá ngắn hạn tốt hơn mô hình kinh tế lượng ARIMA truyền thống trên cả hai tiêu chí sai số MSE và độ chính xác hướng đi (Hit accuracy).
  • Hiệu quả giao dịch thực nghiệm: Quá trình giả lập giao dịch trên 70 cổ phiếu niêm yết sàn HOSE chứng minh các danh mục cổ phiếu được lựa chọn dựa trên tín hiệu dự báo của LSTM đạt tỷ suất sinh lời tích lũy cao hơn so với chiến lược đầu tư thụ động và phương pháp tối ưu hóa danh mục Mean-Variance cổ điển.
  • Ý nghĩa thống kê: Kết quả kiểm định $t$-test (Bảng 3.3 và Bảng 3.4 trong văn bản) xác nhận mức lợi nhuận vượt trội của các danh mục LSTM (theo lợi nhuận dự báo và theo tỷ số lợi nhuận/rủi ro) là có ý nghĩa thống kê, không phải do biến động ngẫu nhiên.

Đóng góp của đề tài

  1. Về mặt học thuật: Cung cấp cơ sở lý luận chi tiết về mạng nơ-ron hồi quy và cơ chế cổng của LSTM; hệ thống hóa quy trình tiền xử lý 10 chỉ báo kỹ thuật liên tục trong dự báo tài chính tại thị trường chứng khoán Việt Nam.
  2. Về mặt thực tiễn: Khẳng định tính khả thi của việc ứng dụng mô hình học sâu vào giao dịch thuật toán trên thị trường cận biên/mới nổi, tạo nguồn tài liệu tham khảo định lượng cho các nhà đầu tư và tổ chức quản trị quỹ.

Hạn chế và hướng nghiên cứu tiếp

Hạn chế của đề tài

  • Phạm vi mẫu nghiên cứu: Giới hạn ở 70 doanh nghiệp niêm yết trên sàn HOSE có lịch sử giao dịch từ trước ngày 04/01/2010, chưa bao quát toàn bộ các cổ phiếu trên thị trường chứng khoán Việt Nam.
  • Đặc trưng đầu vào: Mô hình chủ yếu tập trung vào dữ liệu chuỗi giá, khối lượng và các chỉ báo kỹ thuật; chưa tích hợp các biến số kinh tế vĩ mô, báo cáo tài chính doanh nghiệp hay dữ liệu phi cấu trúc (tin tức, tâm lý thị trường).
  • Chi phí tính toán: Các mô hình học sâu yêu cầu thời gian huấn luyện dài và tài nguyên phần cứng lớn so với các mô hình kinh tế lượng truyền thống.

Hướng phát triển của đề tài

  • Mở rộng tập dữ liệu cho toàn bộ các mã cổ phiếu trên cả sàn HOSE và HNX.
  • Kết hợp dữ liệu định lượng với các mô hình xử lý ngôn ngữ tự nhiên (NLP) để phân tích cảm xúc từ tin tức tài chính và diễn đàn chứng khoán.
  • Thử nghiệm các kiến trúc mạng học sâu hiện đại hơn hoặc mô hình lai (hybrid models) kết hợp giữa LSTM với các kỹ thuật tối ưu hóa phi tuyến.

Giá trị tham khảo

Khóa luận là tài liệu tham khảo chuyên khảo hữu ích cho:

  • Sinh viên và học viên cao học ngành Tài chính - Ngân hàng, Công nghệ Tài chính (Fintech), Toán Kinh tế: Tham khảo phương pháp luận kết hợp giữa kinh tế lượng chuỗi thời gian, học máy và lý thuyết danh mục đầu tư hiện đại.
  • Người làm nghiên cứu định lượng (Quantitative Researcher / Trader): Tham khảo chi tiết công thức tính toán và cách xử lý 10 chỉ báo kỹ thuật liên tục (Bảng 2.1) cùng cấu trúc thiết lập mô hình mạng LSTM trong dự báo tài chính ngắn hạn.
  • Nhà phát triển thuật toán giao dịch: Tham khảo quy trình giả lập đầu tư trên dữ liệu thực tế có tính toán chi phí giao dịch và kiểm định $t$-test.

Câu hỏi thường gặp

1. Đề tài sử dụng mô hình nào làm kiểm chuẩn (benchmark) để so sánh với LSTM?

Đề tài sử dụng mô hình chuỗi thời gian kinh tế lượng ARIMA(1, $d$, 1) làm kiểm chuẩn cho bài toán dự báo sai số, và sử dụng mô hình tối ưu danh mục Mean-Variance của Markowitz cùng chiến lược đầu tư thụ động làm kiểm chuẩn cho hiệu quả giao dịch.

2. Dữ liệu đầu vào của mô hình LSTM trong nghiên cứu này gồm những gì?

Mô hình sử dụng 10 chỉ báo phân tích kỹ thuật ở dạng liên tục với chu kỳ tính toán $n = 14$ ngày, bao gồm: SMA, WMA, MTM, MACD (và Signal Line), Stochastic Oscillator (%K, %D), RSI, Larry William's %R, A/D Oscillator và CCI.

3. Phạm vi mẫu nghiên cứu được thu thập từ đâu và gồm bao nhiêu cổ phiếu?

Nghiên cứu thu thập dữ liệu giá và giao dịch của 70 doanh nghiệp được niêm yết trên Sở Giao dịch Chứng khoán Thành phố Hồ Chí Minh (HOSE) từ trước ngày 04/01/2010.

4. Đề tài sử dụng những chỉ tiêu nào để đánh giá độ chính xác và hiệu quả đầu tư?

  • Độ chính xác dự báo: Đo lường bằng Trung bình bình phương sai số (MSE) và Độ chính xác chiều biến động (Hit accuracy).
  • Hiệu quả giao dịch: Đo lường bằng Lợi nhuận tích lũy (đã trừ chi phí giao dịch), biến động lợi nhuận theo các quy mô danh mục ($n = 1$ đến $n = 5$) và kiểm định $t$-test so sánh mức chênh lệch lợi nhuận giữa các danh mục.

Kết luận

Khóa luận tốt nghiệp của tác giả Trần Minh Hiếu đã hệ thống hóa cơ sở lý luận về mạng nơ-ron hồi quy LSTM và hiện thực hóa quy trình dự báo giá cổ phiếu tại thị trường HOSE dựa trên 10 chỉ báo kỹ thuật liên tục. Kết quả thực nghiệm khẳng định mô hình LSTM đạt độ chính xác dự báo vượt trội so với mô hình ARIMA truyền thống và mang lại tỷ suất sinh lời tích lũy cao hơn các danh mục đối chuẩn trong điều kiện giao dịch giả lập. Công trình là tài liệu tham khảo có giá trị học thuật và thực tiễn cao cho các nghiên cứu định lượng trong lĩnh vực công nghệ tài chính tại Việt Nam.