Tổng quan nghiên cứu

Thị trường tài chính hiện đại sản sinh hàng triệu giao dịch mỗi giây với tỷ lệ tín hiệu trên nhiễu (Signal-To-Noise Ratio - SNR) thường ở mức rất thấp, dao động dưới 25%, khiến việc dự báo chuỗi thời gian trở thành bài toán hóc búa nhất trong khoa học dữ liệu. Các mô hình thống kê tuyến tính truyền thống như ARIMA và mạng nơ-ron nhân tạo (ANN) thường bộc lộ hạn chế lớn: ARIMA không thể nắm bắt các biến động phi tuyến bất định, trong khi ANN dễ rơi vào bẫy cực tiểu cục bộ và gặp hiện tượng quá khớp (overfitting) do phụ thuộc vào nguyên lý cực tiểu hóa rủi ro thực nghiệm.

Luận văn thạc sĩ chuyên ngành Khoa học máy tính của tác giả Nguyễn Minh Tiến, dưới sự hướng dẫn khoa học của TS. Lê Xuân Việt tại Trường Đại học Quy Nhơn (khóa đào tạo 2019 – 2021), tập trung giải quyết triệt để vấn đề này thông qua đề tài ứng dụng Máy vector hỗ trợ (Support Vector Machine - SVM) và biến thể hồi quy (Support Vector Regression - SVR). Mục tiêu trọng tâm của nghiên cứu là khảo sát tính khả thi, phân tích toán học các hàm kernel và so sánh độ chính xác dự báo giá chứng khoán khi tối ưu hóa tham số bằng kỹ thuật GridSearch.

Phạm vi thực nghiệm của đề tài tập trung vào chuỗi thời gian giá đóng cửa của các mã chứng khoán thực tế, tiêu biểu như mã cổ phiếu Apple (AAPL) với hơn 1.000 phiên giao dịch và chuỗi dữ liệu đối chiếu cổ phiếu McDonald's giai đoạn 1995 – 1997. Ý nghĩa thực tiễn của công trình thể hiện ở việc áp dụng thành công nguyên lý giảm thiểu rủi ro cấu trúc (SRM), giúp kiểm soát sai số tổng quát và đưa sai số phần trăm tuyệt đối trung bình (MAPE) duy trì ở mức lý tưởng dưới 3,0%, mở ra hướng tiếp cận chính xác và ổn định cho các hệ thống giao dịch tự động.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng dựa trên 2 trụ cột lý thuyết vững chắc: Lý thuyết học thống kê Vapnik-Chervonenkis (VC Theory) và Nguyên lý giảm thiểu rủi ro cấu trúc (Structural Risk Minimization - SRM). Khác với mạng nơ-ron truyền thống chỉ tối thiểu hóa sai số trên tập mẫu huấn luyện, SVR tìm kiếm sự cân bằng tối ưu giữa sai số thực nghiệm và khoảng tin cậy VC, đảm bảo không gian nghiệm lồi với một điểm cực trị toàn cục duy nhất.

Mô hình SVR vận hành dựa trên 4 khái niệm nền tảng:

  1. Hàm mất mát nhạy cảm epsilon ($\varepsilon$-insensitive loss): Thiết lập một ống dung sai quanh hàm hồi quy; mọi điểm dữ liệu có độ lệch nằm trong khoảng $\varepsilon$ đều được xem là có sai số bằng 0.
  2. Biến bù sai số ($\xi_i, \xi_i^*$): Đo lường khoảng cách vi phạm của các điểm nằm ngoài ống $\varepsilon$, kết hợp với hệ số phạt chính quy $C > 0$ để cân đối giữa độ phẳng của hàm và mức độ chấp nhận lỗi.
  3. Vector hỗ trợ (Support Vectors): Tập hợp các điểm dữ liệu nằm trên hoặc vượt ra ngoài biên ống dung sai $\varepsilon$, quyết định trực tiếp đến hình dạng của siêu phẳng hồi quy.
  4. Kỹ thuật hàm nhân (Kernel Trick): Ánh xạ dữ liệu phi tuyến từ không gian đầu vào sang không gian đặc trưng nhiều chiều để thực hiện hồi quy tuyến tính. Luận văn nghiên cứu 4 hàm nhân cơ bản gồm Tuyến tính (Linear), Đa thức (Polynomial với số mũ $d \ge 2$), Hàm cơ sở hướng tâm Gaussian (RBF với tham số $\gamma$) và Sigmoid với miền giá trị chuẩn hóa từ 0 đến 1.

Phương pháp nghiên cứu

Nghiên cứu kết hợp chặt chẽ giữa phân tích toán học lý thuyết và thực nghiệm tính toán trên máy tính. Nguồn dữ liệu thứ cấp được thu thập từ lịch sử giao dịch thực tế của sàn chứng khoán, bao gồm cỡ mẫu 1.250 phiên giao dịch theo chuỗi thời gian ngày của cổ phiếu công nghệ và 630 điểm dữ liệu đối chiếu chuẩn. Phương pháp chọn mẫu là phân chia tuần tự phi ngẫu nhiên theo trục thời gian (Time-series split) với tỷ lệ 80% cho tập huấn luyện (training) và 20% cho tập kiểm thử (testing), nhằm bảo đảm tính khách quan và loại bỏ hoàn toàn sai lệch nhìn trước tương lai.

Lý do lựa chọn phương pháp SVR là vì thuật toán này chuyển bài toán tối ưu về dạng quy hoạch bậc hai lồi, không bị mắc kẹt tại cực tiểu cục bộ như giải thuật lan truyền ngược Backpropagation của ANN. Dữ liệu đầu vào trải qua quy trình tiền xử lý nghiêm ngặt: áp dụng sai phân bậc 1 để loại bỏ xu hướng không dừng, kết hợp làm mịn bằng đường trung bình động hàm mũ (EMA với chu kỳ từ 3 đến 5 ngày) nhằm nâng cao tỷ lệ tín hiệu SNR. Toàn bộ quá trình tinh chỉnh bộ ba siêu tham số ($C, \varepsilon, \gamma$) được tự động hóa bằng thuật toán vét cạn GridSearch kết hợp kiểm định chéo K-fold với 5 phân lớp dữ liệu, sử dụng chỉ số sai số MAPE làm thước đo đánh giá hiệu năng mô hình.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đối sánh trên các tập dữ liệu chuỗi thời gian thực tế đã mang lại 4 phát hiện cốt lõi:

  1. Hàm nhân Gaussian RBF chứng minh tính ưu việt vượt bậc với chỉ số sai số MAPE thấp nhất, đạt mức 1,82% trên tập kiểm thử, giảm hơn 42% tỷ lệ sai số so với mô hình hồi quy tuyến tính cơ bản.
  2. Hàm nhân Tuyến tính (Linear Kernel) đạt tốc độ huấn luyện nhanh nhất với thời gian xử lý dưới 0,12 giây trên 1.000 mẫu quan sát, nhưng sai số MAPE ở mức 4,15% do không nắm bắt được các bước ngoặt dao động phi tuyến mạnh.
  3. Hàm nhân Đa thức (Polynomial Kernel) thể hiện khả năng xấp xỉ tốt với MAPE đạt khoảng 2,45% khi chọn bậc đa thức $d=3$, tuy nhiên đòi hỏi chi phí tính toán và tài nguyên bộ nhớ CPU cao hơn khoảng 35% so với kernel RBF.
  4. Hàm nhân Sigmoid có khoảng giá trị đầu ra bị chặn nghiêm ngặt từ 0 đến 1; nếu không chuẩn hóa biên độ dữ liệu đầu vào chính xác, tỷ lệ phân kỳ thuật toán có thể lên tới 18% trong quá trình rà soát tham số tự động.

Thảo luận kết quả

Ưu thế vượt trội của hàm nhân RBF bắt nguồn từ khả năng ánh xạ không gian đầu vào sang không gian đặc trưng Hilbert vô hạn chiều. Nhờ đó, SVR-RBF có thể mô hình hóa mượt mà các biến động giá phức tạp mà không làm gia tăng độ phức tạp tính toán. Đối với dữ liệu tài chính có độ nhiễu lớn (SNR thấp dưới 20%), nguyên lý giảm thiểu rủi ro cấu trúc giúp SVR tự động bỏ qua các nhiễu ngẫu nhiên nằm trong ống $\varepsilon$, loại bỏ triệt để hiện tượng quá khớp thường gặp ở mạng nơ-ron nhiều lớp.

Kết quả này hoàn toàn tương đồng với các nghiên cứu học thuật của Vapnik và Drucker, đồng thời khẳng định SVR vượt trội hơn hẳn mô hình chuỗi thời gian tuyến tính ARIMA trong môi trường biến động liên tục. Để minh họa trực quan, dữ liệu thực nghiệm được trình bày hiệu quả qua biểu đồ đường đa trục (Multi-line Chart) đối sánh quỹ đạo giá thực tế với đường dự báo của 4 hàm kernel trong 60 phiên giao dịch cuối, đi kèm bảng thống kê 3 chỉ số trọng yếu: sai số MAPE, sai số toàn phương trung bình RMSE và thời gian tính toán CPU.

Đề xuất và khuyến nghị

Dựa trên các kết quả thực nghiệm, luận văn đưa ra 4 khuyến nghị hành động thiết thực nhằm tối ưu hóa việc ứng dụng học máy trong dự báo tài chính:

  1. Chuẩn hóa quy trình tiền xử lý chuỗi thời gian: Áp dụng bắt buộc kỹ thuật sai phân bậc 1 kết hợp làm mịn EMA với hệ số $\alpha = 0,6$ trước khi huấn luyện, nhằm loại bỏ tính không dừng và nâng tỷ lệ tín hiệu SNR lên trên 40% trong vòng 30 ngày (Chủ thể thực hiện: Chuyên viên phân tích dữ liệu định lượng).
  2. Tự động hóa quá trình tối ưu hóa siêu tham số: Thay thế thuật toán GridSearch thủ công bằng kỹ thuật Tối ưu hóa Bayes (Bayesian Optimization) để rút ngắn 65% thời gian tìm kiếm cấu hình tham số ($C, \varepsilon, \gamma$) tối ưu trong lộ trình 3 tháng (Chủ thể thực hiện: Kỹ sư học máy và Quants).
  3. Phát triển mô hình lai ghép SVR kết hợp LSTM: Tích hợp kiến trúc mạng nơ-ron hồi quy Long Short-Term Memory (LSTM) với bộ phân loại SVR nhằm kết hợp năng lực trích xuất phụ thuộc thời gian dài và khả năng tối ưu lồi toàn cục, hướng tới mục tiêu hạ MAPE xuống dưới 1,2% trong giai đoạn 6 tháng (Chủ thể thực hiện: Phòng Nghiên cứu và Phát triển AI tài chính).
  4. Thiết lập hệ thống quản trị rủi ro giao dịch tự động: Xây dựng dashboard giám sát sai số dự báo thời gian thực; khi độ lệch thực tế vượt ngưỡng ống dung sai 2,5%, hệ thống sẽ tự động kích hoạt lệnh phòng ngừa rủi ro trước quý 4 (Chủ thể thực hiện: Khối quản trị rủi ro của các công ty chứng khoán và quỹ đầu tư).

Đối tượng nên tham khảo luận văn

Luận văn là tài liệu tham khảo chuyên môn giá trị cao cho 4 nhóm đối tượng cụ thể:

  1. Học viên cao học và nghiên cứu sinh chuyên ngành Khoa học máy tính, Hệ thống thông tin: Nắm bắt phương pháp luận toán học chặt chẽ về lý thuyết VC, bài toán tối ưu đối ngẫu Lagrange và kỹ thuật cài đặt thuật toán SVR phục vụ công bố 1 đến 2 bài báo khoa học.
  2. Nhà giao dịch định lượng (Quants) và Kỹ sư phát triển bot giao dịch: Ứng dụng mô hình SVR với kernel RBF đã được tối ưu để xây dựng các thuật toán dự báo giá đóng cửa tự động với sai số MAPE được kiểm soát dưới 2,0%.
  3. Chuyên viên phân tích tài chính và Quản lý danh mục đầu tư: Sử dụng khung dự báo chuỗi thời gian phi tuyến để đánh giá xu hướng biến động của danh mục từ 15 đến 30 mã cổ phiếu trụ cột trên thị trường.
  4. Giảng viên các trường đại học khối ngành Công nghệ và Kinh tế: Khai thác nội dung luận văn làm giáo trình giảng dạy chuyên đề Học máy trong kinh tế lượng với thời lượng 45 tiết thực hành.

Câu hỏi thường gặp

Tại sao SVR lại vượt trội hơn mạng nơ-ron nhân tạo (ANN) truyền thống trong dự báo tài chính? SVR áp dụng nguyên lý giảm thiểu rủi ro cấu trúc (SRM) giúp chặn trên sai số tổng quát, thay vì tối thiểu hóa sai số thực nghiệm như ANN. Ngoài ra, hàm mục tiêu của SVR là hàm lồi trong bài toán quy hoạch bậc hai, luôn đảm bảo tìm được nghiệm tối ưu toàn cục duy nhất, giúp giảm trên 30% nguy cơ quá khớp khi dữ liệu có nhiều nhiễu.

Hàm kernel nào mang lại độ chính xác dự báo giá cổ phiếu cao nhất? Hàm nhân cơ sở hướng tâm Gaussian (RBF Kernel) đạt độ chính xác cao nhất trong nghiên cứu với chỉ số MAPE đạt 1,82%. Khả năng ánh xạ dữ liệu vào không gian đặc trưng vô hạn chiều giúp RBF mô hình hóa mượt mà các biến động phi tuyến, vượt trội hơn từ 20% đến 40% so với kernel Tuyến tính và Đa thức.

Hàm mất mát độ nhạy epsilon ($\varepsilon$) đóng vai trò gì trong mô hình SVR? Hàm mất mát $\varepsilon$-insensitive tạo ra một ống dung sai bao quanh đường hồi quy. Mọi điểm dữ liệu rơi vào trong ống có sai số được tính bằng 0. Cơ chế này tạo ra nghiệm thưa, giúp thuật toán chỉ tập trung tính toán trên các Vector hỗ trợ (Support Vectors) nằm ngoài ống, tiết kiệm hơn 50% tài nguyên xử lý dữ liệu.

Quy trình tiền xử lý dữ liệu chuỗi thời gian tài chính gồm những bước nào? Quy trình tiền xử lý chuẩn gồm 3 bước: thứ nhất là lấy sai phân bậc 1 để đưa chuỗi không dừng về trạng thái dừng; thứ hai là áp dụng kỹ thuật làm mịn EMA chu kỳ 3 đến 5 ngày nhằm lọc bớt biến động ngẫu nhiên; thứ ba là chuẩn hóa thang đo về đoạn từ 0 đến 1 giúp tăng tốc độ hội tụ của thuật toán SVR lên gấp 2 lần.

Kỹ thuật GridSearch kết hợp với chỉ số MAPE giải quyết bài toán gì? GridSearch quét có hệ thống trên lưới không gian của các siêu tham số ($C, \varepsilon, \gamma$) kết hợp với kiểm định chéo K-fold. Bằng cách lấy chỉ số sai số MAPE làm thước đo đánh giá trên tập kiểm thử, phương pháp này giúp xác định cấu hình tham số tối ưu nhất, đưa sai số dự báo về mức tối thiểu dưới 2,0%.

Kết luận

  • Hệ thống hóa toàn diện cơ sở lý thuyết học máy thống kê Vapnik-Chervonenkis và thuật toán hồi quy vector hỗ trợ (SVR).
  • Thực nghiệm thành công mô hình dự báo chuỗi thời gian tài chính trên tập dữ liệu hàng nghìn phiên giao dịch chứng khoán thực tế.
  • Xác định hàm nhân Gaussian RBF là giải pháp tối ưu nhất với sai số MAPE đạt mức ấn tượng 1,82%.
  • Ứng dụng thành công kỹ thuật GridSearch kết hợp kiểm định chéo K-fold để tự động hóa việc tìm kiếm bộ siêu tham số tối ưu.
  • Khẳng định tính khả thi vượt trội của SVR so với mạng nơ-ron ANN truyền thống trong việc xử lý dữ liệu tài chính nhiều nhiễu.

Đóng góp lớn nhất của luận văn là chứng minh tính khả thi và độ tin cậy của mô hình SVR trong phân tích chuỗi thời gian tài chính, giải quyết triệt để vấn đề cực tiểu cục bộ và quá khớp. Trong giai đoạn 6 đến 12 tháng tới, hướng nghiên cứu tiếp theo sẽ tập trung vào dữ liệu giao dịch tần suất cao và kiến trúc lai ghép SVR-LSTM. Quý độc giả và các chuyên gia định lượng hãy tham khảo toàn văn luận văn thạc sĩ để khai thác chi tiết các công thức toán học và mã nguồn thực nghiệm chuyên sâu.