Tổng quan nghiên cứu

Thị trường tài chính hiện đại vận hành với tốc độ giao dịch tính bằng mili-giây, trong đó hơn 80% dữ liệu phát sinh mang đặc trưng chuỗi thời gian phi tuyến với tỷ lệ tín hiệu trên nhiễu (SNR) thường ở mức rất thấp, dưới 15%. Vấn đề cốt lõi trong phân tích định lượng là việc dự báo giá trị tương lai của các tài sản tài chính dựa trên dữ liệu lịch sử luôn gặp trở ngại lớn do tính không ổn định (non-stationarity), tính biến động ngẫu nhiên và cấu trúc đa chiều phức tạp. Các mô hình mạng nơ-ron nhân tạo truyền thống (ANN) thường bộc lộ hạn chế nghiêm trọng khi dễ bị hội tụ về các điểm cực tiểu cục bộ và rơi vào trạng thái quá khớp (overfitting) do áp dụng nguyên tắc tối thiểu hóa rủi ro thực nghiệm trên tập dữ liệu hữu hạn.

Nhằm giải quyết triệt để bài toán hóc búa này, luận văn tập trung nghiên cứu, xây dựng và đánh giá mô hình học máy Máy vector hỗ trợ hồi quy (Support Vector Regression - SVR) ứng dụng trong bài toán dự báo chuỗi thời gian tài chính. Mục tiêu cụ thể của đề tài là khảo sát sâu rộng cơ sở toán học của mô hình SVM/SVR, đánh giá hiệu năng dự báo của từng loại hàm nhân (kernel functions) và tối ưu hóa không gian siêu tham số để đạt được độ chính xác cao nhất. Phạm vi nghiên cứu bao gồm việc thu thập, tiền xử lý và thực nghiệm trên các tập dữ liệu giá đóng cửa cổ phiếu tiêu biểu trên thị trường chứng khoán quốc tế (như cổ phiếu công nghệ Apple - AAPL và cổ phiếu tiêu dùng McDonald's) trong các khung thời gian biến động liên tục từ 2 đến 5 năm. Ý nghĩa thực tiễn của công trình thể hiện ở việc thiết lập một quy trình dự báo định lượng chuẩn mực, giúp giảm sai số phần trăm tuyệt đối trung bình (MAPE) xuống dưới 2,5%, tạo tiền đề vững chắc cho việc quản trị rủi ro danh mục và ra quyết định đầu tư tự động.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nền tảng lý thuyết của luận văn được xây dựng dựa trên Lý thuyết học thống kê (Statistical Learning Theory) và nguyên lý Chiều Vapnik-Chervonenkis (VC dimension) do Vapnik phát triển. Điểm ưu việt cốt lõi của máy vector hỗ trợ (SVM) so với các kiến trúc mạng nơ-ron nhân tạo (ANN) truyền thống nằm ở việc áp dụng nguyên tắc Giảm thiểu rủi ro cấu trúc (Structural Risk Minimization - SRM). Nguyên tắc này tập trung tối thiểu hóa cận trên của sai số tổng quát hóa thay vì chỉ đơn thuần ép nhỏ sai số trên tập dữ liệu huấn luyện, nhờ đó mang lại năng lực tổng quát hóa vượt trội trên các tập dữ liệu chưa từng quan sát.

Khi mở rộng sang bài toán hồi quy (SVR), mô hình sử dụng hàm mất mát không nhạy cảm epsilon ($\epsilon$-insensitive loss function). Hàm lỗi này cho phép bỏ qua mọi sai lệch nằm trong một dải biên ống độ rộng $2\epsilon$, chỉ phạt tuyến tính những điểm dữ liệu nằm ngoài vùng an toàn. Các điểm nằm trên hoặc ngoài biên ống được định danh là các vector hỗ trợ (Support Vectors), quyết định trực tiếp hình thái của siêu phẳng tối ưu. Để giải quyết mối quan hệ phi tuyến phức tạp trong dữ liệu tài chính, kỹ thuật hàm nhân (Kernel trick) được áp dụng để ánh xạ không gian đầu vào sang không gian đặc trưng nhiều chiều (Hilbert space) mà không cần tính toán tọa độ tường minh. Luận văn đi sâu phân tích 4 dạng hàm nhân căn bản:

  • Hàm nhân Tuyến tính (Linear kernel): $K(x, z) = x^T z$.
  • Hàm nhân Đa thức (Polynomial kernel): $K(x_i, x_j) = (x_i \cdot x_j)^d$.
  • Hàm nhân Cơ sở hướng tâm Gaussian (Radial Basis Function - RBF): $K(x_i, x_j) = \exp(-\gamma ||x_i - x_j||^2)$.
  • Hàm nhân Sigmoid (Hyperbolic Tangent): $K(x_i, x_j) = \tanh(b(x_i \cdot x_j) + c)$.

Mô hình SVR cũng được đối chiếu toàn diện với các phương pháp chuỗi thời gian cổ điển như Tự hồi quy tích hợp trung bình trượt (ARIMA), Trung bình trượt đơn giản (SMA), Trung bình trượt hàm mũ (EMA) và mạng nơ-ron hồi quy Bộ nhớ dài-ngắn hạn (LSTM).

Phương pháp nghiên cứu

Nghiên cứu kết hợp chặt chẽ giữa phương pháp suy luận toán học hình thức và phương pháp thực nghiệm khoa học trên máy tính.

  • Nguồn dữ liệu và Cỡ mẫu: Tập dữ liệu thực nghiệm được trích xuất từ dữ liệu giao dịch lịch sử thực tế của các mã cổ phiếu niêm yết lớn, điển hình là bộ dữ liệu AAPL_30 và chuỗi giá đóng cửa hàng ngày của cổ phiếu McDonald's với quy mô từ 600 đến hơn 2.500 điểm quan sát liên tục.
  • Phương pháp chọn mẫu: Thu thập mẫu chuỗi thời gian rời rạc theo ngày giao dịch chuẩn, loại bỏ các biến động không đồng nhất của các ngày nghỉ cuối tuần và kỳ nghỉ lễ. Dữ liệu sau khi thu thập được chia tách theo tỷ lệ chuẩn mực trong học máy: 80% tổng quan sát dành cho tập huấn luyện (training set) và 20% quan sát dành riêng cho tập kiểm thử độc lập (testing set).
  • Phương pháp phân tích và Lý do lựa chọn: Quy trình phân tích áp dụng kỹ thuật tiền xử lý dữ liệu thông qua phương pháp lấy sai phân bậc 1 (differencing) nhằm biến đổi chuỗi không cố định thành chuỗi cố định, kết hợp kỹ thuật làm mịn EMA để giảm biên độ nhiễu trắng. Mô hình SVR được thiết lập dưới dạng bài toán tối ưu hóa quy hoạch bậc hai lồi (Convex Quadratic Programming) nhằm đảm bảo luôn tìm ra nghiệm tối ưu toàn cục duy nhất, khắc phục triệt để nhược điểm mắc kẹt tại cực tiểu cục bộ của thuật toán lan truyền ngược (BP) trong ANN. Để tìm bộ tham số tối ưu gồm hệ số phạt $C$, ngưỡng sai số $\epsilon$ và tham số hạt nhân $\gamma$, kỹ thuật tìm kiếm lưới (GridSearch) kết hợp kiểm định chéo (Cross-Validation) được tích hợp trong quy trình huấn luyện.
  • Thời gian nghiên cứu: Đề tài được triển khai thực hiện và hoàn thiện trong giai đoạn từ năm 2019 đến năm 2021 tại Khoa Công nghệ Thông tin, Trường Đại học Quy Nhơn.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đối sánh chuyên sâu giữa các cấu hình mô hình SVR và các phương pháp dự báo truyền thống đã mang lại những kết quả định lượng nổi bật:

  1. Hiệu năng vượt trội của hàm nhân RBF: Trong 4 loại hàm nhân được thử nghiệm trên chuỗi giá chứng khoán, hàm nhân RBF (Gaussian) cho kết quả chính xác cao nhất với sai số MAPE đạt mức tối ưu 2,35%. Kết quả này vượt trội hoàn toàn so với hàm nhân Tuyến tính (Linear) đạt MAPE 4,28% (giảm 45% sai số tương đối), hàm nhân Đa thức (Polynomial) đạt MAPE 5,12% và hàm nhân Sigmoid đạt MAPE 6,85%.
  2. Hiệu quả của việc tinh chỉnh siêu tham số qua GridSearch: Việc áp dụng thuật toán GridSearch tự động xác lập cặp tham số tối ưu (hệ số phạt $C = 100$, ngưỡng sai số $\epsilon = 0,01$ và tham số $\gamma = 0,001$) giúp mô hình SVR tăng độ chính xác dự báo lên 32,4% so với việc sử dụng các tham số mặc định của thư viện chuẩn.
  3. Tính ổn định và hội tụ toàn cục so với mạng nơ-ron: SVR chứng minh ưu thế tuyệt đối về tính ổn định khi không xuất hiện sai số phân kỳ giữa các lần chạy lặp lại trên cùng một tập dữ liệu. Tốc độ hội tụ của bài toán quy hoạch bậc hai trong SVR nhanh hơn khoảng 40% so với quá trình huấn luyện của mạng ANN truyền thống, đồng thời hoàn toàn triệt tiêu nguy cơ quá khớp nhờ giải pháp thưa của các vector hỗ trợ.
  4. Tác động của bước tiền xử lý lọc nhiễu: Kỹ thuật làm mịn bằng đường trung bình động hàm mũ (EMA 3 ngày) kết hợp lấy sai phân chuỗi thời gian đã nâng cao chỉ số tỷ lệ tín hiệu trên nhiễu (SNR) của dữ liệu đầu vào thêm khoảng 18,5%, giúp mô hình bám sát các điểm đảo chiều xu hướng với độ trễ giảm hơn 60% so với kỹ thuật trung bình động giản đơn SMA 5 kỳ.

Thảo luận kết quả

Nguyên nhân căn bản giúp hàm nhân RBF đạt độ chính xác cao nhất trong thực nghiệm là nhờ đặc tính ánh xạ không gian đầu vào sang không gian Hilbert vô hạn chiều với bề mặt quyết định trơn, cho phép biểu diễn các tương tác phi tuyến cực kỳ phức tạp của các chuỗi giá chứng khoán mà không làm bùng nổ số lượng siêu tham số cần tối ưu. Trong khi đó, kernel Linear bị giới hạn bởi giả định quan hệ đường thẳng, còn kernel Polynomial bậc cao dễ phát sinh hiện tượng mất ổn định số học khi giá trị biến đầu vào dao động mạnh.

Khi phân tích cơ chế hoạt động của dải biên $\epsilon$, đồ thị thực nghiệm cho thấy hàm mất mát không nhạy cảm $\epsilon$ đã đóng vai trò như một bộ lọc nhiễu chủ động. Tất cả các dao động ngẫu nhiên nhỏ hơn ngưỡng $\epsilon = 0,01$ đều có hệ số phạt bằng không và bị loại khỏi việc tính toán hàm hồi quy. Nhờ đó, số lượng vector hỗ trợ chỉ chiếm khoảng 25% đến 35% tổng số điểm dữ liệu huấn luyện, tạo nên một giải pháp mô hình thưa gọn nhẹ và có tốc độ suy diễn cực nhanh.

Kết quả nghiên cứu này tương thích chặt chẽ với các công bố học thuật quốc tế của Vapnik, Drucker và Smola, đồng thời khẳng định mạnh mẽ luận điểm: trong môi trường dữ liệu tài chính có độ nhiễu cao và kích thước mẫu trung bình, mô hình tối ưu hóa rủi ro cấu trúc SVR mang lại độ tin cậy vượt bậc so với các cấu trúc học sâu phức tạp nhưng dễ bị nhiễu chi phối. Toàn bộ các kết quả trên được tổng hợp chi tiết qua các bảng so sánh chỉ số đánh giá MAPE, RMSE và các đồ thị trực quan hóa biểu diễn độ lệch giữa đường giá đóng cửa thực tế và đường giá dự báo của mô hình trên tập kiểm thử.

Đề xuất và khuyến nghị

Dựa trên các kết quả lý thuyết và thực nghiệm đã được kiểm chứng, nghiên cứu đưa ra 4 khuyến nghị cụ thể nhằm ứng dụng hiệu quả mô hình SVR vào hệ sinh thái phân tích tài chính định lượng:

  1. Chuẩn hóa quy trình tiền xử lý chuỗi dữ liệu giao dịch: Đội ngũ kỹ sư dữ liệu và chuyên viên phân tích định lượng (Quantitative Analysts) tại các công ty chứng khoán cần thiết lập quy trình làm sạch dữ liệu tự động, áp dụng phương pháp lấy sai phân bậc 1 kết hợp làm mịn EMA 3 ngày trước khi đưa dữ liệu vào mô hình máy học. Giải pháp này cần được triển khai trong vòng 3 tháng đầu của dự án nhằm nâng tỷ lệ tín hiệu trên nhiễu (SNR) lên mức tối thiểu 20 dB, triệt tiêu các điểm dị biệt thị trường.
  2. Tự động hóa chu trình tối ưu siêu tham số định kỳ: Các quỹ đầu tư tài chính và tổ chức quản lý tài sản cần tích hợp thuật toán tìm kiếm lưới (GridSearch) kết hợp kiểm định chéo K-Fold vào hệ thống giao dịch tự động. Mô-đun này cần được lập trình để tự động tái chuẩn hóa bộ ba tham số $(C, \epsilon, \gamma)$ theo chu kỳ 30 ngày một lần, đảm bảo giữ chỉ số sai số MAPE dự báo liên tục dưới ngưỡng 3,0% trong mọi điều kiện thị trường biến động.
  3. Xây dựng kiến trúc dự báo lai ghép (Hybrid Framework): Các viện nghiên cứu tài chính công nghệ (Fintech) nên đẩy mạnh nghiên cứu kết hợp mô hình SVR với các mạng nơ-ron học sâu như LSTM hoặc Transformer trong lộ trình từ 6 đến 12 tháng. Mô hình lai ghép này sẽ tận dụng năng lực ghi nhớ chuỗi thời gian dài hạn của LSTM làm bộ trích xuất đặc trưng và sử dụng SVR ở tầng đầu ra để tối ưu hóa toàn cục biên dự báo, hướng tới nâng cao độ chính xác tổng thể thêm 15% đến 20%.
  4. Kiểm soát rủi ro dựa trên độ rộng dải biên hồi quy: Bộ phận quản trị rủi ro danh mục tại các ngân hàng thương mại và tổ chức tín dụng cần khai thác dải biên $\epsilon$ của SVR như một công cụ đo lường độ bất định cục bộ của thị trường theo thời gian thực. Việc giám sát số lượng vector hỗ trợ phát sinh hàng ngày sẽ giúp hệ thống phát hiện sớm các dấu hiệu khủng hoảng thanh khoản hoặc thay đổi đột ngột trong cấu trúc thị trường, giúp hạn chế mức sụt giảm tài sản tối đa (Maximum Drawdown) của danh mục đầu tư xuống dưới 8%.

Đối tượng nên tham khảo luận văn

Nội dung và kết quả nghiên cứu của luận văn mang lại giá trị học thuật và ứng dụng chuyên sâu cho 4 nhóm đối tượng trọng tâm:

  1. Học viên cao học và Nhà nghiên cứu ngành Khoa học máy tính, Trí tuệ nhân tạo: Cung cấp nền tảng toán học hoàn chỉnh về lý thuyết tối ưu hóa lồi, bổ đề Kuhn-Tucker trong bài toán đối ngẫu Lagrange, điều kiện xác định dương Mercer của hàm nhân và cơ chế giảm thiểu rủi ro cấu trúc. Tài liệu giúp tiết kiệm hơn 50% thời gian nghiên cứu nền tảng khi xây dựng các mô hình học máy thống kê cho dữ liệu chuỗi.
  2. Kỹ sư dữ liệu và Chuyên gia phát triển thuật toán giao dịch (Quant Developers): Khai thác trực tiếp phương pháp thiết kế thuật toán SVR, kỹ thuật trích xuất đặc trưng và mã nguồn thực nghiệm tối ưu hóa siêu tham số để xây dựng các mô hình dự báo giá cổ phiếu tự động, đạt độ chính xác kiểm nghiệm thực tế trên 95% đối với các khung giao dịch ngắn hạn.
  3. Nhà quản lý danh mục và Chuyên viên phân tích tài chính doanh nghiệp: Nắm bắt phương pháp luận định lượng khoa học để dự báo xu hướng dòng tiền, biến động giá hàng hóa và giá trị chứng khoán với mức độ tin cậy thống kê trên 90%, từ đó giảm thiểu tính cảm tính trong quá trình ra quyết định đầu tư chiến lược.
  4. Giảng viên và Sinh viên các chuyên ngành Công nghệ thông tin, Toán tin ứng dụng và Kinh tế lượng: Sử dụng luận văn như một công trình tham khảo chuẩn mực về cấu trúc nghiên cứu thực nghiệm liên ngành, tích hợp chặt chẽ giữa toán học lý thuyết, lập trình máy học hiện đại và ứng dụng thực tiễn trong ngành tài chính ngân hàng.

Câu hỏi thường gặp

Tại sao mô hình SVR lại vượt trội hơn mạng nơ-ron nhân tạo ANN trong dự báo tài chính?

Mạng nơ-ron nhân tạo truyền thống (ANN) hoạt động dựa trên nguyên tắc giảm thiểu rủi ro thực nghiệm, dẫn đến việc dễ bị quá khớp trên dữ liệu chuỗi tài chính có độ nhiễu cao và thường xuyên mắc kẹt tại các điểm cực tiểu cục bộ. Ngược lại, SVR giải quyết bài toán quy hoạch bậc hai lồi dựa trên nguyên tắc giảm thiểu rủi ro cấu trúc, đảm bảo luôn tìm ra nghiệm tối ưu toàn cục duy nhất và kiểm soát chặt chẽ biên sai số tổng quát hóa.

Hàm nhân RBF có những ưu thế đặc thù nào so với các hàm nhân khác?

Hàm nhân RBF (Radial Basis Function) có khả năng ánh xạ không gian dữ liệu sang không gian đặc trưng vô hạn chiều, cho phép mô hình hóa các mối quan hệ phi tuyến tính cực kỳ phức tạp của thị trường tài chính. Trong thực nghiệm, hàm nhân RBF đạt sai số MAPE chỉ 2,35%, vượt trội hơn hẳn so với kernel Tuyến tính đạt 4,28% và ít phức tạp về mặt tham số hơn so với kernel Đa thức bậc cao.

Ý nghĩa thực tiễn của hệ số phạt C và ngưỡng sai số epsilon trong mô hình SVR là gì?

Hệ số phạt $C$ xác định sự đánh đổi giữa độ phẳng của hàm hồi quy và mức độ chấp nhận sai số vượt biên dải ống. Ngưỡng $\epsilon$ tạo ra một vùng dải biên không nhạy cảm, tại đó mọi sai số dự báo nhỏ hơn $\epsilon$ đều được coi bằng không. Cơ chế này giúp mô hình loại bỏ các biến động nhiễu ngẫu nhiên, chỉ giữ lại các điểm dữ liệu then chốt làm vector hỗ trợ.

Dữ liệu chuỗi thời gian cần trải qua các bước tiền xử lý kỹ thuật nào trước khi đưa vào SVR?

Dữ liệu cần được xử lý thông qua hai kỹ thuật chính: lấy sai phân bậc 1 (differencing) để loại bỏ tính xu hướng và đưa chuỗi về trạng thái cố định (stationary), kết hợp kỹ thuật làm mịn bằng đường trung bình động hàm mũ (EMA 3 ngày) nhằm nâng tỷ lệ tín hiệu trên nhiễu (SNR) lên trên 20 dB và triệt tiêu các giá trị ngoại lai gây nhiễu mô hình.

Độ chính xác dự báo của luận văn được lượng hóa qua các thước đo nào?

Luận văn sử dụng chỉ số sai số phần trăm tuyệt đối trung bình (MAPE) làm thước đo chuẩn tắc, kết hợp với căn bậc hai sai số toàn phương trung bình (RMSE). MAPE phản ánh tỷ lệ sai lệch trung bình giữa giá dự đoán và giá trị thực tế của tài sản tài chính, cho phép đánh giá khách quan độ chính xác của từng hàm kernel với tỷ lệ chính xác tổng thể đạt trên 97,6%.

Kết luận

  • Hệ thống hóa toàn diện cơ sở toán học của Lý thuyết học thống kê, nguyên lý giảm thiểu rủi ro cấu trúc và cơ chế hồi quy vector hỗ trợ (SVR) trên không gian đặc trưng nhiều chiều.
  • Kiểm chứng thực nghiệm thành công năng lực vượt trội của hàm nhân RBF với sai số MAPE đạt mức tối ưu 2,35%, giảm hơn 45% sai số so với các hàm nhân tuyến tính thông thường.
  • Thiết lập quy trình tối ưu hóa siêu tham số tự động thông qua thuật toán GridSearch, giúp nâng cao độ chính xác dự báo của hệ thống thêm 32,4%.
  • Khẳng định tính ưu việt của SVR về khả năng tìm nghiệm tối ưu toàn cục duy nhất, triệt tiêu hoàn toàn nhược điểm mắc kẹt tại cực tiểu cục bộ và nguy cơ quá khớp của mạng nơ-ron nhân tạo.
  • Đề xuất khung kiến trúc ứng dụng định lượng hoàn chỉnh, tích hợp kỹ thuật lọc nhiễu EMA và sai phân chuỗi thời gian cho các hệ thống phân tích tài chính thực tế.

Đóng góp cốt lõi của luận văn là đã cung cấp một phương pháp luận khoa học chặt chẽ và giải pháp kỹ thuật đã được kiểm chứng thực tế, chứng minh tính khả thi cao của việc ứng dụng học máy tiên tiến trong bài toán phân tích và dự báo chuỗi thời gian tài chính.

Trong lộ trình nghiên cứu tiếp theo từ 6 đến 12 tháng tới, hướng phát triển sẽ tập trung mở rộng mô hình sang dữ liệu tài chính đa biến thời gian thực trên tập quan sát quy mô hơn 10.000 mẫu, đồng thời tích hợp mô hình lai ghép giữa SVR và kiến trúc học sâu Transformer. Các chuyên gia phân tích định lượng, nhà nghiên cứu và kỹ sư dữ liệu hãy tham khảo chi tiết toàn văn công trình để ứng dụng trực tiếp các thuật toán tối ưu này vào hệ thống phân tích và giao dịch tài chính của mình.