Bối cảnh và vấn đề nghiên cứu

Trong phân tích dữ liệu và thống kê toán học, trường phái tần suất (Frequentist) và trường phái Bayes (Bayesian) là hai phương pháp luận nền tảng với những triết lý tiếp cận đối lập. Nếu trường phái Frequentist xem các tham số của tổng thể là hằng số cố định chưa biết và đưa ra suy luận dựa trên tần suất lặp lại của dữ liệu mẫu, thì trường phái Bayes lại xem các tham số là biến ngẫu nhiên tuân theo các phân phối xác suất nhất định, cho phép tích hợp tri thức hoặc niềm tin ban đầu (tiên nghiệm) vào quá trình cập nhật kết luận (hậu nghiệm). Mặc dù cả hai phương pháp đều tồn tại song song và mang lại những ưu thế riêng biệt, chương trình đào tạo tại phần lớn các trường đại học hiện nay chủ yếu tập trung vào thống kê cổ điển mà chưa đi sâu vào phương pháp luận Bayes. Nguồn tài liệu, giáo trình tiếng Việt chuẩn hóa về suy luận Bayes cho các bài toán thống kê cơ bản như ước lượng tham số, kiểm định giả thuyết và hồi quy tuyến tính vẫn còn khá hạn chế.

Trước thực tế đó, đề tài đồ án "Suy luận Bayes cho bài toán ước lượng kỳ vọng và phương sai" được thực hiện nhằm hệ thống hóa cơ sở lý thuyết, xây dựng mô hình tính toán và kiểm chứng hiệu quả của phương pháp suy luận Bayes đối với bài toán ước lượng các số đặc trưng cơ bản.

Nhiệm vụ và mục tiêu nghiên cứu của đồ án bao gồm:

  1. Nghiên cứu và hệ thống hóa cơ sở lý thuyết xác suất - thống kê cần thiết, bao gồm lý thuyết xích Markov, thuật toán lấy mẫu Gibbs Sampling và các phân phối xác suất liên quan (phân phối Chuẩn, phân phối Gamma).
  2. Xây dựng mô hình toán học giải quyết bài toán ước lượng kỳ vọng ($\mu$) và phương sai ($\sigma^2$) của biến ngẫu nhiên phân phối chuẩn theo cả phương pháp ước lượng hợp lý cực đại (MLE) và phương pháp suy luận Bayes (với các trường hợp tiên nghiệm liên hợp, tiên nghiệm phẳng, tiên nghiệm đều).
  3. Đánh giá, so sánh bản chất toán học giữa ước lượng Bayes (theo hàm mất mát bình phương sai số MSE) và ước lượng hợp lý cực đại MLE thông qua tính chất tổ hợp lồi.
  4. Triển khai mô phỏng số trên dữ liệu sinh ngẫu nhiên và áp dụng mô hình vào giải quyết bài toán ước lượng thực tế trên bộ dữ liệu điểm thi tuyển sinh đại học tại Việt Nam.

Đối tượng nghiên cứu của đồ án là các tham số kỳ vọng ($\mu$) và phương sai ($\sigma^2$) (cùng tham số độ chính xác $\tau = 1/\sigma^2$) của biến ngẫu nhiên tuân theo phân phối chuẩn $N(\mu, \sigma^2)$. Phạm vi nghiên cứu về mặt lý thuyết tập trung vào mô hình chuẩn một chiều với các giả thiết mẫu độc lập cùng phân phối (i.i.d). Về mặt thực nghiệm, phạm vi dữ liệu bao gồm các tập dữ liệu mô phỏng với kích thước mẫu từ $n = 10$ đến $n = 10.000$, cùng tập dữ liệu thực tế gồm 811.851 bản ghi điểm thi tuyển sinh đại học - cao đẳng năm học 2019–2020 tại Việt Nam.

Cơ sở lý thuyết và phương pháp

Đồ án dựa trên khung lý thuyết nền tảng của lý thuyết xác suất, thống kê toán học và giải thuật tính toán MCMC (Markov Chain Monte Carlo):

  • Khung lý thuyết thống kê Bayes: Vận dụng định lý Bayes $p(\theta|x) \propto f(x|\theta) \times \pi(\theta)$ để xác định phân phối hậu nghiệm của tham số $\theta$ dựa trên hàm hợp lý $f(x|\theta)$ và phân phối tiên nghiệm $\pi(\theta)$. Ước lượng Bayes điểm được xác định dựa trên hàm mất mát bình phương sai số nhỏ nhất ($\hat{\theta}_{MSE} = E[\theta|x]$).
  • Họ phân phối xác suất và tiên nghiệm liên hợp: Sử dụng phân phối Gamma $\text{Gamma}(\alpha, \beta)$, phân phối Chuẩn $N(\mu, \sigma^2)$, và phân phối chuẩn hai chiều Chuẩn - Gamma ($N\text{-}G(a, b, c, m)$) làm tiên nghiệm liên hợp (Conjugate prior) nhằm đảm bảo phân phối hậu nghiệm cùng họ phân phối với tiên nghiệm.
  • Lý thuyết xích Markov và giải thuật Gibbs Sampling: Khai thác tính chất không gian trạng thái, ma trận chuyển trạng thái, phương trình Chapman - Kolmogorov và phân phối dừng ($\lambda = \lambda P$). Khi phân phối hậu nghiệm đồng thời nhiều chiều phức tạp, thuật toán Gibbs Sampling được áp dụng để sinh chuỗi mẫu từ các phân phối có điều kiện đầy đủ $p(x|y)$ và $p(y|x)$.
  • Phương pháp nghiên cứu: Kết hợp phương pháp phân tích diễn dịch toán học (chứng minh các định lý phân phối hậu nghiệm, đạo hàm hàm hợp lý, kiểm tra tính không chệch và tính vững) với phương pháp thực nghiệm mô phỏng Monte Carlo và thống kê mô tả trên dữ liệu thực tế.
  • Nguồn dữ liệu: Bộ dữ liệu mô phỏng sinh từ phân phối chuẩn với tham số kiểm soát ($\mu = 10, \sigma^2 = 4$) và bộ dữ liệu thực nghiệm điểm thi tuyển sinh quốc gia năm 2019–2020 được thu thập từ nền tảng Kaggle với 811.851 dòng dữ liệu.

Nội dung chính theo từng chương

Chương 1: Kiến thức chuẩn bị

Chương này tập trung trình bày các khái niệm toán học làm nền tảng cho việc thiết lập mô hình tính toán ở các chương sau:

  • Xích Markov: Định nghĩa dãy biến ngẫu nhiên $(X_n){n \ge 0}$ với không gian trạng thái $I$, phân phối ban đầu $\lambda = (\lambda_i){i \in I}$ và ma trận chuyển $P = (p_{ij}){i,j \in I}$. Thiết lập công thức xác suất chuyển sau $n$ bước $p{ij}^{(n)} = P(X_{m+n} = j | X_m = i)$ và hệ thức Chapman - Kolmogorov tổng quát: $$P^{(n+m)} = P^{(n)} P^{(m)}$$ Phân tích tính chất của phân phối dừng $\pi = \pi P$ khi $n \to \infty$, chứng minh điều kiện cân bằng xác suất trên không gian trạng thái hữu hạn.
  • Thuật toán Gibbs Sampling: Trình bày nguyên lý lấy mẫu cho trường hợp phân phối đồng thời $p(x, y)$ khó lấy mẫu trực tiếp nhưng dễ lấy mẫu từ các phân phối điều kiện $p(x|y)$ và $p(y|x)$. Thuật toán khởi tạo tại $(x_0, y_0)$ và lặp qua các bước sinh $x_n \sim p(x | y_{n-1})$ và $y_n \sim p(y | x_n)$, tạo ra xích Markov hội tụ về phân phối đích.
  • Các hàm phân phối xác suất quan trọng:
    • Phân phối Gamma: Hàm mật độ $f_X(x) = \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\beta x}$ với $x > 0$, kỳ vọng $E(X) = \frac{\alpha}{\beta}$ và phương sai $\text{Var}(X) = \frac{\alpha}{\beta^2}$.
    • Phân phối chuẩn: Hàm mật độ $f(x) = \frac{1}{\sigma \sqrt{2\pi}} \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)$ với kỳ vọng $\mu$ và phương sai $\sigma^2$.

Chương 2: Tính toán Bayes

Chương 2 là trọng tâm lý thuyết của đồ án, thiết lập chi tiết các công thức ước lượng cho biến ngẫu nhiên mẫu $X_1, X_2, \dots, X_n \sim N(\mu, \sigma^2)$ thông qua hàm hợp lý: $$L(\mu, \sigma^2) = (2\pi\sigma^2)^{-n/2} \exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^n (x_i - \mu)^2\right)$$

Tác giả phân tích cụ thể ba bài toán ước lượng:

  1. Ước lượng kỳ vọng $\mu$ khi biết phương sai $\sigma^2$:

    • Ước lượng hợp lý cực đại: Chứng minh $\hat{\mu}{MLE} = \bar{x} = \frac{1}{n} \sum{i=1}^n x_i$. Tác giả chứng minh $\hat{\mu}{MLE}$ là ước lượng không chệch ($E(\hat{\mu}{MLE}) = \mu$) và là ước lượng vững do $\text{MSE}(\hat{\mu}_{MLE}, \mu) = \frac{\sigma^2}{n} \to 0$ khi $n \to \infty$.
    • Phương pháp Bayes với tiên nghiệm liên hợp: Chọn tiên nghiệm $\mu \sim N(a_0, b_0^2)$, phân phối hậu nghiệm thu được là $N(a_1, b_1^2)$ với: $$\frac{1}{b_1^2} = \frac{n}{\sigma^2} + \frac{1}{b_0^2}, \quad a_1 = \frac{b_0^2}{\frac{\sigma^2}{n} + b_0^2} \bar{x} + \frac{\frac{\sigma^2}{n}}{\frac{\sigma^2}{n} + b_0^2} a_0$$ Ước lượng Bayes $\hat{\mu}{MSE} = a_1$ thể hiện dưới dạng tổ hợp lồi giữa ước lượng MLE và kỳ vọng tiên nghiệm: $\hat{\mu}{MSE} = k \hat{\mu}{MLE} + (1-k) E(\mu)$ với $k = \frac{b_0^2}{\sigma^2/n + b_0^2}$. Khi $n$ đủ lớn, $k \to 1$ và $\hat{\mu}{MSE} \approx \hat{\mu}_{MLE}$.
    • Tiên nghiệm phẳng ($\pi(\mu) \propto 1$): Phân phối hậu nghiệm là $p(\mu|x) \sim N\left(\bar{x}, \frac{\sigma^2}{n}\right)$, dẫn đến $\hat{\mu}{MSE} = \bar{x} = \hat{\mu}{MLE}$.
    • Tiên nghiệm đều trên đoạn $[a, b]$: Phân phối hậu nghiệm bị chặn trên đoạn $[a, b]$, cần chuẩn hóa hằng số $K$.

  2. Ước lượng phương sai $\sigma^2$ khi biết kỳ vọng $\mu$:

    • Ước lượng hợp lý cực đại: $\hat{\sigma}^2_{MLE} = v^2 = \frac{1}{n} \sum_{i=1}^n (x_i - \mu)^2$. Chứng minh tính không chệch và tính vững dựa trên luật số lớn.
    • Phương pháp Bayes: Tham số hóa độ chính xác $\tau = \frac{1}{\sigma^2}$. Sử dụng tiên nghiệm liên hợp $\tau \sim \text{Gamma}(a_0, b_0)$, phân phối hậu nghiệm thu được là $\tau|x \sim \text{Gamma}(a_1, b_1)$ với $a_1 = a_0 + \frac{n}{2}$ và $b_1 = b_0 + \frac{1}{2} n v^2$. Ước lượng Bayes là $\hat{\tau}{MSE} = \frac{a_1}{b_1}$, đồng thời thỏa mãn tính chất tổ hợp lồi với $\hat{\tau}{MLE} = \frac{1}{v^2}$.

  3. Ước lượng đồng thời kỳ vọng $\mu$ và phương sai $\sigma^2$:

    • Ước lượng hợp lý cực đại: $\hat{\mu}{MLE} = \bar{x}$ và $\hat{\sigma}^2{MLE} = s^2 = \frac{1}{n}\sum_{i=1}^n (x_i - \bar{x})^2$.
    • Phương pháp Bayes với tiên nghiệm liên hợp Chuẩn - Gamma ($N\text{-}G$): Định nghĩa biến ngẫu nhiên hai chiều $(\mu, \tau) \sim N\text{-}G(a_0, b_0, c_0, m_0)$. Chứng minh phân phối hậu nghiệm $(\mu, \tau)|x \sim N\text{-}G(a_1, b_1, c_1, m_1)$ với quy tắc cập nhật tham số: $$a_1 = a_0 + \frac{n}{2}, \quad b_1 = b_0 + n$$ $$c_1 = c_0 + \frac{1}{2} \left[ n s^2 + \frac{n b_0}{b_0 + n} (\bar{x} - m_0)^2 \right], \quad m_1 = \frac{n}{b_0 + n}\bar{x} + \frac{b_0}{b_0 + n} m_0$$ Ước lượng Bayes thu được là $\hat{\mu}{MSE} = m_1$ và $\hat{\tau}{MSE} = \frac{a_1}{c_1}$.
    • Tiên nghiệm phẳng: Với $\pi(\mu, \tau) \propto \tau^{-3/2}$, phân phối hậu nghiệm là $N\text{-}G\left(\frac{n}{2}+2, n, \frac{n s^2}{2}, \bar{x}\right)$, suy ra $\hat{\mu}{MSE} = \bar{x}$ và $\hat{\tau}{MSE} = \left(1 + \frac{4}{n}\right)\frac{1}{s^2} \approx \hat{\tau}_{MLE}$.

Chương 3: Ứng dụng

Chương 3 triển khai mô phỏng số học và thực nghiệm trên tập dữ liệu thực tế nhằm đánh giá tính đúng đắn của mô hình:

  • Thực nghiệm mô phỏng số:
    • Mô phỏng kỳ vọng với phương sai đã biết ($\mu = 10, \sigma^2 = 4$): Đánh giá 5 trường hợp tiên nghiệm (phẳng, liên hợp chuẩn với các tham số $N(10, 4), N(10, 1), N(2, 1), N(18, 1)$) trên các kích thước mẫu $n \in {10, 100, 1000, 10000}$.
    • Mô phỏng cả kỳ vọng và phương sai ($\mu = 10, \sigma^2 = 4, \tau = 0.25$): Khảo sát 4 trường hợp tiên nghiệm Chuẩn - Gamma trên các cỡ mẫu $n \in {10, 100, 1000}$. Áp dụng thuật toán Gibbs Sampling để tạo xích Markov lấy mẫu xấp xỉ cho $(\mu, \tau)$.
  • Ứng dụng trên dữ liệu thực tế:
    • Khai thác bộ dữ liệu điểm thi tuyển sinh đại học - cao đẳng năm học 2019–2020 tại Việt Nam gồm 811.851 bản ghi với 9 môn thi: SBD, Địa lý, Ngữ văn, Toán học, Vật lý, Hóa học, Sinh học, Lịch sử, GDCD.
    • Bài toán đặt ra: Ước lượng kỳ vọng và phương sai của điểm thi môn Địa lý.
    • Thu thập dữ liệu lịch sử điểm trung bình môn Địa lý các năm (2015, 2016, 2017, 2018, 2020, 2021, 2022) với điểm trung bình chung là 6.19 và phương sai là 0.4327. Từ đó thiết lập các siêu tham số của phân phối tiên nghiệm Chuẩn - Gamma ($m_0 = 6.19, E(\mu) = 6.19, E(\tau) = 1/s^2, \text{Var}(\tau) = 0.4327$) để tiến hành cập nhật hậu nghiệm.

Kết quả và đóng góp

Kết quả nghiên cứu chính

Đồ án đã chứng minh chặt chẽ về mặt toán học và kiểm chứng bằng số học các kết quả sau:

Bài toán ước lượng Phương pháp Ước lượng kỳ vọng ($\hat{\mu}$) Ước lượng phương sai ($\hat{\sigma}^2$) hoặc độ chính xác ($\hat{\tau}$)
Biết phương sai $\sigma^2$ MLE $\bar{x} = \frac{1}{n} \sum x_i$ Đã biết $\sigma^2$
Bayes (Chuẩn liên hợp) $\frac{b_0^2}{\sigma^2/n + b_0^2}\bar{x} + \frac{\sigma^2/n}{\sigma^2/n + b_0^2}a_0$ Đã biết $\sigma^2$
Bayes (Tiên nghiệm phẳng) $\bar{x}$ Đã biết $\sigma^2$
Biết kỳ vọng $\mu$ MLE Đã biết $\mu$ $\hat{\sigma}^2 = v^2 = \frac{1}{n} \sum (x_i - \mu)^2$
Bayes (Gamma liên hợp) Đã biết $\mu$ $\hat{\tau}_{MSE} = \frac{a_0 + n/2}{b_0 + \frac{1}{2}nv^2}$
Chưa biết $\mu$ và $\sigma^2$ MLE $\bar{x}$ $\hat{\sigma}^2 = s^2 = \frac{1}{n} \sum (x_i - \bar{x})^2$
Bayes (Chuẩn - Gamma liên hợp) $m_1 = \frac{n}{b_0+n}\bar{x} + \frac{b_0}{b_0+n}m_0$ $\hat{\tau}_{MSE} = \frac{a_0 + n/2}{c_0 + \frac{1}{2}[ns^2 + \frac{nb_0}{b_0+n}(\bar{x}-m_0)^2]}$
Bayes (Tiên nghiệm phẳng) $\bar{x}$ $\hat{\tau}{MSE} = \left(1 + \frac{4}{n}\right)\frac{1}{s^2} \approx \hat{\tau}{MLE}$

Thông qua các bảng số liệu mô phỏng, tác giả rút ra các kết luận thực nghiệm quan trọng:

  • Khi sử dụng tiên nghiệm phẳng, ước lượng Bayes MSE hoàn toàn tương đương hoặc xấp xỉ rất sát với ước lượng hợp lý cực đại MLE.
  • Khi kích thước mẫu $n$ nhỏ ($n = 10$), phân phối tiên nghiệm chi phối đáng kể đến kết quả phân phối hậu nghiệm. Nếu thông tin tiên nghiệm lệch xa giá trị thực (ví dụ $N(2, 1)$ hoặc $N(18, 1)$ khi giá trị thực là 10), ước lượng Bayes sẽ bị kéo về phía kỳ vọng tiên nghiệm.
  • Khi kích thước mẫu tăng lên ($n = 100, 1000, 10000$), trọng số của dữ liệu quan sát lấn át thông tin tiên nghiệm ($k \to 1$), dẫn đến giá trị ước lượng Bayes MSE hội tụ về giá trị ước lượng MLE.
  • Thuật toán Gibbs Sampling cho kết quả tính toán mô phỏng xấp xỉ tốt và khớp với kết quả phân tích giải tích từ công thức hậu nghiệm đóng.

Đóng góp của đề tài

  • Hệ thống hóa tường minh quy trình suy luận Bayes từ khâu lựa chọn tiên nghiệm (liên hợp, phẳng, đều), thiết lập hàm hợp lý, chứng minh nghiệm giải tích hậu nghiệm, đến tính toán ước lượng số đặc trưng.
  • Làm rõ bản chất mối quan hệ giữa thống kê cổ điển và thống kê Bayes thông qua cấu trúc tổ hợp lồi của ước lượng tham số.
  • Cung cấp tài liệu tham khảo chi tiết về thuật toán Gibbs Sampling và phân phối hai chiều Chuẩn - Gamma trong việc giải quyết bài toán ước lượng đồng thời hai tham số.

Hạn chế và hướng nghiên cứu tiếp

Theo phạm vi và nội dung được trình bày trong đồ án, các hạn chế và hướng mở rộng bao gồm:

  • Hạn chế:
    • Mô hình ước lượng chỉ mới giới hạn trên phân phối chuẩn một chiều và giả thiết các quan sát độc lập cùng phân phối.
    • Trong phần thực nghiệm trên dữ liệu thực tế điểm thi, việc lựa chọn siêu tham số tiên nghiệm còn mang tính giả định ở tham số phương sai của độ chính xác $\text{Var}(\tau)$ do hạn chế về nguồn dữ liệu lịch sử chi tiết.
  • Hướng nghiên cứu tiếp:
    • Mở rộng bài toán suy luận Bayes cho các mô hình phân phối nhiều chiều (Multivariate Normal Distribution).
    • Áp dụng suy luận Bayes cho các bài toán thống kê phức tạp hơn như kiểm định giả thuyết thống kê Bayes và mô hình hồi quy tuyến tính Bayes.
    • Nghiên cứu và thử nghiệm các thuật toán MCMC khác (như Metropolis-Hastings) khi phân phối hậu nghiệm không có dạng giải tích liên hợp đóng.

Giá trị tham khảo

Đồ án là tài liệu tham khảo có giá trị học thuật đối với:

  • Sinh viên và học viên ngành Toán Tin, Thống kê, Khoa học dữ liệu: Tài liệu cung cấp các bước chứng minh toán học chi tiết từ đạo hàm hàm hợp lý, phân tích ma trận thông tin Fisher, đến biến đổi tích phân để tìm phân phối hậu nghiệm liên hợp.
  • Người nghiên cứu về phương pháp tính toán thống kê và MCMC: Cung cấp ví dụ mẫu rõ ràng về việc cài đặt và kiểm chứng thuật toán Gibbs Sampling trên mô hình Chuẩn - Gamma hai chiều.
  • Phần đáng tham khảo nhất: Mục 2.4 (Ước lượng cho cả kỳ vọng và phương sai với tiên nghiệm liên hợp Chuẩn - Gamma) và Mục 3.1 (Quy trình thiết kế thực nghiệm mô phỏng so sánh sự hội tụ giữa Bayes và MLE theo các kích thước mẫu khác nhau).

Câu hỏi thường gặp

1. Trong trường hợp ước lượng kỳ vọng khi biết phương sai, ước lượng Bayes liên hệ như thế nào với ước lượng hợp lý cực đại MLE?
Ước lượng Bayes $\hat{\mu}{MSE}$ biểu diễn dưới dạng tổ hợp lồi giữa ước lượng MLE ($\hat{\mu}{MLE} = \bar{x}$) và kỳ vọng tiên nghiệm ($E(\mu) = a_0$): $$\hat{\mu}{MSE} = k \hat{\mu}{MLE} + (1 - k)E(\mu), \quad \text{với } k = \frac{b_0^2}{\frac{\sigma^2}{n} + b_0^2}$$ Khi kích thước mẫu $n \to \infty$, hệ số $k \to 1$, ước lượng Bayes sẽ tiến dần về ước lượng MLE.

2. Phân phối tiên nghiệm nào được sử dụng làm tiên nghiệm liên hợp tự nhiên khi ước lượng đồng thời kỳ vọng và phương sai?
Đồ án sử dụng phân phối hai chiều Chuẩn - Gamma ($N\text{-}G(a_0, b_0, c_0, m_0)$) cho cặp tham số $(\mu, \tau)$ với $\tau = 1/\sigma^2$. Phân phối này đảm bảo phân phối hậu nghiệm $(\mu, \tau)|x$ cũng tuân theo quy luật Chuẩn - Gamma với các tham số cập nhật $(a_1, b_1, c_1, m_1)$.

3. Khi sử dụng tiên nghiệm phẳng (tiên nghiệm không có thông tin), kết quả ước lượng Bayes có điểm gì đặc biệt?
Khi áp dụng tiên nghiệm phẳng ($\pi(\mu) \propto 1$ hoặc $\pi(\mu, \tau) \propto \tau^{-3/2}$), ước lượng Bayes thu được hoàn toàn trùng khớp hoặc tiệm cận với ước lượng hợp lý cực đại: $\hat{\mu}{MSE} = \hat{\mu}{MLE} = \bar{x}$ và $\hat{\tau}{MSE} \approx \hat{\tau}{MLE}$.

4. Dữ liệu thực tế được sử dụng trong đồ án có quy mô như thế nào và nhằm mục đích gì?
Đồ án sử dụng bộ dữ liệu gồm 811.851 dòng thu thập từ kỳ thi tuyển sinh đại học - cao đẳng năm học 2019–2020 tại Việt Nam (gồm 9 môn thi). Dữ liệu này được dùng để thực nghiệm ước lượng trung bình và phương sai điểm thi môn Địa lý dựa trên việc kết hợp dữ liệu mẫu với thông tin tiên nghiệm từ điểm trung bình các năm trước (2015–2022).

5. Vai trò của thuật toán Gibbs Sampling trong đồ án là gì?
Gibbs Sampling đóng vai trò là giải thuật MCMC giúp sinh chuỗi mẫu từ các phân phối có điều kiện đầy đủ của $\mu$ và $\tau$. Kết quả sinh mẫu từ Gibbs Sampling cho phép tính toán các giá trị ước lượng số đặc trưng mà không cần giải tích phân phức tạp, cho kết quả xấp xỉ sát với nghiệm giải tích lý thuyết.

Kết luận

Đồ án "Suy luận Bayes cho bài toán ước lượng kỳ vọng và phương sai" của sinh viên Phan Văn Thanh (chuyên ngành Toán Tin, Đại học Bách khoa Hà Nội) đã giải quyết toàn diện bài toán ước lượng tham số của phân phối chuẩn dưới góc nhìn thống kê Bayes. Tác giả đã thiết lập hệ thống chứng minh giải tích chặt chẽ cho các dạng tiên nghiệm liên hợp và tiên nghiệm phẳng, đồng thời làm sáng tỏ mối quan hệ toán học giữa ước lượng Bayes và ước lượng hợp lý cực đại MLE. Kết quả thực nghiệm mô phỏng và ứng dụng trên tập dữ liệu điểm thi tuyển sinh quốc gia khẳng định tính khả thi và độ chính xác của phương pháp Bayes cũng như thuật toán lấy mẫu Gibbs Sampling trong xử lý dữ liệu thực tế.