CHƯƠNG 1: TONG QUAN DE TAI trong trong dự báo chuỗi thời gian, đặc biệt khi lam việc với đữ liệu có nhiều nhiễu hoặc không ôn định. Những lý do này làm cho Bayesian Ridge Regression trở thành một lựa chọn hợp lý và mạnh mẽ bối cảnh dự báo chuỗi thời gian. Với kiến thức công nghệ còn hạn chế, Việt Nam hiện có ít hệ thống dự báo NDKK. Phát triển hệ thống dự báo NDKK riêng sẽ mang lại lợi ích quan trọng: Đầu tiên, nó nâng cao kiến thức công nghệ thông tin trong lĩnh vực DBTT.
Việc xây dựng hệ thông NDKK sẽ cung cấp công cụ quan trọng cho nhà nghiên cứu, chuyên gia và cơ quan chức năng theo dõi, đánh giá biến đổi khí hậu trong nước. Hơn nữa, việc phát triển hệ thông dự báo NDKK riêng cũng cho phép tối ưu hóa các yếu t6 cụ thê liên quan đến vùng địa lý. Với việc sử dung dit liệu từ các thành phố và vùng miền khác nhau trong nước, hệ thong có thé hiểu rõ hơn về yếu tố, các chỉ số khác nhau ảnh hưởng đến NĐKK, như địa hình, vị tri địa lý, và hệ thống không khí khu vực. Điều nay cho phép tinh chỉnh các MHDB dé đảm bảo rằng dự đoán NDKK được chính xác và dang tin cậy hon.
Tóm lại, việc phát triển một hệ thống dự báo NĐKK riêng tại Việt Nam sẽ góp phần vào việc nâng cao tri thức về công nghệ thông tin, cung cấp thông tin chính xác, đáng tin cậy cho các nhà nghiên cứu và người dùng cuối. Đồng thời, nó cũng sẽ tăng cường kha năng ứng phó với biến đồi khí hậu và sự kiện thời tiết cực đoan. 16 CHƯƠNG 2: CƠ SỞ LÝ THUYET CHƯƠNG 2: CƠ SỞ LÝ THUYÉT Chương thứ 2 sẽ cung cấp các cơ sở lý thuyết về máy học và các mô hình dự đoán dé hỗ trợ xây dựng và phát triển mô hình dự báo nhiệt độ không khi. Tổng quan về máy học Học máy, hay còn gọi là Máy học — ML thuộc lĩnh vực Trí tuệ nhân tạo(AI) cho phép hệ thống tự học và điều chỉnh đữ liệu mà không cần được lập trình theo một cách cụ thé.
Quá trình này liên quan đến việc cung cấp dit liệu đến những thuật toán đề chúng thiết lập các mô hình toán học từ các mẫu và xu hướng trong dữ liệu. Những mô hình này có khả năng tự động dự đoán hoặc đưa ra quyết định mà không cần sự can thiệp trực tiếp từ con người. Học sâu, một phần của lĩnh vực ML, sử dụng các thuật toán tạo các lớp dé tao ra một “mang neural nhân tao” có khả năng hoc từ đó chi ra dự đoán. Quyết định thông minh tự động đã làm thay đổi toàn bộ lĩnh vực nay.
Có nhiều bước tiến lớn như việc dùng Mang nơ-ron tích chập (CNNs) làm cho việc nhận ra hình anh và Mạng nơ-ron hồi quy (RNNs) dùng vào việc xử lý thông tin tuần tự như văn bản và giọng nói. Thuật toán học sâu được xây dựng trên cau trúc làm việc của não người. Ví dụ, não người có hàng triệu tế bào thần kinh liên kết với nhau nhằm mục đích xử lý thông tin. Cũng như, mạng nơ-ron học sâu (hay còn gọi là mạng nơ-ron nhân tạo) sinh ra từ các lớp nơ-ron nhân tạo làm việc song song trong máy tính.
Những “nút” của mang neural này là các đơn vị phần mềm thực hiện các phép toán dé khai thác dữ 17 CHƯƠNG 2: CƠ SỞ LÝ THUYET liệu. Các mạng này sử dụng những nút nay dé xử lý các van đề khó trong một lĩnh vực cụ thê. Input Layer Hidden Layer 1 Hidden Layer 2 Output Layer 784 128 64 10 (relu) (relu) (softmax) we Sà=“Z=sZ Loss Layer (cross-entropy) CSA eS L R R Y ORSV ORO @ Hình 1. Cách mô hình học sâu hoạt động Nguồn: Machine learning cơ ban [5] Hiện nay, ML đóng vai trò không thê thiếu trong công nghệ tiên tiến như xe không người lái, trợ lý giọng nói ảo và dự đoán phân tích.
Lĩnh vực nay đang được thúc đây và phát triển bởi sự nghiên cứu cả trong môi trường học thuật và công nghiệp. Với việc tạo ra càng nhiều dữ liệu và tận dụng nguồn tai nguyên tính toán mạnh mẽ hơn, khả năng của ML vẫn tiếp tục được mở rộng. | Học có giám sát | Học không giám sát Học bán giám sát Học củng cố Continuous Categorical Categorical Target Target Variable not Categorical Target Target Target Variable available Variable Variable Variable not available Regression Clasitcaton | Clustering Association Clasitcation | Clustering Classification Control + + ¥ ¥ ¥ + + + Dự báo Hình ảnh Phân khúc ‘Market basket Phan loai Tim đường di Tối ưu hóa Xe không thời thiết y khoa khách hàng analysis văn bản trên DL GPS makerting người lái Hình 2. Sơ đồ phân loại máy học Nguồn: Machine learning cơ ban [5] 18 CHƯƠNG 2: CƠ SỞ LÝ THUYET 1.
Học có giám sát Hay còn gọi Supervised Learning, là một phương pháp học từ dữ liệu đã được gan nhãn dé dự đoán hoặc phân loại dữ liệu mới. Phương pháp này huấn luyện một mô hình dé dự đoán đầu ra của dữ liệu mới một cách chính xác sử dụng tập đữ liệu huấn luyện với đầu vào đã biết và đầu ra mong muốn. Bao gồm hai loại tác vụ chính: Phân Loại: Trong tác vụ phân loại, đầu ra mong muốn là một nhãn thuộc một số lớp cụ thé. Vi dụ, phân loại email là 'spam' hoặc 'không spam’.
Hồi Quy: Trong hồi quy, mục tiêu là dự đoán một giá tri liên tục. Vi dụ, dự đoán giá nhà dựa trên diện tích, vi trí, v. Học không giám sát Phương pháp này tận dụng cấu trúc tự nhiên của dữ liệu dé triển khai các nhiệm vụ như chia nhóm hoặc cắt giảm số chiều của di liệu, nhằm cải thiện tính toán và quản lý dữ liệu. Trong ngữ cảnh toán học, phương pháp này xảy ra khi chúng ta chỉ có dữ liệu đầu vào X mà không biết giá trị nhãn Y tương ứng.
Trái ngược với Học có giám sát, nơi câu trả lời đưa ra đúng cho mỗi dữ liệu đã được biết trước. Các bai toán Học không giám sát thường được phân thành hai loại: Phân nhóm (Clustering): Day là bài toán sử dụng phân chia toàn BDLcủa X thành nhiều nhóm nhỏ dựa trên sự tương đồng giữa các dữ liệu. Một ứng dụng điển hình là trong việc xử lý tin tức sai. Sử dụng kỹ thuật này, chúng ta có khả năng gom nhóm các bải viết không đúng sự thật dựa vào nội dung, cách dùng từ và các đặc điểm khác, từ đó giúp xác định tính xác thực của thông tin.
Liên kết (Association): Mục tiêu của loại này là tìm ra các quy luật dựa trên dữ liệu đã có. Một ứng dụng thông thường là khi muốn biết rõ về mối liên hệ giữa các yếu tố trong tập dữ liệu. Hoc bán giảm sát Được sử dụng khi chúng ta đối mặt với các thách thức của bài toán, nơi tập dữ liệu lớn X bao gồm một phần không nhỏ không có nhãn. 19 CHƯƠNG 2: CƠ SỞ LÝ THUYET Giả định cụ thé là khi chỉ một phần nhỏ của ảnh hoặc văn ban được gan nhãn, chăng hạn như bức tranh liên quan đến con người, động vật, hoặc văn bản trong các dé tài khoa học và chính trị.
Trái ngược với điều đó, phần lớn dé liệu không có nhãn được tự động tập hợp từ nguồn Internet. Cho thấy rất nhiều bài toán ML thuộc vào loại này, khi quá trình thu nạp dữ liệu có nhãn thường đòi hỏi nhiều nguồn lực về cả chi phí và thời gian. Đối với nhiều loại dữ liệu đặc biệt, việc gan nhãn thậm chí cần sự chuyên gia, như trong trường hợp của ảnh y học. Ngược lại, việc tìm kiếm dữ liệu không có nhãn thường không mắt chi phí và có thé thực hiện dé dàng từ Internet.
Học củng cố Học củng có, trong lĩnh vực ML, là quá trình tăng cường và cải thiện hiệu suất của một mô hình máy học bằng cách ứng dụng dữ liệu mới hoặc tiếp tục huấn luyện mô hình. Nó cần nắm rõ vấn đề và mục tiêu cần được giải quyết rồi sau đó dựa vào những phương pháp cụ thé dé tăng khả năng dự đoán và nâng cấp mô hình là yếu tô rất quan trọng. Một số thuật toán máy học phố biến 2. Mạng nơ-ron hồi quy (RNN- Recurrent Neural Network) [13] Là mạng nơ-ron có đầu ra từ bước trước được đưa vào như là đầu vào cho bước hiện tại.
Hầu hết các đầu vào và đầu ra đều đơn lập không liên kết ở các mạng nơ-ron truyền thống, nhưng trong những tình huống cần dự đoán từ tiếp theo trong một câu, cần nhớ các từ trước đó. Do đó, RNN tạo ra đề khắc phục vấn đề này voi sự giúp sức của một tầng ân (hidden layer). Đặc điểm chính và cần thiết nhất của RNN là trạng thái ân (hidden state), nó lưu một vài thông tin về một chuỗi. Do đó cũng được coi là trạng thái bộ nhớ vì nó lưu đầu vào trước đó của mạng.
RNN dùng các tham số giống nhau cho mỗi đầu vào, vì nó triển khai cùng một nhiệm vụ trên hầu hết các dau vào hoặc các tang an đê tạo ra dau ra. Từ đó, giúp giảm độ khó vê tham sô. 20 CHƯƠNG 2: CƠ SỞ LÝ THUYET |w Unfold Ìw le |w [U Te Sứ Ju @ ® @ 8 Hình 3. Mạng nơ-ron hồi quy Nguồn: Giới thiệu mạng nơ ron hồi quy [13] Kiến trúc của Mạng No-ron hồi quy Mạng nơ-ron hồi quy (RNN) có cùng dạng đầu vào và đầu ra như bắt kỳ kiến trúc nơ-ron sâu (deep neural architecture) nao khác.
Mặt khác, sự khác nhau sinh ra trong cách thông tin chạy từ đầu vào đến đầu ra. Khác với mạng nơ-ron sâu (deep neural networks) nơi chúng ta có các ma trận trọng số khác biệt cho mỗi mạng Dense, trong RNN, trọng số trên toàn mạng giữ nguyên. Nó tính toán trạng thái ân (hidden state) H, cho mỗi đầu vào X;bằng việc áp dụng các công thức sau: h= ø(UX + Wh—1 + B) (2.2) Ở đây, S là ma trận trang thái (State matrix) có phan tử si đại diện cho trạng thái của mạng tại thời điểm ¡. Các tham số trong mang la W, U, V, c, b và chúng được chia sẻ qua các bước thời gian.
21 CHƯƠNG 2: CƠ SỞ LÝ THUYET RECURRENT NEURAL NETWORKS So RNN 51 RNN_ Šn RNN Cell Cell TM Cell | RNN ls Cell Xo Xị Xn X; Hình 4. Mạng thần kinh tái phát là gì Nguồn: Giới thiệu mạng nơ ron hồi quy [13] RNN bao gồm nhiều đơn vị hàm kích hoạt cố định, mỗi đơn vi tương ứng với một bước thời gian. Mỗi đơn vị có một trạng thái nội tại được gọi là trạng thái an của don vị.