Chương 1: TONG QUAN VE DE TÀI 1. Tinh hình nghiên cứu ngoài nước. Bên cạnh tình hình nghiên cứu trong nước, nhiều tác giả cũng đã có những công trình nghiên cứu dé tìm ra các phương pháp, kỹ thuật dự báo các yếu tô khí tượng, sử dụng các mô hình và phương pháp xử lý dữ liệu lớn với nhiều kết quả thành công được công bố. Các phương pháp thường được sử dụng gồm có mô hình MapReduce, các công nghệ thường được sử dụng gồm có Hadoop, Apache Spark, Apache Kafka,.
Một số công trình nghiên cứu có thê dé cập đến gồm có: Dé tài “Big Data Analytics in Weather Forecasting: A Systematic Review” [5] của nhóm tác giả Marzieh Fathi, Mostafa Haghi Kashani, Seyed Mahdi Jameii, Ebrahim Mahdipour. Bai bao danh gia về các phương pháp phân tích dữ liệu lớn trong dự báo thời tiết, được công bố trong khoảng thời gian từ năm 2014 đến tháng 8 năm 2020. Qua bài báo, nhóm tác giả muốn cung cấp cái nhìn toàn diện về tình hình hiện tại của lĩnh vực này, dựa trên kỹ thuật và các công nghệ khác nhau. Nhóm tác giả cũng so sánh các phương pháp khác nhau về độ chính xác, khả năng mở rộng, thời gian thực thi,.
VỀ việc ứng dụng MapRecude trong dự đoán nhiệt độ, nhóm tác giả gồm Khalid Adam Ismail, Mazlina Abdul Majid, Jasni Mohamed Zain, Noor Akma Abu Bakar có đề tài “Big Data Prediction Framework for Weather Temperature Based on MapReduce Algorithm” [6]. Dé tài tập trung vào việc phát trién một bộ khung phân tích đữ liệu lớn dé dự đoán nhiệt độ thời tiết dựa trên thuật toán MapReduce, với mục tiêu cung cấp một giải pháp hiệu quả và mang tính ứng dụng cao trong việc xử lý và phân tích khối lượng dữ liệu thời tiết lớn thu thập từ các cảm biến khác nhau như cảm biến nhiệt độ và độ 4m. Việc sử dụng thuật toán MapReduce được kỳ vọng sẽ giúp vượt qua các thách thức liên quan đến quá trình xử lý và lưu trữ dé liệu tốn kém thời gian và phức tạp. Về vấn đề trực quan hóa dữ liệu lớn, năm 2020 nhóm tác giả gồm có Shadi Aljawarneh, Juan A.
Lara và Muneer Bani Yassein [7] đã công bố đề tài “A visual big data system for the prediction of weather-related variables: Jordan-Spain case study”. Bai báo dé xuất một hệ thống trực quan hóa dữ liệu lớn cho các tham số sử dụng trong dự báo thời tiết. Hệ thống được dé xuất hỗ trợ các nhà nghiên cứu tạo và tùy chỉnh các báo cáo từ nguồn dữ liệu lớn thu thập được, phục vụ cho quá trình phân tích sau này. Năm 2018, nhóm tác giả gồm Shubham Madan, Praveen Kumar, Seema Rawat, Tanupriya Choudhury, Amity Ủniversity Noida, Uttar Pradesh, India, UPES 19 Chương 1: TONG QUAN VE DE TÀI Dehradun đã công bố dé tai “Analysis of Weather Prediction using Machine Learning & Big Data” [8].
Bai báo trình bay các kỹ thuật và thuật toán dự đoán điều kiện thời tiết dựa trên đữ liệu quá khứ, bao gồm nhiệt độ, độ 4m, áp suất không khí và hướng gió. Phương pháp đề xuất sử dụng máy học dé phân tích dữ liệu và trích xuất thông tin hữu ích, cũng như mô hình dự báo dé xác định các mẫu trong dir liệu. Thuật toán dé xuất cung cấp kết quả xấp xỉ và gần đúng dé dự báo chính xác hơn sử dụng dit liệu lớn. Kết quả được tính dựa trên cây quyết định toán học và thống kê cùng điều kiện, cũng như ma trận nhằm lẫn đề đạt độ chính xác tốt hơn.
Bài báo trình bày một phương pháp hữu ích cho việc dự báo thời tiết có thể giúp giảm thiểu tác động tiêu cực của thời tiết đối với xã hội. Ngoài một số công trình nghiên cứu khoa học tiêu biểu đã được công bố như trên cũng còn rất nhiều công trình nghiên cứu khoa học liên quan đã và đang thực hiện với mong muốn nâng cao chất lượng dự báo và ứng dụng vào thực tiễn. Các nghiên cứu trong và ngoài nước nhìn chung đều nhận được nhiều sự quan tâm của các nhà nghiên cứu về việc ứng dụng xử lý dữ liệu lớn và kỹ thuật máy học vào xây dựng mô hình dy báo yếu tô khí tượng và các dé tài nghiên cứu cũng mang lại kết quả đáng ghi nhận. Mô hình dự báo thời tiết và nhiệt độ tại Việt Nam áp dụng mô hình từ nước ngoài như WRF, HRM, ETA dé tăng kha năng dự báo.
So với mô hình mới được công bồ từ các bài báo khoa học và nước ngoài, áp dụng kỹ thuật máy học kết hợp với xử lý dữ liệu lớn có tính khả quan và làm tăng độ chính xác. Khảo sát và nghiên cứu cho thấy việc kết hợp dữ liệu lớn và các kỹ thuật máy học trong lĩnh vực khoa học máy tính vào dự báo nhiệt độ đô thị tại Việt Nam là hoàn toàn khả quan và có thể ứng dụng được trong thực tiễn. 20 Chương 2: KIÊN THỨC NEN TANG Chương 2: KIÊN THỨC NEN TANG 2.1 Tổng quan các kiến thức cần tìm hiểu. Dé dat được các mục tiêu cuối cùng là phát triển được một ứng dụng dự báo nhiệt độ, trước tiên cần nắm vững các nền tảng lý thuyết, các kiến thức về đữ liệu lớn, các công cụ cũng như các phương pháp xử lý dữ liệu lớn.
Để nắm được các kiến thức đó, trong phạm vi luận văn sẽ trình bày các nền tảng lý thuyết theo thứ tự từ các khái niệm cơ bản về dữ liệu lớn, sau đó sẽ đề cập chi tiết hơn về kiến trúc của một hệ thống dữ liệu lớn. Sau khi đã năm được các kiến thức căn bản về đữ liệu lớn, các phương pháp xử lý và các công cụ hỗ trợ cho quá trình xử ly đữ liệu lớn sẽ được dé cập. Các mảng kiến thức trong chương 2 được trình bày bao gồm giới thiệu các kiến thức chung và một số điểm riêng dùng cho bài toán dự báo nhiệt độ. Tổng quan về dữ liệu lớn.
Dữ liệu lớn là thuật ngữ để chỉ một tập hợp dữ liệu rất lớn, đa dạng và phức tạp mà các hệ thống xử lý dữ liệu truyền thống không thể xử lý hiệu quả. Dữ liệu lớn bao gồm dữ liệu có cấu trúc, bán cấu trúc và không có cấu trúc được tạo ra với tốc độ và khối lượng lớn từ các nguồn khác nhau. Nhu cầu khai thác thông tiný nghĩa và mẫu từ dữ liệu này đã tạo ra các phương pháp phân tích và xử lý tiên tiến.2 Các đặc trưng của dữ liệu lớn: mô hình 5V. Dữ liệu lớn gồm có 5 đặc trưng [5]: - Volume (Khối lượng): Kích thước lớn của dữ liệu được tạo ra và lưu trữ, thường trong phạm vi terabyte đến petabyte và nhiều hơn nữa.
- Velocity (Tốc độ): Tốc độ tạo ra, thu thập và xử lý đữ liệu. Tốc độ này có thể là dữ liệu sinh ra theo thời gian thực đến xử lý theo lô (batch processing), tùy thuộc vào ứng dụng. - Variety (Tính đa dạng): Sự đa dạng của nguồn dif liệu, bao gồm dữ liệu có cấu trúc, bán cấu trúc và không có cấu trúc. Ví dụ như văn bản, hình ảnh, video, dữ liệu cảm biên, bài đăng trên mạng xã hội,.
21 Chương 2: KIÊN THỨC NEN TANG - Veracity (Độ chính xác): Chất lượng và độ chính xác của dữ liệu, có thé thay đổi đáng ké tùy thuộc vào nguồn và loại dữ liệu. Đảm bao độ tin cậy của dữ liệu là điều cần thiết cho việc phân tích có ý nghĩa. - Value (Giá trỊ): Tính hữu ích tiềm năng của dữ liệu trong việc tạo ra thông tin chỉ tiết và hỗ trợ quá trình ra quyết định. Giá trị của Dữ liệu lớn đến từ khả năng cung cấp thông tin hành động.
=> Trong phạm vi luận văn, dữ liệu nhiệt độ trong lịch sử mang đặc trưng về tốc độ tạo ra (dữ liệu được ghi nhận mỗi 30 hoặc 60 phút, và dữ liệu được xử lý theo lô khi huấn luyện).3 Các nguồn dữ liệu lớn. Dữ liệu lớn có thể đến từ nhiều nguồn khác nhau, bao gồm: - Các nền tảng mạng xã hội: Nội dung do người dùng tạo ra, chăng hạn như bài đăng văn bản, hình ảnh và video, cũng như siêu dữ liệu (ví dụ: lượt thích, chia sẻ, bình luận) từ các nền tảng như Facebook, Twitter và Instagram. - Dữ liệu được tao ra bởi các thiết bị kết nối, chăng hạn như thiết bị đeo thông minh, thiết bị gia dụng thông minh và cảm biến công nghiệp. - Giao dịch kinh doanh: Dữ liệu được tạo ra từ hoạt động bán hàng, tương tác với khách hàng và các hoạt động hoạt động khác trong nhiều ngành công nghiệp, bao gồm bán lẻ, tài chính và viễn thông.
- Nội dung đa phương tiện: Hình ảnh, video và tập tin âm thanh được tạo ra bởi người dùng hoặc tổ chức, chang hạn như YouTube, Netflix và Spotify. - Nghiên cứu khoa học: Dữ liệu được tạo ra từ thí nghiệm, mô phỏng và quan sát trong các lĩnh vực như dữ liệu về mã gen, các yếu tố khí tượng và thiên văn học. Dữ liệu nhiệt độ trong luận văn thuộc nguồn dữ liệu dùng trong nghiên cứu khoa học.4 Phân tích Dữ liệu lớn. Phân tích Dữ liệu lớn liên quan đến quá trình khảo sát, làm sạch, biến đổi và mô hình hóa dit liệu để khám phá các mẫu ân, xu hướng và thông tin sâu sắc.
Có bốn loại phân tích chính: 22 Chương 2: KIÊN THỨC NEN TANG - Phân tích mô tả (Descriptive analytics): Khảo sát dữ liệu lịch sử dé hiểu những gì đã xảy ra trong quá khứ. - Phân tích chân đoán (Diagnostic analytics): Xác định các yếu tố hoặc sự kiện dẫn đến kết quả hoặc xu hướng cụ thể được quan sát trong phân tích mô tả. - Phân tích dự đoán (Predictive analytics): Sử dụng dữ liệu lịch sử và các mô hình thống kê dé dự báo các sự kiện hoặc xu hướng trong tương lai. Đây cũng là loại phân tích trong luận văn (dự đoán nhiệt độ tương lai từ dữ liệu lịch sử).
- Phân tích định hướng (Prescriptive analytics): Dua ra các khuyến nghị hoặc hành động để tối ưu hóa kết quả dựa trên thông tin sâu sắc thu được từ phân tích mô tả, chân đoán và dự đoán.5 Ứng dụng của Dữ liệu lớn. Dữ liệu lớn có thể được ứng dụng trong nhiều lĩnh vực: - Tiếp thị và thông tin khách hàng: Cá nhân hóa các chiến dịch tiếp thị, phân tích cảm xúc và phân khúc khách hàng. - Chăm sóc sức khỏe và nghiên cứu y học: Dự đoán bùng phát dịch bệnh, giám sát bệnh nhân và y học cá nhân. - Tài chính và quản lý rủi ro: Phát hiện gian lận, đánh giá rủi ro tín dụng và giao dịch thuật toán.