Luận án tiến sĩ phát triển một số thuật toán phân cụm mờ viễn cảnh và ứng dụng trong dự báo

Luận án tiến sĩ nghiên cứu phát triển thuật toán phân cụm mờ viễn cảnh và ứng dụng trong dự báo, nâng cao hiệu quả phân tích dữ liệu.

Trường đại học

Đại học Quốc gia Hà Nội

Người đăng

Ẩn danh

Thể loại

luận án tiến sĩ

2020

124
1
0

Phí lưu trữ

35 Point

Mục lục chi tiết

LỜI CAM ĐOAN

1. MỞ ĐẦU

DANH MỤC THUẬT NGỮ VÀ TỪ VIẾT TẮT

DANH MỤC BẢNG BIỂU

DANH MỤC HÌNH VẼ

DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC CỦA TÁC GIẢ ĐÃ CÔNG BỐ

TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng quan về thuật toán phân cụm mờ viễn cảnh trong dự báo

Thuật toán phân cụm mờ viễn cảnh (PFC) là một trong những phương pháp tiên tiến trong lĩnh vực phân tích dữ liệu. Nó được phát triển dựa trên lý thuyết tập mờ của Zadeh và được áp dụng rộng rãi trong nhiều lĩnh vực như dự báo thời tiết, tài chính và y khoa. PFC cho phép phân nhóm dữ liệu một cách linh hoạt, giúp cải thiện độ chính xác trong việc dự đoán các hiện tượng phức tạp.

1.1. Khái niệm và nguyên lý hoạt động của phân cụm mờ

Phân cụm mờ là phương pháp phân nhóm dữ liệu mà trong đó mỗi phần tử có thể thuộc về nhiều cụm với các mức độ khác nhau. Điều này giúp giải quyết vấn đề khi dữ liệu không rõ ràng hoặc có sự chồng chéo giữa các cụm.

1.2. Lịch sử phát triển của thuật toán phân cụm mờ

Thuật toán phân cụm mờ được giới thiệu lần đầu bởi Bezdek vào năm 1981. Kể từ đó, nhiều cải tiến đã được thực hiện để nâng cao hiệu suất và khả năng ứng dụng của nó trong các lĩnh vực khác nhau.

II. Vấn đề và thách thức trong phân cụm mờ viễn cảnh

Mặc dù thuật toán phân cụm mờ viễn cảnh mang lại nhiều lợi ích, nhưng vẫn tồn tại một số thách thức lớn. Một trong những vấn đề chính là xác định số lượng cụm trước khi thực hiện phân cụm. Điều này có thể ảnh hưởng đến chất lượng của kết quả phân nhóm.

2.1. Thách thức trong việc xác định số cụm

Việc xác định số cụm là một bước quan trọng trong quá trình phân cụm. Nếu số cụm được chọn không chính xác, kết quả phân cụm có thể không phản ánh đúng thực tế.

2.2. Ảnh hưởng của dữ liệu phức tạp đến kết quả phân cụm

Dữ liệu phức tạp với nhiều thuộc tính có thể gây khó khăn trong việc phân nhóm. Các thuật toán phân cụm mờ cần được cải tiến để xử lý tốt hơn với các loại dữ liệu này.

III. Phương pháp cải tiến thuật toán phân cụm mờ viễn cảnh

Để nâng cao hiệu suất của thuật toán phân cụm mờ viễn cảnh, nhiều phương pháp cải tiến đã được đề xuất. Các nghiên cứu gần đây tập trung vào việc kết hợp PFC với các thuật toán tối ưu khác để cải thiện chất lượng phân cụm.

3.1. Kết hợp PFC với thuật toán tối ưu bầy đàn

Phương pháp này sử dụng thuật toán tối ưu bầy đàn (PSO) để tìm kiếm các tâm cụm tối ưu, từ đó nâng cao chất lượng phân cụm.

3.2. Ứng dụng của mô hình mờ trong phân cụm

Mô hình mờ giúp cải thiện khả năng phân nhóm dữ liệu không chắc chắn, từ đó nâng cao độ chính xác trong dự báo.

IV. Ứng dụng thực tiễn của thuật toán phân cụm mờ viễn cảnh

Thuật toán phân cụm mờ viễn cảnh đã được áp dụng trong nhiều lĩnh vực khác nhau, từ dự báo thời tiết đến phân tích tài chính. Các ứng dụng này cho thấy tính linh hoạt và hiệu quả của phương pháp trong việc xử lý dữ liệu phức tạp.

4.1. Dự báo thời tiết ngắn hạn

Phân cụm mờ viễn cảnh được sử dụng để phân tích dữ liệu radar và vệ tinh, giúp cải thiện độ chính xác trong dự báo thời tiết ngắn hạn.

4.2. Ứng dụng trong lĩnh vực tài chính

Trong tài chính, PFC được áp dụng để phân tích xu hướng thị trường và dự đoán biến động giá, từ đó hỗ trợ ra quyết định đầu tư.

V. Kết luận và tương lai của thuật toán phân cụm mờ viễn cảnh

Thuật toán phân cụm mờ viễn cảnh đã chứng minh được giá trị của nó trong nhiều ứng dụng thực tiễn. Tuy nhiên, vẫn còn nhiều thách thức cần được giải quyết để nâng cao hiệu suất và khả năng ứng dụng của nó trong tương lai.

5.1. Hướng nghiên cứu trong tương lai

Các nghiên cứu tiếp theo có thể tập trung vào việc phát triển các thuật toán mới kết hợp với công nghệ học máy để cải thiện độ chính xác và hiệu suất của phân cụm mờ.

5.2. Tầm quan trọng của phân cụm mờ trong khoa học dữ liệu

Phân cụm mờ sẽ tiếp tục đóng vai trò quan trọng trong việc khai thác và phân tích dữ liệu lớn, giúp các nhà khoa học và doanh nghiệp đưa ra quyết định chính xác hơn.

16/08/2025

Trích đoạn nội dung tài liệu

MỞ ĐẦU 1. Nhu cầu và ý nghĩa của phân cụm và phân cụm mờ Ngày nay, với sự phát triển về mọi mặt của đời sống từ kinh tế, văn hóa, giáo dục cho đến công nghệ và đặc biệt, lĩnh vực công nghệ thông tin đã có những bước phát triển chóng mặt. Công nghệ thông tin ngày càng khẳng định vai trò quan trọng, làm trung tâm chi phối mọi hoạt động, là cầu nối trao đổi thông tin giữa các thành phần của xã hội toàn cầu, của mọi vấn đề. Như một hệ quả tất nhiên, lượng thông tin, dữ liệu được được thu thập, lưu trữ cũng ngày một lớn hơn và đang phát triển một cách bùng nổ trong những năm gần đây.

Chính vì vậy, câu hỏi làm thế nào để trích xuất ra các thông tin, các tri thức từ lượng dữ liệu khổng lồ đó đang là thách thức cũng như mang lại cơ hội nghiên cứu, khám phá cho các nhà khoa học. Khai phá dữ liệu là quá trình xử lý dữ liệu và nhận biết các mẫu và các xu hướng trong thông tin để có thể giúp người dùng đưa ra quyết định hoặc đánh giá. Có nhiều bài toán khai phá dữ liệu như phân lớp, phân cụm, hồi quy, v., trong đó bài toán phân cụm dữ liệu là bài toán tương đối phổ biến và có nhiều ứng dụng. Phân cụm dữ liệu là việc sắp xếp các đối tượng dữ liệu vào từng cụm sao cho các phần tử trong cùng một cụm có mức độ tương tự là cao nhất và hai phần tử bất kỳ ở hai cụm khác nhau có mức độ tương tự là thấp nhất.

Việc phân cụm như vậy giúp cho việc khai phá dữ liệu, đặc biệt là các bài toán dữ liệu lớn trở nên hiệu quả khi các dữ liệu được phân thành các nhóm với các tính chất đặc trưng. Việc phân cụm này đặc biệt hiệu quả khi dữ liệu có phân bố các cụm tách rời nhau và không chứa nhiễu. Tuy nhiên, với các bộ dữ liệu có sự phân bố các cụm xen kẽ, dữ liệu không chắc chắn, dữ liệu chứa nhiễu hoặc thiếu một số thuộc tính thì cách phân cụm như vậy không hiệu quả. Trên thực tế, mỗi một phần tử trong bộ dữ liệu có thể thuộc về nhiều cụm dữ liệu với các mức độ khác nhau.

Để giải quyết vấn đề này, dựa trên lý thuyết về tập mờ của Zadeh [98], Bezdek [12] đã đưa ra thuật toán phân cụm mờ - Fuzzy C-means (FCM) nhằm giải quyết các nhược điểm trên. Thuật toán này được xem như một trong những phương pháp trích rút các quy tắc và luật mờ trong khai phá dữ liệu, trong đó các yếu tố mờ thực sự phổ biến [26, 73, 106]. Phân cụm mờ có nhiều ứng dụng trong thực tế cuộc sống ở nhiều lĩnh vực khác nhau như: 9 TIEU LUAN MOI download : skknchat@gmail.com - Trong kinh tế: dự báo tỉ giá, dự báo chứng khoán, dự báo tài chính [91-92] - Trong y khoa: Hỗ trợ chuẩn đoán hình ảnh, hỗ trợ tư vấn khám bệnh [1,7,15,16,19,47,51,71,74,95] - Trong thủy văn: dự báo thời tiết ngắn hạn [76] - Trong xử lý ảnh: Phân đoạn ảnh [50,102] - Trong hệ tư vấn: hỗ trợ ra quyết định [44,52] - Trong an ninh: phát hiện lỗi, xâm nhập [46,104] - Trong mạng không dây: đặt các cảm biến, phương pháp truyền tin [2,61] Trong các ứng dụng của phân cụm mờ, bài toán dự báo thời tiết ngắn hạn nổi bật bởi việc kết hợp các kết quả của phân cụm với xử lý ảnh để đưa ra ảnh dự báo đầu ra. Dự báo thời tiết là một ứng dụng khoa học và công nghệ để dự đoán trạng thái của bầu khí quyển tại một vị trí nhất định và nó đóng một vai trò quan trọng trong cuộc sống hàng ngày của con người.

Các dự báo thời tiết có độ chính xác cao sẽ làm giảm những rủi ro mà con người có thể phải đối mặt. Một trong những phần quan trọng nhất của dự báo thời tiết là dự báo thời tiết ngắn hạn [87]. Dự báo thời tiết ngắn hạn kết hợp mô tả về trạng thái hiện tại của khí quyển và dự báo ngắn hạn về khí quyển sẽ xẩy ra trong vài giờ tiếp theo [33]. Điều này cho phép nó có thể dự báo các tính chất thời tiết trong ngắn hạn như mưa, mây và các cơn bão với các nguyên nhân rõ ràng trong khoảng thời gian này, theo [58].

Các dữ liệu rada mới nhất, dữ liệu vệ tinh và dữ liệu dựa trên quan sát được sử dụng để phân tích các biến đổi trong phạm vi hẹp như một thành phố và thực hiện một dự báo chính xác cho khoảng thời gian vài giờ sau. Tuy nhiên, quan sát vệ tinh là sự lựa chọn thích hợp cho tất cả các khu vực trong vùng phủ sóng của nó [57,72]. Một vài phương pháp điển hình được sử dụng rộng rãi trong dự báo thời tiết dựa theo các quan sát của hình ảnh vệ tinh cụ thể như [29,59,75-76]. Đặc biệt, Evans [29] sử dụng mô hình tương quan đa kênh cho việc gán nhãn để phân tích chuyển động đám mây.

Melgani [59] xây dựng lại bối cảnh hình ảnh đa thời gian và đa quang phổ bị nhiễu đám mây. Shukla và Pal [75] đề xuất một cách tiếp cận để nghiên cứu sự tiến hóa của các tế bào đối lưu. 10 TIEU LUAN MOI download : skknchat@gmail.com Shukla, Kishtawal và Pal [76] đề xuất một phương pháp để dự đoán các chuỗi hình ảnh vệ tinh kết hợp mô hình hồi quy không thời gian (STAR) với phân cụm mờ (Fuzzy C-Means - FCM) để tăng độ chính xác dự báo. Mặc dù kỹ thuật này đã cho kết quả dự báo tốt hơn so với các phương pháp trong [29,59,75], tuy nhiên nó vẫn không đủ tốt vì những hạn chế của các tập mờ như độ do dự và mơ hồ.

Park và Lee [69] trình bày một cách tiếp cận bằng suy diễn mờ và phương pháp tập hợp để dự báo thủy triều đỏ. Theo cách tiếp cận này, suy diễn mờ là một phương pháp dự đoán xuất phát từ một đề xuất gần đúng từ thông tin mơ hồ và kiến thức dựa trên một mô hình mờ. Phương pháp tập hợp sau đó đã được sử dụng để giúp cải thiện độ chính xác của kết quả phân loại và dự đoán. Các tác giả trong [62] đã so sánh các mô hình mạng neuron nhân tạo riêng lẻ và kết hợp (ANN) cho bài toán dự đoán nhiệt độ không khí và điểm sương.

Mô hình này được phát triển theo kiến trúc mạng Ward [90] bao gồm một mạng nơ ron ba lớp với các lớp đầu vào, ẩn và đầu ra. Mặc dù dự đoán dựa trên ANN có thể cho độ chính xác cao hơn, nó vẫn có trở ngại bởi một số tham số như hàm khởi động, số lượng các nút trong lớp ẩn, phân phối các nút giữa các lớp của mô hình theo kiểu Ward phải xác định. Các tiếp cận chính đối với phân cụm mờ Các yêu cầu về hệ thống thông minh và tự động đặt FCM vào thách thức lớn trong các ứng dụng như phân tích dữ liệu, nhận dạng mẫu, phân đoạn ảnh, phân tích nhóm vị trí, ảnh vệ tinh và phân tích tài chính. Một số phương pháp cải tiến hoặc lai ghép kết hợp FCM với một số thuật toán tối ưu khác được trình bày trong [6, 7, 23, 40, 65, 85, 86, 101] nhằm nâng cao chất lượng phân cụm.

Tuy nhiên, chất lượng phân cụm của FCM thường không đủ tốt do thuật toán này được cài đặt trên cơ cở của các tập mờ truyền thống, trong đó vẫn có những giới hạn về độ thuộc, sự do dự và mơ hồ của các tham số mẫu. Chính vì vậy việc nghiên cứu các thuật toán phân cụm trên các tập mờ nâng cao nhằm mục tiêu giải quyết các nhược điểm này. Đến nay đã có rất nhiều thuật toán phân cụm trên các tập mờ nâng cao như thuật toán phân cụm trên tập mờ loại 2 (T2FS) [57], tập mờ trực cảm, v. mang lại chất lượng phân cụm tốt hơn.

Nhiều thuật toán phân cụm dựa trên tập mờ loại 2 (T2FS) [57] được đề xuất như trong [38, 41, 55, 64, 66, 88]. Những thuật toán này tập trung vào sự không chắc chắn với bộ mờ hóa mở rộng nhằm điều khiển độ mờ trong FCM. 11 TIEU LUAN MOI download : skknchat@gmail.com Mặc dù chất lượng phân cụm tốt hơn FCM, nhưng thời gian tính toán khá lớn nên các nghiên cứu thường mở rộng FCM trên tập mờ trực cảm (IFS) [10]. Một số nghiên cứu phát triển FCM trên IFS được đề xuất bởi các tác giả trong [4, 36, 39, 93, 105].

Chaira [15] và Chaira & Panwar [16] giới thiệu thuật toán phân cụm mờ trực cảm dựa trên hàm mục tiêu mới để phân cụm các ảnh chụp CT não nhằm phát hiện các vấn đề bất thường trong não. Một số nghiên cứu khác được đề xuất phát triển trên tập thuộc tính mờ và độ đo mờ để đánh giá chất lượng phân cụm [9,14,27,103]. Lê Hoàng Sơn và cộng sự [77-84] đã đề xuất thuật toán phân cụm mờ trực cảm để phân tích nhân khẩu học dựa vào các kết quả nghiên cứu gần đây liên quan đến IFS và thuật toán phân cụm mờ xác suất. Phân cụm mờ với hàm nhân (KFCM) được áp dụng để nâng cao chất lượng phân cụm của FCM như trong các nghiên cứu [34, 45, 54].

Tổng quan về các thuật toán phân cụm mờ trực cảm được tổng hợp trong [94]. Tuy nhiên, các thuật toán này vẫn cho kết quả vẫn chưa tốt và không phản ánh được nhiều yếu tố như độ “do dự” tồn tại trong nhiều ứng dụng. Vào năm 2014, Bùi Công Cường và cộng sự đã giới thiệu tập mờ viễn cảnh (PFS) [21], là một sự khái quát hóa của tập mờ truyền thống và tập mờ trực cảm. Các mô hình dựa trên PFS có thể được áp dụng cho nhiều tình huống cần ý kiến của con người liên quan nhiều đến các câu trả lời kiểu: đồng ý, do dự, không đồng ý và từ chối trả lời.

Các tình huống này có thể cho kết quả rõ ràng hơn trên các thuật toán phân cụm dựa trên IFS. Chính vì vậy việc phát triển thuật toán phân cụm mờ trên PFS sẽ nâng cao độ chính xác phân cụm. Hiện nay các thuật toán phân cụm mờ viễn cảnh mới chỉ dừng lại ở việc đưa ra một số độ đo kết hợp sử dụng phân cụm phân cấp để thực hiện như trong [57] mà chưa xem xét đến việc phân cụm theo cách tiếp cận phân hoạch. Các vấn đề tồn tại của phân cụm mờ Ngoài các nhược điểm về chất lượng cụm, thuật toán FCM và các thuật toán phân cụm trên các tập mờ nâng cao còn có một số nhược điểm khác như xác định số cụm hay xử lý với dữ liệu phức tạp.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ