Luận án: Phát hiện luật kết hợp và luật chuỗi mờ trong CSDL định lượng thời gian

Chuyên khảo luật học phân tích Luận án phát hiện luật kết hợp và luật chuỗi mờ trong cơ sở dữ liệu định lượng có yếu tố thời gian, đánh giá các khía cạnh quan trọng, đề xuất hướng

Chuyên ngành

Hệ thống thông tin

Người đăng

Ẩn danh

Thể loại

Luận án tiến sĩ

2021

146
2
0

Phí lưu trữ

35 Point

Tóm tắt

I. Tổng quan luận án phát hiện luật kết hợp và luật chuỗi mờ

Luận án tiến sĩ “Phát hiện luật kết hợp và luật chuỗi mờ trong cơ sở dữ liệu định lượng có yếu tố thời gian” của tác giả Trương Đức Phương là một công trình nghiên cứu khoa học chuyên sâu, giải quyết những thách thức quan trọng trong lĩnh vực khai phá dữ liệu (data mining). Trọng tâm của nghiên cứu này là xử lý các cơ sở dữ liệu định lượng có yếu tố thời gian, một loại dữ liệu phổ biến trong thực tế nhưng lại phức tạp để phân tích. Các phương pháp truyền thống thường gặp khó khăn khi làm việc với các giá trị số liên tục và mối quan hệ thời gian. Để giải quyết vấn đề này, luận án đề xuất một cách tiếp cận đột phá, kết hợp giữa logic mờ (fuzzy logic) và các thuật toán khai phá kinh điển. Thay vì phân chia dữ liệu định lượng thành các khoảng cứng nhắc, phương pháp mờ hóa dữ liệu (data fuzzification) cho phép biểu diễn dữ liệu một cách linh hoạt và tự nhiên hơn thông qua các tập mờ (fuzzy set)hàm thuộc (membership function). Cách tiếp cận này không chỉ áp dụng cho các thuộc tính định lượng mà còn cho cả khoảng cách thời gian giữa các sự kiện, tạo ra một khuôn khổ phân tích toàn diện. Luận án đã đề xuất các thuật toán mới để phát hiện luật kết hợpmẫu tuần tự (sequential patterns) mờ, mở ra những khả năng ứng dụng thực tiễn trong nhiều lĩnh vực như phân tích thị trường chứng khoán, dự báo hành vi khách hàng và y tế.

1.1. Giới thiệu về khai phá dữ liệu và luật kết hợp

Khai phá dữ liệu là quá trình khám phá các mẫu, quy luật và tri thức hữu ích từ các tập dữ liệu lớn. Một trong những nhiệm vụ cốt lõi của data mining là phát hiện luật kết hợp (association rules). Một luật kết hợp, ví dụ {Bia} -> {Tã lót}, mô tả mối quan hệ giữa các mục trong một tập dữ liệu. Luật này được đo lường bằng hai chỉ số quan trọng: độ hỗ trợ (support)độ tin cậy (confidence). Độ hỗ trợ cho biết tần suất xuất hiện của một tập mục, trong khi độ tin cậy thể hiện xác suất có điều kiện của hệ quả khi tiền đề xảy ra. Các thuật toán kinh điển như thuật toán Apriorithuật toán FP-Growth đã được phát triển để tìm kiếm hiệu quả các luật này trong cơ sở dữ liệu giao dịch.

1.2. Tầm quan trọng của logic mờ trong dữ liệu định lượng

Trong thực tế, dữ liệu thường không chỉ ở dạng giao dịch mà còn là dữ liệu định lượng (quantitative data), ví dụ như giá cổ phiếu, nhiệt độ, hay số lượng sản phẩm. Việc rời rạc hóa dữ liệu này thành các khoảng cứng (ví dụ: Tuổi < 30 là "Trẻ") gây ra "hiện tượng sắc nét" tại biên, làm mất mát thông tin. Logic mờ ra đời để khắc phục nhược điểm này. Bằng cách sử dụng các tập mờhàm thuộc, một giá trị định lượng có thể thuộc về nhiều nhóm khác nhau với các mức độ khác nhau (ví dụ: 59 tuổi có thể là 0.1 "Già" và 0.9 "Trung niên"). Kỹ thuật này, gọi là mờ hóa dữ liệu, giúp mô tả dữ liệu một cách tự nhiên và chính xác hơn, là nền tảng cho các phương pháp được đề xuất trong luận án.

II. Thách thức trong khai phá CSDL định lượng có yếu tố thời gian

Việc khai phá cơ sở dữ liệu định lượng có yếu tố thời gian (temporal quantitative database) đặt ra nhiều thách thức đáng kể. Khác với dữ liệu giao dịch tĩnh, loại dữ liệu này chứa đựng hai chiều thông tin phức tạp: giá trị số của các thuộc tính và thời điểm xảy ra của chúng. Thách thức đầu tiên là xử lý tính liên tục của dữ liệu định lượng. Các phương pháp chia khoảng truyền thống không hiệu quả, dẫn đến việc bỏ sót các quy luật tiềm ẩn hoặc tạo ra các quy luật không chính xác do ranh giới phân chia cứng nhắc. Thách thức thứ hai đến từ yếu tố thời gian. Các mối quan hệ không chỉ đơn giản là đồng thời xảy ra mà còn phụ thuộc vào trình tự và khoảng cách thời gian giữa các sự kiện. Ví dụ, việc mua sản phẩm A và sau đó mua sản phẩm B trong vòng 3 ngày có ý nghĩa khác hẳn so với việc mua sau 3 tháng. Các thuật toán khai phá mẫu tuần tự truyền thống thường bỏ qua độ dài chính xác của các khoảng thời gian này. Luận án này đã xác định rõ các "khoảng trống nghiên cứu" này. Cụ thể, chưa có giải pháp toàn diện nào áp dụng logic mờ đồng thời cho cả thuộc tính định lượng và khoảng cách thời gian để phát hiện luật kết hợpluật chuỗi mờ trong dữ liệu chuỗi thời gian (time-series data), đặc biệt là với các dạng luật tổng quát như luật chuỗi chung.

2.1. Hạn chế của phương pháp rời rạc hóa dữ liệu truyền thống

Phương pháp rời rạc hóa cổ điển chuyển đổi các giá trị số thành các nhãn phân loại bằng cách chia chúng thành các khoảng. Ví dụ, thuộc tính "Nhiệt độ" có thể được chia thành "Lạnh", "Mát", "Nóng". Tuy nhiên, cách tiếp cận này tạo ra "hiện tượng sắc nét" (sharp boundary problem). Một nhiệt độ 24.9°C có thể được phân loại là "Mát", trong khi 25.0°C lại là "Nóng", mặc dù sự khác biệt là không đáng kể. Vấn đề này làm giảm độ chính xác của các quy luật được phát hiện. Luận án chỉ ra rằng việc sử dụng logic mờ để mờ hóa dữ liệu là một giải pháp ưu việt để giải quyết triệt để hạn chế này, giúp mô hình hóa sự chuyển đổi mềm dẻo giữa các trạng thái.

2.2. Vấn đề bỏ qua khoảng cách thời gian trong khai phá mẫu

Nhiều thuật toán khai phá mẫu tuần tự như thuật toán GSP hay thuật toán PrefixSpan chỉ tập trung vào thứ tự xuất hiện của các sự kiện mà không xem xét khoảng cách thời gian cụ thể giữa chúng. Điều này làm mất đi một lượng thông tin quan trọng. Trong nhiều lĩnh vực như tài chính hay marketing, việc biết rằng sự kiện B xảy ra "ngay sau" hay "một thời gian dài sau" sự kiện A là cực kỳ hữu ích. Nghiên cứu này nhận thấy rằng việc tích hợp yếu tố khoảng cách thời gian vào quá trình khai phá, đặc biệt là sử dụng các khoảng thời gian mờ (ví dụ: "Ngắn", "Trung bình", "Dài"), sẽ tạo ra những quy luật có giá trị dự báo và giải thích cao hơn.

III. Phương pháp phát hiện luật kết hợp mờ với khoảng cách thời gian

Để giải quyết vấn đề thứ nhất, luận án đề xuất một phương pháp mới để phát hiện luật kết hợp mờ với khoảng cách thời gian mờ trong cơ sở dữ liệu định lượng có yếu tố thời gian. Cách tiếp cận này là sự tổng quát hóa và cải tiến của các nghiên cứu trước đó. Ý tưởng cốt lõi là áp dụng kỹ thuật mờ hóa dữ liệu một cách toàn diện. Đầu tiên, các giá trị thuộc tính định lượng trong cơ sở dữ liệu được chuyển đổi thành các giá trị mờ thông qua các hàm thuộc được định nghĩa trước. Ví dụ, số lượng mua một mặt hàng có thể được biểu diễn bằng các tập mờ như "Ít", "Trung bình", "Nhiều". Song song đó, khoảng cách thời gian giữa hai giao dịch bất kỳ cũng được mờ hóa thành các khái niệm ngôn ngữ như "Ngắn", "Trung bình", "Dài". Sau quá trình chuyển đổi, một cơ sở dữ liệu mờ có yếu tố thời gian được hình thành. Dựa trên cơ sở dữ liệu này, luận án phát triển thuật toán FTQ (Fuzzy Time-interval in temporal Quantitative database). Thuật toán này được xây dựng dựa trên nguyên lý của thuật toán Apriori nhưng được điều chỉnh để tính toán độ hỗ trợđộ tin cậy cho các tập mục mờ và các chuỗi sự kiện có khoảng cách thời gian mờ. Kết quả là các luật có dạng "Nếu mặt hàng A được mua với số lượng (Nhiều) thì sau một khoảng thời gian (Ngắn), mặt hàng B sẽ được mua với số lượng (Ít)", mang lại tri thức sâu sắc và linh hoạt hơn.

3.1. Quy trình mờ hóa thuộc tính định lượng và thời gian

Quy trình mờ hóa là bước nền tảng. Đối với mỗi thuộc tính định lượng, một tập các tập mờ (ví dụ: 3 tập mờ "Thấp", "Trung bình", "Cao") được xác định. Mỗi tập mờ này được định nghĩa bởi một hàm thuộc, thường có dạng tam giác hoặc hình thang. Khi một giá trị định lượng được đưa vào, hàm thuộc sẽ trả về một giá trị trong khoảng [0, 1], biểu thị mức độ thuộc về tập mờ đó. Tương tự, khoảng cách thời gian (tính bằng ngày, giờ, v.v.) giữa các giao dịch cũng được ánh xạ vào các tập mờ thời gian như "Ngắn", "Trung bình", "Dài". Quá trình này biến đổi CSDL định lượng có yếu tố thời gian ban đầu thành một CSDL mờ, sẵn sàng cho việc khai phá.

3.2. Giới thiệu thuật toán FTQ và cách tính độ hỗ trợ mờ

Thuật toán FTQ được đề xuất để xử lý CSDL mờ đã được tạo ra. Thuật toán này hoạt động theo từng bước, tương tự thuật toán Apriori: tìm các tập mục-thời gian mờ phổ biến có 1 phần tử, sau đó sử dụng chúng để tạo ra các ứng viên có 2 phần tử, và tiếp tục cho đến khi không thể tạo thêm ứng viên. Điểm khác biệt cốt lõi nằm ở cách tính độ hỗ trợ. Độ hỗ trợ của một tập mục mờ không được đếm một cách nhị phân (có/không) mà được tính bằng tổng các giá trị thuộc của nó trên toàn bộ cơ sở dữ liệu, dựa trên các phép toán của logic mờ. Cách tiếp cận này đảm bảo rằng các quy luật phản ánh đúng bản chất liên tục và không chắc chắn của dữ liệu gốc.

IV. Hướng dẫn khai phá mẫu tuần tự mờ trong dữ liệu chuỗi thời gian

Bên cạnh các luật kết hợp, luận án còn giải quyết bài toán phức tạp hơn là khai phá luật chuỗi thời gian mờ (mining fuzzy temporal sequential patterns). Một mẫu tuần tự biểu diễn một chuỗi các sự kiện xảy ra theo một thứ tự nhất định, ví dụ: 〈(Mua Laptop) -> (Mua Chuột không dây)〉. Nghiên cứu này mở rộng khái niệm này bằng cách tích hợp cả thuộc tính định lượng mờ và khoảng cách thời gian mờ. Mục tiêu là tìm ra các mẫu tuần tự mờ phổ biến, có dạng 〈(A, Nhiều), (B, Ít)〉 với khoảng cách thời gian (Trung bình) giữa A và B. Để thực hiện nhiệm vụ này, luận án đề xuất thuật toán FSPFTIM (Fuzzy Sequential Patterns with Fuzzy Time-Intervals Mining). Thuật toán này là một sự cải tiến, kết hợp các ý tưởng từ các thuật toán khai phá mẫu tuần tự kinh điển như thuật toán GSPthuật toán PrefixSpan với các nguyên lý của logic mờ. FSPFTIM không chỉ xác định các chuỗi sự kiện phổ biến mà còn tính toán và giữ lại thông tin về khoảng cách thời gian mờ giữa các sự kiện liên tiếp trong chuỗi. Các mẫu tìm được cung cấp cái nhìn chi tiết về động lực học của hệ thống, cho phép dự báo không chỉ cái gì sẽ xảy ra tiếp theo, mà còn khi nàovới mức độ nào.

4.1. Phân biệt luật kết hợp và mẫu tuần tự trong CSDL thời gian

Luật kết hợp thường không quan tâm đến thứ tự thời gian trong một giao dịch hoặc giữa các giao dịch gần nhau. Ví dụ, luật {Sữa, Bánh mì} -> {Bơ} chỉ nói rằng khi Sữa và Bánh mì được mua, Bơ cũng có khả năng được mua. Ngược lại, mẫu tuần tự đặt trọng tâm vào thứ tự xảy ra của các sự kiện theo thời gian. Mẫu 〈(Sữa, Bánh mì), (Bơ)〉 có nghĩa là khách hàng mua {Sữa, Bánh mì} trước, và sau đó mua {Bơ}. Trong bối cảnh cơ sở dữ liệu thời gian, việc khai phá mẫu tuần tự mang lại giá trị lớn hơn vì nó nắm bắt được hành vi theo chuỗi của các đối tượng.

4.2. Mô tả thuật toán FSPFTIM và nguyên lý hoạt động

Thuật toán FSPFTIM hoạt động dựa trên nguyên tắc sinh ứng viên và kiểm tra. Bắt đầu bằng việc quét cơ sở dữ liệu để tìm tất cả các chuỗi mờ có độ dài 1 (một sự kiện) thỏa mãn ngưỡng độ hỗ trợ tối thiểu. Ở các bước tiếp theo, thuật toán sẽ kết hợp các chuỗi phổ biến có độ dài k-1 để tạo ra các chuỗi ứng viên có độ dài k. Trong quá trình này, các khoảng cách thời gian mờ giữa các sự kiện cũng được tính toán và đưa vào mẫu. Một lần quét CSDL nữa được thực hiện để đếm độ hỗ trợ của các chuỗi ứng viên này. Quá trình lặp lại cho đến khi không tìm thấy thêm mẫu phổ biến nào. Thuật toán đảm bảo tính đầy đủ và đúng đắn, tìm ra tất cả các mẫu tuần tự mờ thỏa mãn yêu cầu.

V. Kết quả và ứng dụng thực tiễn của nghiên cứu khoa học này

Tính hiệu quả và khả thi của các thuật toán đề xuất trong luận án đã được kiểm chứng thông qua các thực nghiệm trên cả bộ dữ liệu tổng hợp và dữ liệu thực tế. Một trong những bộ dữ liệu thực được sử dụng là dữ liệu giao dịch chứng khoán (ISTANBUL STOCK EXCHANGE) và dữ liệu bán lẻ trực tuyến. Các kết quả thực nghiệm cho thấy phương pháp mờ hóa dữ liệu vượt trội hơn hẳn so với phương pháp chia khoảng truyền thống. Cụ thể, số lượng luật và mẫu hữu ích tìm được bằng phương pháp mờ hóa nhiều hơn và có ý nghĩa hơn, đồng thời tránh được sự biến động đột ngột về số lượng luật khi thay đổi ngưỡng hỗ trợ. Các thuật toán như FTQ và FSPFTIM đã chứng tỏ khả năng xử lý hiệu quả các cơ sở dữ liệu định lượng có yếu tố thời gian. Về ứng dụng thực tiễn, các kết quả của nghiên cứu khoa học này có tiềm năng rất lớn. Trong lĩnh vực tài chính, các luật tìm được có thể hỗ trợ dự báo xu hướng giá cổ phiếu. Trong thương mại điện tử, việc phân tích mẫu tuần tự mờ giúp xây dựng hệ thống gợi ý sản phẩm cá nhân hóa, dự đoán hành vi mua sắm tiếp theo của khách hàng. Trong y tế, phương pháp này có thể được dùng để phân tích chuỗi sự kiện bệnh lý từ hồ sơ bệnh án, tìm ra các quy luật tiến triển của bệnh tật.

5.1. Phân tích kết quả thực nghiệm trên các bộ dữ liệu

Luận án trình bày chi tiết các kết quả thử nghiệm, bao gồm mối quan hệ giữa số lượng luật tìm được và các ngưỡng độ hỗ trợđộ tin cậy. Các biểu đồ so sánh cho thấy phương pháp mờ hóa (A) luôn tạo ra một đường cong kết quả mượt mà và ổn định hơn so với phương pháp chia khoảng (B). Điều này chứng tỏ phương pháp mờ hóa không nhạy cảm với những thay đổi nhỏ ở ngưỡng, phản ánh đúng bản chất của dữ liệu. Thời gian thực thi của các thuật toán cũng được đánh giá và cho thấy tính khả thi khi áp dụng trên các bộ dữ liệu có kích thước trung bình và lớn.

5.2. Các ứng dụng tiềm năng trong tài chính và bán lẻ

Trong tài chính, một luật có thể là: "Nếu (Tỷ lệ tăng VN30 ở mức Cao) thì sau một khoảng thời gian (Ngắn), (Tỷ lệ tăng mã chứng khoán X cũng ở mức Cao)". Quy luật này cung cấp thông tin giá trị cho nhà đầu tư. Trong bán lẻ, một mẫu tuần tự mờ như 〈(Mua (Laptop, Số lượng=1)), (Mua (Chuột không dây, Số lượng=1))〉 với khoảng thời gian (Rất Ngắn) có thể giúp doanh nghiệp triển khai các chiến dịch marketing kết hợp sản phẩm (cross-selling) một cách hiệu quả, đúng thời điểm.

VI. Kết luận và tương lai của khai phá luật chuỗi mờ trong CSDL

Luận án “Phát hiện luật kết hợp và luật chuỗi mờ trong cơ sở dữ liệu định lượng có yếu tố thời gian” đã thành công trong việc giải quyết ba khoảng trống nghiên cứu quan trọng trong lĩnh vực khai phá dữ liệu. Công trình này đã đóng góp ba giải pháp thuật toán mới, bao gồm thuật toán phát hiện luật kết hợp mờ, mẫu tuần tự mờ, và luật chuỗi chung mờ có tính đến khoảng cách thời gian. Bằng cách tích hợp sâu sắc logic mờ vào quá trình phân tích, luận án đã khắc phục được những hạn chế cố hữu của các phương pháp rời rạc hóa truyền thống, mang lại các quy luật và mẫu hình chính xác, linh hoạt và giàu ý nghĩa hơn. Các luật được phát hiện không chỉ là trường hợp tổng quát của các nghiên cứu trước đó mà còn mở ra nhiều hướng ứng dụng thực tiễn giá trị. Đây là một luận văn thạc sĩ khai phá dữ liệu (mở rộng lên tiến sĩ) có đóng góp đáng kể về mặt lý thuyết và thực tiễn. Hướng phát triển trong tương lai có thể bao gồm việc tối ưu hóa hiệu năng của các thuật toán để xử lý các bộ dữ liệu cực lớn (Big Data), nghiên cứu các phương pháp tự động xác định hàm thuộc tối ưu thay vì cho trước, và mở rộng áp dụng cho các loại dữ liệu phức tạp khác như dữ liệu không gian-thời gian hoặc dữ liệu dòng (data streams).

6.1. Tóm tắt những đóng góp chính của luận án nghiên cứu

Những đóng góp cốt lõi của luận án bao gồm: 1) Đề xuất và giải quyết bài toán phát hiện luật kết hợp mờ với khoảng cách thời gian mờ trong CSDL định lượng có yếu tố thời gian. 2) Đề xuất và giải quyết bài toán phát hiện mẫu tuần tự mờ với khoảng cách thời gian mờ. 3) Đề xuất và giải quyết bài toán phát hiện luật chuỗi chung mờ, một dạng luật tổng quát hơn, có tính đến yếu tố thời gian mờ. Các thuật toán đi kèm (FTQ, FSPFTIM, IFERMiner) đã được chứng minh tính đúng đắn, đầy đủ và hiệu quả qua thực nghiệm.

6.2. Hướng nghiên cứu và phát triển trong tương lai

Tương lai của lĩnh vực này rất hứa hẹn. Các nghiên cứu tiếp theo có thể tập trung vào việc áp dụng các kỹ thuật học sâu (deep learning) để tự động học các biểu diễn mờ cho dữ liệu. Một hướng khác là phát triển các thuật toán song song và phân tán để tăng tốc độ xử lý trên các hệ thống tính toán hiệu năng cao. Ngoài ra, việc tích hợp các yếu tố khác như lợi ích (utility) hay sự không chắc chắn vào mô hình khai phá luật chuỗi mờ cũng là một lĩnh vực tiềm năng, giúp tạo ra các quy luật không chỉ phổ biến mà còn mang lại giá trị kinh tế cao nhất.

05/10/2025

Trích đoạn nội dung tài liệu

Chương 1: Tổng quan về luật kết hợp và mẫu chuỗi, luật chuỗi chung. Chương này trình bày các khái niệm, phương pháp phát hiện các luật kết hợp, mẫu chuỗi, luật chuỗi chung của các nghiên cứu trước đó. Từ đó xác định những các khoảng trống nghiên cứu và xác định vấn đề cụ thể trong luận án.  Chương 2: Phát hiện luật kết hợp có tính đến khoảng cách thời gian trong các CSDL định lượng có yếu tố thời gian.

Chương này đề xuất vấn đề và thuật toán phát hiện các luật kết hợp có tính đến khoảng cách thời gian xảy ra giữa các giao dịch trong các CSDL định lượng có yếu tố thời gian. Tính đúng đắn và đầy đủ của thuật toán, việc thực nghiệm thuật toán trên tập dữ liệu thực, ý nghĩa của các luật kết hợp phát hiện được và so sánh với những nghiên cứu trước đó cũng được trình bày trong Chương.  Chương 3: Phát hiện mẫu chuỗi có tính đến khoảng cách thời gian trong các CSDL chuỗi định lượng có yếu tố thời gian. Chương này đề xuất vấn đề và thuật toán phát hiện mẫu chuỗi có tính đến khoảng cách thời gian xảy ra giữa các giao dịch trong các CSDL chuỗi định lượng có yếu tố thời gian.

Tính đúng đắn và tính đầy đủ, độ phức tạp tính toán của thuật toán được đề xuất, việc thực nghiệm thuật toán trên tập dữ liệu thực, ý nghĩa 17 của các mẫu chuỗi phát hiện được và so sánh với những nghiên cứu liên quan trước đó cũng được trình bày trong Chương.  Chương 4: Phát hiện luật chuỗi chung có tính đến khoảng cách thời gian trong các CSDL chuỗi định lượng có yếu tố thời gian. Chương này đề xuất vấn đề và thuật toán phát hiện luật chuỗi chung có tính đến khoảng cách thời gian xảy ra giữa các giao dịch trong các CSDL chuỗi định lượng có yếu tố thời gian. Tính đúng đắn và tính đầy đủ, độ phức tạp tính toán của thuật toán, việc thực nghiệm thuật toán trên tập dữ liệu thực, ý nghĩa của các luật chuỗi chung phát hiện được và so sánh với luật chuỗi chung được phát hiện bởi các thuật toán trước đó cũng được trình bày trong Chương.

 Phần kết luận: Trình bày một số kết luận về ý nghĩa, đóng góp của luận án và định hướng nghiên cứu trong tương lai. TỔNG QUAN VỀ LUẬT KẾT HỢP VÀ MẪU CHUỖI, LUẬT CHUỖI CHUNG Chương này trình bày tổng quan những vấn đề liên quan đến phát hiện các luật kết hợp và các mẫu chuỗi, luật chuỗi chung trong các CSDL giao dịch/định lượng không có hoặc có yếu tố thời gian. Chương này cũng chỉ ra các khoảng trống chưa được giải quyết để từ đó xác định vấn đề nghiên cứu của luận án. Luật kết hợp 1.

Phát hiện luật kết hợp trong các CSDL giao dịch Định nghĩa 1.1 CSDL giao dịch [2]: Giả sử I = { } là tập các mục, D = { } là tập các giao dịch, (1jm) là tập các mục thỏa mãn  I, biểu diễn mục xuất hiện trong giao dịch (hay tương ứng nhận giá trị 1 nếu xuất hiện trong giao dịch này), nói cách. Khi đó, D được gọi là CSDL giao dịch. Ví dụ về CSDL giao dịch được mô tả như Bảng 1. Ví dụ về CSDL giao dịch TID Mặt hàng đƣợc mua 1 ab 2 bc 3 de 4 abc 5 b Bảng 1.1 biểu diễn CSDL giao dịch, trong đó I={a, b, c, d, e} là tập tên các mặt hàng (hay là mục) và 5 giao dịch.

Mỗi giao dịch biểu diễn danh sách các mặt hàng được mua. Chẳng hạn, giao dịch đầu tiên có các mặt hàng a và b được mua.2 Luật kết hợp [1]: Giả sử X là tập mục, giao dịch T được gọi là chứa X khi và chỉ khi XT. Luật kết hợp là luật có dạng X  Y với XI, YI và XY=. Trong đó X được gọi là tiền đề, Y là hệ quả của luật.3 Độ hỗ trợ và độ tin cậy của luật kết hợp [1] Độ hỗ trợ (support) của tập mục X là tỉ lệ số giao dịch trong D chứa X, kí hiệu là sup(X) |{ | }| (1.1) | | Độ hỗ trợ của luật là tỉ lệ số giao dịch trong D chứa XY, kí hiệu là (1.2) | | Độ tin cậy (confidence) của luật là tỉ lệ số giao dịch trong D chứa X cũng chứa Y, kí hiệu là (1.3) Ví dụ: Xét CSDL trong Bảng 1.1, luật kết hợp {b, c} → {a} có nghĩa “Trong cùng một giao dịch, nếu mặt hàng b và c được mua thì mặt hàng a cũng sẽ được mua”.

Luật này có độ hỗ trợ là 1/5=20% (tức là có 1 giao dịch chứa luật trong tổng số 5 giao dịch của CSDL) và độ tin cậy của luật là 1/2=50% (có 1 giao dịch cả b, c, a được mua và 2 giao dịch cả b và c được mua) Việc phát hiện các luật kết hợp thường được chia làm 2 giai đoạn [1], [74]:  Giai đoạn 1: Tìm tất cả các tập phổ biến trong CSDL, ở đó các tập phổ biến là các tập có độ hỗ trợ không nhỏ hơn độ hỗ trợ cực tiểu (hay ngưỡng hỗ trợ) cho trước; 20  Giai đoạn 2: Sinh ra các luật kết hợp có độ tin cậy không nhỏ hơn độ tin cậy cực tiểu (hay ngưỡng tin cậy) cho trước từ các tập phổ biến đã tìm được ở giai đoạn 1. Trong hai giai đoạn trên thì giai đoạn 1 là phức tạp, đòi hỏi nhiều chi phí về thời gian và tính toán. Ở giai đoạn 2, các luật kết hợp được sinh ra từ các tập phổ biến tìm được là khá đơn giản nên đa phần các thuật toán phát hiện luật kết hợp chỉ tập trung vào giải quyết giai đoạn 1, tức là tập trung vào việc tìm các tập phổ biến. Các thuật toán phát hiện luật kết hợp được chia thành hai nhóm dựa vào phương pháp duyệt không gian tìm kiếm, đó là các phương pháp duyệt theo chiều rộng (Breadth First Search - BFS) và duyệt theo chiều sâu (Depth First Search - DFS).

Duyệt theo chiều rộng là phương pháp duyệt tất cả các tập ứng cử viên có k-1 mục trước khi xét đến các tập ứng cử viên có k mục. Các thuật toán thực hiện theo cách tiếp cận này gồm: APRIORI [2], PARTITION [3], A-CLOSE [4], A-CLOSE+ [5], DIC [13],. Duyệt theo chiều sâu là phương pháp duyệt xong các tập ứng cử viên liên quan với một tập mục phổ biến rồi mới chuyển sang xem xét đối với tập phổ biến cùng kích thước khác. Các thuật toán thực hiện theo cách tiếp cận này là: CLOSE [6], CLOSET [7], CLOSET+ [8], CHARM [9], FP-GROWTH [14], ECLAT [12], CFPMINE [15].

APRIORI [2] là thuật toán đầu tiên phát hiện luật kết hợp trong CSDL giao dịch. Thuật toán này được phát triển theo cách tiếp cận duyệt theo chiều rộng với việc sinh ra các tập ứng cử viên độ dài k bằng cách kết hợp hai tập phổ biến độ dài k-1. Thuật toán APRIORI được xếp vào tốp 10 thuật toán khai phá dữ liệu điển hình nhất [75], thuật toán được mô tả cơ bản như trong Thuật toán 1. Thuật toán Apriori input: T: Tập các giao dịch : Độ hỗ trợ cực tiểu output: Tập các tập phổ biến Apriori{ 1.

 {large 1-itemsets}; //các tập phổ biến độ dài 1 2.  Apriori-gen( ); //Sinh tập ứng cử viên độ dài k, 5. for transactions t  T do { 6. {c  | c  t}; //mọi ứng viên chứa trong t 7.

for each c  do 8. } Trong Thuật toán 1.1, T là tập các giao dịch, kết quả trả lại là các tập phổ biến có độ hỗ trợ thỏa mãn độ hỗ trợ cực tiểu Đến nay, đã có nhiều nghiên cứu phát hiện các luật kết hợp trong CSDL giao dịch và được ứng dụng trong thực tiễn như trong thị trường bán lẻ [76], [77], thị trường chứng khoán [78]–[80], y tế [81], [82],. Phát hiện luật kết hợp trong các CSDL định lượng Định nghĩa 1.4 CSDL định lượng [24]: Giả sử I = { } là tập các thuộc tính, D = { } là tập các giao dịch, (1jm) là tập các thuộc tính thỏa mãn  I, các giá trị tương ứng với thuộc tính (1kn) trong giao dịch (1jm) nhận giá trị là số hoặc phân loại. Khi đó, D được gọi là CSDL định lượng.2 mô tả ví dụ về một CSDL định lượng.

Ví dụ về CSDL định lượng TID Mặt hàng đƣợc mua (kèm số lƣợng) 1 (a,10) (b,2) 2 (b,1) (c,1) 3 (d,4) (e,6) 4 (a,1) (b,4) (c,5) 5 (b,3) Trong ví dụ này, các mục trở thành các thuộc tính nhận giá trị số biểu diễn số lượng các mặt hàng được mua. Chẳng hạn, tại giao dịch đầu tiên (TID=1), mặt hàng a được mua với số lượng là 10, b được mua với số lượng là 2. Để phát hiện các luật kết hợp trong các CSDL định lượng người ta thường sử dụng hai cách tiếp cận giải quyết như sau:  Thứ nhất: Rời rạc hóa các thuộc tính định lượng để chuyển CSDL định lượng ban đầu thành CSDL giao dịch rồi sử dụng các thuật toán đã có về phát hiện luật kết hợp trong các CSDL giao dịch để phát hiện luật kết hợp trong CSDL đã chuyển đổi [20]–[23]. Chẳng hạn, trong nghiên cứu [20], mỗi thuộc tính định lượng được phân hoạch thành các đoạn khác nhau sau đó ánh xạ các giá trị của thuộc tính đó vào các đoạn tương ứng, các đoạn này được đánh thứ tự bằng các số nguyên liên tiếp.

Sau đó phát hiện các tập phổ biến dựa trên các đoạn thu được. Cuối cùng các luật kết hợp được phát hiện dựa trên các tập phổ biến. Cách tiếp cận này có nhược điểm là xảy ra hiện tượng không tự nhiên, “sắc nét” tại các điểm giáp ranh giữa các khoảng chia [83] dẫn đến không phản ánh đúng tính chất của dữ liệu. Chẳng hạn, xét thuộc tính tuổi, nếu chia độ tuổi thành 3 loại: “Trẻ” (dưới 30 tuổi), “Trung niên” (30 đến 59 tuổi), “Già” (từ 60 tuổi) thì một người ở độ tuổi 59 sẽ được gọi là “Trung niên” nhưng người ở độ tuổi 60 lại thuộc nhóm “Già” mặc dù khoảng chênh lệch tuổi chỉ là 1 tuổi trong khi 23 người 30 tuổi và người 59 tuổi đều cùng là “Trung niên” với khoảng chênh lệch về tuổi là 29.

 Thứ hai: Sử dụng lý thuyết tập mờ [84], [85] để chuyển các thuộc tính định lượng thành các thuật ngữ ngôn ngữ (linguistic terms) nhận giá trị tập mờ (gọi tắt là thuộc tính mờ). CSDL được chuyển đổi khi đó được gọi là CSDL mờ. Sau đó phát hiện các luật kết hợp trong CSDL mờ và các luật được phát hiện khi đó được gọi là luật kết hợp mờ [24]–[29].

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ