HàC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG Đặng Thß Kim Trang PH¯¡NG PHÁP ÆN CÁC TÀP MĀC CÓ Đà HĀU ÍCH CAO TRONG C¡ Sæ DĀ LIÆU GIAO TÁC LâN LUÀN VN TH¾C S) KỸ THUÀT (Theo đßnh h°ãng ứng dāng) TP.Hà CHÍ MINH – NM 2022 HàC VIÆN CÔNG NGHÆ B¯U CHÍNH VIÄN THÔNG Đặng Thß Kim Trang PH¯¡NG PHÁP ÆN CÁC TÀP MĀC CÓ Đà HĀU ÍCH CAO TRONG C¡ Sæ DĀ LIÆU GIAO TÁC LâN Chuyên ngành: HÇ thßng thông tin Mã sß: 8.04 LUÀN VN TH¾C S) KỸ THUÀT (Theo đßnh h°ãng ứng dāng) NG¯âI H¯àNG DÂN KHOA HàC: TS. NGUYÄN KHÂC CHI¾N TP.Hà CHÍ MINH - NM 2022 i LäI CAM ĐOAN Tôi cam đoan luận văn: <Phương pháp ẩn các tập mục có độ hữu ích cao trong cơ sở dữ liệu giao tác lớn= là công trình nghiên cứu của chính tôi. Các số liệu đ°ợc sử dụng trong luận văn là trung thực và chính xác. Ngoài những nßi dung nghiên cứu của luận văn, các vấn đề đ°ợc trình bày đều là những tìm hiểu và nghiên cứu của tôi hoặc là đ°ợc trích dÃn từ các nguồn tài liệu có ghi tham khảo rõ ràng, hợp pháp.
Trong luận văn, tôi có tham khảo mßt số tài liệu của mßt số tác giả đ°ợc liệt kê tại danh mục tài liệu tham khảo.HCM, Ngày 04 tháng 5 năm 2022 Hác viên thăc hiÇn luÁn vn Đặng Thß Kim Trang ii LäI CÀM ¡N Tôi chân thành cảm ¡n TS. NguyÅn KhÃc Chi¿n – Giảng viên của Tr°ãng Đại hác Cảnh sát Nhân dân, Th¿y đã chỉ bảo và h°áng dÃn tận tình cho tôi trong suốt quá trình nghiên cứu khoa hác và thực hiện luận văn. Đồng thãi, tôi xin cảm ¡n sự giúp đỡ, tạo điều kiện và khuyến khích tôi trong quá trình nghiên cứu và hác tập của các Th¿y, Cô giáo của Hác Viện Công nghệ B°u chính viễn thông c¡ sở tại TP. Vì thãi gian có hạn và kiến thức còn hạn hẹp, nên luận văn khó tránh khỏi những thiếu sót, rất mong nhận đ°ợc ý kiến đóng góp của quý Th¿y Cô, Anh Chß và các Bạn.
Xin chân thành cảm ¡n! TP.HCM, Ngày 04 tháng 5 năm 2022 Hác viên thăc hiÇn luÁn vn Đặng Thß Kim Trang iii MĀC LĀC LäI CAM ĐOAN. iii DANH MĀC CÁC THUÀT NGĀ, CHĀ VI¾T TÂT. v DANH SÁCH BÀNG. vi DANH SÁCH HÌNH VẼ.
Lý do chán đề tài. Mục tiêu nghiên cứu. Tổng quan nghiên cứu của đề tài. Đối t°ợng, phạm vi nghiên cứu.
Đóng góp của đề tài. 3 CH¯¡NG 1: C¡ Sæ LÝ THUY¾T. Tập mục phổ biến và khai phá tập phổ biến truyền thống. Tập mục phổ biến.
Khám phá tri thức và khai thác dữ liệu. Khai phá tập phổ biến truyền thống. Tập mục đß hữu ích cao và bài toán khai phá tập mục đß hữu ích cao. Mßt số thuật toán khai phá tập mục đß hữu ích cao.
Kết luận Ch°¡ng 1. 15 CH¯¡NG 2: MàT SÞ PH¯¡NG PHÁP ÆN TÀP MĀC Đà HĀU ÍCH CAO. Mßt số khái niệm c¡ bản. Mßt số công trình liên quan.
Ph°¡ng pháp Án tập mục đß hữu ích cao nhạy cảm. Kết luận Ch°¡ng 2. 26 CH¯¡NG 3: ĐÀ XUÂT PH¯¡NG PHÁP ÆN TÀP MĀC Đà HĀU ÍCH CAO. C¡ sở để đề xuất thuật toán.
Thuật toán đề xuất. Kết luận Ch°¡ng 3. 34 CH¯¡NG 4: THĂC NGHIÆM VÀ ĐÁNH GIÁ. Môi tr°ãng thực nghiệm và dữ liệu sử dụng.
Kết quả thực nghiệm. Kết luận Ch°¡ng 4. 38 DANH MĀC TÀI LIÆU THAM KHÀO. 41 v DANH MĀC CÁC THUÀT NGĀ, CHĀ VI¾T TÂT Vi¿t tÃt Ti¿ng Anh Ti¿ng ViÇt CSDL Database C¡ sở dữ liệu eu External Utility Đß hữu ích bên ngoài (lợi nhuận) iu Internal Utility Đß hữu ích bên trong (số l°ợng) HUI High Utility Itemset Tập mục có đß hữu ích cao WFI Weighted Frequent Itemset Tập phổ biến có tráng số HUIM High Utility Itemset Mining Khai thác tập mục đß hữu ích cao PPDM Privacy Preserving Data Khai thác dữ liệu bảo vệ tính Mining riêng t° PPUIM Privacy Preserving Utility Khai thác tập mục có đß hữu ích itemset Mining cao đ°ợc bảo vệ tính riêng t° SHUI Sensitive High Utility Tập mục có đß hữu ích cao nhạy Itemset cảm NSHUI Non Sensitive High Utility Tập mục có đß hữu ích cao không Itemset nhạy cảm HF Hiding Failure Àn thất bại MC Missing Cost Chi phí lỗi/Án nh¿m ST Sensitive Transaction Giao tác nhạy cảm minutil Minimal utility threshold Ng°ỡng đß hữu ích tối thiểu EHSHUI An efficient algorithm for Mßt thuật toán hiệu quả để Án tập hiding sensitive high utility mục tiện ích cao nhạy cảm itemset IEHSHUI An improved algorithm for Mßt thuật toán cải tiến để Án các hiding sensitive high utility tập mục có đß hữu ích cao nhạy itemsets cảm vi DANH SÁCH BÀNG Bảng 1.
C¡ sở dữ liệu giao tác (Biểu diễn dạng ngang). C¡ sở dữ liệu giao tác (Biểu diễn dạng dác). C¡ sở dữ liệu giao tác (Biểu diễn dạng ma trận). Bảng c¡ sở dữ liệu.
Lác mục đß hỗ trợ g 3. Kết hợp các mục từ 1. Lác mục đß hỗ trợ g 3. Kết hợp các mục từ 1.
C¡ sở dữ liệu giao tác. Bảng lợi nhuận. Bảng I-List thuật toán EHSHUI. Bảng HUI-Table thuật toán EHSHUI.
Bảng T-Table thuật toán EHSHUI. Bảng CSDL chiếu trên S1. Cập nhật lại HUI-Table (l¿n 1). Cập nhật lại T-Table (l¿n 1).
Bảng CSDL chiếu trên S2. Cập nhật lại HUI-Table (l¿n 2). Cập nhật lại T-Table (l¿n 2). C¡ sở dữ liệu dùng cho thực nghiệm.
35 vii DANH SÁCH HÌNH VẼ Hình 2. Quá trình sửa đổi c¡ sở dữ liệu. So sánh thãi gian thực hiện trên tập dữ liệu Chess. So sánh thãi gian thực hiện trên tập dữ liệu Mushroom.
So sánh việc sử dụng bß nhá trên tập dữ liệu Chess. So sánh việc sử dụng bß nhá trên tập dữ liệu Mushroom. Lý do chán đÁ tài Hiện nay, trong lĩnh vực kinh doanh việc tính toán doanh số và tối °u hóa lợi nhuận bán hàng là công việc cực kỳ quan tráng, nó ảnh h°ởng trực tiếp đến doanh thu và chiến l°ợc bán hàng của các công ty, siêu thß hay các đ¡n vß bán lẻ. Đặc biệt, vái số l°ợng hàng hóa lán, giá cả khác nhau, nên việc tính toán lợi nhuận tối °u bán hàng càng quan tráng.
Vái số l°ợng giao tác mỗi giã có thể lên đến hàng chục nghìn giao tác, việc tính toán xem mặt hàng nào đem lại doanh số cao, mặt hàng nào kinh doanh không hiệu quả dù bán vái số l°ợng lán càng trở nên khó khăn do dữ liệu quá lán, liên tục. Khai phá tập phổ biến th°ãng đ°ợc mô tả là mßt quá trình lấy thông tin có giá trß từ c¡ sở dữ liệu lán, nó bắt nguồn từ dạng mÃu có sẵn tồn tại trong c¡ sở dữ liệu, các mÃu này có khuynh h°áng gom nhóm lại vái nhau và đ°ợc đßnh nghĩa nh° là mßt mô hình khai thác. Khai phá tập mục đß hữu ích cao là mßt mở rßng của bài toán khai phá tập phổ biến, đã đ°ợc nhiều tác giả quan tâm vái mục đích đánh giá ý nghĩa của các tập mục trong khai phá luật kết hợp. Để khai phá tập mục có đß hữu ích cao, mßt giá trß đ°ợc sử dụng đó là lợi nhuận của tập mục (Itemset), chẳng hạn tổng lợi nhuận mà doanh nghiệp thu đ°ợc nếu bán tập mục ấy trong giao tác.
Khác vái khai phá tập phổ biến, đß hữu ích của tập mục không thỏa tính chất bao đóng giảm nên đß phức tạp của bài toán cao. Ngoài ra, trong hợp tác kinh doanh việc muốn chia sẽ c¡ sở dữ liệu vái nhau để cùng có lợi, nh°ng mang lại nhiều rủi ro để lß ra các thông tin nhạy cảm nh°: số đßnh danh cá nhân, số tài khoản ngân hàng,… Để giải quyết vấn đề này, các tri thức nhạy cảm có thể đ°ợc Án bằng cách chuyển đổi c¡ sở dữ liệu ban đ¿u thành c¡ sở dữ liệu đ°ợc sửa đổi theo mßt số chiến l°ợc cụ thể và quá trình Án đó đ°ợc gái là làm sạch dữ liệu. 2 Bên cạnh đó, những năm g¿n đây, khai phá dữ liệu bảo vệ tính riêng t° đã trở thành h°áng nghiên cứu quan tráng. Trong ph¿n luận văn này, tôi xin tập trung nghiên cứu bài toán khai phá các tập mục có đß hữu ích cao đ°ợc bảo vệ tính riêng t° (PPUIM - Privacy Preserving Utility itemset Mining) để Án các tập mục có đß hữu ích cao nhạy cảm trong c¡ sở dữ liệu giao tác có kích th°ác lán.
Mßt trong những vấn đề đặt ra khi giải quyết bài toán này là làm giảm các hiệu ứng phụ nh°: Án nh¿m các tập mục có đß hữu ích cao không nhạy cảm, sự khác nhau giữa CSDL ban đ¿u và CSDL sau khi sửa đổi,… Vì thế, luận văn sẽ tập trung nghiên cứu thuật toán Án các tập mục có đß hữu ích cao nhạy cảm và đề xuất ph°¡ng pháp Án các tập mục có đß hữu ích cao nhạy cảm hiệu quả h¡n nhằm giảm thiểu các hiệu ứng phụ. Māc tiêu nghiên cứu Nghiên cứu các ph°¡ng pháp Án tập mục đß hữu ích cao nhạy cảm hiện có dựa trên các công trình đã công bố g¿n đây. Tìm hiểu những °u điểm và hạn chế của các ph°¡ng pháp Án từ đó đề xuất ph°¡ng pháp Án hiệu quả h¡n. Tìm hiểu các thông số đánh giá tính hiệu quả của các ph°¡ng pháp Án tập mục có đß hữu ích cao nhạy cảm.
Tiến hành cài đặt thử nghiệm ph°¡ng pháp đề xuất, đánh giá dựa trên các thông số, so sánh vái các ph°¡ng pháp Án hiện có. Tổng quan nghiên cứu của đÁ tài Bài toán Án các tập mục đß hữu ích cao nhạy cảm đang là chủ đề đ°ợc nhiều nhà nghiên cứu quan tâm. Mục tiêu của bài toán là bảo vệ các thông tin nhạy cảm không thể khai phá đ°ợc bằng các ph°¡ng pháp khai phá tập mục có đß hữu ích cao vái cùng mßt ng°ỡng đß hữu ích tối thiểu do ng°ãi dùng quy đßnh. Đồng thãi, các ph°¡ng pháp Án tập mục có đß hữu ích cao nhạy cảm làm giảm thiểu các hiệu ứng phụ trên các thông tin không nhạy cảm và tính toàn vẹn của c¡ sở dữ liệu ban đ¿u.
3 Hiện đã có mßt số ph°¡ng pháp Án hiệu quả để giải quyết vấn đề này, tuy nhiên những ph°¡ng pháp này vÃn còn tạo ra các hiệu ứng phụ không mong muốn. Đề tài đề xuất ph°¡ng pháp Án mßt cách phù hợp, để Án các tập mục có đß hữu ích cao nhạy cảm mßt cách hiệu quả, làm giảm thiểu các hiệu ứng phụ trên các thông tin không nhạy cảm.