Luận văn tốt nghiệp xác định phần tử ngoại lai dựa vào phụ thuộc hàm đặc biệt trong cơ sở dữ liệu quan hệ và ứng dụng

Khóa luận tốt nghiệp nghiên cứu Luận văn tốt nghiệp xác định phần tử ngoại lai dựa vào phụ thuộc hàm đặc biệt trong cơ sở dữ liệu, vận dụng lý thuyết vào thực tế, đề xuất giải

Chuyên ngành

Công Nghệ Thông Tin

Người đăng

Ẩn danh

Thể loại

đồ án tốt nghiệp

2021

57
1
0

Phí lưu trữ

30 Point

Mục lục chi tiết

LỜI CẢM ƠN

1. CHƯƠNG 1: TỔNG QUAN VỀ PHỤ THUỘC HÀM VÀ PHẦN TỬ NGOẠI LAI TRONG CSDL QUAN HỆ

1.1. Phụ thuộc hàm

1.1.1. Định nghĩa phụ thuộc hàm

1.1.2. Hệ tiên đề Armstrong

1.1.3. Các dạng phụ thuộc hàm đặc biệt loại đơn giản

1.1.3.1. Dạng các phụ thuộc hàm dạng bằng nhau
1.1.3.2. Dạng phụ thuộc hàm dạng tỉ lệ

1.2. Phần tử ngoại lai và mối quan hệ giữa chúng với khai phá dữ liệu

1.2.1. Khái niệm về phần tử ngoại lai

1.2.2. Vai trò của phần tử ngoại lai trong mô hình CSDL quan hệ

1.2.3. Mô hình phát hiện các phần tử ngoại lai trong dữ liệu và trong CSDL quan hệ

1.2.4. Phân loại các phần tử ngoại lai trong CSDL quan hệ

1.2.5. Ứng dụng của các phần tử ngoại lai

Tóm tắt

I. Tổng quan về phụ thuộc hàm và phần tử ngoại lai trong CSDL quan hệ

Phần này trình bày khái niệm về phụ thuộc hàmphần tử ngoại lai trong cơ sở dữ liệu quan hệ. Phụ thuộc hàm là một công cụ quan trọng trong việc thiết kế cơ sở dữ liệu, giúp xác định các ràng buộc giữa các thuộc tính. Định nghĩa của phụ thuộc hàm được đưa ra bởi Codd, cho thấy mối quan hệ giữa các thuộc tính trong một bảng dữ liệu. Phần tử ngoại lai được định nghĩa là những phần tử có đặc điểm khác biệt so với phần lớn các phần tử còn lại trong tập dữ liệu. Điều này có thể dẫn đến việc phát hiện các vấn đề trong dữ liệu, như lỗi nhập liệu hoặc các trường hợp bất thường. Việc hiểu rõ về phần tử ngoại laiphụ thuộc hàm là rất cần thiết để phát triển các phương pháp phát hiện và xử lý dữ liệu bất thường.

1.1 Định nghĩa phụ thuộc hàm

Định nghĩa phụ thuộc hàm là một khái niệm cơ bản trong lý thuyết cơ sở dữ liệu, cho phép xác định mối quan hệ giữa các thuộc tính trong một bảng. Theo định nghĩa, nếu A xác định B, thì mọi giá trị của A sẽ tương ứng với một giá trị duy nhất của B. Điều này có nghĩa là nếu hai dòng có cùng giá trị của A, thì chúng cũng phải có cùng giá trị của B. Việc sử dụng phụ thuộc hàm giúp đảm bảo tính toàn vẹn của dữ liệu và hỗ trợ trong việc chuẩn hóa cơ sở dữ liệu. Hệ tiên đề Armstrong cung cấp các quy tắc để suy diễn các phụ thuộc hàm từ một tập hợp các phụ thuộc hàm đã biết, từ đó giúp xác định các khóa và các ràng buộc trong cơ sở dữ liệu.

1.2 Khái niệm về phần tử ngoại lai

Khái niệm về phần tử ngoại lai trong cơ sở dữ liệu được định nghĩa là những phần tử có đặc điểm khác biệt so với phần lớn các phần tử còn lại. Phần tử ngoại lai có thể gây ra những vấn đề nghiêm trọng trong phân tích dữ liệu, vì chúng có thể làm sai lệch kết quả phân tích. Việc phát hiện phần tử ngoại lai là rất quan trọng trong nhiều lĩnh vực, từ tài chính đến y tế, nơi mà các quyết định dựa trên dữ liệu có thể ảnh hưởng lớn đến kết quả. Các phương pháp phát hiện phần tử ngoại lai thường sử dụng các thuật toán khai thác dữ liệu để xác định những phần tử không tuân theo các quy tắc hoặc mô hình đã được thiết lập.

II. Phát hiện phần tử ngoại lai đối với phụ thuộc hàm trong CSDL quan hệ

Phát hiện phần tử ngoại lai trong cơ sở dữ liệu quan hệ là một quá trình quan trọng nhằm đảm bảo tính chính xác và độ tin cậy của dữ liệu. Các phương pháp phát hiện thường dựa vào các phụ thuộc hàm để xác định các cặp phần tử không thỏa mãn các ràng buộc đã được thiết lập. Một cặp phần tử được coi là phần tử ngoại lai nếu chúng có cùng giá trị của tập thuộc tính A nhưng khác nhau ở tập thuộc tính B. Việc phát hiện này không chỉ giúp cải thiện chất lượng dữ liệu mà còn hỗ trợ trong việc phát hiện các lỗi nhập liệu hoặc các trường hợp gian lận. Các thuật toán như Isolation Forest, LOF (Local Outlier Factor) thường được áp dụng để phát hiện phần tử ngoại lai trong các tập dữ liệu lớn.

2.1 Thuật toán xác định các cặp ngoại lai

Thuật toán xác định các cặp phần tử ngoại lai dựa trên các phụ thuộc hàm là một phần quan trọng trong việc phát hiện dữ liệu bất thường. Các thuật toán này thường sử dụng các phương pháp thống kê để phân tích mối quan hệ giữa các thuộc tính và xác định các cặp không thỏa mãn các ràng buộc. Việc áp dụng các thuật toán này giúp phát hiện nhanh chóng và hiệu quả các phần tử ngoại lai, từ đó cải thiện tính toàn vẹn của dữ liệu. Các phương pháp như kiểm tra độ tương đồng giữa các thuộc tính và phân tích các giá trị bất thường là những kỹ thuật phổ biến trong lĩnh vực này.

2.2 Phần tử ngoại lai đối với một số dạng phụ thuộc hàm đặc biệt

Các dạng phụ thuộc hàm đặc biệt như phụ thuộc hàm dạng bằng nhauphụ thuộc hàm dạng tỉ lệ cũng có thể dẫn đến việc phát hiện phần tử ngoại lai. Trong trường hợp này, việc xác định các phần tử ngoại lai sẽ dựa trên các quy tắc cụ thể của từng dạng phụ thuộc hàm. Ví dụ, nếu một bảng dữ liệu có các thuộc tính tỉ lệ, việc phát hiện các giá trị không tuân theo tỉ lệ đã được xác định sẽ giúp phát hiện các phần tử ngoại lai. Điều này không chỉ giúp cải thiện chất lượng dữ liệu mà còn hỗ trợ trong việc ra quyết định dựa trên dữ liệu.

III. Ứng dụng tìm phần tử ngoại lai để kiểm tra xếp loại học lực và danh hiệu cho học sinh

Việc ứng dụng phát hiện phần tử ngoại lai trong việc kiểm tra xếp loại học lực và danh hiệu cho học sinh là một ví dụ điển hình về việc áp dụng lý thuyết vào thực tiễn. Dữ liệu điểm số của học sinh được sử dụng để xác định các phần tử ngoại lai, từ đó giúp giáo viên phát hiện những học sinh có kết quả học tập bất thường. Quá trình này không chỉ giúp nâng cao chất lượng giáo dục mà còn hỗ trợ trong việc đưa ra các quyết định chính xác hơn về việc xếp loại học sinh. Việc sử dụng các công cụ như SQL để truy vấn và phân tích dữ liệu là rất cần thiết trong quá trình này.

3.1 Bài toán đặt ra và mục tiêu chương trình

Bài toán đặt ra là phát hiện các phần tử ngoại lai trong bảng điểm của học sinh để kiểm tra xếp loại học lực. Mục tiêu của chương trình là xây dựng một hệ thống có khả năng tự động phát hiện các học sinh có điểm số bất thường, từ đó giúp giáo viên có thể đưa ra các quyết định chính xác hơn trong việc xếp loại học sinh. Việc phát hiện này không chỉ giúp nâng cao chất lượng giáo dục mà còn hỗ trợ trong việc phát hiện các trường hợp gian lận trong học tập.

3.2 Môi trường thử nghiệm và quy trình thực hiện

Môi trường thử nghiệm được thiết lập với hệ quản trị cơ sở dữ liệu MySQL và ngôn ngữ lập trình PHP. Quy trình thực hiện bao gồm việc thu thập dữ liệu điểm số, áp dụng các thuật toán phát hiện phần tử ngoại lai, và cuối cùng là phân tích kết quả để đưa ra các quyết định về xếp loại học lực. Việc sử dụng các công cụ này giúp đảm bảo tính chính xác và hiệu quả trong quá trình phát hiện và xử lý dữ liệu.

25/01/2025

Trích đoạn nội dung tài liệu

Chương 1 Tổng quan về phụ thuộc hàm và phần tử ngoại lai trong CSDL quan hệ 1. Phụ thuộc hàm 1.1 Định nghĩa phụ thuộc hàm Phụ thuộc hàm (functional dependency) là một công cụ dùng để biểu diễn một cách hình thức các ràng buộc. Phương pháp biểu diễn này có rất nhiều ưu điểm, và đây là một công cụ cực kỳ quan trọng, gắn chặt với lý thuyết thiết kế cơ sở dữ liệu (CSDL). Phụ thuộc hàm được ứng dụng trong việc giải quyết các bài toán tìm khóa, tìm phủ tối thiểu và chuẩn hóa CSDL.

Khái niệm về phụ thuộc hàm trong một quan hệ là rất quan trọng trong việc thiết kế mô hình dữ liệu.F Codd đã mô tả phụ thuộc hàm trong mô hình dữ liệu quan hệ, nhằm giải quyết việc phân rã không mất thông tin. Định nghĩa: Cho R = {a1, a2,., an} là tập các thuộc tính, r = {h1, h2,., hm} là một quan hệ trên R, và A, B  R (A, B là tập cột hay tập thuộc tính). Khi đó ta nói A xác định hàm cho B hay B phụ thuộc hàm vào A trong r f (ký pháp A ⎯⎯ r → B) nếu: ( hi, hj  r) ((a  A) ( hi(a) = hj(a))  (b  B) ( hi(b) = hj(b) )) nghĩa là đối số trùng nhau thì hàm có cùng giá trị [2]. f Người ta còn viết (A, B) hay A → B thay cho ⎯⎯ r→ B 7 Luan van Lúc đó tập hợp tất cả (A, B) như thế xác định một họ f trên R.

Nhận xét: Ta có thể thấy rằng B mà phụ thuộc hàm vào A, nếu hai dòng bất kỳ mà các giá trị của tập thuộc tính A mà bằng nhau từng cặp một, thì kéo theo các giá trị trên tập thuộc tính B cũng phải bằng nhau từng cặp một. Ý nghĩa: Khái niệm phụ thuộc hàm miêu tả một loại ràng buộc (phụ thuộc dữ liệu) xẩy ra tự nhiên nhất giữa các tập thuộc tính. Ví dụ : Xét một quan hệ : THISINH SBD Họtên Điạchỉ Tỉnh Khu vực HP0001 Bùi văn An 14 Kiến Hải 3 An Phòng HP0002 Nguyễn Hải 15 Cát Hải Đăng Hải Phòng 3 HP0003 Nguyễn vân Văn Lạng Anh Lãng Sơn 1 HP0004 Vũ thúy Liên 52 Quang Nam Trung Định 2 Bảng 1 Bảng quan hệ THÍ SINH Trong quan hệ THISINH dựa vào định nghĩa phụ thuộc hàm của quan hệ , có thể kết luận: 8 Luan van f {Tỉnh} ⎯⎯ r → { Khuvực} f {SBD} ⎯⎯ r → { Họtên, Địachỉ, Tỉnh, Khuvực} 1.2 Hệ tiên đề Armstrong Gọi F là tập xác định các phụ thuộc hàm đối với lược đồ quan hệ R và X → Y là một phụ thuộc hàm. Nói rằng X → Y được suy diễn logic từ F nếu mối quan hệ r trên R đều thoả mãn phụ thuộc hàm của F thì cũng thoả mãn X → Y.

Chẳng hạn F ={A → B, B → C} thì A → C suy ra từ F. Gọi F+ là bao đóng (closure) của F, tức là tập tất cả các phụ thuộc hàm được suy diễn logic từ F. Nếu F = F+ thì F là họ đầy đủ (full family) của các phụ thuộc hàm [3]. Để có thể xác định khoá của một lược đồ quan hệ và các suy diễn logic giữa các phụ thuộc hàm cần thiết phải tính được F+ từ F.

Do đó đòi hỏi phải có các hệ tiên đề. Tập các quy tắc của hệ tiên đề được Armstrong (1974) đưa ra, được gọi là hệ tiên đề Armstrong. Định nghĩa: Cho R = {a1,.,an} là tập các thuộc tính. Hệ tiên đề Armstrong bao gồm 3 tính chất cơ bản sau: ➢ A1 (phản xạ) : Nếu Y  X thì X → Y ➢ A2 (tăng trưởng) : Nếu Z  R và X → Y thì XZ → YZ.

9 Luan van Trong đó ký hiệu XZ là hợp của hai tập X và Z thay cho ký hiệu X  Z. ➢ A3 (bắc cầu ) : Nếu X → Y và Y → Z thì X → Z. Nhận xét: ➢ Việc nghiên cứu phụ thuộc hàm không lệ thuộc vào các quan hệ (bảng) cụ thể. Vì vậy, áp dụng được các công cụ toán nhằm sáng tỏ cấu trúc logic của mô hình dữ liệu quan hệ ➢ Có nhiều quan hệ khác nhau nhưng các họ đầy đủ các phụ thuộc hàm của chúng lại như nhau Ví dụ: Cho r1, r2 là các quan hệ: A B A B 0 0 0 0 r1 = 1 1 r2 = 1 1 2 1 2 1 3 2 3 1 Có thể thấy rằng r1 và r2 khác nhau nhưng Fr1 = Fr2 vì chỉ có A → B 1.

Các dạng phụ thuộc hàm đặc biệt loại đơn giản Có một số phụ thuộc hàm có dạng rất đặc biệt. Chúng ta sẽ xét ở đây hai dạng rất đặc biệt trong số đó [4]. Dạng các phụ thuộc hàm dạng bằng nhau Cho bảng dữ liệu r trên R = (A1, A2,. Giả sử với Ap, Aq nào đó thuộc R, mà với mọi ti  r ta có: ti(Ap) = ti(Aq).

Khi đó ta dễ thấy có phụ thuộc hàm: Ap → Aq ( cũng đồng thời có Aq → Ap). Người ta gọi các phụ thuộc hàm dạng này là các phụ thuộc hàm dạng bằng nhau [2]. 10 Luan van Các phụ thuộc hàm dạng bằng nhau có trong các bảng dữ liệu được sinh ra trong trường hợp chúng ta kết nối hai hoặc nhiều bảng dữ liệu với nhau. Dạng phụ thuộc hàm dạng tỉ lệ Cho r là một bảng dữ liệu trên tập thuộc tính R.

Giả sử có các thuộc tính số: As, As1, As2, .Ask  R và các số thực: p1, p2, .pk với pj  1; j = 1.k k Và  p j = 1; với mọi ti  r sao cho: j =1 ti(As1) = p1 * ti(As) ti(As2) = p2 * ti(As). ti(Ask) = pk * ti(As) Trong trường hợp này ta có phụ thuộc hàm: As → As1. Ta gọi phụ thuộc hàm dạng này là phụ thuộc hàm dạng tỉ lệ. Gọi pj là tỉ lệ đối với phụ thuộc tính Asj (j = 1.

Trong thực tế chúng ta gặp loại phụ thuộc hàm loại này trong các trường hợp tạo các bảng kê về khối lượng một loại sản phẩm được sản xuất ra cùng với các thành phần dùng để tạo nên sản phẩm đó (theo định mức qui định) [4].3 Phần tử ngoại lai và mối quan hệ giữa chúng với khai phá dữ liệu 1.1 Khái niệm về phần tử ngoại lai Một cách hình thức người ta có thể định nghĩa phần tử ngoại lại (outliers) của một tập dữ liệu là các phần tử mà theo một cách nhìn nào đó có các đặc tình không giống với tập hợp đa số còn lại của tập dữ liệu [1]. Chẳng hạn trong hình dưới đây cho thấy một phần tử ngoại lai theo vị trí hình học: 11 Luan van Hình 1 Phần tử ngoại lai trong tập điểm có tọa độ (x,y) trên mặt phẳng có giá trị tung độ y nhỏ hơn hẳn các phần tử khác của tập hợp Các khái niệm về ngoại lai đầu tiên có nguồn gốc từ lĩnh vực thống kê. Barnett và Lewis định nghĩa: một phần tử ngoại lai là một quan trắc hoặc một tập con các quan trắc mà sự xuất hiện của chúng trái ngược với những quan trắc còn lại. Phần tử ngoại lai cũng có thể được hiểu như một quan trắc mà giá trị của nó khác biệt quá nhiều so với những quan trắc khác gây cho người người ta nghi ngờ rằng nó đã được thực hiện bằng một kỹ thuật khác.

Có nhiều cách định nghĩa và hiểu khác nhau về phần tử ngoại lai. Tuy nhiên chúng có điểm chung là: phần tử ngoại lai của một file dữ liệu là những phần tử của file dữ liệu có sự khác biệt đáng kể đối với những phần tử còn lại. Và khi tiến hành xác định phần tử ngoại lai, trước hết người ta đưa ra định nghĩa, sau đó sẽ xây dựng phương pháp để xác định. Vai trò của phần tử ngoại lai trong mô hình CSDL quan hệ: Cho một bảng dữ liệu r trên một tập thuộc tính R.

Kí hiệu T là tập các qui tắc, ràng buộc (gọi là các luật) mà các phần tử của r phải tuân theo. Phần tử ngoại lai của r là những phần tử của bảng dữ liệu này không tuân theo một trong các qui tắc, ràng buộc đó [4]. Một phần tử của bảng dữ liệu được hiểu là một bộ các giá trị của các thuộc tính. 12 Luan van Các qui tắc, ràng buộc được đề cập bao gồm những ràng buộc về cấu của CSDL (khóa, phụ thuộc hàm, các dạng chuẩn phải tuân theo đối với một quan hệ và các ràng buộc theo ngữ nghĩa phụ thuộc vào yêu cầu, ý nghĩa của ứng dụng mà trong đó CSDL được sử dụng).

Phần tử ngoại lai giữ một vai trò đặc biệt quan trọng trong mô hình CSDL quan hệ, đặc biệt là đối với phụ thuộc hàm của bảng dữ liệu r. Cho r là một bảng dữ liệu trên sơ đồ quan hệ (R,F). Giải thiết r là một quan hệ. Ta gọi một cặp bộ t1, t2  r không thỏa mãn điều kiện phụ thuộc hàm của F là cặp phần tử ngoại lai đối với phụ thuộc hàm của bảng dữ liệu r.

Người ta biểu diễn một cách hình thức như sau: Giả sử X → Y là một phụ thuộc hàm thuộc F. Khi đó cặp t1, t2  r là cặp phần tử ngoại lai đối với phụ thuộc hàm X → Y nếu: t1(X) = t2(X) và t1(Y)  t2(Y). Khái niệm phần tử ngoại lai đi cùng với mô hình CSDL quan hệ ngày nay đã ngày càng đi sâu vào mọi mặt trong đời sống kinh tế -xã hội [1]. Chúng dùng để: - Phát hiện xâm nhập (phát hiện các hoạt động nguy hiểm (phá vỡ thâm nhập và các hình thức khác của máy tính lạm dụng) trong một hệ thống máy tính liên quan từ một vấn đề bảo mật.

Khác với hệ thống hành vi bình thường, phát hiện xâm nhập là một ứng cử viên hoàn hảo cho việc áp dụng các kỹ thuật phát hiện ngoại lai). -Phát hiện gian lận (liên quan đến hoạt động tội phạm xảy ra trong các tổ chức thương mại, các tổ chức như ngân hàng, các công ty thẻ tín dụng, cơ quan bảo hiểm, các công ty điện thoại di động, thị trường chứng khoán,… Người sử dụng độc hại có thể là khách hàng thực tế của tổ chức hoặc phải dùng đến hành vi trộm cắp danh tính (giả làm khách hàng). Các hoạt động phát hiện nhằm mục đích 13 Luan van phát hiện tiêu thụ trái phép các nguồn tài nguyên được cung cấp bởi tổ chức để ngăn chặn thiệt hại kinh tế). - Phát hiện bảo hiểm yêu cầu bồi thường gian lận (ví dụ xe hơi gian lận bảo hiểm.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ

Bài viết "Luận văn tốt nghiệp: Xác định phần tử ngoại lai dựa vào phụ thuộc hàm đặc biệt trong cơ sở dữ liệu quan hệ" của tác giả Lưu Thế Dũng, dưới sự hướng dẫn của TS. Lê Văn Phùng, trình bày một nghiên cứu quan trọng trong lĩnh vực công nghệ thông tin, đặc biệt là trong việc xác định các phần tử ngoại lai trong cơ sở dữ liệu quan hệ. Nghiên cứu này không chỉ giúp nâng cao hiểu biết về phụ thuộc hàm đặc biệt mà còn mở ra hướng đi mới cho việc ứng dụng trong các hệ thống quản lý dữ liệu hiện đại.

Để mở rộng thêm kiến thức về các khía cạnh liên quan, bạn có thể tham khảo bài viết Nghiên cứu phụ thuộc dữ liệu và khai phá dữ liệu trong cơ sở dữ liệu quan hệ, nơi cung cấp cái nhìn sâu sắc về mối liên hệ giữa phụ thuộc dữ liệu và khai thác thông tin. Ngoài ra, bài viết Luận văn thạc sĩ về luật kết hợp mờ và ứng dụng trong cơ sở dữ liệu cước điện thoại cũng sẽ giúp bạn hiểu rõ hơn về các ứng dụng thực tiễn của lý thuyết trong việc quản lý dữ liệu. Cuối cùng, bài viết Nghiên cứu cơ sở dữ liệu hướng đối tượng và ứng dụng trong hệ quản trị DB40 sẽ mang đến cho bạn cái nhìn tổng quan về các mô hình dữ liệu hiện đại và ứng dụng của chúng trong thực tế.

Những tài liệu này không chỉ bổ sung kiến thức mà còn mở ra nhiều hướng nghiên cứu mới cho bạn trong lĩnh vực công nghệ thông tin.