Đồ án: Phát hiện phần tử ngoại lai dựa vào phụ thuộc hàm trong CSDL quan hệ

Đồ án nghiên cứu xác định phần tử ngoại lai dựa vào phụ thuộc hàm đặc biệt trong cơ sở dữ liệu quan hệ và ứng dụng, áp dụng công nghệ tiên tiến, tối ưu giải pháp kỹ thuật cho bài

Chuyên ngành

Công nghệ thông tin

Người đăng

Ẩn danh

Thể loại

Đồ án tốt nghiệp

2021

57
1
0

Phí lưu trữ

30 Point

Mục lục chi tiết

LỜI CẢM ƠN

Mục Lục

DANH SÁCH HÌNH VẼ

DANH SÁCH BẢNG

MỞ ĐẦU

1. Chương 1: Tổng quan về phụ thuộc hàm và phần tử ngoại lai trong CSDL quan hệ

1.1. Phụ thuộc hàm

1.1.1. Định nghĩa phụ thuộc hàm

1.1.2. Hệ tiên đề Armstrong

1.1.3. Các dạng phụ thuộc hàm đặc biệt loại đơn giản

1.1.3.1. Dạng các phụ thuộc hàm dạng bằng nhau
1.1.3.2. Dạng phụ thuộc hàm dạng tỉ lệ

1.2. Phần tử ngoại lai và mối quan hệ giữa chúng với khai phá dữ liệu

1.2.1. Khái niệm về phần tử ngoại lai

1.2.2. Mối quan hệ giữa phần tử ngoại lai với khai phá dữ liệu

1.3. Mô hình phát hiện các phần tử ngoại lai trong dữ liệu và trong CSDL quan hệ

1.3.1. Phân loại các phần tử ngoại lai trong CSDL quan hệ

1.3.2. Ứng dụng của các phần tử ngoại lai

2. Phát hiện phần tử ngoại lai đối với phụ thuộc hàm trong CSDL quan hệ

2.1. Phần tử ngoại lai đối với phụ thuộc hàm

2.1.1. Khái niệm phần tử ngoại lai đối với phụ thuộc hàm

2.1.2. Định lý nhận biết cặp ngoại lai đối với phụ thuộc hàm

2.1.3. Thuật toán xác định các cặp ngoại lai đối với tập các phụ thuộc hàm

2.2. Phần tử ngoại lai đối với một số dạng phụ thuộc hàm đặc biệt

2.2.1. Phần tử ngoại lai đối với phụ thuộc hàm dạng bằng nhau

2.2.2. Phần tử ngoại lai đối với phụ thuộc hàm dạng tỉ lệ

3. Ứng dụng tìm phần tử ngoại lai để kiểm tra xếp loại học lực và danh hiệu cho học sinh trường THPT Kiến Thụy ở Hải Phòng

3.1. Bài toán đặt ra và mục tiêu chương trình

3.1.1. Bài toán đặt ra

3.1.2. Mục tiêu chương trình

3.2. Chọn thuật toán thử nghiệm

3.3. Dữ liệu vào và yêu cầu kết quả ra

3.4. Môi trường thử nghiệm và quy trình thực hiện

3.4.1. Hệ quản trị dữ liệu

3.4.2. Quy trình thực hiện

3.5. Một số giao diện chính

3.5.1. Giao diện trang chủ

3.5.2. Giao diện nhập liệu vào hệ thống

3.5.3. Giao diện xem dữ liệu báo cáo

3.5.4. Giao diện tính toán trung gian (tệp 3)

3.5.5. Giao diện phát hiện phần tử ngoại lai

Đánh giá kết quả và hướng mở rộng

Phụ lục 1- Phép nối 2 file dữ liệu (Join)

Tóm tắt

I. Tổng Quan Về Phần Tử Ngoại Lai trong CSDL Quan Hệ

Thế kỷ XXI được xem là kỷ nguyên của nền kinh tế tri thức. Các công nghệ khám phá tri thức được áp dụng rộng rãi trong nhiều lĩnh vực, mang lại những thành tựu to lớn. Tuy nhiên, các công nghệ này thường tập trung vào việc tìm kiếm các dạng và mẫu thường gặp, chủ yếu là tìm kiếm luật kết hợp, nhận dạng và phân loại mẫu. Lĩnh vực khám phá phần tử ngoại lai mới chỉ bắt đầu nhận được sự quan tâm nghiên cứu. Mặc dù vậy, nó đã được ứng dụng trong nhiều lĩnh vực của cuộc sống như phát hiện các thẻ bất thường trong hệ thống ngân hàng, các tuyến đường bất ổn trong giao thông, ứng dụng trong hệ thống an ninh, dự báo thời tiết, thị trường chứng khoán và lĩnh vực thể thao. Đồ án này tập trung vào việc tìm hiểu về phụ thuộc hàm và phần tử ngoại lai trong cơ sở dữ liệu quan hệ, phương pháp phát hiện phần tử ngoại lai đối với phụ thuộc hàm, và ứng dụng tìm kiếm phần tử ngoại lai để kiểm tra xếp loại học lực và danh hiệu cho học sinh THPT ở Hải Phòng. Khái niệm về phần tử ngoại lai có nguồn gốc từ lĩnh vực thống kê. Barnett và Lewis định nghĩa phần tử ngoại lai là một quan trắc hoặc một tập con các quan trắc mà sự xuất hiện của chúng trái ngược với những quan trắc còn lại. Phần tử ngoại lai cũng có thể được hiểu là một quan trắc mà giá trị của nó khác biệt quá nhiều so với những quan trắc khác, khiến người ta nghi ngờ rằng nó được thực hiện bằng một kỹ thuật khác. Các phần tử ngoại lai giữ một vai trò đặc biệt quan trọng trong mô hình CSDL quan hệ. Giả sử r là một bảng dữ liệu trên sơ đồ quan hệ (R,F). Ta gọi một cặp bộ t1, t2  r không thỏa mãn điều kiện phụ thuộc hàm của F là cặp phần tử ngoại lai đối với phụ thuộc hàm của bảng dữ liệu r. Ví dụ, giả sử X → Y là một phụ thuộc hàm thuộc F. Khi đó cặp t1, t2  r là cặp phần tử ngoại lai đối với phụ thuộc hàm X → Y nếu: t1(X) = t2(X) và t1(Y) ≠ t2(Y). Khái niệm phần tử ngoại lai đi cùng với mô hình CSDL quan hệ ngày nay ngày càng đi sâu vào mọi mặt trong đời sống kinh tế - xã hội. Chúng được sử dụng để phát hiện xâm nhập, gian lận (trong bảo hiểm, y tế công cộng, công nghiệp), xử lý hình ảnh và sai sót trong mạng cảm biến.

1.1. Định Nghĩa và Vai Trò của Phụ Thuộc Hàm trong CSDL

Phụ thuộc hàm (functional dependency) là một công cụ dùng để biểu diễn một cách hình thức các ràng buộc. Đây là một công cụ cực kỳ quan trọng, gắn chặt với lý thuyết thiết kế cơ sở dữ liệu (CSDL). Phụ thuộc hàm được ứng dụng trong việc giải quyết các bài toán tìm khóa, tìm phủ tối thiểu và chuẩn hóa CSDL. Khái niệm về phụ thuộc hàm trong một quan hệ là rất quan trọng trong việc thiết kế mô hình dữ liệu. Định nghĩa: Cho R = {a1, a2,., an} là tập các thuộc tính, r = {h1, h2,., hm} là một quan hệ trên R, và A, B  R (A, B là tập cột hay tập thuộc tính). Khi đó ta nói A xác định hàm cho B hay B phụ thuộc hàm vào A trong r f (ký pháp A ⎯⎯ r → B) nếu: ( hi, hj  r) ((a  A) ( hi(a) = hj(a))  (b  B) ( hi(b) = hj(b) )) nghĩa là đối số trùng nhau thì hàm có cùng giá trị [2]. Ý nghĩa: Khái niệm phụ thuộc hàm miêu tả một loại ràng buộc (phụ thuộc dữ liệu) xẩy ra tự nhiên nhất giữa các tập thuộc tính.

1.2. Mối Quan Hệ Giữa Phần Tử Ngoại Lai và Khai Phá Dữ Liệu

Trước khi các kỹ thuật khai thác dữ liệu ra đời, thông tin hữu ích phục vụ cho người dùng chỉ được khai thác hiệu quả trên các tập dữ liệu có cỡ và số chiều nhỏ. Do vậy, để có thể khai thác dữ liệu một cách hiệu quả với khối lượng thông tin dữ liệu lớn thì cần phải có các công dụng khai thác dữ liệu tốt, các thuật toán khai thác dữ liệu thông minh, tự động, thời gian thực hiện nhanh [1]. Trong thực tế, các chương trình ứng dụng khai thác dữ liệu thường phải khai thác dữ liệu trên các tập dữ liệu rất lớn với khối lượng thông tin khổng lồ, không phù hợp với bộ nhớ chính, dữ liệu đó được nằm ở bộ nhớ ngoài (Disk-resident Data). Trong khoá luận này vấn đề được quan tâm lớn nhất là tìm hiểu các thuật toán khai thác, tìm kiếm các phần tử ngoại lai trong các tập dữ liệu lớn, nhiều chiều. Hiện nay, một số các kỹ thuật phát hiện phần tử ngoại lai nhằm các mục đích sau: - Cung cấp một số thông tin về mối quan hệ giữa các phần tử ngoại lai. - Cung cấp một số giải thích hoặc mô tả về không gian dữ liệu mà trong đó xuất hiện phần tử ngoại lai.

II. Vấn Đề và Thách Thức trong Phát Hiện Phần Tử Ngoại Lai

Việc xác định phần tử ngoại lai trong các CSDL quan hệ đối mặt với nhiều thách thức, đặc biệt là khi dữ liệu lớn và phức tạp. Thứ nhất, không có một định nghĩa chung và chính xác về phần tử ngoại lai. Ý nghĩa của chúng thay đổi tùy theo từng lĩnh vực ứng dụng, khiến việc xây dựng các thuật toán phát hiện chung trở nên khó khăn. Điều này đòi hỏi các nhà nghiên cứu phải phát triển các phương pháp tiếp cận cụ thể cho từng bài toán cụ thể. Thứ hai, dữ liệu trong thực tế thường chứa nhiều nhiễu và không đầy đủ, gây khó khăn cho việc phân biệt phần tử ngoại lai thực sự với các sai sót trong dữ liệu. Các thuật toán phát hiện cần phải có khả năng xử lý dữ liệu nhiễu và thiếu để đảm bảo độ chính xác của kết quả. Thứ ba, hiệu suất tính toán là một vấn đề quan trọng khi xử lý các CSDL lớn. Các thuật toán phát hiện phần tử ngoại lai cần phải được thiết kế sao cho có thể xử lý dữ liệu lớn một cách hiệu quả và nhanh chóng. Các kỹ thuật như song song hóa và phân tán hóa có thể được sử dụng để cải thiện hiệu suất tính toán. Cuối cùng, việc đánh giá kết quả phát hiện phần tử ngoại lai là một thách thức khác. Không có một tiêu chuẩn chung để đánh giá độ chính xác của các thuật toán phát hiện. Các phương pháp đánh giá khác nhau có thể đưa ra các kết quả khác nhau, gây khó khăn cho việc so sánh và lựa chọn các thuật toán phù hợp. Vì vậy, các nhà nghiên cứu cần phải phát triển các phương pháp đánh giá đáng tin cậy và phù hợp với từng bài toán cụ thể.

2.1. Sự Khác Biệt trong Định Nghĩa Phần Tử Ngoại Lai

Cho đến nay, chưa có một định nghĩa nào có thể định nghĩa một cách đầy đủ và chính xác về phần tử ngoại lai. Việc xác định các phần tử ngoại lai trong mỗi lĩnh vực là khác nhau, bởi vì ý nghĩa ngoại lai của các phần tử ngoại lai mang tính chất và đặc trưng của từng lĩnh vực áp dụng (có thể nhiễu của người này nhưng lại là tín hiệu tốt của người khác). Do đó, rất khó có thể đưa ra được một định nghĩa hoàn chỉnh và chính xác về phần tử ngoại lai.

2.2. Xử Lý Dữ Liệu Nhiễu và Thiếu để Tăng Độ Chính Xác

Trong thực tế, dữ liệu thường chứa nhiều nhiễu và không đầy đủ. Điều này có thể gây khó khăn cho việc phân biệt phần tử ngoại lai thực sự với các sai sót trong dữ liệu. Các thuật toán phát hiện cần phải có khả năng xử lý dữ liệu nhiễu và thiếu để đảm bảo độ chính xác của kết quả. Các phương pháp tiền xử lý dữ liệu như làm sạch dữ liệu, điền giá trị thiếu và giảm nhiễu có thể được sử dụng để cải thiện chất lượng dữ liệu trước khi áp dụng các thuật toán phát hiện phần tử ngoại lai.

2.3. Tối Ưu Hiệu Suất Tính Toán cho CSDL Lớn

Hiệu suất tính toán là một vấn đề quan trọng khi xử lý các CSDL lớn. Các thuật toán phát hiện phần tử ngoại lai cần phải được thiết kế sao cho có thể xử lý dữ liệu lớn một cách hiệu quả và nhanh chóng. Các kỹ thuật như song song hóa, phân tán hóa và sử dụng các cấu trúc dữ liệu hiệu quả có thể được sử dụng để cải thiện hiệu suất tính toán.

III. Phương Pháp Xác Định Phần Tử Ngoại Lai Dựa Trên Phụ Thuộc Hàm

Một phương pháp tiếp cận để xác định phần tử ngoại lai trong CSDL quan hệ là dựa trên phụ thuộc hàm. Phương pháp này dựa trên giả định rằng các phần tử ngoại lai là những phần tử vi phạm các phụ thuộc hàm được định nghĩa trên CSDL. Cho r là một bảng dữ liệu trên sơ đồ quan hệ (R,F). Giả thiết r là một quan hệ. Ta gọi một cặp bộ t1, t2  r không thỏa mãn điều kiện phụ thuộc hàm của F là cặp phần tử ngoại lai đối với phụ thuộc hàm của bảng dữ liệu r. Giả sử X → Y là một phụ thuộc hàm thuộc F. Khi đó cặp t1, t2  r là cặp phần tử ngoại lai đối với phụ thuộc hàm X → Y nếu: t1(X) = t2(X) và t1(Y) ≠ t2(Y). Để xác định các cặp phần tử ngoại lai, có thể sử dụng hệ bằng nhau Er. Định nghĩa: Giả sử r = {t1, t2, .tm} là bảng dữ liệu trên cơ đồ quan hệ (R,F). Tập Er được xác định như sau: Er = {Ei,j: 1  i < j  m và Ei,j = {a ∈ R; ti(a) = tj(a)}}. Gọi Er là hệ bằng nhau của r. Định lý nhận biết cặp ngoại lai: Cho r là một bảng dữ liệu trên sơ đồ quan hệ (R,F); Er là hệ bằng nhau của r; X → Y là một phụ thuộc hàm được giả thiết đúng trên r. Cặp phần tử (ti,tj) với ti, tj  r là ngoại lai đối với phụ thuộc hàm X → Y khi và chỉ khi Ei,j  Er mà X  Ei,j nhưng Y  Ei,j.

3.1. Thuật Toán Xác Định Cặp Phần Tử Ngoại Lai Tổng Quát

Thuật toán xác định các cặp ngoại lai đối với tập các phụ thuộc hàm: Input: Tập thuộc tính R = {A1, A2 .An}, bảng dữ liệu r = {t1, t2,.tm} trên R, Tập các phụ thuộc hàm F = {X1 → Y1, X2 → Y2, Xm → Ys}. Output: OUTLI – tập các cặp ngoại lai đối với phụ thuộc hàm. Bước 1: Tính hệ bằng nhau Er = {Ei,j: 1  i < j  m, Ei,j = { a  R; ti(a) = tj(a)}}. Bước 2: Với mỗi phụ thuộc hàm Xi → Yi  F và mọi Ei,j  Er, kiểm tra điều kiện Xi  Ek,j và Yi  Ek,j. Nếu đúng, lưu cặp (tk, tj) vào tập OUTLI. Nếu không kiểm tra tiếp các phụ thuộc hàm khác. Tập OUTLI là tập các cặp ngoại lai đối với phụ thuộc hàm của r.

3.2. Phần Tử Ngoại Lai trong Phụ Thuộc Hàm Dạng Bằng Nhau

Cho bảng dữ liệu r trên R = (A1, A2, . Giả sử với Ap, Aq nào đó thuộc R, mà với mọi ti  r ta có: ti(Ap) = ti(Aq). Khi đó nếu có phụ thuộc hàm Ap → Aq mà đồng thời cũng có Aq → Ap thì đó là phụ thuộc hàm có dạng bằng nhau. Trong trường hợp này, để xác định các cặp phần tử ngoại lai ti, tj ta có thể so sánh: ti(Ap) với ti(Aq) (hoặc tj(Ap) với tj(Aq)). Trong trường hợp này ta có thể xác định chính xác phần tử ngoại lai: Định nghĩa: Cho r là một bảng dữ liệu trên sơ đồ quan hệ (R,F) với R = (A1, A2, .An); cho Ap → Aq là phụ thuộc hàm dạng bằng nhau đúng trên r (ti(Ap) = ti(Aq) với mọi ti  r). Phần tử ngoại lai đối với Ap → Aq là phần tử tk  r mà tk(Ap)  tk(Aq).

3.3. Phần Tử Ngoại Lai trong Phụ Thuộc Hàm Dạng Tỉ Lệ

Định nghĩa: Cho r là một bảng dữ liệu trên sơ đồ quan hệ (R,F). Giả sử có các thuộc tính số: As, As1, As2, .Ask  R và các số thực: p1, p2, .pk với pj  1; j = 1.k k Và  p j = 1; với mọi ti  r sao cho: j =1 ti(As1) = p1 * ti(As) ti(As2) = p2 * ti(As) . ti(Ask) = pk * ti(As) Trong trường hợp này ta có phụ thuộc hàm: As → As1. Ta gọi phụ thuộc hàm dạng này là phụ thuộc hàm dạng tỉ lệ. Gọi pj là tỉ lệ đối với thuộc tính Asj (j = 1.

IV. Ứng Dụng Thực Tiễn Kiểm Tra Xếp Loại Học Lực THPT

Bài toán đặt ra là kiểm tra kết quả xếp loại học lực và danh hiệu do giáo viên chủ nhiệm cung cấp có đúng với qui định của Bộ giáo dục và đào tạo hay không. Mục tiêu là kiểm tra kết quả xếp loại học lực và danh hiệu có đúng như báo cáo của giáo viên chủ nhiệm. Cụ thể: 1. Loại giỏi, nếu có đủ các tiêu chuẩn sau đây: a) Điểm trung bình các môn học từ 8,0 trở lên, trong đó điểm trung bình của 1 trong 2 môn Toán, Ngữ văn từ 8,0 trở lên; riêng đối với học sinh lớp chuyên của trường THPT chuyên phải thêm điều kiện điểm trung bình môn chuyên từ 8,0 trở lên; b) Không có môn học nào điểm trung bình dưới 6,5; c) Các môn học đánh giá bằng nhận xét đạt loại Đ. 2. Loại khá, nếu có đủ các tiêu chuẩn sau đây: a) Điểm trung bình các môn học từ 6,5 trở lên, trong đó điểm trung bình của 1 trong 2 môn Toán, Ngữ văn từ 6,5 trở lên; riêng đối với học sinh lớp chuyên của trường THPT chuyên phải thêm điều kiện điểm trung bình môn chuyên từ 6,5 trở lên; b) Không có môn học nào điểm trung bình dưới 5,0; c) Các môn học đánh giá bằng nhận xét đạt loại Đ. và các loại khác tương tự. Thuật toán thử nghiệm sử dụng thuật toán phát hiện phần tử ngoại lai đối với phụ thuộc hàm dạng bằng nhau.

4.1. Bài Toán Phát Hiện Sai Sót trong Xếp Loại Học Lực

Khi kết thúc học kỳ hay cả năm, giáo viên chủ nhiệm phải nộp lại file chứa xếp loại học lực, hạnh kiểm và danh hiệu của học sinh cho ban giám hiệu nhà trường để quản lý và theo dõi làm căn cứ báo cáo Sở giáo dục và đào tạo. Trong quá trình kết xuất file để nộp giáo viên chủ nhiệm không để ý đến học lực và danh hiệu của học sinh hay học sinh đã nghỉ học mà một số môn vẫn có điểm để tính xếp loại học lực nhưng có một số môn không tính xếp loại, hay lúc nộp file bị tác động của các yếu tố chủ quan hay khách quan làm ảnh hưởng đến kết quả xếp loại và danh hiệu.

4.2. Sử Dụng Thuật Toán Phụ Thuộc Hàm Dạng Bằng Nhau

Với bài toán nêu trên, chúng ta hình dung cần phải tính lại các tiêu chí như xếp loại học lực, danh hiệu có đúng như báo cáo của giáo viên chủ nhiệm không. Vậy, chúng ta cần tính lại điểm trung bình và cho hiện ra hai cột giá trị tính được bên cạnh 2 cột mà giáo viên chủ nhiệm đã báo cáo. Để tránh nhầm lẫn, chúng ta gọi các cột “xếp loại” và “danh hiệu” tương ứng trên báo cáo của giáo viên chủ nhiệm có thêm chữ báo cáo hoặc ngầm hiểu là báo cáo. Còn cột “xếp loại” và “danh hiệu” do máy tính tính được gọi là “xếp loại TT (tính toán)” hay “danh hiệu TT”. Trên cơ sở đó, tiến hành so sánh các giá trị theo hàng, nếu giá trị 2 cột đó không bằng nhau thì hàng đó chính là “phần tử ngoại lai “.

V. Đánh Giá Kết Quả và Hướng Phát Triển trong Tương Lai

Việc ứng dụng các thuật toán phát hiện phần tử ngoại lai vào việc kiểm tra xếp loại học lực và danh hiệu học sinh THPT đã mang lại những kết quả khả quan. Chương trình có khả năng tự động phát hiện các sai sót trong quá trình xếp loại, giúp cho việc quản lý và theo dõi học lực của học sinh trở nên chính xác và hiệu quả hơn. Tuy nhiên, vẫn còn nhiều hướng phát triển trong tương lai để nâng cao hiệu quả và tính ứng dụng của chương trình. Thứ nhất, cần mở rộng phạm vi kiểm tra, bao gồm các tiêu chí khác ngoài xếp loại học lực và danh hiệu, như hạnh kiểm, điểm thi các môn năng khiếu, và các hoạt động ngoại khóa. Thứ hai, cần cải thiện khả năng xử lý dữ liệu nhiễu và thiếu, đặc biệt là trong trường hợp dữ liệu nhập vào không đầy đủ hoặc chứa các sai sót. Thứ ba, cần tối ưu hóa hiệu suất tính toán để chương trình có thể xử lý dữ liệu lớn một cách nhanh chóng và hiệu quả. Cuối cùng, cần phát triển giao diện người dùng thân thiện và dễ sử dụng, giúp cho giáo viên và cán bộ quản lý có thể dễ dàng sử dụng chương trình để kiểm tra và đánh giá kết quả học tập của học sinh.

5.1. Điểm Mạnh và Hạn Chế của Phương Pháp Hiện Tại

Ưu điểm của phương pháp hiện tại là khả năng tự động phát hiện các sai sót trong quá trình xếp loại, giúp cho việc quản lý và theo dõi học lực của học sinh trở nên chính xác và hiệu quả hơn. Tuy nhiên, phương pháp này vẫn còn một số hạn chế, như phạm vi kiểm tra còn hạn chế, khả năng xử lý dữ liệu nhiễu và thiếu còn yếu, và hiệu suất tính toán chưa cao.

5.2. Các Hướng Nghiên Cứu để Nâng Cao Tính Ứng Dụng

Các hướng nghiên cứu trong tương lai bao gồm: Mở rộng phạm vi kiểm tra, cải thiện khả năng xử lý dữ liệu nhiễu và thiếu, tối ưu hóa hiệu suất tính toán, và phát triển giao diện người dùng thân thiện và dễ sử dụng.

VI. Kết Luận Tầm Quan Trọng của Phát Hiện Phần Tử Ngoại Lai

Phát hiện phần tử ngoại lai trong CSDL quan hệ là một lĩnh vực nghiên cứu quan trọng và có nhiều ứng dụng trong thực tế. Việc phát hiện các phần tử ngoại lai có thể giúp cho việc làm sạch dữ liệu, phát hiện gian lận, và cải thiện độ chính xác của các hệ thống thông tin. Trong tương lai, với sự phát triển của công nghệ và sự gia tăng về lượng dữ liệu, việc phát hiện phần tử ngoại lai sẽ ngày càng trở nên quan trọng hơn. Các nhà nghiên cứu cần phải tiếp tục phát triển các thuật toán phát hiện phần tử ngoại lai hiệu quả và chính xác hơn để đáp ứng nhu cầu ngày càng tăng của xã hội.

6.1. Tổng Kết Các Kết Quả Nghiên Cứu Chính

Nghiên cứu đã trình bày các khái niệm cơ bản về phần tử ngoại laiphụ thuộc hàm, các thuật toán phát hiện phần tử ngoại lai dựa trên phụ thuộc hàm, và ứng dụng thực tiễn của việc phát hiện phần tử ngoại lai trong việc kiểm tra xếp loại học lực và danh hiệu học sinh THPT.

6.2. Tiềm Năng Ứng Dụng Rộng Rãi của Lĩnh Vực Này

Việc phát hiện phần tử ngoại lai có tiềm năng ứng dụng rộng rãi trong nhiều lĩnh vực, như tài chính, y tế, an ninh, và thương mại điện tử. Trong tương lai, việc phát hiện phần tử ngoại lai sẽ ngày càng trở nên quan trọng hơn và đóng góp vào sự phát triển của xã hội.

22/09/2025

Trích đoạn nội dung tài liệu

Chương 1 Tổng quan về phụ thuộc hàm và phần tử ngoại lai trong CSDL quan hệ 1. Phụ thuộc hàm 1.1 Định nghĩa phụ thuộc hàm Phụ thuộc hàm (functional dependency) là một công cụ dùng để biểu diễn một cách hình thức các ràng buộc. Phương pháp biểu diễn này có rất nhiều ưu điểm, và đây là một công cụ cực kỳ quan trọng, gắn chặt với lý thuyết thiết kế cơ sở dữ liệu (CSDL). Phụ thuộc hàm được ứng dụng trong việc giải quyết các bài toán tìm khóa, tìm phủ tối thiểu và chuẩn hóa CSDL.

Khái niệm về phụ thuộc hàm trong một quan hệ là rất quan trọng trong việc thiết kế mô hình dữ liệu.F Codd đã mô tả phụ thuộc hàm trong mô hình dữ liệu quan hệ, nhằm giải quyết việc phân rã không mất thông tin. Định nghĩa: Cho R = {a1, a2,., an} là tập các thuộc tính, r = {h1, h2,., hm} là một quan hệ trên R, và A, B  R (A, B là tập cột hay tập thuộc tính). Khi đó ta nói A xác định hàm cho B hay B phụ thuộc hàm vào A trong r f (ký pháp A ⎯⎯ r → B) nếu: ( hi, hj  r) ((a  A) ( hi(a) = hj(a))  (b  B) ( hi(b) = hj(b) )) nghĩa là đối số trùng nhau thì hàm có cùng giá trị [2]. f Người ta còn viết (A, B) hay A → B thay cho ⎯⎯ r→ B 7 Lúc đó tập hợp tất cả (A, B) như thế xác định một họ f trên R.

Nhận xét: Ta có thể thấy rằng B mà phụ thuộc hàm vào A, nếu hai dòng bất kỳ mà các giá trị của tập thuộc tính A mà bằng nhau từng cặp một, thì kéo theo các giá trị trên tập thuộc tính B cũng phải bằng nhau từng cặp một. Ý nghĩa: Khái niệm phụ thuộc hàm miêu tả một loại ràng buộc (phụ thuộc dữ liệu) xẩy ra tự nhiên nhất giữa các tập thuộc tính. Ví dụ : Xét một quan hệ : THISINH SBD Họtên Điạchỉ Tỉnh Khu vực HP0001 Bùi văn An 14 Kiến Hải 3 An Phòng HP0002 Nguyễn Hải 15 Cát Hải Đăng Hải Phòng 3 HP0003 Nguyễn vân Văn Lạng Anh Lãng Sơn 1 HP0004 Vũ thúy Liên 52 Quang Nam Trung Định 2 Bảng 1 Bảng quan hệ THÍ SINH Trong quan hệ THISINH dựa vào định nghĩa phụ thuộc hàm của quan hệ , có thể kết luận: 8 f {Tỉnh} ⎯⎯ r → { Khuvực} f r → { Họtên, Địachỉ, Tỉnh, Khuvực} {SBD} ⎯⎯ 1.2 Hệ tiên đề Armstrong Gọi F là tập xác định các phụ thuộc hàm đối với lược đồ quan hệ R và X → Y là một phụ thuộc hàm. Nói rằng X → Y được suy diễn logic từ F nếu mối quan hệ r trên R đều thoả mãn phụ thuộc hàm của F thì cũng thoả mãn X → Y.

Chẳng hạn F ={A → B, B → C} thì A → C suy ra từ F. Gọi F+ là bao đóng (closure) của F, tức là tập tất cả các phụ thuộc hàm được suy diễn logic từ F. Nếu F = F+ thì F là họ đầy đủ (full family) của các phụ thuộc hàm [3]. Để có thể xác định khoá của một lược đồ quan hệ và các suy diễn logic giữa các phụ thuộc hàm cần thiết phải tính được F+ từ F.

Do đó đòi hỏi phải có các hệ tiên đề. Tập các quy tắc của hệ tiên đề được Armstrong (1974) đưa ra, được gọi là hệ tiên đề Armstrong. Định nghĩa: Cho R = {a1,.,an} là tập các thuộc tính. Hệ tiên đề Armstrong bao gồm 3 tính chất cơ bản sau: ➢ A1 (phản xạ) : Nếu Y  X thì X → Y ➢ A2 (tăng trưởng) : Nếu Z  R và X → Y thì XZ → YZ.

9 Trong đó ký hiệu XZ là hợp của hai tập X và Z thay cho ký hiệu X  Z. ➢ A3 (bắc cầu ) : Nếu X → Y và Y → Z thì X → Z. Nhận xét: ➢ Việc nghiên cứu phụ thuộc hàm không lệ thuộc vào các quan hệ (bảng) cụ thể. Vì vậy, áp dụng được các công cụ toán nhằm sáng tỏ cấu trúc logic của mô hình dữ liệu quan hệ ➢ Có nhiều quan hệ khác nhau nhưng các họ đầy đủ các phụ thuộc hàm của chúng lại như nhau Ví dụ: Cho r1, r2 là các quan hệ: A B A B 0 0 0 0 r1 = 1 1 r2 = 1 1 2 1 2 1 3 2 3 1 Có thể thấy rằng r1 và r2 khác nhau nhưng Fr1 = Fr2 vì chỉ có A → B 1.

Các dạng phụ thuộc hàm đặc biệt loại đơn giản Có một số phụ thuộc hàm có dạng rất đặc biệt. Chúng ta sẽ xét ở đây hai dạng rất đặc biệt trong số đó [4]. Dạng các phụ thuộc hàm dạng bằng nhau Cho bảng dữ liệu r trên R = (A1, A2,. Giả sử với Ap, Aq nào đó thuộc R, mà với mọi ti  r ta có: ti(Ap) = ti(Aq).

Khi đó ta dễ thấy có phụ thuộc hàm: Ap → Aq ( cũng đồng thời có Aq → Ap). Người ta gọi các phụ thuộc hàm dạng này là các phụ thuộc hàm dạng bằng nhau [2]. 10 Các phụ thuộc hàm dạng bằng nhau có trong các bảng dữ liệu được sinh ra trong trường hợp chúng ta kết nối hai hoặc nhiều bảng dữ liệu với nhau. Dạng phụ thuộc hàm dạng tỉ lệ Cho r là một bảng dữ liệu trên tập thuộc tính R.

Giả sử có các thuộc tính số: As, As1, As2, .Ask  R và các số thực: p1, p2, .pk với pj  1; j = 1.k k Và  p j = 1; với mọi ti  r sao cho: j =1 ti(As1) = p1 * ti(As) ti(As2) = p2 * ti(As). ti(Ask) = pk * ti(As) Trong trường hợp này ta có phụ thuộc hàm: As → As1. Ta gọi phụ thuộc hàm dạng này là phụ thuộc hàm dạng tỉ lệ. Gọi pj là tỉ lệ đối với phụ thuộc tính Asj (j = 1.

Trong thực tế chúng ta gặp loại phụ thuộc hàm loại này trong các trường hợp tạo các bảng kê về khối lượng một loại sản phẩm được sản xuất ra cùng với các thành phần dùng để tạo nên sản phẩm đó (theo định mức qui định) [4].3 Phần tử ngoại lai và mối quan hệ giữa chúng với khai phá dữ liệu 1.1 Khái niệm về phần tử ngoại lai Một cách hình thức người ta có thể định nghĩa phần tử ngoại lại (outliers) của một tập dữ liệu là các phần tử mà theo một cách nhìn nào đó có các đặc tình không giống với tập hợp đa số còn lại của tập dữ liệu [1]. Chẳng hạn trong hình dưới đây cho thấy một phần tử ngoại lai theo vị trí hình học: 11 Hình 1 Phần tử ngoại lai trong tập điểm có tọa độ (x,y) trên mặt phẳng có giá trị tung độ y nhỏ hơn hẳn các phần tử khác của tập hợp Các khái niệm về ngoại lai đầu tiên có nguồn gốc từ lĩnh vực thống kê. Barnett và Lewis định nghĩa: một phần tử ngoại lai là một quan trắc hoặc một tập con các quan trắc mà sự xuất hiện của chúng trái ngược với những quan trắc còn lại. Phần tử ngoại lai cũng có thể được hiểu như một quan trắc mà giá trị của nó khác biệt quá nhiều so với những quan trắc khác gây cho người người ta nghi ngờ rằng nó đã được thực hiện bằng một kỹ thuật khác.

Có nhiều cách định nghĩa và hiểu khác nhau về phần tử ngoại lai. Tuy nhiên chúng có điểm chung là: phần tử ngoại lai của một file dữ liệu là những phần tử của file dữ liệu có sự khác biệt đáng kể đối với những phần tử còn lại. Và khi tiến hành xác định phần tử ngoại lai, trước hết người ta đưa ra định nghĩa, sau đó sẽ xây dựng phương pháp để xác định. Vai trò của phần tử ngoại lai trong mô hình CSDL quan hệ: Cho một bảng dữ liệu r trên một tập thuộc tính R.

Kí hiệu T là tập các qui tắc, ràng buộc (gọi là các luật) mà các phần tử của r phải tuân theo. Phần tử ngoại lai của r là những phần tử của bảng dữ liệu này không tuân theo một trong các qui tắc, ràng buộc đó [4]. Một phần tử của bảng dữ liệu được hiểu là một bộ các giá trị của các thuộc tính. 12 Các qui tắc, ràng buộc được đề cập bao gồm những ràng buộc về cấu của CSDL (khóa, phụ thuộc hàm, các dạng chuẩn phải tuân theo đối với một quan hệ và các ràng buộc theo ngữ nghĩa phụ thuộc vào yêu cầu, ý nghĩa của ứng dụng mà trong đó CSDL được sử dụng).

Phần tử ngoại lai giữ một vai trò đặc biệt quan trọng trong mô hình CSDL quan hệ, đặc biệt là đối với phụ thuộc hàm của bảng dữ liệu r. Cho r là một bảng dữ liệu trên sơ đồ quan hệ (R,F). Giải thiết r là một quan hệ. Ta gọi một cặp bộ t1, t2  r không thỏa mãn điều kiện phụ thuộc hàm của F là cặp phần tử ngoại lai đối với phụ thuộc hàm của bảng dữ liệu r.

Người ta biểu diễn một cách hình thức như sau: Giả sử X → Y là một phụ thuộc hàm thuộc F. Khi đó cặp t1, t2  r là cặp phần tử ngoại lai đối với phụ thuộc hàm X → Y nếu: t1(X) = t2(X) và t1(Y)  t2(Y). Khái niệm phần tử ngoại lai đi cùng với mô hình CSDL quan hệ ngày nay đã ngày càng đi sâu vào mọi mặt trong đời sống kinh tế -xã hội [1]. Chúng dùng để: - Phát hiện xâm nhập (phát hiện các hoạt động nguy hiểm (phá vỡ thâm nhập và các hình thức khác của máy tính lạm dụng) trong một hệ thống máy tính liên quan từ một vấn đề bảo mật.

Khác với hệ thống hành vi bình thường, phát hiện xâm nhập là một ứng cử viên hoàn hảo cho việc áp dụng các kỹ thuật phát hiện ngoại lai). -Phát hiện gian lận (liên quan đến hoạt động tội phạm xảy ra trong các tổ chức thương mại, các tổ chức như ngân hàng, các công ty thẻ tín dụng, cơ quan bảo hiểm, các công ty điện thoại di động, thị trường chứng khoán,… Người sử dụng độc hại có thể là khách hàng thực tế của tổ chức hoặc phải dùng đến hành vi trộm cắp danh tính (giả làm khách hàng). Các hoạt động phát hiện nhằm mục đích 13 phát hiện tiêu thụ trái phép các nguồn tài nguyên được cung cấp bởi tổ chức để ngăn chặn thiệt hại kinh tế). - Phát hiện bảo hiểm yêu cầu bồi thường gian lận (ví dụ xe hơi gian lận bảo hiểm.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ