Luận văn Thạc sĩ: Công nghệ OLAP hỗ trợ quyết định (ĐH Quốc Gia HN)

Luận văn thạc sĩ: Nghiên cứu công nghệ xử lý phân tích trực tuyến (OLAP) hỗ trợ ra quyết định. Tìm hiểu ứng dụng OLAP trong thực tiễn quản lý.

Chuyên ngành

Công Nghệ Thông Tin

Người đăng

Ẩn danh

Thể loại

Luận Văn Thạc Sĩ

2003

86
1
0

Phí lưu trữ

30 Point

Mục lục chi tiết

CÁC THUẬT NGỮ VÀ TỪ VIẾT TẮT

PHẦN MỞ ĐẦU

1. Mục tiêu của đề tài

3. Bố cục của luận văn

1. CHƢƠNG I: KHO DỮ LIỆU

1.1. Khái niệm kho dữ liệu

1.1.1. Định nghĩa kho dữ liệu

1.1.2. Đặc điểm dữ liệu của kho dữ liệu

1.1.2.1. Dữ liệu hƣớng chuyên đề
1.1.2.2. Dữ liệu có tính tích hợp
1.1.2.3. Dữ liệu chỉ đọc, không biến động
1.1.2.4. Dữ liệu gắn với thời gian và có tính lịch sử
1.1.2.5. Dữ liệu tổng hợp và chi tiết

1.2. Kho dữ liệu và hệ xử lý giao dịch trực tuyến

1.2.1. Đặc điểm của hệ thống OLPT

1.2.2. Sự khác nhau giữa kho dữ liệu và OLTP

1.3. Kiến trúc và các thành phần cấu thành kho dữ liệu

1.3.1. Kiến trúc kho dữ liệu

1.3.1.1. Kiến trúc kho dữ liệu cơ bản
1.3.1.2. Kiến trúc kho dữ liệu với vùng tạm
1.3.1.3. Kiến trúc kho dữ liệu với vùng tạm và dữ liệu chuyên đề

1.3.2. Các thành phần cấu thành kho dữ liệu

1.3.2.1. Các dữ liệu nguồn
1.3.2.2. Công cụ thu thập, làm sạch và chuyển đổi dữ liệu nguồn
1.3.2.3. Kho dữ liệu
1.3.2.4. Kho dữ liệu chuyên đề
1.3.2.5. Phân tích và truy cập của ngƣời sử dụng cuối
1.3.2.6. Siêu dữ liệu

1.4. Sử dụng kho dữ liệu

1.5. Thiết kế và xây dựng kho dữ liệu

1.5.1. Thiết kế logic cho kho dữ liệu

1.5.1.1. Lƣợc đồ hình sao
1.5.1.2. Lƣợc đồ hình tuyết rơi
1.5.1.3. Lƣợc đồ kết hợp

1.5.2. Thiết kế vật lý kho dữ liệu

1.5.2.1. Phân hoạch dữ liệu và cơ chế song song
1.5.2.2. Thiết kế khung nhìn và chỉ số cho kho dữ liệu vật lý

2. CHƢƠNG II: MÔ HÌNH DỮ LIỆU CHO XỬ LÝ PHÂN TÍCH TRỰC TUYẾN

2.1. Mô hình dữ liệu đa chiều

2.1.1. Các khái niệm về chiều

2.1.2. Khối dữ liệu

2.1.3. Các phép toán trong mô hình đa chiều

2.2. Các dạng chuẩn của CSDL đa chiều

2.2.1. Xây dựng lại theo logic của thiết kế lƣợc đồ đa chiều

2.2.2. Mô tả tiềm năng và dị biệt

2.2.3. Dạng chuẩn logic

2.2.4. Khuôn mẫu cho mô hình hoá đa chiều

2.2.5. Dạng chuẩn đa chiều giới hạn

2.2.6. Sử dụng phụ thuộc hàm cho phân cấp

2.2.7. Loại bỏ các phụ thuộc hàm yếu cho tổng hợp

2.2.8. Dạng chuẩn chiều

2.2.9. Dạng chuẩn đa chiều

2.2.10. Dạng chuẩn đa chiều tổng quát

2.2.10.1. Phân biệt các thuộc tính chiều
2.2.10.2. Ngữ cảnh hợp lệ
2.2.10.3. Dạng chuẩn đa chiều tổng quát (GMNF)

3. CHƢƠNG III: CÔNG NGHỆ XỬ LÝ PHÂN TÍCH TRỰC TUYẾN TRONG VIỆC TRỢ GIÚP QUYẾT ĐỊNH

3.1. Công nghệ xử lý phân tích trực tuyến

3.1.1. Định nghĩa OLAP

3.1.2. Đặc điểm cơ bản của OLAP

3.1.3. Kiến trúc của OLAP

3.2. Công nghệ lƣu trữ dữ liệu cho OLAP

3.2.1. Kho dữ liệu đa chiều

3.2.2. Kho dữ liệu quan hệ (ROLAP)

3.2.3. Kho dữ liệu lai

3.3. Lựa chọn chỉ số cho OLAP

3.3.1. Khối dữ liệu con

3.3.2. Quan hệ tính toán và phụ thuộc

3.3.3. Mô hình chi phí

3.3.4. Thuật toán chọn khung nhìn với các chỉ số

3.4. Ứng dụng công nghệ OLAP trong hỗ trợ quyết định

3.4.1. Lợi ích của OLAP

3.4.2. Các mô hình ứng dụng OLAP

3.4.2.1. Tạo báo cáo và truy vấn đặc biệt
3.4.2.2. Các hệ thống thông tin điều hành - EIS
3.4.2.3. Phân tích đa chiều
3.4.2.4. Phân tích theo kịch bản (chuỗi sự kiện)
3.4.2.5. Khai phá dữ liệu

4. CHƢƠNG IV: ỨNG DỤNG CÔNG NGHỆ OLAP TRONG TRỢ GIÚP QUYẾT ĐỊNH

4.1. Giới thiệu hệ thống ứng dụng

4.1.1. Mục tiêu xây dựng hệ thống

4.1.2. Giới thiệu bài toán

4.1.3. Giới thiệu công cụ khai thác kho dữ liệu của Oracle

4.2. Một số minh họa

KẾT LUẬN

1. Những kết quả đạt đƣợc

2. Những hạn chế

3. Hƣớng phát triển

DANH MỤC TÀI LIỆU THAM KHẢO

Tóm tắt

I. Tổng Quan OLAP và Trợ Giúp Quyết Định Trong Luận Văn Thạc Sĩ

Trong bối cảnh công nghệ thông tin phát triển vượt bậc, dữ liệu ngày càng tập trung trong các cơ sở dữ liệu khổng lồ. Việc truy cập vào tất cả dữ liệu để trích xuất thông tin trở nên vô cùng cần thiết. Tổ chức dữ liệu hiệu quả nhất để hỗ trợ nhu cầu truy cập thông tin, hỗ trợ ra quyết định là kho dữ liệu. Ngày càng có nhiều kho dữ liệu được xây dựng, nhưng việc khai thác hiệu quả vẫn còn hạn chế. Kho dữ liệu lớn, đa chiều thường chứa nhiều thông tin ẩn mà các công cụ truyền thống như SQL khó phát hiện. Hơn nữa, yêu cầu người dùng liên tục thay đổi, đòi hỏi câu trả lời phải theo thứ tự khác nhau. Làm thế nào để khai thác thông tin hiệu quả, thỏa mãn nhu cầu khai thác mức cao của người dùng? Xử lý phân tích trực tuyến (OLAP) là một trong những phương pháp khai thác hiệu quả trên tập dữ liệu lớn và hỗn hợp. Trước đây, công nghệ này ít được áp dụng vì tốn kém, khó cài đặt, không mềm dẻo trong khai thác. Nhưng ngày nay, OLAP đã và đang được nghiên cứu, phát triển mạnh mẽ và ngày càng được sử dụng rộng rãi. Xuất phát từ nhu cầu thực tiễn, hướng đề tài nghiên cứu “Công nghệ xử lý phân tích trực tuyến trong việc trợ giúp quyết định” tìm hiểu về kho dữ liệu và công nghệ OLAP sử dụng để khai thác trên các kho dữ liệu, hướng tới xây dựng các hệ thống có khả năng ứng dụng công nghệ phân tích trực tuyến vào khai thác dữ liệu phục vụ cho công tác quản lý, hỗ trợ ra quyết định.

1.1. Mục Tiêu và Phạm Vi Nghiên Cứu Luận Văn Thạc Sĩ

Đề tài nghiên cứu hướng đến xây dựng các hệ thống trợ giúp quyết định sử dụng phương pháp luận OLAP. Luận văn tập trung vào việc nghiên cứu vấn đề tổ chức, xây dựng kho dữ liệu, nhấn mạnh vào nghiên cứu mô hình CSDL đa chiềuphân tích dữ liệu trực tuyến để trợ giúp ra quyết định. Hệ trợ giúp quyết định theo tiếp cận này giúp nhà quản lý thiết lập một mô hình OLAP cho ứng dụng cụ thể của mình trong việc tổ chức CSDL đa chiều, và giúp cho họ dễ dàng trong hoạt động phân tích, tìm kiếm thông tin theo những khía cạnh khác nhau của dữ liệu, nhằm thu thập được tối đa những gì họ cần hiểu rõ, để từ đó có thể ra được những quyết định tốt nhất một cách nhanh chóng. Không giống các hệ trợ giúp quyết định truyền thống thường được xây dựng với mục đích đưa ra giải pháp tối ưu cho một bài toán cụ thể, trong một phạm vi ứng dụng hẹp, công nghệ OLAP hướng đến việc giúp người sử dụng có thể khai thác được tối đa khả năng tiềm ẩn của một khối lượng dữ liệu lớn, nhằm thu được những thông tin tổng hợp ở đủ các khía cạnh khác nhau của dữ liệu, để từ đó có thể ra quyết định một cách nhanh chóng. Do đặc điểm này, phạm vi ứng dụng của hệ trợ giúp quyết định sử dụng công nghệ OLAP dựa vào dữ liệu là rộng rãi cho các bài toán khác nhau, trong nhiều lĩnh vực khác nhau.

1.2. Bố Cục Tổng Quan Của Luận Văn Về OLAP và Quyết Định

Nội dung của luận văn được chia thành bốn chương. Chương 1 giới thiệu lý thuyết chung về kho dữ liệu - phương pháp tổ chức, thiết kế CSDL và xây dựng kho dữ liệu. Nhấn mạnh trong việc thiết kế CSDL vật lý của kho dữ liệu bằng việc sử dụng thuật toán A* và các luật của Thumb để chọn khung nhìn và chỉ số tối ưu việc bảo trì kho dữ liệu. Chương 2 trình bày về mô hình dữ liệu đa chiều và các dạng chuẩn dữ liệu đa chiều trong mô hình CSDL đa chiều sử dụng trong OLAP. Chương 3 trình bày những lý thuyết cơ bản về công nghệ OLAP trong việc hỗ trợ ra quyết định, cách tổ chức lưu trữ dữ liệu, việc chỉ số hóa khung nhìn để tối ưu tốc độ truy vấn. Chương 4 xây dựng một ứng dụng sử dụng các công cụ và công nghệ của Oracle nhằm mô tả cho việc ứng dụng công nghệ OLAP trong việc hỗ trợ ra quyết định.

II. Cách Kho Dữ Liệu Hỗ Trợ OLAP Trong Trợ Giúp Quyết Định

Các doanh nghiệp, tổ chức kinh tế - xã hội đều đang phải đối đầu với sự thay đổi của thị trường, sự thay đổi hoàn thiện của các chính sách kinh tế xã hội. Để có thể đưa ra một quyết định đúng đắn, trước hết phải có khả năng nhanh chóng truy nhập được tới các thông tin mà doanh nghiệp, tổ chức có sẵn. Đối với một doanh nghiệp, tổ chức, muốn có một quyết định đúng đắn, cần nghiên cứu cả những dữ liệu trong quá khứ và hiện tại, nhằm phân tích và xác định ra các xu hướng có thể ở hiện tại và tương lai. Để phục vụ phân tích dữ liệu cần được tập trung lại và do đó sẽ tạo ra những CSDL khổng lồ. Cách tổ chức dữ liệu có hiệu quả nhất để trợ giúp nhu cầu truy nhập thông tin hỗ trợ ra quyết định là tổ chức thành các kho dữ liệu. Kho dữ liệu (Data warehouse) là một tập hợp các CSDL tích hợp, hướng chuyên đề, được thiết kế cho việc truy vấn và phân tích hơn là xử lý giao dịch để hỗ trợ cho chức năng trợ giúp quyết định, mà mỗi đơn vị dữ liệu đều liên quan tới một khoảng thời gian cụ thể.

2.1. Đặc Điểm Dữ Liệu Quan Trọng Của Kho Dữ Liệu Trong OLAP

Dữ liệu hướng chuyên đề: Kho dữ liệu được thiết kế để giúp cho việc phân tích dữ liệu. Ví dụ để biết nhiều hơn về dữ liệu bán hàng của tổ chức, doanh nghiệp có thể xây dựng một kho dữ liệu tập trung vào chuyên đề bán hàng. Dữ liệu có tính tích hợp: Tính tích hợp thể hiện ở chỗ: dữ liệu tập hợp trong kho dữ liệu được thu thập từ nhiều nguồn và trộn ghép với nhau tạo thành một thể thống nhất. Dữ liệu chỉ đọc, không biến động: Dữ liệu trong kho dữ liệu là dữ liệu chỉ đọc và chỉ có thể được kiểm tra, không được sửa đổi bởi người sử dụng cuối. Dữ liệu gắn với thời gian và có tính lịch sử: Một kho chứa dữ liệu bao hàm một khối lượng lớn dữ liệu lịch sử. Dữ liệu tổng hợp và chi tiết: Dữ liệu chi tiết là thông tin mức thấp nhất được lưu trữ trong kho dữ liệu. Dữ liệu tổng hợp là dữ liệu được gộp lại qua nhiều giai đoạn khác nhau. Các dữ liệu tổng hợp mang thông tin tổng hợp ở mức cao.

2.2. So Sánh Kho Dữ Liệu và OLTP Để Hỗ Trợ Quyết Định

Hệ OLTP (Online Transaction Processing) có các đặc điểm sau: Trợ giúp nhiều người sử dụng đồng thời trong việc thêm và sửa đổi dữ liệu. Diễn tả trạng thái thay đổi bắt buộc của tổ chức nhưng không lưu lại lịch sử. Chứa đựng những số lượng lớn các dữ liệu, bao gồm dữ liệu tổng quát để kiểm soát sự thực hiện. Được điều chỉnh để đáp ứng nhanh tới sự thực hiện tích cực. Chính từ những đặc điểm này, nếu chúng ta sử dụng CSDL xử lý giao dịch trực tuyến cho phân tích trực tuyến thì thường gặp những khó khăn sau: Các yêu cầu phân tích, tổng kết những khối lượng lớn dữ liệu, ảnh hưởng tới khả năng của hệ thống. Sự thực hiện của hệ thống khi đáp ứng những yêu cầu phân tích phức tạp có thể chậm hoặc không ổn định, cung cấp sự hỗ trợ không đầy đủ cho những người sử dụng trong phân tích trực tuyến. Kho dữ liệu và hệ OLTP xây dựng phục vụ cho nhu cầu khác nhau. Sự khác nhau cơ bản giữa hai hệ thống này là dạng chuẩn của dữ liệu, kho dữ liệu thường không sử dụng dạng chuẩn 3NF, còn trong các hệ thống OLTP thường sử dụng chuẩn 3NF.

III. Các Mô Hình Lưu Trữ Dữ Liệu Trong Công Nghệ OLAP Hiện Nay

Việc lựa chọn mô hình lưu trữ dữ liệu phù hợp là yếu tố then chốt trong triển khai hệ thống OLAP. Hiện nay, có ba mô hình phổ biến: kho dữ liệu đa chiều (MOLAP), kho dữ liệu quan hệ (ROLAP), và kho dữ liệu lai (HOLAP). MOLAP lưu trữ dữ liệu trong các khối đa chiều, cho phép truy vấn nhanh chóng nhưng hạn chế về khả năng mở rộng. ROLAP sử dụng CSDL quan hệ để lưu trữ, có khả năng mở rộng tốt nhưng tốc độ truy vấn có thể chậm hơn. HOLAP kết hợp ưu điểm của cả hai mô hình, cung cấp sự linh hoạt và hiệu suất cao. Việc lựa chọn mô hình phụ thuộc vào yêu cầu cụ thể của ứng dụng, bao gồm kích thước dữ liệu, tốc độ truy vấn, và khả năng mở rộng.

3.1. Ưu và Nhược Điểm Của Kho Dữ Liệu Đa Chiều MOLAP

MOLAP lưu trữ dữ liệu trong các khối đa chiều, được tối ưu hóa cho các truy vấn OLAP. Ưu điểm của MOLAP bao gồm: tốc độ truy vấn nhanh, do dữ liệu đã được tiền xử lý và lưu trữ theo cấu trúc đa chiều; khả năng phân tích phức tạp, hỗ trợ các phép toán đa chiều như drill-down, roll-up, slice, dice, và pivot. Tuy nhiên, MOLAP cũng có một số nhược điểm: hạn chế về khả năng mở rộng, do dữ liệu được lưu trữ trong các khối đa chiều cố định; yêu cầu không gian lưu trữ lớn, do dữ liệu được sao chép và lưu trữ theo nhiều chiều khác nhau; khó khăn trong việc cập nhật dữ liệu, do dữ liệu phải được tiền xử lý và lưu trữ lại mỗi khi có thay đổi.

3.2. Lợi Thế và Hạn Chế Của Kho Dữ Liệu Quan Hệ ROLAP Trong OLAP

ROLAP sử dụng CSDL quan hệ để lưu trữ dữ liệu OLAP. Ưu điểm của ROLAP bao gồm: khả năng mở rộng tốt, do CSDL quan hệ có thể mở rộng dễ dàng; sử dụng SQL để truy vấn, cho phép người dùng tận dụng các công cụ và kỹ năng SQL hiện có. Tuy nhiên, ROLAP cũng có một số nhược điểm: tốc độ truy vấn có thể chậm hơn MOLAP, do dữ liệu không được tiền xử lý và lưu trữ theo cấu trúc đa chiều; yêu cầu kiến trúc CSDL phức tạp, để đảm bảo hiệu suất truy vấn tốt.

3.3. Khám Phá Tiềm Năng Kho Dữ Liệu Lai HOLAP Sự Kết Hợp Hoàn Hảo

HOLAP (Hybrid OLAP) là một cách tiếp cận kết hợp giữa MOLAPROLAP, nhằm tận dụng ưu điểm của cả hai. Thông thường, HOLAP lưu trữ dữ liệu tổng hợp ở mức cao trong cấu trúc MOLAP để tăng tốc độ truy vấn, trong khi dữ liệu chi tiết được lưu trữ trong CSDL quan hệ (ROLAP) để đảm bảo khả năng mở rộng. Sự kết hợp này cho phép hệ thống OLAP đạt được hiệu suất tốt đồng thời vẫn duy trì khả năng xử lý lượng dữ liệu lớn và đa dạng.

IV. Ứng Dụng OLAP Trong Hỗ Trợ Quyết Định Báo Cáo Phân Tích và Khai Phá

OLAP mang lại nhiều lợi ích trong việc hỗ trợ ra quyết định, bao gồm: tạo báo cáo và truy vấn đặc biệt, phân tích đa chiều, phân tích theo kịch bản (chuỗi sự kiện), và khai phá dữ liệu. Các hệ thống thông tin điều hành - EIS cũng sử dụng OLAP để cung cấp thông tin tổng quan và chi tiết cho nhà quản lý. Với khả năng phân tích đa chiều, OLAP giúp người dùng hiểu rõ hơn về dữ liệu, xác định các xu hướng, và đưa ra các quyết định chính xác hơn.

4.1. Tạo Báo Cáo và Truy Vấn Đặc Biệt Với Công Cụ OLAP

OLAP cho phép người dùng tạo các báo cáo và truy vấn đặc biệt một cách nhanh chóng và dễ dàng. Thay vì phải viết các câu lệnh SQL phức tạp, người dùng có thể sử dụng các công cụ OLAP để kéo và thả các chiều và độ đo, tạo ra các báo cáo tùy chỉnh theo nhu cầu. Khả năng này giúp người dùng tiết kiệm thời gian và công sức, đồng thời tăng cường khả năng tự phục vụ trong việc khai thác dữ liệu.

4.2. Hệ Thống Thông Tin Điều Hành EIS Tận Dụng Sức Mạnh OLAP

Hệ thống thông tin điều hành (EIS) sử dụng OLAP để cung cấp thông tin tổng quan và chi tiết cho nhà quản lý. EIS thường hiển thị thông tin dưới dạng dashboard, cho phép nhà quản lý theo dõi các KPI (Key Performance Indicator) và các chỉ số quan trọng khác. Với OLAP, nhà quản lý có thể dễ dàng drill-down để xem chi tiết hơn về các chỉ số, hoặc roll-up để xem thông tin tổng quan hơn. Điều này giúp nhà quản lý có cái nhìn toàn diện về tình hình hoạt động của tổ chức, và đưa ra các quyết định kịp thời và chính xác.

4.3. Phân Tích Đa Chiều và Khai Phá Dữ Liệu Nhờ Công Nghệ OLAP

OLAP cho phép người dùng phân tích dữ liệu theo nhiều chiều khác nhau, giúp họ hiểu rõ hơn về các mối quan hệ giữa các chiều và độ đo. Ví dụ, người dùng có thể phân tích doanh số bán hàng theo sản phẩm, khu vực, và thời gian. Khả năng này giúp người dùng xác định các xu hướng, phát hiện các vấn đề, và đưa ra các giải pháp phù hợp. OLAP cũng có thể được sử dụng để khai phá dữ liệu, tìm kiếm các mẫu và quy luật tiềm ẩn trong dữ liệu. Khai phá dữ liệu có thể giúp người dùng phát hiện các cơ hội mới, cải thiện hiệu quả hoạt động, và tăng cường khả năng cạnh tranh.

V. Lựa Chọn Chỉ Số Tối Ưu Cho OLAP Nâng Cao Hiệu Suất Truy Vấn

Việc lựa chọn chỉ số phù hợp là yếu tố quan trọng để tối ưu hóa hiệu suất truy vấn trong OLAP. Có nhiều loại chỉ số khác nhau, bao gồm chỉ số B-tree, chỉ số bitmap, và chỉ số kết hợp. Việc lựa chọn loại chỉ số phù hợp phụ thuộc vào đặc điểm của dữ liệu và các loại truy vấn thường được sử dụng. Ngoài ra, cần cân nhắc đến chi phí bảo trì chỉ số, vì việc cập nhật dữ liệu có thể làm giảm hiệu suất của chỉ số.

5.1. Khối Dữ Liệu Con và Quan Hệ Tính Toán Trong OLAP

Trong OLAP, khối dữ liệu con là một tập hợp con của dữ liệu trong khối dữ liệu chính. Khối dữ liệu con có thể được sử dụng để giới hạn phạm vi truy vấn, giúp tăng tốc độ truy vấn. Quan hệ tính toán là các công thức được sử dụng để tính toán các độ đo từ các độ đo khác. Ví dụ, có thể tính toán lợi nhuận từ doanh thu và chi phí. Quan hệ tính toán giúp người dùng có được thông tin tổng quan hơn về dữ liệu.

5.2. Mô Hình Chi Phí và Thuật Toán Chọn Khung Nhìn Với Chỉ Số

Mô hình chi phí được sử dụng để ước tính chi phí của các truy vấn OLAP. Mô hình chi phí cần tính đến nhiều yếu tố, bao gồm kích thước dữ liệu, loại chỉ số, và độ phức tạp của truy vấn. Thuật toán chọn khung nhìn với chỉ số được sử dụng để lựa chọn các khung nhìn và chỉ số phù hợp để tối ưu hóa hiệu suất truy vấn. Thuật toán này cần cân nhắc đến nhiều yếu tố, bao gồm tần suất truy vấn, chi phí bảo trì, và không gian lưu trữ.

VI. Triển Vọng và Hướng Phát Triển Của OLAP Trong Tương Lai

Công nghệ OLAP tiếp tục phát triển mạnh mẽ, với nhiều xu hướng mới nổi lên, bao gồm: OLAP trên Big Data, OLAP trên đám mây, và OLAP thời gian thực. OLAP trên Big Data cho phép phân tích dữ liệu lớn và phức tạp, mở ra nhiều cơ hội mới trong việc khai thác thông tin. OLAP trên đám mây cung cấp sự linh hoạt và khả năng mở rộng cao, giúp giảm chi phí đầu tư và vận hành. OLAP thời gian thực cho phép phân tích dữ liệu ngay khi nó được tạo ra, giúp nhà quản lý đưa ra các quyết định nhanh chóng và chính xác.

6.1. Tích Hợp OLAP Với Big Data Cơ Hội và Thách Thức

Tích hợp OLAP với Big Data mang lại nhiều cơ hội trong việc khai thác thông tin từ dữ liệu lớn và phức tạp. Tuy nhiên, cũng có nhiều thách thức cần vượt qua, bao gồm: xử lý dữ liệu với tốc độ cao, đảm bảo tính chính xác và toàn vẹn của dữ liệu, và tối ưu hóa hiệu suất truy vấn trên dữ liệu lớn.

6.2. Ứng Dụng OLAP Trên Nền Tảng Đám Mây Linh Hoạt và Tiết Kiệm

OLAP trên nền tảng đám mây cung cấp sự linh hoạt và khả năng mở rộng cao, giúp giảm chi phí đầu tư và vận hành. Người dùng có thể dễ dàng triển khai và quản lý các hệ thống OLAP trên đám mây, mà không cần phải lo lắng về các vấn đề kỹ thuật phức tạp.

6.3. OLAP Thời Gian Thực Phân Tích Dữ Liệu Ngay Lập Tức

OLAP thời gian thực cho phép phân tích dữ liệu ngay khi nó được tạo ra, giúp nhà quản lý đưa ra các quyết định nhanh chóng và chính xác. OLAP thời gian thực được sử dụng trong nhiều lĩnh vực, bao gồm: tài chính, bán lẻ, và sản xuất.

24/09/2025

Trích đoạn nội dung tài liệu

Chương 1: Nội dung chủ yếu giới thiệu lý thuyết chung về kho dữ liệu - phƣơng pháp tổ chức, thiết kế CSDL và xây dựng kho dữ liệu. Nhấn mạnh trong việc thiết kế CSDL vật lý của kho dữ liệu bằng việc sử dụng thuật toán A* và các luật của Thumb để chọn khung nhìn và chỉ số tối ƣu việc bảo trì kho dữ liệu. Chương 2: Trình bày về mô hình dữ liệu đa chiều và các dạng chuẩn dữ liệu đa chiều trong mô hình CSDL đa chiều sử dụng trong OLAP. Chương 3: Trình bày những lý thuyết cơ bản về công nghệ OLAP trong việc hỗ trợ ra quyết định, cách tổ chức lƣu trữ dữ liệu, việc chỉ số hóa khung nhìn để tối ƣu tốc độ truy vấn.

Chương 4: Xây dựng một ứng dụng sử dụng các công cụ và công nghệ của Oracle nhằm mô tả cho việc ứng dụng công nghệ OLAP trong việc hỗ trợ ra quyết định. TIEU LUAN MOI download : skknchat@gmail.com 7 CHƢƠNG I – KHO DỮ LIỆU Các doanh nghiệp, tổ chức kinh tế - xã hội đều đang phải đối đầu với sự thay đổi của thị trƣờng, sự thay đổi hoàn thiện của các chính sách kinh tế xã hội. Để có thể đƣa ra một quyết định đúng đắn, trƣớc hết phải có khả năng nhanh chóng truy nhập đƣợc tới các thông tin mà doanh nghiệp, tổ chức có sẵn. Đối với một doanh nghiệp, tổ chức, muốn có một quyết định đúng đắn, cần nghiên cứu cả những dữ liệu trong quá khứ và hiện tại, nhằm phân tích và xác định ra các xu hƣớng có thể ở hiện tại và tƣơng lai.

Để phục vụ phân tích dữ liệu cần đƣợc tập trung lại và do đó sẽ tạo ra những CSDL khổng lồ. Cách tổ chức dữ liệu có hiệu quả nhất để trợ giúp nhu cầu truy nhập thông tin hỗ trợ ra quyết định là tổ chức thành các kho dữ liệu. Khái niệm kho dữ liệu 1.1 Định nghĩa kho dữ liệu Kho dữ liệu (Data warehouse-DW) là một tập hợp các CSDL tích hợp, hướng chuyên đề, được thiết kế cho việc truy vấn và phân tích hơn là xử lý giao dịch để hỗ trợ cho chức năng trợ giúp quyết định, mà mỗi đơn vị dữ liệu đều liên quan tới một khoảng thời gian cụ thể [2]. Kích thƣớc của kho dữ liệu thƣờng rất lớn, đƣợc tổ chức, lƣu trữ và phân tích phục vụ cho việc cung cấp các thông tin liên quan đến nghiệp vụ của tổ chức.

Kho dữ liệu phục vụ cho việc phân tích với kết quả mang tính thông tin cao. Các hệ thống thông tin thu thập, xử lý dữ liệu loại này còn gọi là hệ xử lý phân tích trực tuyến - OLAP. Một kho lƣu trữ dữ liệu thƣờng đƣợc sử dụng nhƣ là các thông tin cơ sở cho một hệ thống hỗ trợ quyết định. Nó đƣợc thiết kế để khắc phục những vấn đề vấp phải khi một doanh nghiệp hay tổ chức cố gắng thực hiện chiến lƣợc phân tích có sử dụng cùng CSDL mà đƣợc sử dụng cho xử lý giao dịch trực tuyến - OLTP 1.2 Đặc điểm dữ liệu của kho dữ liệu 1.1 Dữ liệu hướng chuyên đề Kho dữ liệu đƣợc thiết kế để giúp cho việc phân tích dữ liệu.

Ví dụ để biết nhiều hơn về dữ liệu bán hàng của tổ chức, doanh nghiệp có thể xây dựng một kho dữ liệu tập trung vào chuyên đề bán hàng. Sử dụng kho dữ liệu này có thể trả lời đƣợc các TIEU LUAN MOI download : skknchat@gmail.com 8 câu hỏi có liên quan đến bán hàng nhƣ: “Khu vực nào tiêu thụ sản phẩm là Video nhiều nhất trong quí I năm 2003”. Đây là khả năng cho phép định nghĩa kho dữ liệu theo các chuyên đề, tạo ra kho dữ liệu hƣớng chuyên đề.2 Dữ liệu có tính tích hợp Tính tích hợp thể hiện ở chỗ: dữ liệu tập hợp trong kho dữ liệu đƣợc thu thập từ nhiều nguồn và trộn ghép với nhau tạo thành một thể thống nhất. Một kho dữ liệu là một khung nhìn thông tin mức toàn tổ chức, doanh nghiệp, thống nhất các khung nhìn khác nhau thành một khung nhìn của một vùng chuyên đề.

Ví dụ, hệ thống OLTP truyền thống đƣợc xây dựng trên một vùng nghiệp vụ. Một hệ thống bán hàng và một hệ thống tiếp thị có thể có chung một dạng thông tin về khách hàng, nhƣng các vấn đề về tài chính cần một khung nhìn khác cho thông tin về khách hàng. Một kho dữ liệu sẽ có một khung nhìn toàn thể về một khách hàng. Khung nhìn đó bao gồm các phần dữ liệu khác nhau từ tài chính và tiếp thị.3 Dữ liệu chỉ đọc, không biến động Dữ liệu trong kho dữ liệu là dữ liệu chỉ đọc và chỉ có thể đƣợc kiểm tra, không đƣợc sửa đổi bởi ngƣời sử dụng cuối.

Thông tin trong kho dữ liệu đƣợc tải vào sau khi dữ liệu trong hệ thống điều hành đƣợc cho là quá cũ. Không biến động thể hiện ở chỗ: dữ liệu đƣợc lƣu trữ lâu dài trong kho dữ liệu. Mặc dù có thêm dữ liệu mới nhập vào nhƣng dữ liệu cũ trong kho vẫn không bị xoá, điều đó cho phép cung cấp thông tin về một khoảng thời gian dài, cung cấp đủ số liệu cần thiết cho các mô hình nghiệp vụ phân tích, thống kê, dự báo.4 Dữ liệu gắn với thời gian và có tính lịch sử Một kho chứa dữ liệu bao hàm một khối lƣợng lớn dữ liệu lịch sử. Dữ liệu đƣợc lƣu trữ thành một loạt các bản sao, mỗi bản ghi phản ánh những giá trị của dữ liệu tại một thời điểm nhất định thể hiện một khung nhìn của một vùng chuyên đề trong một giai đoạn.

Do vậy cho phép khôi phục lại lịch sử và so sánh một cách chính xác các giai đoạn khác nhau. Yếu tố thời gian đóng vai trò nhƣ một phần của khoá để bảo đảm tính đơn nhất của mỗi hàng và cung cấp đặc trƣng về thời gian cho dữ liệu. TIEU LUAN MOI download : skknchat@gmail.5 Dữ liệu tổng hợp và chi tiết Dữ liệu chi tiết là thông tin mức thấp nhất đƣợc lƣu trữ trong kho dữ liệu. Dữ liệu tác nghiệp là thông tin mức thấp nhất của tổ chức, doanh nghiệp.

Dữ liệu tác nghiệp thuần tuý không đƣợc lƣu trữ trong kho dữ liệu. Dữ liệu tổng hợp là dữ liệu đƣợc gộp lại qua nhiều giai đoạn khác nhau. Các dữ liệu tổng hợp mang thông tin tổng hợp ở mức cao.3 Kho dữ liệu và hệ xử lý giao dịch trực tuyến Dữ liệu phát sinh từ các hoạt động hàng ngày đƣợc thu thập, xử lý để phục vụ công việc nghiệp vụ cụ thể của một tổ chức thƣờng đƣợc gọi là dữ liệu tác nghiệp và hoạt động thu thập xử lý loại dữ liệu này đƣợc gọi là xử lý giao dịch trực tuyến (Online Transaction Processing - OLTP).1 Đặc điểm của hệ thống OLPT Các hệ thống OLTP có các đặc điểm sau: - Trợ giúp nhiều ngƣời sử dụng đồng thời trong việc thêm và sửa đổi dữ liệu. - Diễn tả trạng thái thay đổi bắt buộc của tổ chức nhƣng không lƣu lại lịch sử.

- Chứa đựng những số lƣợng lớn các dữ liệu, bao gồm dữ liệu tổng quát để kiểm soát sự thực hiện. - Đƣợc điều chỉnh để đáp ứng nhanh tới sự thực hiện tích cực. - Cung cấp cơ sở hạ tầng công nghệ để trợ giúp các thao tác thƣờng ngày của một tổ chức. Chính từ những đặc điểm này, nếu chúng ta sử dụng CSDL xử lý giao dịch trực tuyến cho phân tích trực tuyến thì thƣờng gặp những khó khăn sau: - Các yêu cầu phân tích, tổng kết những khối lƣợng lớn dữ liệu, ảnh hƣởng tới khả năng của hệ thống.

- Sự thực hiện của hệ thống khi đáp ứng những yêu cầu phân tích phức tạp có thể chậm hoặc không ổn định, cung cấp sự hỗ trợ không đầy đủ cho những ngƣời sử dụng trong phân tích trực tuyến. - Sự thay đổi dữ liệu thƣờng xuyên gây trở ngại cho tính tin cậy của thông tin phân tích. - An ninh trở nên phức tạp hơn khi sự phân tích trực tuyến đƣợc kết hợp với xử lý giao dịch trực tuyến TIEU LUAN MOI download : skknchat@gmail.2 Sự khác nhau giữa kho dữ liệu và OLTP Kho dữ liệu và hệ OLTP xây dựng phục vụ cho nhu cầu khác nhau. Sự khác nhau cơ bản giữa hai hệ thống này là dạng chuẩn của dữ liệu, kho dữ liệu thƣờng không sử dụng dạng chuẩn 3NF, còn trong các hệ thống OLTP thƣờng sử dụng chuẩn 3NF.

Sau đây là sự khác nhau tiêu biểu giữa kho dữ liệu và các hệ thống OLTP [9]: Kho dữ liệu OLTP Công Kho dữ liệu đƣợc thiết kế để phù Các hệ thống OLTP chỉ hỗ trợ cho các việc hợp với các truy vấn đặc biệt. thao tác sử dụng đã đƣợc định nghĩa thực Ngƣời dùng không cần quan tâm trƣớc. Các ứng dụng có thể đƣợc thiết hiện đến khối lƣợng công việc thực hiện kế chỉ hỗ trợ các thao tác đó. của kho nhƣ thế nào, vì vậy kho dữ liệu phải đƣợc tối ƣu cho các khả năng thao tác truy vấn đa dạng và phong phú Sửa đổi Kho dữ liệu đƣợc cập nhật định kỳ, Trong các hệ thống OLTP, ngƣời sử dữ liệu thƣờng xuyên qua các công cụ dụng cuối thƣờng đƣa ra các thông báo chuyển đổi sử dụng các kỹ thuật sửa đổi dữ liệu cá nhân của mình trong sửa đổi trên dữ liệu lớn, dữ liệu CSDL.Cơ sở dữ liệu OLTP luôn đƣợc gộp.

Ngƣời sử dụng cuối không cập nhật, phản ánh trạng thái hiện tại trực tiếp cập nhật dữ liệu. của mỗi giao dịch nghiệp vụ Thiết Các kho dữ liệu thƣờng đƣợc thiết Các hệ thống OLTP thƣờng sử dụng kế lƣợc kế phi chuẩn hoặc các lƣợc đồ cục lƣợc đồ chuẩn hoá cho toàn bộ hệ đồ bộ đƣợc phi chuẩn nhằm để tối ƣu thống để tối ƣu thực hiện các công việc tốc độ thực hiện truy vấn dữ liệu cập nhật hàng ngày và đảm bảo tính kiên định của dữ liệu Thao Một truy vấn tiêu biểu trong kho dữ Một thao tác OLTP chỉ truy nhập đến tác tiêu liệu quét qua hàng ngàn hoặc hàng một nhóm ít các bản ghi dữ liệu biểu triệu bản ghi dữ liệu Dữ liệu Các kho dữ liệu thƣờng lƣu dữ liệu Các hệ rhống OLTP thuờng chỉ lƣu dữ lịch sử nhiều tháng, năm phục vụ cho việc liệu hiện hành của vài tuần, tháng, năm phân tích số liệu lịch sử phục vụ cho xử lý giao dịch hiện tại TIEU LUAN MOI download : skknchat@gmail. Kiến trúc và các thành phần cấu thành kho dữ liệu 2.1 Kiến trúc kho dữ liệu Các kho dữ liệu và các kiến trúc kho không phải luôn luôn là giống nhau mà phụ thuộc vào hoàn cảnh cụ thể của tổ chức, doanh nghiệp.

Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ