Chương 1: Tổng quan đề tài Giới thiệu về những vấn đề liên quan đến phân tích dữ liệu (Data Analytics), cơ sở hình thành đề tài, mục tiêu, đối tượng nghiên cứu, phương pháp nghiên cứu, ý nghĩa thực tiễn và bố cục luận văn. Chương 2: Cơ sở lý thuyết - Tổng quan về phân tích dữ liệu - Ứng dụng học máy trong phân tích dữ liệu - Phân tích dữ liệu trong Y khoa 7 - Thuật toán XGBOOST và ứng dụng của nó trong các lĩnh vực khác nhau Chương 3. Mô hình dự báo tế bào bất thường ở cổ tử cung. Trong chương này, luận văn trình bày về bài toán dự đoán nguy cơ có tế bào bât thường ở cổ tử cung và các kỹ thuật chính sử dụng thuật toán XGBOOST: - Hiểu nghiệp vụ, xác định mục tiêu và yêu cầu của bài toán; - Hiểu dữ liệu : thu thập và làm quen với dữ liệu thô ban đầu, đưa ra đánh giá về chất lượng của dữ liệu.
- Chuẩn bị dữ liệu: xây dựng được bộ dữ liệu cuối cùng, “đủ tiêu chuẩn” để cho chạy mô hình và phân tích. - Mô hình hoá: Lựa chọn và áp dụng các kỹ thuật cùng phương pháp phù hợp, sau đó xây dựng mô hình phân tích dữ liệu, … - Đánh giá mô hình để đánh giá kết quả thu được từ mô hình, đánh giá mô hình đã đáp ứng được mục tiêu đã đề ra hay chưa, phân tích các chỉ số đạt được của mô hình và đưa quyết định về việc sử dụng kết quả phân tích vào thực tế. KẾT LUẬN VÀ KIẾN NGHỊ 8 CHƯƠNG 2. Tổng quan về phân tích dữ liệu.
Phân tích dữ liệu là gì? Phân tích dữ liệu (Data Analytics) là hoạt động biến dữ liệu thô, lộn xộn thành thông tin chi tiết hữu ích bằng cách dọn dẹp dữ liệu, chuyển đổi và kiểm tra dữ liệu. Sau đó, thông tin chi tiết thu thập từ dữ liệu được trình bày trực quan dưới dạng biểu đồ, đồ thị hoặc trang tổng quan với mục tiêu giúp hỗ trợ sự phát triển và hỗ trợ việc đưa ra quyết định của một công ty hoặc tổ chức. Phân tích dữ liệu có nhiều khía cạnh và nhiều cách tiếp cận, bao gồm các kỹ thuật đa dạng dưới nhiều tên gọi khác nhau và được sử dụng trong các lĩnh vực kinh doanh khoa học va khoa học xã hội khác nhau. Tất cả các phương pháp phân tích dữ liệu khác nhau này đều dựa trên hai lĩnh vực cốt lõi: phương pháp định lượng và định tính trong nghiên cứu.
Về cốt lõi, phân tích dữ liệu là xác định và dự đoán các xu hướng, tìm ra các mẫu, mối tương quan và mối quan hệ trong dữ liệu có sẵn, đồng thời tìm ra giải pháp cho các vấn đề phức tạp. Tại sao phải phân tích dữ liệu? Phân tích dữ liệu được ứng dụng vào tất cả các ngành nghề trong hiện tại. Việc này rất quan trọng và mang lại tiềm năng lớn cho doanh nghiệp hoặc tổ chức. Ra quyết định có cơ sở : Từ góc độ quản lý, chúng ta có thể hưởng lợi từ việc phân tích dữ liệu của mình vì nó giúp đưa ra quyết định dựa trên thực tế chứ không phải trực giác đơn thuần.
Ví dụ: Ta có thể hiểu nơi đầu tư vốn của mình, phát hiện các cơ hội tăng trưởng, dự đoán thu nhập của mình hoặc giải quyết các tình huống rủi ro trước khi chúng trở thành sự thật. Giảm chi phí và tiết kiệm thời gian: Một lợi ích lớn khác là giảm chi phí. Điển hình là khi nhờ sự trợ giúp của các công nghệ tiên tiến như phân tích 9 dự đoán, các doanh nghiệp hay tổ chức có thể phát hiện ra các cơ hội, xu hướng và mô hình cải tiến trong dữ liệu của mình; từ đó lập kế hoạch chiến lược cho phù hợp mà không tốn nhiều thời gian. Điều này sẽ giúp chúng ta tiết kiệm tiền bạc và nguồn lực để thực hiện các chiến lược.
Không chỉ vậy, trong các tình huống khác nhau như số lượng hàng bán ra và nhu cầu mua vào, bạn cũng có thể dự đoán sản lượng và nguồn cung. Nhắm mục tiêu khách hàng tốt hơn: Khách hàng được cho là yếu tố quan trọng nhất trong bất kỳ doanh nghiệp nào. Bằng cách sử dụng phân tích để có được tầm nhìn tổng quát về tất cả các khía cạnh liên quan đến khách hàng của mình, chúng ta có thể hiểu họ sử dụng kênh nào để giao tiếp với ta, sở thích, thói quen, hành vi mua hàng của họ v. Về lâu dài, nó sẽ thúc đẩy thành công cho các chiến lược tiếp thị của chúng ta, hỗ trợ ta xác định khách hàng tiềm năng mới và tránh lãng phí nguồn lực vào việc nhắm mục tiêu sai người hoặc gửi sai thông điệp.
Ngoài ra còn có thể theo dõi mức độ hài lòng của khách hàng bằng cách phân tích đánh giá của khách hàng v. Quy trình phân tích dữ liệu. Phân tích dữ liệu bao gồm các giai đoạn sau: a. Giai đoạn 1: Hiểu nghiệp vụ (Business Understanding) Trước hết, cần tìm ra mục đích của việc thực hiện phân tích dữ liệu và quyết định loại phân tích dữ liệu nào mà ta muốn thực hiện.
Trong giai đoạn này, ta cần quyết định những gì cần phân tích và làm thế nào để đo lường nó, phải hiểu lý do tại sao ta đang điều tra và những biện pháp ta phải sử dụng để thực hiện phân tích này. Giai đoạn 2: Hiểu dữ liệu (Data Understanding). Thu thập và làm quen với dữ liệu thô ban đầu, đưa ra đánh giá về chất lượng của dữ liệu và một vài insights sơ bộ. Việc thu thập dữ liệu có thể ở nhiều 10 dạng khác nhau như nguồn nội bộ hoặc bên ngoài, khảo sát, phỏng vấn, bảng câu hỏi,….
Giai đoạn 3: Chuẩn bị dữ liệu (Data Preparation). Mặc dù đã có được các dữ liệu cần thiết, nhưng không phải bất kì dữ liệu nào được thu thập cũng hữu ích và liên quan đến mục đích phân tích của chúng ta. Do đó, cần xây dựng được bộ dữ liệu cuối cùng, “đủ tiêu chuẩn” để cho chạy mô hình và phân tích. Việc chuẩn bị có thể bao gồm các thao tác như làm sạch, tổng hợp hoặc định dạng lại dữ liệu,….Giai đoạn này cần phải được thực hiện trước khi phân tích vì dựa trên việc làm sạch dữ liệu, kết quả phân tích của chúng ta sẽ gần hơn với kết quả mong đợi.
Có thể xử lý dữ liệu bằng các công cụ như Excel, Google Sheets,… d. Giai đoạn 4: Mô hình hóa (Modeling). Lựa chọn và áp dụng các kỹ thuật cùng phương pháp phù hợp, sau đó xây dựng mô hình phân tích dữ liệu. Việc điều chỉnh các tham số để tối ưu hóa mô hình cũng được thực hiện trong bước này.
Giai đoạn 5: Đánh giá (Evaluation). Giai đoạn này sẽ đánh giá kết quả thu được từ mô hình, xem liệu mô hình đã đáp ứng được mục tiêu đã đề ra ở giai đoạn đầu tiên hay chưa. Xem xét lại cả quá trình phân tích để biết đạt và chưa đạt ở chỗ nào và đưa ra quyết định về việc sử dụng kết quả phân tích và thực tế. Giai đoạn 6: Triển khai giải pháp (Deployment).
Sau các bước trên, cuối cùng là cần biến kết quả cũng như các kiến thức của việc phân tích thành các quyết định hoặc những thông tin dễ hiểu cho người xem. Tùy vào yêu cầu của bài toán, công việc của giai đoạn này rất đa dạng. Có thể chỉ đơn giản là một báo cáo nghiệp vụ hoặc phức tạp hơn là một công cụ hay phần mềm chạy mô hình ra quyết định hàng ngày cho đối tượng sử dụng.1 Mô tả quy trình phân tích dữ liệu 2. Các loại hình phân tích.
Phân tích mô tả. Phân tích này là việc tập trung vào dữ liệu lịch sử để làm rõ hơn những thay đổi xảy ra trong một doanh nghiệp hay một tổ chức. Phân tích mô tả hướng tới việc tóm tắt tình hình hoạt động, ví dụ như sự thay đổi của nguồn cầu theo năm, tỷ trọng doanh số hàng quý, số lượng người dùng hoặc tổng doanh thu trên mỗi khách hàng. Những phép đo này đề mô tả những sự kiện đã xảy ra trong một doanh nghiệp trong một khoảng thời gian nhất định.
Phân tích mô tả sử dụng chủ yếu các kỹ thuật trong Thống kê cơ bản và Trực quan hóa dữ liệu. Sự đa dạng trong kĩ thuật cũng như trong cách thể hiện của phân tích mô tả đòi hỏi chúng ta phải biết vận dụng chúng một cách linh 12 hoạt, tùy thuộc vào bản chất của dữ liệu và quan trọng nhất là mục đích của việc phân tích.2 Ví dụ về phân tích mô tả b. Phân tích dự đoán. Phân tích dự đoán, một cách tổng quan, là việc dựa vào dữ liệu quá khứ để xác định khả năng xảy ra của một hay nhiều sự kiện hoặc kết quả trong tương lại.
Vai trò của phân tích dự đoán rất lớn và nó gắn liền với một khái niệm rất hot trong những năm gần đây: Machine Learning (Học máy). Ví dụ với câu hỏi về doanh số: Do phụ thuộc vào dữ liệu lịch sử, câu hỏi chính xác hơn mà phân tích dự đoán có thể trả lời được nên là “Doanh số năm tới sẽ là bao nhiêu với tình hình biến động doanh số như những năm vừa qua” hay đúng hơn nữa là “Doanh số năm tới sẽ như thế nào dự theo biến động những năm trước và tình hình hiện tại về nguồn lực mà công ty đang sở hữu”,… 13 Hình 2.3 Ví dụ về phân tích dự đoán c. Phân tích đề xuất. Chúng ta biết rằng phân tích dự đoán có thể giải quyết được vấn đề như đánh giá xem liệu khách hàng có sắp ngưng sử dụng dịch vụ của công ty.
“Khách hàng sắp từ bỏ dịch vụ thì chúng ta nên đề xuất cho họ chương trình giảm giá hoặc ưu đãi tặng quà!”. Nếu chỉ dừng lại ở đó thì chỉ cần các dự đoán là đủ và doanh nghiệp cũng không cần phải quan tâm đến các kỹ thuật tối ưu hóa hoạt động. Thực ra việc đề xuất giảm giá ở trên, trong nhiều tình huống, xuất phát từ kinh nghiệm và trực giác của con người chứ không phải là kết quả của bất kì một công cụ tính toán nào. Phân tích đề xuất khác với phân tích dự đoán ở điểm này, khi mà quyết định được đưa ra bởi các thuật toán.
14 Phân tích đề xuất được định nghĩa là việc dựa và dữ liệu và các kĩ thuật nhằm tạo ra chuỗi các hành động tối ưu cho doanh nghiệp.4 Ví dụ về phân tích đề xuất 2. Ứng dụng học máy trong phân tích dữ liệu. Khái niệm học máy (Machine Learning).