Bối cảnh và vấn đề nghiên cứu
Trong quản trị nhân sự và điều hành tổ chức, tiêu hao lực lượng lao động (employee attrition) là hiện tượng sụt giảm nhân sự diễn ra ngoài tầm dự báo trước của tổ chức, xuất phát từ các nguyên nhân tất yếu hoặc thụ động như nhân viên đến tuổi nghỉ hưu, nộp đơn từ chức, suy giảm sức lao động hoặc đột ngột qua đời. Tỷ lệ tiêu hao lao động gia tăng gây áp lực trực tiếp lên chi phí tuyển dụng, làm gián đoạn dòng chảy công việc nội bộ và tác động tiêu cực đến tâm lý của những nhân sự đang tiếp tục gắn bó. Nhằm hỗ trợ các nhà quản trị nhận diện sớm các nguy cơ biến động nhân sự, báo cáo đồ án học phần Khoa học dữ liệu tại Trường Đại học Kinh tế TP.HCM (UEH) đã lựa chọn đề tài nghiên cứu thực nghiệm: "Phân lớp bộ dữ liệu Employee Attrition qua ứng dụng Orange".
Mục tiêu nghiên cứu của đồ án được tác giả xác lập thông qua năm nhiệm vụ trọng tâm:
- Khám phá và thu thập dữ liệu phục vụ bài toán quản trị nhân sự.
- Chọn lọc và tiến hành làm sạch dữ liệu đầu vào.
- Thực hiện phân cụm và phân lớp dữ liệu trên các công cụ khai phá.
- Dự đoán các yếu tố tác động trực tiếp đến quyết định rời bỏ tổ chức của nhân viên.
- Cung cấp bức tranh toàn cảnh đa chiều về tình trạng hao mòn lao động, làm cơ sở đề xuất các chính sách quản trị phù hợp.
Đối tượng nghiên cứu của đồ án là hiện tượng tiêu hao nguồn nhân lực và hành vi nghỉ việc của nhân viên, được phản ánh qua các chỉ số nhân khẩu học, thu nhập, môi trường làm việc và mức độ gắn kết. Phạm vi dữ liệu được giới hạn trong bộ dữ liệu Employee Attrition do các chuyên gia khoa học dữ liệu của IBM thiết lập trên nền tảng IBM Watson Analytics, bao gồm 1.470 quan sát nhân viên với 32 biến đặc trưng mô tả và 1 biến phân lớp mục tiêu. Báo cáo được nhóm tác giả hoàn thành vào tháng 12 năm 2022.
Cơ sở lý thuyết và phương pháp
Đồ án xây dựng nền tảng lý thuyết dựa trên các trụ cột chính của khoa học dữ liệu, bao gồm thống kê mô tả, tối ưu hóa toán kinh tế và học máy (machine learning) có giám sát và không giám sát.
Về công cụ và kỹ thuật khai thác dữ liệu trên Microsoft Excel:
- Thống kê mô tả bằng công cụ Descriptive Statistics (tính toán giá trị trung bình Mean, sai số chuẩn Standard Error, trung vị Median, yếu vị Mode, độ lệch chuẩn Standard Deviation, phương sai mẫu Sample Variance, độ nhọn Kurtosis, độ nghiêng Skewness, khoảng biến thiên Range).
- Báo cáo phân nhóm và tổng hợp dữ liệu với công cụ Subtotal, hợp nhất dữ liệu từ nhiều nguồn qua Consolidate (theo vị trí và theo hạng mục), phân tích dữ liệu đa chiều bằng PivotTable.
- Phương pháp phân tích dự báo: Trung bình trượt (Moving Average), San bằng mũ (Exponential Smoothing) và Phân tích hồi quy tuyến tính (Linear Regression).
- Phân tích tối ưu hóa tuyến tính: Ứng dụng công cụ Solver để giải bài toán quy hoạch tuyến tính xác định lợi nhuận tối đa dựa trên hệ phương trình ràng buộc tài nguyên công đoạn (chuẩn bị, chế biến, hoàn tất).
Về kỹ thuật khai phá dữ liệu trên phần mềm mã nguồn mở Orange:
- Cấu trúc các khối chức năng (widgets) chính: Data (nạp và biến đổi dữ liệu), Visualize (trực quan hóa), Model (các thuật toán học máy), Evaluate (đánh giá hiệu năng) và Unsupervised (học không giám sát).
- Phương pháp phân cụm dữ liệu (Clustering): Phân cụm phân cấp (Hierarchical Clustering sử dụng các độ đo khoảng cách Single link, Complete link, Average link, Means) và phân cụm phân hoạch (K-means). Chất lượng phân cụm được kiểm chứng thông qua biểu đồ Silhouette (Silhouette Plot) với số lượng cụm biến thiên từ 2 đến 5 cụm.
- Phương pháp phân lớp dữ liệu (Classification): Áp dụng ba mô hình thuật toán gồm Hồi quy Logistic (Logistic Regression), Cây quyết định (Decision Tree) và Máy vector hỗ trợ (Support Vector Machine - SVM).
- Thước đo đánh giá mô hình: Sử dụng công cụ Test & Score với kỹ thuật kiểm định chéo (Cross Validation 5 phần, 10 phần) và lấy mẫu ngẫu nhiên (Random Sampling theo các tỷ lệ 10-40%, 20-60%, 50-90%). Các tiêu chí định lượng gồm: Độ chính xác phân loại (Classification Accuracy - CA), Điểm điều hòa F1-score, Độ chuẩn xác (Precision), Độ bao phủ (Recall), Diện tích dưới đường cong ROC (AUC), Ma trận nhầm lẫn (Confusion Matrix để kiểm soát sai lầm loại 1 và sai lầm loại 2) và phân tích đường cong ROC.
Nguồn dữ liệu sử dụng là bộ dữ liệu thứ cấp chuẩn hóa Employee Attrition từ thư viện mẫu của IBM Watson Analytics, chứa 1.470 dòng dữ liệu hoàn chỉnh, không có giá trị khuyết thiếu (missing value).
Nội dung chính theo từng chương
Chương 1: Giới thiệu về khoa học dữ liệu và giới thiệu đề tài
Chương này tổng kết khái niệm, lịch sử phát triển và các phân ngành trụ cột của khoa học dữ liệu, bao gồm khai thác dữ liệu (Data mining), thống kê (Statistics), học máy (Machine learning), phân tích dữ liệu (Analytics) và lập trình (Programming). Tác giả làm rõ vai trò của khoa học dữ liệu đối với hoạt động dự báo rủi ro kinh doanh, đồng thời trình bày bối cảnh lựa chọn đề tài phân tích hao mòn nhân sự. Chương 1 cũng liệt kê 5 mục tiêu nghiên cứu và định hướng phương pháp thực hiện trên phần mềm Orange. Đáng chú ý, trong phần phương pháp phân lớp ban đầu, văn bản có đề cập đến biến mục tiêu "Subscribed", tuy nhiên trong toàn bộ quá trình thực nghiệm thực tế ở các chương sau, biến mục tiêu được áp dụng chính xác là biến tiêu hao lao động (Attrition).
Chương 2: Tổng quan về chương trình sử dụng và các phương pháp sử dụng
Nội dung chương trình bày chi tiết cơ sở vận hành của hai công cụ chính:
- Khai thác dữ liệu bằng Excel: Tác giả trình bày các thao tác thực hành cụ thể kèm số liệu minh họa giả định. Trong đó có ví dụ thống kê mô tả sản lượng bán máy tính bảng tại Cửa hàng A (độ tin cậy 95%); tổng hợp doanh thu 6 tháng cuối năm 2017 theo từng quận bằng Subtotal; hợp nhất doanh thu của 3 cửa hàng qua Consolidate; tạo báo cáo đa chiều bằng PivotTable; dự báo bán hoa bằng Moving Average và Exponential Smoothing (hệ số điều chỉnh a=0, cho kết quả xấp xỉ 33 cành vào ngày 16); mô hình hồi quy tác động của chi phí lên doanh thu năm 2022; giải bài toán tối ưu sản xuất hai loại kẹo A và B (lợi nhuận 30$ và 40$/thùng) với 3 công đoạn ràng buộc giờ công bằng Solver, đạt mức lợi nhuận tối đa 2.600$.
- Khai phá dữ liệu bằng Orange: Phân tích nguyên lý làm việc của các widget xử lý dữ liệu. Trình bày chi tiết lý thuyết phân cụm (độ nén bên trong cụm, khoảng cách giữa các cụm, giải thuật K-means, giải thuật phân cụm phân cấp Diana/Agnes, các tiêu chí đánh giá bên ngoài, nội bộ và tương đối) và lý thuyết phân lớp dữ liệu (quy trình hai bước: huấn luyện mô hình và đánh giá kiểm thử mô hình).
Chương 3: Ứng dụng phương pháp vào bài toán thực tế
Chương 3 là phần thực nghiệm trọng tâm của đồ án, xử lý toàn diện bộ dữ liệu Employee Attrition:
- Nạp và tiền xử lý dữ liệu: Bộ dữ liệu được tải vào Orange thông qua widget Datasets và xuất ra tệp Excel
Employee_Attrition_data.xlsx. Dữ liệu được xác nhận đạt chuẩn, không chứa lỗi hoặc ô trống nên nhóm tác giả bỏ qua bước tiền xử lý chuyên sâu (Preprocess).
- Thống kê mô tả bộ biến: Tác giả giải thích chi tiết ý nghĩa 32 biến đặc trưng đầu vào (gồm các biến nhân khẩu học như Age, Gender, MaritalStatus; biến đãi ngộ như DailyRate, HourlyRate, MonthlyIncome, PercentSalaryHike; biến tính chất công việc như Department, JobRole, BusinessTravel, OverTime; biến tâm lý và môi trường như EnvironmentSatisfaction, JobSatisfaction, WorkLifeBalance) và 1 biến đầu ra mục tiêu Attrition (Yes: nhân viên nghỉ việc; No: nhân viên ở lại).
- Phân tích hiện trạng nhân sự:
- Mức độ hài lòng với công việc: Mức Rất cao chiếm ưu thế với 459 người, mức Cao đạt 442 người, mức Thấp là 289 người và mức Trung bình là 280 người.
- Tình trạng hôn nhân: Nhân viên độc thân chiếm tỷ lệ cao nhất với 673 người (phần nhận xét văn bản ghi nhận 637 người, chiếm tỷ trọng 46%), nhân viên kết hôn có 470 người và nhân viên ly dị chiếm tỷ lệ thấp nhất với 327 người (22%).
- Tình trạng tiêu hao theo phòng ban: Toàn bộ dữ liệu ghi nhận 237 nhân viên nghỉ việc (tỷ lệ 16%) và 1.233 nhân viên ở lại (84%). Phòng Nghiên cứu và Phát triển (Research & Development) có biến động nhân sự lớn nhất với 133 nhân viên nghỉ việc (chiếm 56% tổng số người nghỉ).
- Phân chia tập dữ liệu và thực nghiệm phân lớp: Nhóm sử dụng công cụ Data Sampler để phân chia tập dữ liệu gốc 1.470 mẫu thành hai phần:
- Tập huấn luyện 70% (
DuLieuHuanLuyen_70%.xlsx) gồm 1.029 quan sát và 32 biến.
- Tập thử nghiệm 30% (
DuLieuThuNghiem_30%.xlsx) gồm 441 quan sát và 32 biến.
- Từ tập thử nghiệm 30%, trích xuất một mẫu độc lập gồm 100 quan sát lưu thành tệp
Employee-Attrition_Forecast.xlsx để phục vụ dự báo.
- Thiết lập quy trình phân lớp trên tập huấn luyện: Tác giả chạy thử nghiệm so sánh ba thuật toán (Hồi quy Logistic, Cây quyết định, SVM) trên công cụ Test & Score thông qua các cấu hình phân hoạch dữ liệu khác nhau (Cross Validation 5 folds, 10 folds và Random Sampling các mức 10-40%, 20-60%, 50-90%).
Chương 4: Đánh giá kết quả của mô hình
Chương 4 tập trung phân tích kết quả định lượng thu được từ bảng Evaluation results for target của widget Test & Score. Kết quả thực nghiệm khẳng định mô hình Hồi quy Logistic (Logistic Regression) với phương thức phân chia mẫu Random Sampling tỷ lệ 50-90% mang lại hiệu năng cao nhất trên toàn bộ các chỉ số: CA đạt 89,1%, F1 đạt 87,9%, Precision đạt 88,2%, Recall đạt 89,1% và diện tích AUC đạt 82,5%.
Đánh giá thông qua ma trận nhầm lẫn (Confusion Matrix) cho thấy mô hình Hồi quy Logistic kiểm soát sai số tốt nhất, ghi nhận tỷ lệ sai lầm loại 1 là 24,7% và sai lầm loại 2 là 9 trường hợp. Phân tích đường cong ROC cũng chứng minh đường biểu diễn của Hồi quy Logistic tiệm cận gần nhất về điểm tối ưu (0; 1) trên đồ thị đối với cả hai nhãn phản hồi (Yes và No). Dựa trên các căn cứ định lượng này, nhóm tác giả đã chọn Hồi quy Logistic để kết nối với widget Prediction, thực hiện dự báo xác suất và nhãn nghỉ việc cho 100 hồ sơ nhân sự trong tệp Employee-Attrition_Forecast.xlsx.
Kết luận và hướng phát triển
Phần tổng kết của đồ án tóm lược các hạng mục công việc đã hoàn thành: làm chủ các kỹ thuật thống kê, dự báo trên Excel; xây dựng thành công quy trình trực quan hóa, phân cụm và phân lớp dữ liệu trên nền tảng Orange; xác định được mô hình phân lớp tối ưu để dự báo hao mòn lao động. Về hướng phát triển, tác giả nhấn mạnh việc tiếp tục hoàn thiện kỹ năng khai thác dữ liệu và hướng đến việc triển khai các thuật toán trên các tập dữ liệu thực tế tại doanh nghiệp.
Kết quả và đóng góp
Đồ án đã cung cấp hệ thống số liệu thực nghiệm đầy đủ về đặc điểm nhân khẩu và tình trạng biến động nhân sự trong bộ dữ liệu khảo sát 1.470 nhân viên của IBM:
| Phòng ban |
Số nhân viên rời đi (Có) |
Tỷ lệ trong nhóm rời đi |
Số nhân viên ở lại (Không) |
Tỷ lệ trong nhóm ở lại |
| Human Resources |
12 |
5% |
51 |
4% |
| Research & Development |
133 |
56% |
828 |
67% |
| Sales |
92 |
39% |
354 |
29% |
| Tổng cộng |
237 |
100% |
1.233 |
100% |
Về mặt hiệu năng mô hình hóa học máy, đồ án ghi nhận kết quả đánh giá phân lớp định lượng chi tiết giữa ba giải thuật phân lớp trên tập huấn luyện 70% (với cấu hình kiểm thử tối ưu Random Sampling 50-90%):
| Thuật toán |
Diện tích AUC |
Độ chính xác (CA) |
Điểm F1 |
Độ chuẩn xác (Precision) |
Độ bao phủ (Recall) |
| Hồi quy Logistic |
82,5% |
89,1% |
87,9% |
88,2% |
89,1% |
| Cây quyết định |
Thấp hơn |
Thấp hơn |
Thấp hơn |
Thấp hơn |
Thấp hơn |
| Support Vector Machine (SVM) |
Thấp hơn |
Thấp hơn |
Thấp hơn |
Thấp hơn |
Thấp hơn |
Theo số liệu từ ma trận nhầm lẫn của phương pháp Hồi quy Logistic, mô hình đạt mức sai lầm loại 1 là 24,7% và số ca sai lầm loại 2 chỉ dừng ở mức 9 trường hợp.
Các đóng góp chính được nhóm tác giả tự xác định bao gồm:
- Thiết lập một quy trình phân tích và khai phá dữ liệu trực quan hoàn chỉnh trên nền tảng Orange, giúp người làm phân tích không chuyên về lập trình mã lệnh vẫn có thể thao tác nạp, phân mẫu, huấn luyện, so sánh và dự báo trên tập dữ liệu đa biến.
- Cung cấp cơ sở định lượng để các nhà quản trị nhận diện nhóm đối tượng có nguy cơ tiêu hao lao động cao nhất (nhân viên thuộc bộ phận Research & Development, nhân viên độc thân) nhằm đưa ra các chính sách đãi ngộ, cải thiện môi trường làm việc phù hợp.
Hạn chế và hướng nghiên cứu tiếp
Về hạn chế nghiên cứu:
- Bộ dữ liệu thực nghiệm là dữ liệu hư cấu (fictional dataset) do IBM tạo ra nhằm mục đích minh họa cho nền tảng Watson Analytics, do đó chưa phản ánh hoàn toàn tính phức tạp và các biến số đặc thù của môi trường lao động thực tế tại các doanh nghiệp Việt Nam.
- Tập dữ liệu sạch, không chứa giá trị khuyết thiếu (missing data) hay giá trị ngoại lai nghiêm trọng, khiến quy trình xử lý bỏ qua việc thực nghiệm các kỹ thuật tiền xử lý làm sạch nâng cao.
- Thời gian nghiên cứu và kinh nghiệm thực hành khai phá dữ liệu của nhóm sinh viên còn hạn chế, phạm vi so sánh thuật toán mới chỉ dừng lại ở ba mô hình cơ bản (Logistic Regression, Decision Tree, SVM).
Về hướng nghiên cứu tiếp:
- Áp dụng quy trình phân tích dữ liệu trên vào các bộ dữ liệu lao động thực tế thu thập trực tiếp tại doanh nghiệp.
- Mở rộng thử nghiệm với các tập dữ liệu có độ nhiễu cao, đòi hỏi các bước làm sạch và chuẩn hóa biến phức tạp hơn.
- Khai thác sâu hơn các thuật toán phân cụm không giám sát đã giới thiệu ở phần lý thuyết (Hierarchical clustering, K-means) trên toàn bộ biến số thực nghiệm.
Giá trị tham khảo
Đồ án là tài liệu học tập và tham khảo phù hợp cho:
- Sinh viên chuyên ngành Khoa học dữ liệu, Hệ thống thông tin kinh tế, Công nghệ thông tin kinh doanh và Quản trị nhân lực cần tìm hiểu quy trình ứng dụng máy học vào bài toán nhân sự.
- Người nghiên cứu muốn tìm hiểu cách xây dựng luồng phân tích dữ liệu trực quan (visual programming workflow) trên phần mềm Orange mà không cần viết mã nguồn Python phức tạp.
- Nội dung tham khảo đáng giá nhất là quy trình thiết lập quy trình phân chia dữ liệu huấn luyện - kiểm thử bằng widget Data Sampler (70% - 30% và trích xuất 100 mẫu ngẫu nhiên để dự báo), cùng với phương pháp đọc hiểu kết quả từ Test & Score, Confusion Matrix và đường cong ROC Analysis.
Câu hỏi thường gặp
1. Bộ dữ liệu Employee Attrition sử dụng trong đồ án có nguồn gốc từ đâu và quy mô bao nhiêu quan sát?
Bộ dữ liệu do các nhà khoa học dữ liệu của IBM tạo ra phục vụ cho nền tảng Watson Analytics, gồm 1.470 dòng dữ liệu nhân viên với 32 biến đặc trưng đầu vào và 1 biến phân lớp đầu ra (Attrition).
2. Tỷ lệ nhân viên nghỉ việc tổng thể và sự phân bổ theo phòng ban trong dữ liệu như thế nào?
Tổng thể có 237 nhân viên có ý định nghỉ việc (chiếm 16%) và 1.233 nhân viên ở lại (chiếm 84%). Trong đó, phòng Research & Development có số lượng nghỉ việc cao nhất với 133 người (56% tổng số người nghỉ), phòng Sales có 92 người (39%) và phòng Human Resources có 12 người (5%).
3. Nhóm tác giả đã chia tập dữ liệu để huấn luyện và thử nghiệm theo tỷ lệ nào?
Dữ liệu gốc được chia bằng widget Data Sampler thành tập huấn luyện chiếm 70% (1.029 mẫu) lưu tại DuLieuHuanLuyen_70%.xlsx, tập thử nghiệm chiếm 30% (441 mẫu) lưu tại DuLieuThuNghiem_30%.xlsx. Ngoài ra, 100 mẫu dữ liệu ngẫu nhiên từ tập 30% được trích xuất riêng thành tệp Employee-Attrition_Forecast.xlsx để chạy dự báo kiểm chứng.
4. Mô hình phân lớp nào cho kết quả tốt nhất và các chỉ số định lượng cụ thể là bao nhiêu?
Mô hình Hồi quy Logistic (Logistic Regression) với phương thức Random Sampling 50-90% đạt kết quả tốt nhất với độ chính xác phân loại CA đạt 89,1%, điểm F1 đạt 87,9%, Precision đạt 88,2%, Recall đạt 89,1% và chỉ số AUC đạt 82,5%. Sai lầm loại 1 của mô hình là 24,7% và sai lầm loại 2 là 9.
5. Vì sao nhóm nghiên cứu không thực hiện bước tiền xử lý lọc dữ liệu (Preprocess) trên Orange?
Qua kiểm tra dữ liệu bằng việc kết nối widget Datasets với Data Table, nhóm tác giả ghi nhận toàn bộ 1.470 mẫu đều hoàn chỉnh, không có giá trị khuyết thiếu hay dữ liệu lỗi, do đó bước tiền xử lý dữ liệu được lược bỏ để chuyển thẳng sang phân tích và mô hình hóa.
Kết luận
Báo cáo đồ án đã giải quyết bài toán dự báo tiêu hao lao động bằng việc kết hợp giữa công cụ phân tích thống kê trên Excel và nền tảng máy học trực quan Orange trên tập dữ liệu chuẩn 1.470 quan sát của IBM. Kết quả thực nghiệm đã so sánh ba thuật toán phân lớp và xác định giải thuật Hồi quy Logistic là mô hình tối ưu với độ chính xác phân loại đạt 89,1% cùng diện tích AUC đạt 82,5%. Đồ án là tài liệu tham khảo thực hành hữu ích về cách thiết lập quy trình khai phá dữ liệu định lượng phục vụ công tác ra quyết định quản trị nhân sự.