TRƢỜNG ĐẠI HỌC HỒNG ĐỨC KHOA CNTT & TT BÁO CÁO TỔNG KẾT ĐỀ TÀI NGHIÊN CỨU KHOA HỌC CỦA SINH VIÊN NĂM HỌC 2022 - 2023 NGHIÊN CỨU PHÁT TRIỂN MÔ HÌNH PHÁT HIỆN NGÃ THÔNG QUA CAMERA GIA ĐÌNH Thuộc nhóm ngành khoa học: Khoa học máy tính THANH HÓA, THÁNG 04/2023 TRƢỜNG ĐẠI HỌC HỒNG ĐỨC KHOA CNTT & TT BÁO CÁO TỔNG KẾT ĐỀ TÀI NGHIÊN CỨU KHOA HỌC CỦA SINH VIÊN NĂM HỌC 2022 - 2023 NGHIÊN CỨU PHÁT TRIỂN MÔ HÌNH PHÁT HIỆN NGÃ THÔNG QUA CAMERA GIA ĐÌNH Thuộc nhóm ngành khoa học: Khoa học máy tính Sinh viên thực hiện: Tống Duy Đạt Dân tộc: Kinh Lớp, khoa: K23 ĐH CNTT – Khoa CNTT&TT Năm thứ: 3 / Số năm đào tạo: 4 Ngành học: CNTT Giảng viên hƣớng dẫn: TS. Nguyễn Đình Công THANH HÓA, THÁNG 04/2023 MỤC LỤC DANH MỤC CHỮ CÁI VIẾT TẮT. iii DANH MỤC CÁC BẢNG BIỂU .iv DANH MỤC ẢNH. vii THÔNG TIN KẾT QUẢ NGHIÊN CỨU.
viii CHƢƠNG I. Tính cấp thiết của đề tài. Tổng quan tình hình nghiên cứu. Mục tiêu và phạm vi đề tài.
Dự kiến kết quả. 4 CHƢƠNG II. GIỚI THIỆU VỀ DEEP LEARNING. Giới thiệu chung.
Cấu trúc của học sâu (Deep learning). Cách thức hoạt động của một kiến trúc deep learning. Mạng nơ ron tích chập ( CNN ). Lớp tích chập (Convolutional layer).
Lớp lấy mẫu (Pooling). Lớp kết nối đầy đủ (Fully-connected layer – FC). Hàm kích hoạt (Activation function). Long short term memory (LSTM).
Gated Recurrent Unit (GRU). Bidirectional Long Short-Term Memory (BLSTM). 17 CHƢƠNG III. CÁC CÔNG NGHỆ NHẬN DIỆN TƢ THẾ CON NGƢỜI.
Tổng quan bài toán nhận diện tư thế (HAR). Giới thiệu bài toán nhận diện tư thế. Thách thức của nhận diện tư thế (HAR). Các mô hình state of the art sử dụng cho mô hình nhận diện tư thế.
Tổng quan tình hình nghiên cứu. Mô hình You Only Look Once (Yolov7 pose). Mô hình MediaPipe Pose. 29 CHƢƠNG IV: TỔNG QUAN TÌNH HÌNH NGHIÊN CỨU VÀ ĐỀ XUẤT.
Cách tiếp cận bài toán nhận diện ngã. Tổng quan tình hình nghiên cứu. Phương pháp đề xuất. Nhận diện tư thế người trong video.
Tiền xử lý thông tin. Trích chọn đặc trưng. Mô hình phân loại. 35 CHƢƠNG V: THÍ NGHIỆM ĐÁNH GIÁ MÔ HÌNH.
Bộ dữ liệu Fall Detection Dataset của phòng thí nghiệm ImViA. Bộ dữ liệu Fall Detection Dataset trong hội thảo Machine Vision Applications (MVA), 2017. Kết quả thí nghiệm. Thang đo đánh giá.
Kết quả và đánh giá. 42 CHƢƠNG VI. 48 TÀI LIỆU THAM KHẢO. 55 DANH MỤC CHỮ CÁI VIẾT TẮT Từ viết tắt Tiếng anh Tiếng việt CNN Convolutional Netural Networks Mạng Nơ ron tích chập AI Artificial Intelligence Trí tuệ nhân tạo ReLU Rectified Linear Units Đơn vị tuyến tính chỉnh lưu GPU Graphics Processing Unit Bộ xử lí đồ họa FC Fully Connectyed Kết nối đầy đủ CPU Central Processing Unit Bộ xử lí trung tâm GB Gigabyte Đơn vị tính dữ liệu ReLU Rectified linear units Đơn vị tuyến tính chỉnh lưu SVM Support Vector Machine Máy vec-tơ hỗ trợ LSTM Long Short Time Memory Bộ nhớ dài-ngắn hạn Yolo You Only Look Once Mô hình Yolo GRU Gated Recurrent Unit Đơn vị định kì có kiểm soát BLSTM Bidirectional Long Short-Term Bộ nhớ dài-ngắn hạn hai chiều Memory DANH MỤC CÁC BẢNG BIỂU Bảng 1: So sánh các đặc tính của Yolo – Pose và Mediapipe – Pose.
29 Bảng 2: Dữ liệu nhận diện hành động. 37 Bảng 3: Dữ liệu nhận diện hành động của Bộ dữ liệu Fall Detection Dataset trong hội thảo Machine Vision Applications (MVA), 2017. 39 Bảng 4: Bảng so sánh độ chính xác của các mô hình thử nghiệm lấy tất cả điểm khóa làm đặc trưng. 42 Bảng 5: Bảng so sánh độ chính xác của các mô hình thử nghiệm bỏ đặc trưng điểm khóa ở vùng đầu.
43 Bảng 6: Bảng so sánh độ chính xác của các mô hình thử nghiệm bỏ đặc trưng điểm khóa ở vùng đầu và cánh tay. 43 Bảng 7 :Bảng đánh giá chất lượng mô hình MediaPipe Pose + BLSTM với tất cả các điểm khóa làm đặc trưng. 45 Bảng 8 :Bảng đánh giá chất lượng mô hình MediaPipe Pose + BLSTM bỏ các đặc trưng phần đầu. 46 DANH MỤC ẢNH Hình 1: Ví dụ về neural network [11].
5 Hình 2:Ví dụ về Neuron trong Deep learning [12]. 5 Hình 3:Ví dụ về hàm Activation [12]. 6 Hình 4:Ví dụ về mạng deep learning có tẩng ẩn [12]. 6 Hình 5: Ví dụ về Loss function (các kí hiệu , , thể hiện là hàm kích hoạt được sử dụng trong mạng) [13].
7 Hình 6:Ví dụ về một vài thuật toán Optimizer [14]. Kiến trúc mạng deep learning tiêu chuẩn [15]. Cấu trúc mạng nơ-ron tích chập [16]. Ví dụ về lớp tích chập [17].
Ví dụ về lớp lấy mẫu max pooling [17]. 12 Hình 11: Ví dụ về lớp lấy mẫu average pooling [17]. Ví dụ về lớp kết nối đầy đủ (Fully connected layer -FC) [17]. 13 Hình 13: Đồ thị hàm ReLU [18].
14 Hình 19: Kiến trúc mạng LSTM. 15 Hình 20: Kiến trúc và công thức tính của GRU [3]. 17 Hình 21: Kiến trúc BLSTM. 18 Hình 14: Hình ảnh biểu diễn khung người [5].
22 Hình 15: Cách tiếp cận từ trên xuống và cách tiếp cận từ dưới lên [5]. 23 Hình 16: Hình mô tả kiến trúc Yolo-Pose [22]. 24 Hình 17: Quy trình nhận diện tư thế của Mediapipe Pose [23]. 27 Hình 18: Kiến trúc mạng theo dõi: hồi quy với giám sát bản đồ nhiệt [23].
28 Hình 22: Tổng quan quy trình thực hiện. 34 Hình 28: (a) Quá trình nhận diện khung xương người của MediaPipe Pose (b) Thông tin khung xương người. 34 Hình 21: Kiến trúc BLSTM. 36 Hình 35: Kiến trúc mạng BLSTM được sử dụng cho bộ phân lớp.
36 Hình 22: Biều đồ thể hiện tần suất của dữ liệu Fall Detection Dataset [24]. 37 Hình 23: Một số ví dụ về các hành động trong data Fall Detection Dataset. 38 Hình 24: Biều đồ thể hiện tần suất của dữ liệu Fall Detection Dataset. 39 Hình 25: Một số ví dụ về các hành động trong Fall Detection Dataset 2.
40 Hình 32: Confusion matrix sau khi huấn luyện MediaPipe Pose + BLSTM với tất cả các điểm khóa làm đặc trưng. 45 Hình 33: Confusion matrix sau khi huấn luyện MediaPipe Pose + BLSTM bỏ các đặc trưng phần đầu. 46 Hình 36: Một số hình minh họa khi triên khai mô hình. 47 Hình 37: Biểu đồ training của các mô hình thử nghiệm sử dụng full điểm khóa.
50 Hình 38: Biểu đồ training của các mô hình thử nghiệm bỏ phần đầu. 51 Hình 39: Biểu đồ training của các mô hình thử nghiệm bỏ phần đầu và cánh tay. 52 Hình 40: Biểu đồ training của các mô hình thử nghiệm sử dụng full điểm khóa. 53 Hình 41: Biểu đồ training của các mô hình thử nghiệm bỏ phần đầu.
54 PHỤ LỤC PHỤ LỤC 1. DANH MỤC ẢNH BIỂU ĐỒ HUẤN LUYỆN TRONG QUÁ TRÌNH HUẤN LUYỆN MÔ HÌNH. 49 THÔNG TIN KẾT QUẢ NGHIÊN CỨU 1. Tên đề tài: Nghiên cứu phát triển mô hình phát hiện ngã thông qua camera gia đình.
Cấp dự thi: Cấp khoa 3. Nhóm sinh viên thực hiện Họ và tên: Tống Duy Đạt Lớp: K23A-ĐHCNTT Khoa: CNTT-TT Điện thoại: 0385810566 Email: dattongduy1. Giáo viên hƣớng dẫn: TS. Nguyễn Đình Công 5.
Thời gian thực hiện: 08 tháng, từ tháng 09/2022 đến 04/2023. Cơ quan quản lý đề tài: Trường Đại học Hồng Đức. Đơn vị chủ trì đề tài: Khoa Công nghệ thông tin và truyền thông. Tính cấp thiết của đề tài Theo báo cáo của WHO (2021) [1], trên toàn cầu té ngã là một vấn đề sức khỏe được cộng đồng rất quan tâm.
Ước tính có khoảng 684 000 ca tử vong do ngã xảy ra mỗi năm, khiến nó trở thành nguyên nhân thứ hai gây tử vong do thương tích không chủ ý, sau thương tích giao thông đường bộ. Hơn 80% trường hợp tử vong liên quan đến ngã xảy ra ở các quốc gia có thu nhập thấp và trung bình, với các khu vực Tây Thái Bình Dương và Đông Nam Á chiếm 60% số ca tử vong. Ở tất cả các khu vực trên thế giới, tỷ lệ tử vong cao nhất ở người lớn trên 60 tuổi. Té ngã không chỉ gây ra các chấn thương vật lý mà còn ảnh hưởng đến tâm lý của người bị ngã đặc biết là đối với người cao tuổi.
Nó làm cho người cao tuổi sợ việc vận động, qua đó tác động một cách gián tiếp đến sức khỏe của họ. Ngoài ra, khi điều trị chấn thương thường phải bị cách ly tạm thời ra khỏi cộng đồng, xã hội, làm tăng cảm giác cô đơn và có thể dẫn đến trầm cảm. Việc phát hiện té ngã sớm có thể giúp người nhà, người chăm sóc (carer) hay bác sĩ đến một cách kịp thời và có thể giúp hạn chế hậu quả do té ngã gây ra. Do đó, nhu cầu về các hệ thống phát hiện té ngã sớm và có khả năng thông báo cho người chăm sóc hay các người có liên quan là rất cấp thiết.
Lĩnh vực thị giác máy tính, hàng loạt các thuật toán làm camera có thể quan sát và nhận biết các đối tượng, sự kiện xuất hiện trong khung hình của camera có thể quan sát với độ chính xác cao thế nên việc phát hiện ngã sớm là khả thi. Tuy nhiên mỗi cách tiếp cận trên đều đã có những kết quả nghiên cứu đáng kể, nhưng cũng bộc lộ một số hạn chế nhất định. Một số phương pháp có hạn chế là tốc độ tính toán thấp tốn nhiều tài nguyên nhưng độ chính xác cao. Mặt khác một số phương pháp khác có tốc độ tính toán cao nhưng độ chính xác thấp.
Từ những điểm trên, nhóm nghiên cứu chúng tôi đề xuất một mô hình nhận dạng ngã sử dụng trí tuệ nhân tạo. Mô hình đảm bảo tính chính xác, nhỏ gọn để có thể triển khai được trên các thiết bị phần cứng cấu hình thấp. Tổng quan tình hình nghiên cứu Các phương pháp nhận diện ngã hiện nay trên thế giới chia làm 2 phương pháp chính: (a) Sử dụng cảm biến: phương pháp này sử dụng các cảm biến, chẳng hạn như con quay hồi chuyển, gia tốc kế, cảm biến quán tính, khí áp kế, v., để phát hiện ngã. Phương pháp này có một số nhược điểm như thay pin thường xuyên, chi phí cao, sử dụng thiết bị đeo được, khoảng cách cảm nhận, v.v; (b) Phát hiện tƣ thế con ngƣời từ hình ảnh video: phương pháp này có thể giải quyết được các nhược điểm của phương pháp sử dụng cảm biến.