chương 1, đồ án đã trình bày tổng quan về bài toán ước lượng tư thế người, dạng dữ liệu sẽ được sử dụng cho bài toán, động lực và mục tiêu của đồ án, phạm vi đồ án. Trong chương tiếp theo, đồ án sẽ trình bày về phương pháp ước lượng tư thế người, tổng quan về học sâu, chi tiết về mô hình mạng nơ-ron tích chập 2 chiều, mô hình mạng theo thời gian, mô hình mã hoá tự động cho bài toán ước lượng tư thế người. Điểm mạnh và điểm yếu của các phương pháp. Trần Khánh Hưng – B19CNN331 10 Đồ án tốt nghiệp Chương 2 CHƯƠNG 2: ƯỚC LƯỢNG TƯ THẾ NGƯỜI SỬ DỤNG TÍN HIỆU RADAR BẰNG HỌC SÂU Trong chương này, đồ án sẽ trình bày nội dung chi tiết về cách tiếp cận bài toán sử dựng phương pháp cổ điển và cách áp dụng mô hình học sâu vào bài toán ước lượng tư thế người qua các phần: Giới thiệu về trí tuệ nhân tạo Mạng nơ-ron nhân tạo (Artificial Neural Network - ANN) Mạng nơ-ron tích chập (Convolution Neural Network - CNN) Mạng nơ-ron trí nhớ ngắn hạn dài (Long Short-Term Memory - LSTM) Đề xuất mô hình hình học sâu cho bài toán 2.1 Giới thiệu về trí tuệ nhân tạo 2.1 Trí tuệ nhân tạo Hình 2.7 Sơ đồ tổng quan về trí tuệ nhân tạo (Nguồn: machinlearningcoban).
Trí tuệ nhân tạo (AI) [9] là một lĩnh vực nghiên cứu trong ngành công nghiệp công nghệ máy tính với mục tiêu tạo ra các hệ thống máy tính có khả năng thực hiện các nhiệm vụ đòi hỏi sự hiểu biết, học hỏi, và ra quyết định mà trước đây chỉ có con người mới có khả năng thực hiện được. Trí tuệ nhân tạo mô phỏng khả năng "tư duy" của con người thông qua việc phát triển và triển khai các thuật toán máy học, học sâu, và các phương pháp khác. Lịch sử của trí tuệ nhân tạo bắt đầu từ những ý tưởng sơ khai từ thập kỷ 1940, nhưng nó đã phát triển mạnh mẽ trong những năm gần đây nhờ vào sự tiến bộ đáng kể Trần Khánh Hưng – B19DCCN331 11 Đồ án tốt nghiệp Chương 2 trong lĩnh vực máy học và nguồn dữ liệu lớn có sẵn. Một số thành tựu nổi bật của trí tuệ nhân tạo bao gồm việc nhận diện giọng nói, nhận diện hình ảnh, tự động lái xe, chơi cờ vua ở mức độ chuyên nghiệp, v.
Các ứng dụng của trí tuệ nhân tạo ngày càng mở rộng trên hầu hết các lĩnh vực như y tế, tài chính, giáo dục, và dự báo thời tiết, v. Nó đã và đang thay đổi cách chúng ta tương tác với công nghệ, cung cấp giải pháp thông minh cho các vấn đề phức tạp, và tạo ra những tiện ích hàng ngày như trợ lý ảo, hệ thống tự động, và nhiều ứng dụng khác.2 Học máy Học máy (Machine Learning - ML) [10] là một lĩnh vực trong trí tuệ nhân tạo (AI) mà mục tiêu là phát triển các mô hình và thuật toán có khả năng học hỏi từ dữ liệu mà không cần phải được lập trình một cách cụ thể. Ý tưởng cơ bản của học máy là xây dựng các mô hình có khả năng tự điều chỉnh và cải thiện hiệu suất thông qua trải nghiệm. Arthur Samuel đã mô tả học máy là một “lĩnh vực nghiên cứu mang lại cho máy tính khả năng học hỏi cách giải quyết vấn đề dựa trên dữ liệu đưa vào mà không cần được lập trình rõ ràng” [11].
Còn Tom Mitchell lại đưa ra một định nghĩa mang tính rõ ràng hơn về học máy [12]: “Một chương trình máy tính được cho là học từ kinh nghiệm E đối với một số loại nhiệm vụ T và thước đo hiệu suất P, nếu hiệu suất của nó ở các nhiệm vụ T, được đo bằng P, cải thiện theo kinh nghiệm E”. Cơ bản, ý tưởng của học máy là tạo ra các mô hình máy tính có khả năng tự điều chỉnh dựa trên kinh nghiệm và dữ liệu đã được cung cấp. Một điểm quan trọng là học máy không đơn thuần là việc áp dụng một bộ quy tắc lập trình, mà là quá trình tìm kiếm và ánh xạ các mối liên kết, quy luật, và biểu diễn từ dữ liệu để đưa ra dự đoán và quyết định cho dữ liệu mới. Có bốn loại chính của học máy: 1.
Học máy giám sát (Supervised Learning): Trong loại này, mô hình được huấn luyện trên một tập dữ liệu có nhãn, nghĩa là mỗi mẫu dữ liệu đã được gán nhãn với đầu ra mong muốn. Mục tiêu là học cách ánh xạ từ dữ liệu đầu vào đến các nhãn đầu ra để sau đó có thể tự động dự đoán đầu ra cho các mẫu mới mà không cần nhãn. Học máy không giám sát (Unsupervised Learning): Trong loại này, mô hình được huấn luyện trên một tập dữ liệu không có nhãn. Mục tiêu chính của học máy không giám sát là tìm ra cấu trúc, mối quan hệ, hoặc phân nhóm dữ liệu trên toàn bộ tập dữ liệu mà không cần biết đầu ra mong muốn trước.
Trần Khánh Hưng – B19CNN331 12 Đồ án tốt nghiệp Chương 2 3. Học máy bán giám sát (Semi-supervised Learning): Là một hình thức trung gian giữa học máy giám sát và học máy không giám sát, loại này sử dụng một tập dữ liệu lớn không có nhãn và một số ít dữ liệu có nhãn để huấn luyện mô hình. Học tăng cường (Reinforment Learning): Là một hình thức mà máy tính được thiết kế để tìm hiểu và cải thiện hiệu suất của mô hình thông qua trải nghiệm và tương tác với môi trường. Mục tiêu của mô hình là tối ưu hoá giá trị nhận được (reward) tại mỗi hành động mà mô hình thực hiện trong một môi trường nhất định nào đó.
Khác với học máy truyền thống, học tăng cường không chỉ tập trung vào việc giải quyết các vấn đề cụ thể, mà còn đề cao khả năng học và ra quyết định tối ưu trong môi trường động và không chắc chắn. Trong suốt thời gian phát triển, học máy đã đạt được nhiều thành công trong nhiều ứng dụng thực tế như nhận dạng hình ảnh, xử lý ngôn ngữ tự nhiên, dự đoán chuỗi thời gian, v. Nói cách khác, học máy đã làm thay đổi cách chúng ta xử lý thông tin và ra quyết định, mang lại sự tự động hóa và hiệu suất đáng kể. Tuy nhiên, logic tuyến tính giữa đầu vào và đầu ra trong học máy là cản trở để phương pháp này hoạt động tốt với các loại dữ liệu phức tạp, đòi hỏi tính phi tuyến.3 Học sâu Học sâu [13] (Deep Learning - DL) là một tập con của học máy trong lĩnh vực trí tuệ nhân tạo.
Học sâu tập trung vào phát triển và huấn luyện các mô hình máy học sâu có khả năng tự động học và thực hiện các nhiệm vụ phức tạp có tính chất phi tuyến. Các mô hình này, hay còn được gọi là mạng nơ-ron nhân tạo, được thiết kế với nhiều lớp thần kinh như bộ não con người. Qua quá trình huấn luyện, mạng nơ-ron dần dần đạt được kinh nghiệm thông qua hàm đánh giá, có khả năng lưu giữ kinh nghiệm học được và sử dụng để thực hiện dự đoán cho các dữ liệu chưa biết sau này.2 Mạng nơ-ron nhân tạo (Artificial Neural Netowork - ANN) Mạng nơ-ron nhân tạo, hay Artificial Neural Network [14] (ANN), là khái niệm quan trọng và là nền tảng cho các kiến trúc mạng sau này, được thiết kế để mô phỏng cách hoạt động của não người. Với sự linh hoạt và khả năng tự động hóa của ANN làm cho chúng trở thành công cụ quan trọng trong giải quyết những vấn đề phức tạp và đưa ra dự đoán chính xác trong nhiều bài toán hiện nay.
ANN có khả năng học từ kinh nghiệm và dữ liệu (thông qua quá trình huấn luyện), có thể áp dụng cho nhiều ứng dụng trong các lĩnh vực khác nhau có thể kể đến như: Nhận diện hình ảnh: Nhận dạng chữ viết tay, nhận dạng khuôn mặt, phân biệt giống chó mèo, v. Trần Khánh Hưng – B19CNN331 13 Đồ án tốt nghiệp Chương 2 Xử lý ngôn ngữ tự nhiên: Nhận diện giọng nói, thực hiện thao tác lệnh từ giọng nói, v. Dự đoán: Dự đoán giá nhà, dự đoán giá cổ phiểu,. Tự động hoá: Điều khiển xe tự lái, máy bay không người lái, v.
Phát hiện dị thường: Phát hiện giao dịch giả mạo trong lĩnh vực ngân hàng, v.1 Tổng quan mạng nơ-ron nhân tạo Mạng nơ-ron nhân tạo mô phỏng lại cấu trúc của bộ não con người bao gồm các lớp nơ-ron được liên kết với nhau thông qua các cạnh, trong mỗi lớp nơ-ron gồm có các nơ-ron nhân tạo đại diện cho lớp đó. Số lượng lớp nơ-ron và số lượng nơ-ron trong mỗi lớp phụ thuộc vào cách thiết kế với từng nhiệm vụ cụ thể nào đó.8 Mô tả một nơ-ron sinh học và một nơ-ron nhân tạo (Nguồn: linkedin.com) Để làm rõ hơn, tương tự như cách hoạt động của 1 mạng nơ-ron sinh học, mạng nơ- ron nhân tạo cũng nhận dữ liệu đầu vào (input) bao gồm các giá trị x 1 , x 2 , x 3 ,… , x n , xử lý tín hiệu bằng cách nhân dữ liệu này với trọng số tương ứng w 1 , w 2 , w 3 ,… , w n, còn được gọi là weight, tính tổng thông qua hàm sum sau đó đi qua 1 hàm kích hoạt (activation function) để phá vỡ liên kết tuyến tính và thu được kết quả đầu ra (output). Ở quá trình trên, giá trị trọng số weight đóng 1 vai trò quan trọng. Nó quyết định mức độ ảnh hưởng ít hay nhiều của 1 giá trị đầu vào x nào đó, thể hiện mức độ quan trọng của điểm dữ liệu đó với kết quả đầu ra.
Ngoài ra, hàm kích hoạt cũng đóng một vai trò quan trọng không kém cái mà sẽ quyết định cách thức mô hình hoá phi tuyến giữa dữ liệu đầu vào và kết quả đầu ra.2 Cấu trúc của một mạng nơ-ron nhân tạo đơn giản Một mô hình mạng nơ-ron nhân tạo gồm nhiều lớp nơ-ron liên kết với nhau, mỗi lớp nơ-ron bao gồm nhiều nơ-ron. Mỗi nơ-ron tại một lớp bất kì đều liên kết đến tất cả nơ-ron ở lớp trước và lớp sau nó. Một mạng nơ-ron đơn giản gồm ba lớp chinh: lớp đầu vào, lớp đầu ra và lớp ẩn. Lớp đầu vào chính là lớp đầu tiên của mạng nơ-ron, với Trần Khánh Hưng – B19CNN331 14 Đồ án tốt nghiệp Chương 2 số nơ-ron bằng số đặc trưng của dữ liệu, lớp đầu ra là số nơ-ron đầu ra mong muốn với từng loại tác vụ.
Các lớp nằm giữa hai lớp trên được gọi chung là lớp ẩn. Logistic Regression [15] là một ví dụ điển hình cho một mạng nơ-ron nhân tạo đơn giản với một lớp đầu vào, một lớp đầu ra và không có lớp ẩn.