Luận Văn Thạc Sĩ: Phương Pháp Nhận Diện Mẫu Sử Dụng Mô Hình Túi Từ Và Mạng Neural

• Tác giả: Nguyễn Khánh Tùng
• Người hướng dẫn: TS. Nguyễn Toàn Thắng
• Trường học: Đại học Thái Nguyên
• Chuyên ngành: Khoa học máy tính
• Đề tài: Phương Pháp Nhận Diện Mẫu Sử Dụng Mô Hình Túi Từ Và Mạng Neural
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2016
• Địa điểm: Thái Nguyên

• LỜI CAM ĐOAN
• 1. CHƯƠNG 1: KHẢO SÁT MỘT SỐ CÔNG TRÌNH ĐÃ ĐƯỢC CÔNG BỐ VỀ NHẬN DIỆN BÀN TAY
• 1.1. Găng tay có gắn thiết bị trong HCI
• 1.2. Thu nhận hình
• 1.3. Trích chọn đặc trưng
• 2. MỞ ĐẦU
• TÀI LIỆU THAM KHẢO

I. Phương pháp nhận diện mẫu

Phương pháp nhận diện mẫu là một trong những lĩnh vực quan trọng trong khoa học máy tính, đặc biệt trong xử lý ảnh và nhận dạng đối tượng. Luận văn này tập trung vào việc sử dụng mô hình túi từ kết hợp với mạng neural để nhận diện mẫu hiệu quả. Mô hình túi từ được sử dụng để trích xuất các đặc trưng từ ảnh, tạo thành các vector đặc trưng làm đầu vào cho mạng neural. Phương pháp này đảm bảo tốc độ xử lý cao và tính bền vững trước các biến đổi như xoay hình, thay đổi kích thước và vị trí trong frame.

1.1. Mô hình túi từ

Mô hình túi từ (Bag of Words) là một kỹ thuật phổ biến trong xử lý ngôn ngữ tự nhiên và nhận dạng ảnh. Trong nhận dạng ảnh, mô hình này được sử dụng để trích xuất các đặc trưng từ ảnh bằng cách phân cụm các điểm đặc trưng và tạo ra một từ điển. Từ điển này sau đó được sử dụng để biểu diễn ảnh dưới dạng vector đặc trưng. Mô hình túi từ giúp giảm thiểu độ phức tạp của dữ liệu và tăng hiệu quả trong việc phân loại mẫu.

1.2. Mạng neural nhận diện mẫu

Mạng neural là một mô hình học máy mạnh mẽ, đặc biệt trong các bài toán phân loại và nhận dạng. Trong luận văn này, mạng neural được sử dụng để phân loại các vector đặc trưng được tạo ra từ mô hình túi từ. Mạng neural nhiều lớp (MLP) được huấn luyện trên các bộ dữ liệu ảnh để nhận diện các mẫu cử chỉ tay và đồ vật. Kết quả thử nghiệm cho thấy mạng neural đạt được độ chính xác cao và tốc độ xử lý nhanh, phù hợp với các ứng dụng thời gian thực.

II. Nhận diện mẫu hiệu quả

Nhận diện mẫu hiệu quả là mục tiêu chính của luận văn này. Phương pháp được đề xuất kết hợp mô hình túi từ và mạng neural để tối ưu hóa quá trình nhận diện. Các bước chính bao gồm trích xuất đặc trưng từ ảnh, phân cụm các đặc trưng để tạo từ điển, và sử dụng mạng neural để phân loại. Phương pháp này đã được thử nghiệm trên các bộ dữ liệu khác nhau, bao gồm cử chỉ tay và đồ vật, cho thấy hiệu quả cao trong việc nhận diện mẫu.

2.1. Trích xuất đặc trưng

Trích xuất đặc trưng là bước quan trọng trong quá trình nhận diện mẫu. Trong luận văn này, thuật toán SURF (Speeded-Up Robust Features) được sử dụng để trích xuất các đặc trưng từ ảnh. SURF là một phương pháp trích xuất đặc trưng bất biến với các biến đổi hình học và ánh sáng, giúp tăng tính bền vững của mô hình. Các đặc trưng được trích xuất sau đó được phân cụm để tạo ra từ điển, làm cơ sở cho việc biểu diễn ảnh dưới dạng vector.

2.2. Phân loại mẫu

Phân loại mẫu là bước cuối cùng trong quá trình nhận diện. Mạng neural được sử dụng để phân loại các vector đặc trưng được tạo ra từ mô hình túi từ. Mạng neural nhiều lớp (MLP) được huấn luyện trên các bộ dữ liệu ảnh để nhận diện các mẫu cử chỉ tay và đồ vật. Kết quả thử nghiệm cho thấy mạng neural đạt được độ chính xác cao và tốc độ xử lý nhanh, phù hợp với các ứng dụng thời gian thực.

III. Ứng dụng thực tiễn

Phương pháp nhận diện mẫu sử dụng mô hình túi từ và mạng neural có nhiều ứng dụng thực tiễn trong các lĩnh vực như nhận dạng cử chỉ tay, nhận dạng đồ vật, và tương tác người-máy. Phương pháp này đặc biệt hữu ích trong các hệ thống điều khiển từ xa, nơi cần nhận diện nhanh và chính xác các cử chỉ tay để tạo ra các lệnh điều khiển. Kết quả thử nghiệm cho thấy phương pháp này đạt được độ chính xác cao và tốc độ xử lý nhanh, phù hợp với các ứng dụng thời gian thực.

3.1. Nhận dạng cử chỉ tay

Nhận dạng cử chỉ tay là một trong những ứng dụng chính của phương pháp này. Các cử chỉ tay được nhận diện thông qua việc trích xuất đặc trưng từ ảnh và phân loại bằng mạng neural. Phương pháp này cho phép nhận diện các cử chỉ tay trong thời gian thực, giúp tăng tính tự nhiên trong tương tác người-máy. Kết quả thử nghiệm cho thấy phương pháp này đạt được độ chính xác cao và tốc độ xử lý nhanh, phù hợp với các ứng dụng thời gian thực.

3.2. Nhận dạng đồ vật

Nhận dạng đồ vật là một ứng dụng khác của phương pháp này. Các đồ vật được nhận diện thông qua việc trích xuất đặc trưng từ ảnh và phân loại bằng mạng neural. Phương pháp này cho phép nhận diện các đồ vật trong thời gian thực, giúp tăng hiệu quả trong các hệ thống tự động hóa. Kết quả thử nghiệm cho thấy phương pháp này đạt được độ chính xác cao và tốc độ xử lý nhanh, phù hợp với các ứng dụng thời gian thực.

Tổng quan nghiên cứu

Trong bối cảnh phát triển mạnh mẽ của công nghệ thông tin, tương tác người - máy (Human-Computer Interaction, HCI) ngày càng trở nên quan trọng, đặc biệt trong các ứng dụng điều khiển máy tính từ xa thông qua cử chỉ tay. Theo ước tính, việc nhận diện cử chỉ tay trong thời gian thực có thể nâng cao hiệu quả giao tiếp trực quan giữa người và máy, giảm thiểu sự phụ thuộc vào các thiết bị ngoại vi như chuột hay bàn phím. Luận văn tập trung nghiên cứu phương pháp nhận diện mẫu sử dụng mô hình túi từ (Bag-of-Features) kết hợp mạng neural nhân tạo nhằm giải quyết bài toán nhận diện cử chỉ tay và một số vật thể đơn giản trong các khung hình thu từ camera.

Mục tiêu cụ thể của nghiên cứu là xây dựng thuật toán nhận diện mẫu có khả năng xử lý nhanh, chính xác và bền vững trước các biến đổi như xoay, thay đổi kích thước và vị trí của đối tượng trong khung hình. Phạm vi nghiên cứu bao gồm các bộ dữ liệu cử chỉ tay thu thập từ thực tế và các kho dữ liệu mở như của Đại học Cambridge, với thời gian thực hiện từ năm 2014 đến 2016 tại Trường Đại học Công nghệ Thông tin và Truyền thông, Đại học Thái Nguyên. Ý nghĩa của nghiên cứu được thể hiện qua việc cải thiện tốc độ xử lý trong thời gian thực và độ chính xác nhận diện, góp phần phát triển các ứng dụng HCI không cần thiết bị đeo, phù hợp với môi trường đa dạng và phức tạp.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai lý thuyết chính: mô hình túi từ (Bag-of-Words - BOW) và mạng neural nhân tạo (Artificial Neural Networks - ANN). Mô hình túi từ được sử dụng để biểu diễn các đặc trưng trích xuất từ ảnh dưới dạng vector có kích thước cố định, tương tự như biểu diễn văn bản trong xử lý ngôn ngữ tự nhiên. Các đặc trưng cục bộ bất biến như SURF (Speeded Up Robust Features) được trích xuất và phân cụm bằng thuật toán k-means để tạo thành từ điển đặc trưng, từ đó sinh ra vector BOW mô tả vật thể.

Mạng neural nhân tạo nhiều lớp được áp dụng để phân lớp các vector đặc trưng BOW, với cấu trúc gồm lớp đầu vào, lớp ẩn và lớp đầu ra. Giải thuật lan truyền ngược (backpropagation) được sử dụng để huấn luyện mạng, tối ưu hóa trọng số nhằm đạt độ chính xác cao trong nhận diện. Các khái niệm chính bao gồm: đặc trưng cục bộ bất biến, phân cụm k-means, vector đặc trưng BOW, mạng neural nhiều lớp, và giải thuật lan truyền ngược.

Phương pháp nghiên cứu

Nguồn dữ liệu nghiên cứu bao gồm các bộ ảnh cử chỉ tay tự tạo và các bộ dữ liệu mở như của Đại học Cambridge và Sebastien Marcel. Cỡ mẫu khoảng vài trăm ảnh với đa dạng cử chỉ và điều kiện nhiễu khác nhau. Phương pháp chọn mẫu là ngẫu nhiên có kiểm soát nhằm đảm bảo tính đại diện cho các lớp cử chỉ.

Phương pháp phân tích gồm các bước: trích xuất đặc trưng SURF từ ảnh, phân cụm đặc trưng bằng k-means để tạo từ điển, sinh vector BOW cho từng ảnh, huấn luyện mạng neural với dữ liệu BOW, và đánh giá kết quả trên tập kiểm tra. Timeline nghiên cứu kéo dài trong hai năm, từ 2014 đến 2016, bao gồm giai đoạn thu thập dữ liệu, xây dựng thuật toán, huấn luyện và thử nghiệm.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Hiệu quả trích xuất đặc trưng SURF: Trung bình mỗi ảnh cử chỉ tay thu được từ 20 đến 100 đặc trưng SURF, với vector mô tả 64 chiều. Việc sử dụng SURF giúp đảm bảo tính bền vững trước biến đổi xoay và phóng đại hình ảnh.

2. Phân cụm k-means và tạo từ điển: Số lượng cụm k được lựa chọn phù hợp với tổng số đặc trưng trong bộ dữ liệu huấn luyện, khoảng vài nghìn cụm. Việc phân cụm giúp giảm chiều dữ liệu và tạo ra bộ từ điển đại diện cho các đặc trưng phổ biến, từ đó sinh ra vector BOW có kích thước cố định.

3. Độ chính xác nhận diện: Thuật toán kết hợp mô hình túi từ và mạng neural đạt độ chính xác trên 90% trên các bộ dữ liệu thử nghiệm, bao gồm cả ảnh có nhiễu nhẹ và nền phức tạp. So với các phương pháp truyền thống như nhận diện dựa trên màu sắc hay đường biên, phương pháp này có độ chính xác cao hơn khoảng 15-20%.

4. Tốc độ xử lý: Thuật toán có khả năng xử lý trong thời gian thực với tốc độ khoảng 15-20 khung hình mỗi giây trên máy tính cấu hình trung bình, đáp ứng yêu cầu ứng dụng thực tế.

Thảo luận kết quả

Kết quả cho thấy việc sử dụng mô hình túi từ để biểu diễn đặc trưng ảnh kết hợp mạng neural là hướng tiếp cận hiệu quả cho bài toán nhận diện cử chỉ tay. Việc phân cụm đặc trưng SURF giúp giảm đáng kể số chiều dữ liệu đầu vào, từ đó tăng tốc độ huấn luyện và nhận diện mà không làm giảm độ chính xác. So với các nghiên cứu trước đây sử dụng đặc trưng màu sắc hay đường biên, phương pháp này bền vững hơn trước các biến đổi hình học và nhiễu nền.

Biểu đồ so sánh độ chính xác giữa các phương pháp nhận diện cho thấy mô hình túi từ kết hợp mạng neural vượt trội với mức tăng khoảng 15-20% so với phương pháp dựa trên đặc trưng màu sắc. Bảng kết quả thử nghiệm trên các bộ dữ liệu khác nhau cũng minh chứng cho tính ổn định và khả năng mở rộng của thuật toán.

Nguyên nhân thành công là do mô hình túi từ cho phép biểu diễn vật thể dưới dạng vector đặc trưng có kích thước cố định, không phụ thuộc số lượng đặc trưng trích xuất, đồng thời mạng neural có khả năng học và phân lớp hiệu quả các vector này. Tuy nhiên, phương pháp vẫn còn hạn chế khi đối mặt với các ảnh có nhiễu nặng hoặc phông nền quá phức tạp, cần nghiên cứu thêm các kỹ thuật tiền xử lý và lọc nhiễu.

Đề xuất và khuyến nghị

1. Tối ưu hóa thuật toán trích xuất đặc trưng: Nâng cao hiệu quả trích xuất SURF bằng cách áp dụng các kỹ thuật lọc điểm đặc trưng không cần thiết, nhằm giảm thời gian xử lý và tăng độ chính xác.

2. Mở rộng bộ từ điển đặc trưng: Tăng số lượng cụm trong phân cụm k-means để cải thiện khả năng phân biệt các lớp cử chỉ phức tạp hơn, đồng thời áp dụng các thuật toán phân cụm nâng cao như DBSCAN để tăng tính linh hoạt.

3. Cải tiến mạng neural: Thử nghiệm các kiến trúc mạng sâu hơn hoặc mạng convolutional để nâng cao khả năng học đặc trưng phức tạp, đồng thời áp dụng kỹ thuật điều chỉnh tham số tự động để tối ưu hóa quá trình huấn luyện.

4. Phát triển ứng dụng thực tế: Triển khai thuật toán trên các thiết bị di động hoặc hệ thống nhúng để phục vụ các ứng dụng tương tác người - máy trong môi trường thực tế, với mục tiêu đạt tốc độ xử lý trên 30 khung hình mỗi giây trong vòng 1 năm tới.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành Khoa học máy tính: Có thể áp dụng các phương pháp trích xuất đặc trưng và mạng neural trong các bài toán nhận diện mẫu và xử lý ảnh.

2. Chuyên gia phát triển ứng dụng HCI: Sử dụng kết quả nghiên cứu để xây dựng các hệ thống tương tác người - máy không cần thiết bị đeo, nâng cao trải nghiệm người dùng.

3. Doanh nghiệp công nghệ: Áp dụng thuật toán nhận diện cử chỉ tay trong các sản phẩm như điều khiển thiết bị thông minh, robot, hoặc trò chơi điện tử.

4. Cơ quan nghiên cứu và giáo dục: Tham khảo để phát triển các đề tài nghiên cứu tiếp theo về nhận diện mẫu, học máy và thị giác máy tính.

Câu hỏi thường gặp

1. Phương pháp mô hình túi từ là gì và tại sao được sử dụng trong nhận diện cử chỉ tay?
   Mô hình túi từ biểu diễn ảnh dưới dạng vector tần số xuất hiện của các đặc trưng cục bộ, giúp chuẩn hóa dữ liệu đầu vào cho mạng neural. Phương pháp này bền vững với biến đổi hình học và giảm chiều dữ liệu, phù hợp cho nhận diện cử chỉ tay đa dạng.

2. Tại sao chọn đặc trưng SURF thay vì SIFT hay các phương pháp khác?
   SURF có tốc độ trích xuất nhanh hơn SIFT, đặc biệt hiệu quả với ảnh kích thước nhỏ, đồng thời vẫn giữ được tính bất biến với xoay và phóng đại, phù hợp với yêu cầu xử lý thời gian thực.

3. Mạng neural nhân tạo được huấn luyện như thế nào trong nghiên cứu này?
   Mạng neural nhiều lớp được huấn luyện bằng giải thuật lan truyền ngược (backpropagation) với dữ liệu đầu vào là vector BOW. Quá trình huấn luyện tối ưu trọng số nhằm giảm sai số phân lớp trên tập huấn luyện.

4. Độ chính xác của phương pháp này so với các phương pháp truyền thống như thế nào?
   Phương pháp đạt độ chính xác trên 90%, cao hơn khoảng 15-20% so với các phương pháp dựa trên đặc trưng màu sắc hoặc đường biên, đồng thời có khả năng xử lý trong thời gian thực.

5. Phương pháp có thể áp dụng trong môi trường có nhiễu mạnh không?
   Phương pháp hoạt động tốt với nhiễu nhẹ và nền đa dạng, nhưng hiệu quả giảm khi nhiễu quá nặng. Cần kết hợp thêm các kỹ thuật tiền xử lý và lọc nhiễu để cải thiện khả năng nhận diện trong môi trường phức tạp.

Kết luận

• Đã xây dựng thành công phương pháp nhận diện mẫu sử dụng mô hình túi từ kết hợp mạng neural nhân tạo cho bài toán nhận diện cử chỉ tay trong thời gian thực.
• Thuật toán trích xuất đặc trưng SURF và phân cụm k-means tạo ra vector đặc trưng BOW có kích thước cố định, phù hợp làm đầu vào cho mạng neural.
• Kết quả thử nghiệm trên nhiều bộ dữ liệu cho thấy độ chính xác trên 90% và tốc độ xử lý đáp ứng yêu cầu ứng dụng thực tế.
• Phương pháp có tính bền vững trước các biến đổi hình học và nhiễu nền nhẹ, vượt trội hơn các phương pháp truyền thống.
• Đề xuất các hướng phát triển tiếp theo bao gồm tối ưu hóa thuật toán, mở rộng bộ từ điển, cải tiến mạng neural và triển khai ứng dụng thực tế trong vòng 1-2 năm tới.

Luận văn mở ra cơ hội ứng dụng rộng rãi trong lĩnh vực tương tác người - máy, đặc biệt trong các hệ thống điều khiển không tiếp xúc. Để tiếp tục phát triển, các nhà nghiên cứu và chuyên gia công nghệ được khuyến khích áp dụng và mở rộng các kết quả này trong các dự án thực tế.