PHẦN MỞ ĐẦU 1. Tính cấp thiết của luận văn Những năm gần đây, sự phát triển của khoa học và công nghệ đặc biệt là các thiết bị chụp ảnh và video cũng nhƣ của mạng Internet dẫn đến sự bùng nổ thông tin đa phƣơng tiện. Lƣợng lớn thông tin hình ảnh, video với sự đa dạng chủ đề đƣợc lƣu trữ chia sẻ và truy cập trên mạng. Điều này cũng đồng nghĩa với yêu cầu bức thiết trong vấn đề lƣu trữ, quản lí và truy cập dữ liệu.
Gán nhãn ảnh tự động đã và đang trở thành chủ đề nóng và thách thức lớn trong xử lý thông tin và khoa học máy tính. Mục tiêu chính của kỹ thuật này là thiết lập quá trình mà hệ thống máy tính tự động gán cho mỗi đối tƣợng trong ảnh một vài nhãn thông tin, căn cứ vào đó ta có thể dễ dàng tìm kiếm, phân loại và truy xuất ảnh. Hiện nay, các kỹ thuật đƣợc sử dụng để phân loại và truy xuất ảnh thƣờng sử dụng thông tin văn bản (text) từ nguồn thông tin phụ trợ (metadata) của dữ liệu ví dụ nhƣ nhãn, chú giải (tag), bình luận (comment) của ngƣời dùng (ví dụ nhƣ Google tìm kiếm văn bản). Tuy nhiên không phải lúc nào các thông tin này cũng có sẵn, cũng chính xác, đặc biệt lại phụ thuộc lớn vào quan điểm của ngƣời dùng cũng nhƣ ngôn ngữ mà ngƣời dùng sử dụng.
Hơn nữa việc mô tả bức ảnh bằng một vài từ khóa không phải công việc dễ dàng. Việc gán nhãn ảnh bằng tay còn thực sự khó khăn tốn kém và trở lên bất khả thi khi số lƣợng ảnh tăng lên rất nhanh chóng nhƣ hiện nay. Xu hƣớng hiện tại là gán nhãn ảnh một cách tự động sử dụng trực tiếp nội dung ảnh (image content), gán các nhãn cho ảnh đó, qua đó giúp dễ dàng quản lí ảnh cũng nhƣ tìm kiếm ảnh. Vấn đề này vẫn luôn nhận đƣợc sự quan tâm của các nhà nghiên cứu với hi vọng có thể cải thiện hơn độ chính xác, tốc độ xử lý, sự đa dạng và độ khó của các tập ảnh.
Xu hƣớng chung của các nghiên cứu này là tìm ra các đặc trƣng tốt hơn trong việc đặc tả ảnh, qua đó cải thiện đƣợc độ chính xác trong quá trình nhận dạng và gán nhãn ảnh. Một xu hƣớng nữa cũng đƣợc quan tâm là sử dụng khai thác triệt để tất cả các thông tin có thể có từ ảnh LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 2 (metadata, ví dụ nhƣ thời gian chụp, địa điểm chụp, tham số của máy ảnh, chú giải, bình luận của ngƣời dùng…) để cải tiến giải thuật. Trong đề tài này tôi cũng đi theo hai xu hƣớng trên, khai thác việc sử dụng đồng thời nhiều loại đặc trƣng trong mô tả ảnh và thông tin phụ trợ có đƣợc từ internet gắn liền với ảnh đó để tăng độ chính xác trong quá trình nhận dạng và gán nhãn hình ảnh. Mục tiêu của luận văn Mục tiêu của luận văn là : (i) Nghiên cứu việc sử dụng kết hợp nhiều loại đặc trƣng ảnh (low level image features) để mô tả và biểu diễn ảnh.
(ii) Sử dụng kết hợp các nguồn thông tin phụ trợ nhƣ thông tin văn bản (nhãn, chú giải…), nhằm cải thiện đƣợc chất lƣợng/ hiệu quả của quá trình gán nhãn ảnh. Ngoài ra, chúng tôi cũng đƣa ra các khảo sát đánh giá hiệu quả sử dụng kết hợp nhiều thông tin, độ phức tạp cũng nhƣ mức độ cải tiến của thuật toán mới. Các đóng góp của luận văn Trong luận văn này, tôi nghiên cứu đề xuất phƣơng pháp phân loại và gán nhãn tự động cho ảnh sử dụng các vector đặc trƣng để mô tả ảnh. Ý tƣởng quan trọng là gán nhãn ảnh bằng cách so sánh ảnh cần gán nhãn với các ảnh đã biết nhãn trong tập huấn luyện.
Việc so sánh này không thể thực hiện trực tiếp trên hai ảnh bởi vì hình ảnh có thể khác nhau về kích thƣớc, vị trí đối tƣợng trong ảnh, độ sáng tối, góc chụp vv … Mỗi loại đặc trƣng đều có ƣu điểm, nhƣợc điểm riêng nên tôi tiến hành thực nghiệm với từng loại đặc trƣng riêng để đánh giá đặc trƣng nào cho kết quả tốt nhất, đặc trƣng nào cho kết quả xấu nhất và kết hợp giữa các đặc trƣng để biết đƣợc mức độ cải tiến so với việc chỉ sử dụng từng đặc trƣng riêng biệt. Ngoài ra chúng tôi còn tiến hành việc phân tích và sử dụng thông tin phụ trợ kết hợp với các đặc trƣng trên để giảm bớt thời gian và tăng độ chính xác của việc gán nhãn tự động cho ảnh. LUAN VAN CHAT LUONG download : add luanvanchat@agmail. Bố cục của luận văn Luận văn đƣợc chia làm ba chƣơng : Chƣơng 1: Tổng quan về phƣơng pháp gán nhãn tự động cho ảnh.
Chƣơng này đƣa ra hƣớng tiếp cận của bài toán phân loại và gán nhãn. Trình bày về sáu loại đặc trƣng (Low- level features) dùng để biểu diễn ảnh nhƣ: Lƣợc đồ màu CH (64-D color histogram); Đặc trƣng tƣơng quan màu CORR (144-D color auto-correlogram); Lƣợc đồ hệ số góc EDH (73-D edge direction histogram); Cấu trúc sóng con WT (128-D wavelet texture); Mô men màu CM55 (225-D block-wise color moments) và phƣơng pháp túi từ điển Bag of Word BOW (500-D bag of visual words) cũng nhƣ nguồn thông tin phụ trợ đƣợc sử dụng cho việc gán nhãn. Đồng thời cũng trình bày về hai phƣơng pháp sử dụng để phân loại và gán nhãn đó là KNN và SVM. Và giới thiệu tham số dùng để đánh giá cho kết quả của thuật toán là Recall.
Chƣơng 2: Thuật toán gán nhãn ảnh chỉ sử dụng các vector đặc trƣng. Trong chƣơng này sẽ trình bày về tập dữ liệu của NUS-WIDE sử dụng trong phần thực nghiệm gồm có tập ảnh huấn luyện (training), tập ảnh kiểm thử (testing), 81 nhãn ( concept) và 1000 chú giải (tags) lấy từ thông tin phụ trợ của ảnh và đƣa ra các bƣớc tiến hành thực nghiệm và kết quả của thuật toán khi sử dụng các đặc trƣng riêng biệt và kết hợp các đặc trƣng với nhau. Chƣơng 3: Thuật toán sử dụng kết hợp thông tin phụ trợ. Chƣơng này thực hiện việc kết hợp giữa các đặc trƣng và các chú giải để cải thiện độ phức tạp và đƣa ra kết quả cải tiến của thuật toán.
Cuối cùng, phần kết luận tóm lƣợc các kết quả đã đạt đƣợc và đề xuất các nghiên cứu trong tƣơng lai. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 4 Chƣơng 1. TỔNG QUAN VỀ PHƢƠNG PHÁP GÁN NHÃN TỰ ĐỘNG CHO ẢNH 1. Tổng quan Gán nhãn ảnh tự động có thể đƣợc định nghĩa là quá trình mô hình hóa công việc của ngƣời thực hiện gán nhãn bằng tay khi gán các từ khóa cho hình ảnh dựa trên các thuộc tính của ảnh.
Đến nay phần lớn các hệ thống gán nhãn ảnh đƣợc dựa trên sự kết hợp của việc phân tích hình ảnh và các kỹ thuật học máy. Để nâng cao tính chính xác của gán nhãn, những nghiên cứu tập trung đã đƣợc chuyển từ sự thiết kế phƣc tạp của thuật toán khai thác các đặc trƣng đến giảm khoảng cách ngữ nghĩa giữa các đặc trƣng và sự phong phú về ngữ nghĩa của con ngƣời. Theo truyền thống có hai xu hƣớng chính trong quá trình tìm kiếm hình ảnh. Xu hƣớng đầu tiên đƣợc gọi là truy xuất hình ảnh dựa trên nội dung (CBIR: Content based image retrieval) cũng đƣợc biết đến nhƣ là truy vấn theo nội dung hình ảnh (QBIC: Query by image content) hoặc là truy xuất thông tin hình ảnh dựa trên nội dung (CBVIR: Content based visual information retrieval) có nghĩa là việc tìm kiếm sẽ phân tích nội dung thực tế của hình ảnh bằng cách sử dụng các kỹ thuật phân tích hình ảnh.
1 Một hệ thống CBIR điển hình [Manal and Nordin 2009]. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 5 Gán nhãn ảnh tự động cũng đƣợc biết đến bao gồm một số kỹ thuật nhằm tìm ra mối tƣơng quan giữa các đặc trƣng mức thấp và ngữ nghĩa mức cao. Khó khăn chính trong việc gán nhãn ảnh tự động là tạo ra một mô hình có thể gán các từ khóa chính cho ảnh để có thể mô tả thành công nội dung của ảnh đó. Điểm khởi đầu cho hầu hết các thuật toán này là một tập ảnh huấn luyện đã đƣợc gán nhãn bằng tay.
Thông tin phụ trợ bao gồm các từ khóa đơn giản mô tả lại nội dung của ảnh. Kỹ thuật phân tích hình ảnh đƣợc sử dụng để trích xuất các đặc trƣng của ảnh nhƣ màu sắc, kết cấu, hình khối để tạo mô hình phân bố một thuật ngữ có mặt trong ảnh. Các đặc trƣng có thể thu đƣợc từ toàn bộ hình ảnh (phƣơng pháp tiếp cận toàn cục), hoặc từ các khối màu đƣợc phân chia của ảnh (phƣơng pháp tiếp cận cục bộ). Bƣớc tiếp theo là trích xuất thông tin đặc trƣng từ hình ảnh chƣa biết để so sánh nó với tất cả tập ảnh huấn luyện đã đƣợc tạo ra bằng tay.
Kết quả của so sánh này mang lại một giá trị xác suất của mỗi từ khóa đƣợc gán trong ảnh. Sơ đồ khối của khung gán nhãn ảnh tự động đƣợc thể hiện ở Hình 1. 2 Sơ đồ khối của một khung công việc gán nhãn ảnh tự động. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 6 Có ba phƣơng pháp gán nhãn cho ảnh: Bằng tay, tự động và bán tự động [Wenyin et al.
Gán nhãn bằng tay cần ngƣời thực hiện nhập một vài từ khóa miêu tả khi thực hiện gửi ảnh. Ngƣợc lại, gán nhãn tự động phát hiện và gán từ có ngữ nghĩa với nội dung của ảnh một cách tự động, không cần con ngƣời can thiệp. Với gán nhãn bán tự động, nó cần tƣơng tác của ngƣời thực hiện để cung cấp truy vấn ban đầu và phản hồi cho gán nhãn ảnh trong khi trình duyệt.2 đƣa ra so sánh ba kỹ thuật gán nhãn trên về kỹ thuật, ƣu điểm và nhƣợc điểm riêng của chúng. 1 So sánh các kỹ thuật gán nhãn.
Kỹ thuật gán Bằng tay Bán tự động Tự động nhãn Tƣơng tác của Nhập một vài từ Cung cấp truy vấn Không cần tƣơng con ngƣời ban khóa miêu tả ban đầu ngay từ tác đầu khi bắt đầu Nhiệm vụ của Cung cấp đĩa hoặc Phân tích truy vấn Sử dụng công máy cơ sở dữ liệu để của con ngƣời và nghệ nhận dạng lƣu trữ ảnh đƣợc trích xuất thông tự động phát hiện gán nhãn tin ngữ nghĩa để và gán từ có ngữ thực hiện gán nghĩa cho ảnh nhãn Nhiệm vụ của Thực hiện đầy đủ Thực hiện một số Xác nhận kết quả con ngƣời thông tin ngữ gán nhãn và làm đầu ra và tính độ nghĩa cho các mục việc với đầu ra chính xác của đích tìm kiếm của máy việc gán nhãn tự động Bảng 1.