Nghiên Cứu Mô Hình Học Từ Điển Thưa Ứng Dụng Trong Nhận Dạng Thóc Giống

Luận văn thạc sĩ nghiên cứu nghiên cứu mô hình học từ điển thưa ứng dụng trong nhận dạng thóc giống, đánh giá hiện trạng, phân tích vấn đề, đề xuất biện pháp hoàn thiện trong lĩnh

• Tác giả: Phạm Thị Lan Anh
• Người hướng dẫn: PGS. Nguyễn Thị Thủy
• Trường học: Đại học Quốc gia Hà Nội
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Nghiên Cứu Mô Hình Học Từ Điển Thưa Trong Nhận Dạng Thóc Giống
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2018
• Địa điểm: Hà Nội

Tóm tắt

I. Tổng Quan Về Nghiên Cứu Mô Hình Học Từ Điển Thưa

Nghiên cứu mô hình học từ điển thưa là một hướng tiếp cận mạnh mẽ trong nhiều lĩnh vực, đặc biệt là xử lý tín hiệu, xử lý hình ảnh, học máy và thị giác máy tính. Biểu diễn thưa cho thấy tiềm năng lớn trong các bài toán về ảnh như khử nhiễu, nén, khôi phục, phân loại và phân vùng. Sự kết hợp giữa biểu diễn thưa và học từ điển từ tín hiệu mẫu ban đầu đã tạo ra một mô hình mạnh mẽ để biểu diễn tín hiệu. Ban đầu, mô hình tập trung vào việc biểu diễn tín hiệu một cách thưa thớt nhất nhưng vẫn đảm bảo khả năng khôi phục tốt nhất. Trong những năm gần đây, các nhà nghiên cứu đã cải tiến mô hình cổ điển thành những mô hình cạnh tranh trong việc giải quyết các bài toán phân loại/nhận dạng, đặc biệt là phân loại/nhận dạng ảnh số. Luận văn này sẽ trình bày về lý thuyết biểu diễn thưa và các phương pháp cơ bản để xây dựng mô hình học từ điển thưa, đồng thời trình bày hai hướng phát triển chính: mô hình đảm bảo tính thưa và mô hình không cần đảm bảo tính thưa.

1.1. Giới Thiệu Về Biểu Diễn Thưa Sparse Representation

Biểu diễn thưa là một phương pháp đại diện tiêu biểu cho phương pháp biểu diễn tuyến tính và đã được chứng minh là giải pháp mạnh mẽ cho nhiều lĩnh vực ứng dụng. Biểu diễn thưa cho thấy tiềm năng phát triển cho nhiều bài toán về ảnh như khử nhiễu ảnh, nén ảnh, khôi phục ảnh, phân loại hình ảnh, phân vùng hình ảnh. Sự kết hợp giữa phương pháp biểu diễn thưa dựa trên một bộ từ điển (Dictionary learning) được học từ chính tín hiệu mẫu ban đầu đã giúp cho mô hình học từ điển thưa trở thành một trong những mô hình mạnh để biểu diễn tín hiệu được ưa chuộng từ khi bắt đầu hình thành cho đến ngày nay. Ban đầu, mô hình chỉ quan tâm đến lớp bài toán biểu diễn lại tín hiệu một cách thưa thớt nhất nhưng cũng phải đảm bảo khả năng khôi phục là tốt nhất.

1.2. Ứng Dụng Của Học Từ Điển Thưa Trong Nhận Dạng Thóc Giống

Việc áp dụng các mô hình học từ điển trên bộ dữ liệu ký tự biển số xe (được trình bày trong phần Phụ lục của luận văn này) nhằm mục đích đánh giá sơ bộ khả năng ứng dụng của các mô hình với bài toán nhận dạng ảnh để làm tiền đề cho bài toán nhận dạng thóc giống. Ngoài ra, việc áp dụng các mô hình trên hai bộ dữ liệu khác nhau với những đặc điểm, khó khăn khác nhau sẽ giúp tôi có sự đánh giá khách quan hơn đối với mô hình học từ điển đảm bảo thưa và không đảm bảo thưa. Từ đó đưa ra những nhận xét về hai dạng mô hình học từ điển cũng như đề xuất hướng ứng dụng của mô hình học từ điển thưa.

II. Thách Thức Trong Nhận Dạng Thóc Giống Bằng Ảnh Số

Việc nhận dạng thóc giống bằng ảnh số đối mặt với nhiều thách thức. Ảnh thóc giống có thể bị ảnh hưởng bởi nhiễu, độ phân giải thấp, và sự biến đổi về hình dạng, kích thước do điều kiện môi trường. Các phương pháp truyền thống dựa trên các đặc trưng hình thái có thể không đủ mạnh để phân biệt các giống thóc có đặc điểm tương đồng. Do đó, cần có các phương pháp trích xuất đặc trưng mạnh mẽ và khả năng thích nghi cao để giải quyết vấn đề này. Mô hình học từ điển thưa có thể là một giải pháp tiềm năng, nhưng cần được điều chỉnh và tối ưu hóa để phù hợp với đặc thù của bài toán nhận dạng thóc giống.

2.1. Các Yếu Tố Ảnh Hưởng Đến Chất Lượng Ảnh Thóc Giống

Ảnh thóc giống có thể bị ảnh hưởng bởi nhiễu, độ phân giải thấp, và sự biến đổi về hình dạng, kích thước do điều kiện môi trường. Các yếu tố này gây khó khăn cho việc trích xuất đặc trưng và phân loại thóc giống một cách chính xác. Cần có các phương pháp tiền xử lý ảnh hiệu quả để giảm thiểu ảnh hưởng của các yếu tố này.

2.2. Hạn Chế Của Phương Pháp Nhận Dạng Thóc Giống Truyền Thống

Các phương pháp truyền thống dựa trên các đặc điểm hình thái thóc giống có thể không đủ mạnh để phân biệt các giống thóc có đặc điểm tương đồng. Các đặc điểm này có thể bị biến đổi do điều kiện môi trường, gây khó khăn cho việc nhận dạng chính xác. Cần có các phương pháp trích xuất đặc trưng mạnh mẽ và khả năng thích nghi cao để giải quyết vấn đề này.

2.3. Vai Trò Của Thị Giác Máy Tính Trong Nhận Dạng Thóc Giống

Thị giác máy tính đóng vai trò quan trọng trong việc tự động hóa quá trình nhận dạng thóc giống. Các thuật toán thị giác máy tính có thể được sử dụng để trích xuất đặc trưng từ ảnh thóc giống và phân loại chúng một cách chính xác. Điều này giúp giảm thiểu sự can thiệp của con người và tăng tốc độ nhận dạng.

III. Phương Pháp Học Từ Điển Thưa Cho Nhận Dạng Thóc Giống

Phương pháp học từ điển thưa là một giải pháp tiềm năng cho bài toán nhận dạng thóc giống. Học từ điển thưa cho phép trích xuất các đặc trưng quan trọng từ ảnh thóc giống và biểu diễn chúng một cách hiệu quả. Mô hình này có khả năng thích nghi cao với sự biến đổi của ảnh và có thể đạt được độ chính xác cao trong phân loại thóc giống. Luận văn này sẽ trình bày chi tiết về cách xây dựng và huấn luyện mô hình học từ điển thưa cho bài toán nhận dạng thóc giống.

3.1. Xây Dựng Từ Điển Thưa Từ Dữ Liệu Ảnh Thóc Giống

Quá trình xây dựng từ điển thưa bắt đầu bằng việc thu thập một tập dữ liệu lớn các ảnh thóc giống. Sau đó, các thuật toán học từ điển được sử dụng để trích xuất các đặc trưng quan trọng từ ảnh và tạo ra một từ điển các đặc trưng này. Từ điển này sẽ được sử dụng để biểu diễn các ảnh thóc giống mới.

3.2. Thuật Toán K SVD Trong Học Từ Điển Thưa

Giải thuật K-SVD được sử dụng trong quá trình xác định mã thưa và cập nhật từ điển. Giải thuật K-SVD là một phương pháp hiệu quả để học từ điển thưa. Nó bao gồm hai bước chính: mã hóa thưa và cập nhật từ điển. Trong bước mã hóa thưa, các ảnh thóc giống được biểu diễn bằng các tổ hợp tuyến tính của các từ trong từ điển. Trong bước cập nhật từ điển, các từ trong từ điển được cập nhật để phù hợp hơn với dữ liệu ảnh thóc giống.

3.3. Tối Ưu Hóa Từ Điển Để Nâng Cao Độ Chính Xác

Việc tối ưu hóa từ điển là rất quan trọng để nâng cao độ chính xác của mô hình học từ điển thưa. Các phương pháp tối ưu hóa có thể được sử dụng để loại bỏ các từ không quan trọng trong từ điển và cải thiện khả năng biểu diễn của từ điển.

IV. Ứng Dụng Thực Tế Mô Hình Học Từ Điển Thưa

Mô hình học từ điển thưa được ứng dụng để nhận dạng thóc giống trên bộ dữ liệu ảnh thóc giống được thu nhận từ thực tế Việt Nam. Việc áp dụng các mô hình học từ điển trên bộ dữ liệu ký tự biển số xe (được trình bày trong phần Phụ lục của luận văn này) nhằm mục đích đánh giá sơ bộ khả năng ứng dụng của các mô hình với bài toán nhận dạng ảnh để làm tiền đề cho bài toán nhận dạng thóc giống. Ngoài ra, việc áp dụng các mô hình trên hai bộ dữ liệu khác nhau với những đặc điểm, khó khăn khác nhau sẽ giúp tôi có sự đánh giá khách quan hơn đối với mô hình học từ điển đảm bảo thưa và không đảm bảo thưa.

4.1. Cài Đặt Mô Hình Học Từ Điển Với Dữ Liệu Thóc Giống

Quá trình cài đặt mô hình học từ điển bao gồm việc chuẩn bị dữ liệu, lựa chọn các tham số phù hợp, và huấn luyện mô hình. Dữ liệu ảnh thóc giống cần được tiền xử lý để giảm thiểu nhiễu và chuẩn hóa kích thước. Các tham số của mô hình, chẳng hạn như kích thước từ điển và ngưỡng thưa, cần được lựa chọn cẩn thận để đạt được hiệu suất tốt nhất.

4.2. Đánh Giá Hiệu Năng Mô Hình Trên Dữ Liệu Thực Tế

Hiệu năng của mô hình học từ điển được đánh giá bằng cách sử dụng các chỉ số như độ chính xác, độ nhạy, và độ đặc hiệu. Các chỉ số này cho biết khả năng của mô hình trong việc phân loại chính xác các giống thóc khác nhau. Kết quả thực nghiệm cho thấy mô hình học từ điển có thể đạt được độ chính xác cao trong nhận dạng thóc giống.

4.3. So Sánh Với Các Phương Pháp Nhận Dạng Thóc Giống Khác

Hiệu năng của mô hình học từ điển được so sánh với các phương pháp nhận dạng thóc giống khác, chẳng hạn như các phương pháp dựa trên các đặc điểm hình thái. Kết quả so sánh cho thấy mô hình học từ điển có thể vượt trội hơn các phương pháp truyền thống trong một số trường hợp.

V. Kết Luận Và Hướng Phát Triển Của Học Từ Điển Thưa

Nghiên cứu này đã trình bày về ứng dụng của mô hình học từ điển thưa trong bài toán nhận dạng thóc giống. Kết quả thực nghiệm cho thấy mô hình học từ điển thưa là một giải pháp tiềm năng cho bài toán này. Trong tương lai, có thể tiếp tục nghiên cứu và phát triển mô hình học từ điển thưa để nâng cao độ chính xác và khả năng thích nghi của mô hình. Ngoài ra, có thể mở rộng ứng dụng của mô hình học từ điển thưa cho các bài toán khác trong lĩnh vực nông nghiệp.

5.1. Tóm Tắt Kết Quả Nghiên Cứu Về Nhận Dạng Thóc Giống

Nghiên cứu đã chứng minh rằng mô hình học từ điển thưa có thể được sử dụng để nhận dạng thóc giống một cách chính xác. Mô hình này có khả năng thích nghi cao với sự biến đổi của ảnh và có thể đạt được độ chính xác cao trong phân loại thóc giống.

5.2. Hướng Phát Triển Mô Hình Học Từ Điển Thưa Trong Tương Lai

Trong tương lai, có thể tiếp tục nghiên cứu và phát triển mô hình học từ điển thưa để nâng cao độ chính xác và khả năng thích nghi của mô hình. Có thể sử dụng các thuật toán học sâu để trích xuất các đặc trưng phức tạp hơn từ ảnh thóc giống. Ngoài ra, có thể kết hợp mô hình học từ điển thưa với các phương pháp học máy khác để tạo ra một hệ thống nhận dạng thóc giống mạnh mẽ hơn.

5.3. Ứng Dụng Học Từ Điển Thưa Trong Các Lĩnh Vực Nông Nghiệp

Có thể mở rộng ứng dụng của mô hình học từ điển thưa cho các bài toán khác trong lĩnh vực nông nghiệp, chẳng hạn như nhận dạng bệnh cây, phân loại đất, và dự đoán năng suất cây trồng. Mô hình học từ điển thưa có thể giúp cải thiện hiệu quả sản xuất và quản lý trong nông nghiệp.

Trích đoạn nội dung tài liệu

Chương 1 trình bày về mô hình học từ điển và mã thưa với mô tả chi tiết về cách xây dựng mô hình học từ điển và tìm biểu diễn thưa tương ứng. Đồng thời, tôi cũng đề cập tới một xu hướng phát triển mới của mô hình học từ điển áp dụng cho bài toán phân lớp/nhận dạng đó là xây dựng mô hình học từ điển không cần đảm bảo tính thưa.  Chương 2 là tổng quan về bài toán nhận dạng mẫu ảnh. Trong chương này, tôi sẽ trình bày một số nghiên cứu có liên quan đến lĩnh vực của luận án bao gồm lý thuyết về thị giác máy tính, bài toán nhận dạng đối tượng nói chung và nhận dạng ảnh nói riêng cũng như nêu lên một số ứng dụng của nhận dạng mẫu ảnh.

 Chương 3 mô tả chi tiết quá trình thực nghiệm cài đặt các mô hình học từ điển với bộ dữ liệu ảnh thóc giống và đưa ra kết quả tính toán cho thời gian chạy cũng như hiệu suất phân loại của từng mô hình. Qua đó đưa ra một số nhận xét đối với các mô hình.  Chương 4 trình bày kết luận và hướng phát triển trong tương lai.  Ngoài các chương chính, luận văn còn trình bày thêm phần Phụ lục: mô tả chi tiết quá trình thực nghiệm cài đặt các mô hình học từ điển trên bộ dữ liệu ảnh ký tự biển số xe để làm cơ sở lý luận cho việc so sánh tính hiệu quả của hai mô hình tiêu biểu cho hai hướng xây dựng mô hình học từ điển.

MÔ HÌNH HỌC TỪ ĐIỂN VÀ MÃ THƯA Con người chúng ta ghi nhớ về một hiện tượng, sự vật; cách chúng ta phân biệt các hiện tượng, sự vật khác nhau không hề đầy đủ các tín hiệu về hiện tượng, sự vật đó mà chỉ qua một vài tín hiệu nhất định. Chúng ta phát hiện ra một bản nhạc có thể chỉ bằng vài nốt nhạc đầu tiên hay nhận ra khuôn mặt của ai đó sau nhiều năm không gặp chỉ thông qua vị trí nốt ruồi gần mắt. Đây chính là tiền đề cho một phương pháp biểu diễn tín hiệu được gọi là biểu diễn thưa. Ban đầu mục đích cho việc biểu diễn thưa chỉ dừng lại ở việc biểu diễn tín hiệu một cách cô đọng, giảm không gian lưu trữ tín hiệu mà không làm mất mát thông tin có giá trị.

Trong những năm gần đây, biểu diễn thưa cho một tín hiệu đầu vào đã được đông đảo các nhà nghiên cứu tham gia tìm hiểu và phát triển thêm những tính chất phù hợp hơn với các bài toán thực tế đa dạng. Với ý tưởng thực hiện biểu diễn thưa cho tín hiệu ban đầu dựa trên bộ các thành phần (atoms) được tạo nên từ chính tập tín hiệu đã có sẵn, mô hình học từ điển thưa trở thành một mô hình mạnh trong việc biểu diễn tín hiệu và mở rộng ra cho việc loại bỏ nhiễu, nén, phân loại tín hiệu [4,43]. Bởi thế, mô hình học từ điển thưa đáng được quan tâm và phát triển cũng như ứng dụng vào nhiều hơn nữa các bài toán thực tế đầy thách thức. Chương này của luận văn sẽ trình bày cụ thể về mô hình học từ điển cổ điển cũng như cách để xác định từ điển và hệ số biểu diễn thưa (mã thưa).

Ngoài ra, luận văn cũng trình bày một hướng phát triển khác của mô hình học từ điển ứng dụng cho phân lớp là mô hình học từ điển không cần đảm bảo tính thưa (tức yếu tố ràng buộc đối với hệ số biểu diễn thưa đã không còn được chú trọng). Biểu diễn thưa và học từ điển 1. Biểu diễn thưa Trong thế giới số, mọi tín hiệu đều được biểu diễn dưới dạng số và việc biểu diễn này có hiệu quả hay không sẽ ảnh hưởng đến các phép xử lý tiếp theo trong đó có truyền gửi và lưu trữ. Vì vậy, các nhà nghiên cứu luôn mong muốn việc biểu diễn tín hiệu trong thế giới số gần nhất có thể với tín hiệu thế giới thực nhưng có thể truyền đưa và lưu trữ ngắn gọn dẫn tới tín hiệu thường không được biễu diễn trùng khớp hoàn toàn mà sẽ được biểu diễn thông qua các đặc trưng đủ để phân biệt tín hiệu này với tín hiệu khác giúp quá 7 trình truyền đưa và lưu trữ bớt tốn kém cũng như tăng tốc độ của việc xử lý tín hiệu sau đó.

Ý tưởng này hình thành nên một phương pháp biểu diễn tuyến tính gọi là biểu diễn thưa. Về mặt nguồn gốc lý thuyết, biểu diễn thưa có liên quan đến lý thuyết cảm biến nén (Compressed Sensing – CS) [43]. Theo lý thuyết CS thì những tín hiệu thưa hoặc được nén thì tín hiệu ban đầu có thể được khôi phục bằng cách triển khai một vài giá trị đo được trong khi số lượng những giá trị này ít hơn nhiều so với cách lấy mẫu của Shannon (Shannon’sampling theorem - SST) và luật lấy mẫu Nyquist (Nyquist sampling law - NSL). Các thành tố cơ bản trong lý thuyết CS bao gồm biểu diễn thưa, mã hóa và thuật toán khôi phục.

Mục đích của biểu diễn thưa là đưa không gian biểu diễn tín hiệu ban đầu sang không gian nhiều chiều hơn giúp những thành phần đặc trưng của tín hiệu “nổi lên” rõ ràng hơn so với “bề mặt”, sau đó tín hiệu sẽ được “ghi nhớ” thông qua những thành phần đặc trưng này thay vì toàn bộ các thành phần như lúc ban đầu để đưa vào các quá trình xử lý tiếp theo. Mỗi ảnh số là một ảnh tự nhiên được số hóa dưới dạng ma trận số. Với ảnh màu ta sẽ có 3 ma trận số tương ứng với các kênh màu tùy thuộc vào hệ màu biểu diễn khác nhau và thông thường các ma trận biểu diễn này là ma trận “dày” với hầu hết các giá trị trong đó khác không [1].1 biểu diễn một mẫu ảnh đa mức xám kích thước 14x14. Mẫu ảnh đa mức xám và biểu diễn dày Ta hoàn toàn có thể biểu diễn mẫu ảnh này bằng một vec-tơ có 14x14 = 156 chiều, tuy nhiên cách biểu diễn này sẽ dễ bị tác động bởi nhiễu và “cồng kềnh” khi phải truyền gửi và lưu trữ.

Khi áp dụng biểu diễn thưa vào, mặc dù sẽ đẩy số chiều vecto biểu diễn cho ảnh lên cao hơn nhưng số lượng giá trị thực tế cần “ghi nhớ” lại rất ít do hầu hết thành phần của vec-tơ mang giá trị không. Vì vậy, việc biểu diễn hầu như chỉ liên quan đến một vài thành phần có giá trị khác không. Ví dụ mẫu ảnh có thể được biểu diễn bằng mô hình thưa như trong hình 1. Ảnh đa mức xám với biểu diễn thưa Khi đó, để lưu trữ và xử lý mẫu ảnh đã cho ta có thể sử dụng vec-tơ hệ số biểu diễn X sau: [a1,.

Trong ví dụ này, vec-tơ hệ số được dùng để đại diện cho mẫu ảnh chỉ có ba thành phần có giá trị khác không, số lượng thành phần có giá trị khác không này sẽ đóng vai trò là ngưỡng đảm bảo thưa cho mô hình biểu diễn. Ngưỡng đảm bảo thưa này không có quy định rõ ràng về giá trị mà chỉ được lựa chọn tùy thuộc vào bài toán và dữ liệu cụ thể của bài toán đó. Học từ điển Trong ngôn ngữ học, bộ từ điển được hình thành bao gồm tất cả các từ đơn, từ ghép, từ láy,. đủ để giúp diễn đạt mọi câu nói, viết trong ngữ pháp của ngôn ngữ đó.

Trong học máy cũng có một mô hình có tên gọi tương tự đó là học từ điển. Với góc nhìn của toán học, nếu coi từ điển là một ma trận vecto trong đó mỗi thành tố hay từ là một vecto thì từ điển trong mô hình học từ điển giống như một hệ sinh vecto mà tại đó các thành tố hay các từ không đảm bảo độc lập tuyến tính với nhau. Việc xác định từ điển sẽ được học từ chính những tín hiệu đầu vào và quá trình sinh là quá trình biểu diễn lại đối tượng bằng tập hợp các từ trong từ điển sao cho việc biểu diễn chính xác tín hiệu đầu vào hoặc gần “giống” tín hiệu đó. Mô hình học từ điển có thể có lịch sử hình thành từ những năm 1960 với sự ra đời của biến đổi nhanh Fourier (FFT).

Ban đầu từ điển được tạo ra bằng các biến đổi miền của tín hiệu như biến đổi bước sóng, biến đổi wavelet [39],… Tuy nhiên những biến đổi đó không thực sự đem lại hiệu quả, thay vào đó, phương pháp học từ điển biểu diễn thưa lại đem lại những kết quả thuyết phục hơn. Khi từ điển có số từ nhiều hơn số chiều (tính 9 over-complete) thì có thể dẫn tới một biểu diễn thưa và khi đó ta có mô hình học từ điển thưa. Mô hình học từ điển, với ý nghĩa ban đầu dùng để biểu diễn tín hiệu (representation) [25], được ứng dụng cho các bài toán khôi phục dữ liệu (reconstruction) [18] , khử nhiễu [8,20] và mã hóa thưa (sparse coding), gần đây được mở rộng cho bài toán phân lớp (classification) [9,21,29,30,34]. Mô hình học từ điển và mã thưa Cho 𝑦1 , 𝑦2 , ., 𝑦𝑛 ∈ 𝑅𝑝 là tất cả n mẫu tín hiệu và Y ∈ 𝑅𝑝∗𝑁 là ma trận tín hiệu đầu vào với N tín hiệu đầu vào mà mỗi tín hiệu 𝑦𝑖 ∈ 𝑅𝑝 tương ứng với một cột của ma trận Y.

Từ n mẫu tín hiệu xác định một ma trận D ∈ 𝑅𝑝∗𝐾 (p ≪ K) được gọi là từ điển cơ bản quá hoàn chỉnh (tính overcomplete) mà mỗi từ 𝑑𝑗 ∈ 𝑅𝑝. Một mẫu mới cần biểu diễn 𝑦𝑛𝑒𝑤 ∈ 𝑅𝑝. Nếu tất cả các mẫu đã biết được sử dụng để biểu diễn tuyến tính cho mẫu mới thì mẫu mới phải được biểu diễn bằng: 𝑦𝑛𝑒𝑤 = 𝑥𝑛𝑒𝑤_1 𝑑1 + 𝑥𝑛𝑒𝑤_2 𝑑2 + ⋯ + 𝑥𝑛𝑒𝑤𝑛 𝑑𝑛 (1) X ∈ 𝑅𝐾∗𝑁 là ma trận hệ số với 𝑥𝑖 là hệ số tương ứng biểu diễn tín hiệu 𝑦𝑖 và phương trình (1) có thể được viết lại bởi phương trình sau: 𝑦𝑛𝑒𝑤 = 𝐷 ∗ 𝑥𝑛𝑒𝑤 (2) Khi đó, mô hình bài toán học từ điển thưa được thể hiện qua biểu thức (3) sau: 2 (3) argmin‖𝑌 − 𝐷𝑋 ‖22 𝑠𝑎𝑜 𝑐ℎ𝑜 ‖𝑥𝑖 ‖0 ≤ T và ‖𝑑𝑗 ‖2 = 1 𝐷 Trong đó, ‖. ‖0 là chuẩn 𝑙0 nhận giá trị số lượng phần tử khác không của vec-tơ.

T là giá trị ngưỡng thưa được lựa chọn trước. Việc giải bài toán tối ưu (3) sẽ dẫn tới xác định được một phương pháp biểu diễn mới cho bộ tín hiệu đầu vào Y với không gian biểu diễn lớn hơn và có khả năng khôi phục lại tín hiệu Y thông qua từ điển D và hệ số biểu diễn X.