Tách nguồn mù và trích đặc trưng bằng giải thuật FastICA tại HCMUTE

Chuyên khảo phân tích Hcmute ứng dụng giải thuật fastica trong tách nguồn mù và trích đặc trưng, đánh giá các khía cạnh quan trọng, đề xuất hướng nghiên cứu tiếp theo.

• Tác giả: Ngô Quốc Cường
• Trường học: Trường Đại Học Sư Phạm Kỹ Thuật Thành Phố Hồ Chí Minh
• Chuyên ngành: Khoa Điện – Điện Tử
• Đề tài: Ứng Dụng Giải Thuật FastICA Trong Tách Nguồn Mù Và Trích Đặc Trưng
• Loại tài liệu: báo cáo tổng kết đề tài KH&CN cấp trường
• Năm xuất bản: 2013
• Địa điểm: Thành Phố Hồ Chí Minh

Mục lục chi tiết

• MỞ ĐẦU
• 1. CHƯƠNG 1: CƠ SỞ LÝ THUYẾT
• 1.1. Lý Thuyết Chung Về ICA
• 1.2. Giả thiết trong ICA
• 1.3. Ước lượng Trong ICA
• 1.4. Tiền Xử Lý trong ICA
• 1.5. ICA dùng phương pháp cực đại tính phi Gauss
• 1.6. Phương Pháp Tái Hiện Hình Ảnh Và Tín Hiệu Não Người
• 1.6.1. Phương pháp EEG
• 1.6.2. Phương pháp MRI
• 1.6.3. Phương pháp Quang Phổ Cận Hồng Ngoại fNIRS
• 2. CHƯƠNG 2: ỨNG DỤNG FAST-ICA TRONG TÁCH NGUỒN MÙ
• 2.1. Nguồn Tín Hiệu Sin và Răng Cưa
• 2.2. Nguồn Tín Hiệu Âm Thanh
• 3. ỨNG DỤNG FASTICA TRONG TRÍCH ĐẶC TRƯNG TÍN HIỆU NIRS
• 3.1. Các Vùng Chức Năng Não Người
• 3.2. Thiết Bị và Tín Hiệu fNIRS
• 3.3. Thiết Lập Thí Nghiệm Thu Dữ Liệu Cho Hoạt Động Gõ Tay
• 3.4. Tiền xử lý dữ liệu
• 3.5. Mô hình trích đặc trưng áp dụng fastICA
• 4. CHƯƠNG 4
• 4.1. Hướng phát triển
• DANH SÁCH HÌNH
• DANH SÁCH TỪ VIẾT TẮT
• THÔNG TIN KẾT QUẢ NGHIÊN CỨU

Tóm tắt

I. Giới thiệu về giải thuật FastICA và ứng dụng trong xử lý tín hiệu

Bài báo nghiên cứu ứng dụng giải thuật FastICA trong tách nguồn mù và trích đặc trưng, tập trung vào phân tích thành phần độc lập (ICA). FastICA là một thuật toán nhanh chóng và hiệu quả để thực hiện ICA, một kỹ thuật xử lý tín hiệu nhằm tách các nguồn tín hiệu độc lập từ hỗn hợp tín hiệu quan sát được. Giải thuật tách nguồn mù đóng vai trò quan trọng trong nhiều ứng dụng, đặc biệt là khi thông tin về nguồn tín hiệu không đầy đủ hoặc chưa biết trước. Ứng dụng FastICA trong xử lý tín hiệu mang lại nhiều lợi ích, bao gồm khả năng tách biệt các nguồn tín hiệu chồng chéo, cải thiện chất lượng tín hiệu và trích xuất thông tin hữu ích.

1.1 Cơ sở lý thuyết ICA

Mô hình ICA cơ bản giả định rằng tín hiệu quan sát được là sự kết hợp tuyến tính của các nguồn tín hiệu độc lập. Mục tiêu của ICA là ước lượng các nguồn tín hiệu độc lập này và ma trận hỗn hợp. Các giả định chính của ICA bao gồm tính độc lập thống kê giữa các nguồn, tính phi Gauss của các nguồn, và ma trận hỗn hợp là ma trận vuông. Các phương pháp ước lượng trong ICA thường tập trung vào việc tối đa hóa tính phi Gauss của các nguồn, ví dụ sử dụng kurtosis hoặc negentropy. Giải thuật ICA được áp dụng rộng rãi trong nhiều lĩnh vực, từ xử lý âm thanh, hình ảnh đến xử lý tín hiệu sinh học. Thuật toán FastICA là một trong những thuật toán ICA hiệu quả nhất, nổi bật với tốc độ hội tụ nhanh và độ tin cậy cao. Giải thuật tách nguồn mù dựa trên ICA đã được chứng minh hiệu quả trong nhiều bài toán thực tế.

1.2 Thuật toán FastICA và các bước thực hiện

Thuật toán FastICA dựa trên nguyên lý cực đại hóa tính phi Gauss của các nguồn tín hiệu. Thuật toán sử dụng phương pháp lặp điểm cố định để tìm kiếm các vectơ trọng số tối ưu. Các bước thực hiện FastICA bao gồm: tiền xử lý dữ liệu (quy tâm và trắng hóa), cập nhật lặp vectơ trọng số, và chuẩn hóa kết quả. FastICA sử dụng kurtosis làm hàm đo lường tính phi Gauss. Sự lựa chọn hàm đo lường này ảnh hưởng đến hiệu quả của thuật toán. Việc lựa chọn tham số thích hợp trong FastICA cũng rất quan trọng để đảm bảo hiệu quả và độ chính xác của kết quả. Ứng dụng FastICA trong các hệ thống thực tế đòi hỏi việc hiểu rõ các tham số và tối ưu hóa thuật toán cho từng ứng dụng cụ thể. Hiệu quả của FastICA phụ thuộc vào tính chất của dữ liệu đầu vào và các giả định của mô hình ICA.

II. Ứng dụng FastICA trong tách nguồn mù tại HCMUTE

Nghiên cứu ứng dụng FastICA tại Đại học Công nghệ Thành phố Hồ Chí Minh (HCMUTE) tập trung vào tách nguồn mù trong các tín hiệu khác nhau, bao gồm tín hiệu âm thanh và tín hiệu sinh học. Kết quả thực nghiệm cho thấy FastICA có khả năng tách biệt hiệu quả các nguồn tín hiệu gốc từ hỗn hợp tín hiệu quan sát được, ngay cả trong trường hợp có nhiễu. Việc so sánh các giải thuật tách nguồn mù khác cũng được thực hiện để đánh giá hiệu quả của FastICA. Nghiên cứu này đã chứng minh tính khả thi và hiệu quả của FastICA trong tách tín hiệu.

2.1 Tách nguồn mù trong tín hiệu âm thanh

Nghiên cứu đã áp dụng FastICA để tách nguồn mù trong các tín hiệu âm thanh được trộn lẫn. Kết quả cho thấy FastICA có khả năng tách biệt các nguồn âm thanh gốc với độ chính xác cao, ngay cả khi các nguồn tín hiệu có tần số gần nhau. Hiệu quả của FastICA được đánh giá thông qua các chỉ số chất lượng tín hiệu như tỷ số tín hiệu trên nhiễu (SNR) và độ méo hài hòa (THD). Các thí nghiệm được thực hiện bằng cách sử dụng các nguồn tín hiệu mô phỏng và các nguồn tín hiệu thu thập từ thực tế. Việc so sánh các giải thuật tách nguồn mù khác như PCA cho thấy FastICA mang lại hiệu quả tốt hơn trong việc tách các nguồn tín hiệu độc lập, đặc biệt là trong trường hợp tín hiệu có độ chồng chéo cao. Phân tích tần số được sử dụng để đánh giá chất lượng tín hiệu sau khi tách. Python FastICA và Matlab FastICA là hai công cụ phổ biến được sử dụng trong nghiên cứu này.

2.2 Tách nguồn mù trong tín hiệu sinh học NIRS

Nghiên cứu cũng ứng dụng FastICA trong phân tích dữ liệu đa chiều thu được từ thiết bị quang phổ cận hồng ngoại (fNIRS). FastICA được sử dụng để trích xuất đặc trưng từ tín hiệu NIRS nhằm nhận dạng các hoạt động của não. Trích xuất đặc trưng hình ảnh và trích xuất đặc trưng âm thanh là hai hướng ứng dụng quan trọng. Trích xuất đặc trưng NIRS giúp phân tích hoạt động não bộ liên quan đến các nhiệm vụ nhận thức như gõ tay. Mô hình trích đặc trưng dựa trên FastICA cho thấy khả năng phân biệt giữa các hoạt động khác nhau. Tiền xử lý dữ liệu như lọc nhiễu và chuẩn hóa là những bước cần thiết để đảm bảo độ chính xác của kết quả. Thực nghiệm được thiết kế để thu thập dữ liệu từ các đối tượng tham gia và phân tích kết quả. Kết quả thực nghiệm cho thấy FastICA hiệu quả trong giảm chiều dữ liệu và trích xuất đặc trưng từ tín hiệu NIRS, mở ra hướng nghiên cứu mới trong lĩnh vực xử lý tín hiệu sinh học. Hạn chế của FastICA trong ứng dụng này cần được nghiên cứu thêm.

III. Kết luận và hướng phát triển

Nghiên cứu đã chứng minh hiệu quả của giải thuật FastICA trong tách nguồn mù và trích đặc trưng trên nhiều loại tín hiệu. FastICA là một công cụ mạnh mẽ cho xử lý tín hiệu và xử lý dữ liệu. Hiệu quả của FastICA phụ thuộc vào việc lựa chọn các tham số và tiền xử lý dữ liệu. Các thư viện FastICA cung cấp hỗ trợ mạnh mẽ cho việc triển khai thuật toán. Nghiên cứu mở ra nhiều hướng phát triển, bao gồm cải tiến thuật toán, ứng dụng trong các lĩnh vực khác và tích hợp với các kỹ thuật xử lý tín hiệu khác.

3.1 Đánh giá tổng quan về hiệu quả của FastICA

Nghiên cứu cho thấy FastICA đạt hiệu quả cao trong việc tách nguồn mù và trích xuất đặc trưng, đặc biệt trong các trường hợp tín hiệu có nhiễu và chồng chéo. Hiệu quả của FastICA được thể hiện qua kết quả thực nghiệm với độ chính xác cao. Tuy nhiên, hạn chế của FastICA cũng cần được xem xét, ví dụ như độ nhạy cảm với các tham số đầu vào và yêu cầu về tính phi Gauss của nguồn tín hiệu. Cải tiến FastICA là một hướng nghiên cứu quan trọng để khắc phục các hạn chế này. Đánh giá hiệu năng của FastICA nên được tiến hành trên nhiều tập dữ liệu khác nhau để đảm bảo tính tổng quát của kết quả. So sánh FastICA với các thuật toán khác cũng là một cách để đánh giá hiệu quả của nó. Mô hình toán học của FastICA được xây dựng trên cơ sở lý thuyết vững chắc của ICA.

3.2 Hướng phát triển trong tương lai

Các hướng phát triển trong tương lai bao gồm: cải tiến FastICA để xử lý dữ liệu có nhiễu cao hơn và độ chồng chéo lớn hơn; ứng dụng FastICA trong các lĩnh vực mới như xử lý video, phân tích dữ liệu lớn; tích hợp FastICA với các kỹ thuật học máy khác để nâng cao hiệu quả; nghiên cứu hạn chế của FastICA và tìm kiếm các giải pháp khắc phục; phát triển các thư viện FastICA mở rộng hỗ trợ nhiều loại dữ liệu và nền tảng; nghiên cứu khoa học về FastICA cần được tiếp tục để thúc đẩy sự phát triển của công nghệ xử lý tín hiệu. Bài báo khoa học về ứng dụng FastICA có giá trị thực tiễn cao và đóng góp quan trọng vào lĩnh vực xử lý tín hiệu.

Trích đoạn nội dung tài liệu

Mở Đầu  Kết quả của đề tài có thể đƣợc sử dụng vào việc nghiên cứu việc giảng dạy cho sinh viên chuyên ngành điện tử viễn thông. Mục tiêu đề tài  Tách nguồn mù từ các tín hiệu trộn.  Trích đặc trƣng của đối tƣợng. Cách tiếp cận, phương pháp nghiên cứu, phạm vi nghiên cứu Cách tiếp cận  Lý thuyết đến thực nghiệm Phƣơng pháp nghiên cứu  Nghiên cứu lý thuyết  Mô phỏng  Thực nghiệm Phạm vi nghiên cứu  Ứng dụng giải thuật fastICA trong tách nguồn mù (nguồn tín hiệu mô phỏng) và trích đặc trƣng của đối tƣợng (tín hiệu NIRS).

Nội dung nghiên cứu  Cơ sở lý thuyết phân tích thành phần độc lập ICA  Thuật toán fast ICA  Ứng dụng thuật toán trong tách nguồn mù  Ứng dụng thuật toán trong trích đặc trƣng trên tín hiệu NIRS 2 Luan van 1. Cơ Sở Lý Thuyết Chƣơng 1 CƠ SỞ LÝ THUYẾT 1.1 Lý Thuyết Chung Về ICA 1.1 Mô Hình ICA Cơ Bản Để định nghĩa ICA [3], ta có thể sử dụng một mô hình thống kê „biến ẩn‟. Giả sử ta quan sát n biến ngẫu nhiên x1,x2,. xn, các biến này đƣợc biểu diễn theo sự kết hợp tuyến tính với của n biến ngẫu nhiên s1,s2.sn: xi = ai1s1 + ai2s2 +…+ ainsn (1.,n là các hệ số thực.

Theo định nghĩa, sj là độc lập thống kê với nhau. Đây là mô hình ICA cơ bản. Nó mô tả dữ liệu thu đƣợc bằng cách trộn các hành phần sj với nhau. Thành phần độc lập sj (viết tắt: ICs) là biến ẩn, không thể quan sát trực tiếp đƣợc.

Ngoài ra các hệ số trộn aij cũng đƣợc giả sử là không biết. Tất cả những gì ta quan sát đƣợc là các biến ngẫu nhiên xi, và ta phải ƣớc lƣợng các hệ số trộn aij và các thành phần sj bằng cách sử dụng xi. Ở đây biến thời gian t đã đƣợc bỏ qua. Bởi vì trong mô hình ICA cơ bản này, ta giả định rằng xi cũng nhƣ mỗi thành phần độc lập sj là biến ngẫu nhiên, thay vì biểu diễn theo thời gian.

Nhƣ vậy, ta có thể bỏ qua thời gian trễ trong quá trình kết hợp các thành phần độc lập chƣa biết. ICA có thể đƣợc miêu tả nhƣ bài toán tách nguồn mù. Nguồn ở đây chính là các tín hiệu gốc – thành phần độc lập chƣa biết. Do thông tin về sự kết hợp này cũng chƣa biết trƣớc nên ta có thể so sánh mô hình trong công thức (1.1) tƣơng ứng với bài toán tách nguồn mù và đƣợc sử dụng làm cơ sở cho các ứng dụng về sau.

Sử dụng biểu diễn theo dạng ma trận cho công thức (1.2) Trong đó, x đại diện cho x1,x2,. và s là các thành phần s1.sn, ma trận A với các phần tử aij.2 Giả thiết trong ICA Mô hình ICA cơ bản đặt ra các giả thiết sau cho việc phân ly (ƣớc lƣợng) các thành phần độc lập:  Các nguồn s độc lập thống kê nhau, nghĩa là biết đƣợc một nguồn không thể suy ra các nguồn còn lại.  Các hàm phân bố xác suất của các nguồn có trị trung bình bằng không.  Không có nguồn (thành phần độc lập) nào có phân bố Gauss.

 Ma trận trộn A là ma trận vuông tức số lƣợng nguồn và số lƣợng trộn bằng nhau.2 Ƣớc lƣợng Trong ICA Mô hình ICA đặt ra một hạn chế là các thành phần độc lập phải có tính phi Gauss (non-gaussianity), tức không có phân bố (hàm mật độ xác suất) là Gauss. Lý do tính phi Gauss nằm ở chỗ là các biến ngẫu nhiên Gauss đƣợc xác định hoàn toàn bởi các thống kê bậc một (trị trung bình) và bậc hai (phƣơng sai), các thống kê bậc cao hơn bằng không. Trong lúc đó, mô hình ICA cần các thống kê bậc cao hơn của các thành phần độc lập để thực hiện sự phân ly (ƣớc lƣợng các thành phần độc lập). Nhƣ vậy, sự phi tuyến, tính phi Gauss dẫn đến sự độc lập thống kê.

Nhiều giải thuật khác nhau đã đƣợc đề xuất để giải quyết bài toán ƣớc lƣợng các thành phần độc lập trong ICA:  Cực đại hóa tính phi Gauss (non-gaussianity)  Ƣớc lƣợng khả năng cực đại (maximum likelihood)  Cực tiểu hoá thông tin tƣơng hỗ (mutual information) 1.1 Đo Tính Phi Gauss Bằng Kurtosis Đầu tiên là phép đo dựa trên kurtosis của một biến ngẫu nhiên y có trung bình bằng không là cumulant bậc bốn: kurt( y) = E{ y 4 } - 3 ( E{ y 2 }) 2 (1.3) Thật ra vì ta giả sử y có phƣơng sai đơn vị, nên kurtosis là kurt(y)=E{y4}–3, tức kurtosis là phiên bản chuẩn hóa của momen thứ tƣ E{y4}. Khi y có phân bố Gauss momen thứ tƣ bằng 3(E{y2})2 nên kurtosis bằng không đối với các biến ngẫu nhiên Gauss. Hầu hết các biến ngẫu nhiên không phải Gauss thì kurtosis khác không. Nếu kurtosis là dƣơng thì biến ngẫu nhiên có phân bố siêu Gauss (supergaussian), còn nếu kurotsis là âm thì biến ngẫu nhiên có phân bố dƣới Gauss (subgaussian).

Phân bố siêu Gauss không còn dạng hình chuông nhƣ Gauss mà tăng nhanh ở trung tâm tƣơng tự nhƣ phân bố Laplace, còn phân bố dƣới Gauss không nhô lên ở phần giữa nhƣ Gauss mà tiến đến phân bố đều với biên độ rất nhỏ ở xa trung tâm.2 Đo Tính Phi Gauss Bằng Negentropy Một phép đo tính phi Gauss khác là negentropy. Negentropy là đại lƣợng dựa trên lý thuyết thông tin gọi là entropy vi sai. Entropy của một biến ngẫu nhiên là số đo lƣợng thông tin trung bình của nó.4) Đặc tính quan trọng của entropy là biến ngẫu nhiên Gauss có entropy lớn nhất trong các biến ngẫu nhiên có cùng phƣơng sai. Nhƣ vậy entropy, và negentropy định nghĩa theo entropy, có thể dùng để đo tính phi Gauss của một biến ngẫu nhiên.

Để có đƣợc một số đo tính phi Gauss sao cho bằng không đối với biến Gauss và luôn không âm, ta định nghĩa negentropy của vectơ ngẫu nhiên y: 4 Luan van 1.5) Trong đó yGauss là một vectơ ngẫu nhiên Gauss cùng ma trận hiệp phƣơng sai (hay ma trận tƣơng quan vì các dữ liệu đƣợc giả sử có trung bình là không). Tuy nhiên tính toán negentropy lại khó khăn. Một số tính toán xấp xỉ đã đƣợc phát triển.3 Tiền Xử Lý trong ICA Tiền xử lý là quá trình xử lý tín hiệu thu đƣợc x trƣớc khi thực hiện ƣớc lƣợng tín hiệu gốc. Tiền xử lý đƣợc sử dụng để việc giải bài toán ICA trở nên đơn giản hơn, gồm có quy tâm và trắng hóa tín hiệu.1 Qui Tâm Tín Hiệu Nhƣ đã nêu ở trƣớc, các tín hiệu trộn quan sát đƣợc x phải có trị trung bình m=E[x] bằng không, điều này cũng có nghĩa là các tín hiệu nguồn s cũng có trị trung bình là không.

Nếu các tín hiệu chƣa có trị trung bình là không ta thực hiện phép qui tâm tức trừ phân bố của các biến ngẫu nhiên với các trị trung bình của chúng: x = x - E{x} (1.6) Trong đó, x′ là vectơ ngẫu nhiên chƣa có trung bình là không. Sau khi đã ƣớc lƣợng ma trận A và các thành phần s ta có thể thêm trở lại các trị trung bình của chúng. Khi vectơ ngẫu nhiên x (hoặc s) có trị trung bình là không thì hiệp phƣơng sai và tƣơng quan của nó giống nhau.2 Trắng Hoá Sau khi đã quy tâm, ta thực hiện một biến đổi trên x để đƣợc một vector mới gọi là vector trắng. Mục đích của việc làm trắng này là làm cho dữ liệu không tƣơng quan.

x đƣợc gọi là trắng khi E{xxT }  I (1.7) Việc làm trắng là một biến đổi tuyến tính thông qua ma trận V z = Vx (1.8) Trong đó x là dữ liệu cần làm trắng và V là ma trận làm trắng, z là dữ liệu đã trắng hóa. Một trong những phƣơng pháp phổ biến để trắng hóa là sử dụng phƣơng pháp phân giải trị riêng (EVD) của ma trận hiệp phƣơng sai.9) Với E là ma trận trực giao của các vectơ riêng của E{xxT} và D là đƣờng chéo ma trận của các giá trị riêng của nó, D = diag(d1,…,d2). Ma trận làm trắng đƣợc tính: V  ED1/2 ET (1. Cơ Sở Lý Thuyết Ma trận D-1/2 đƣợc tính bằng một thao tác đơn giản D1/ 2  diag( d11/2 ,.

Ma trận trắng hóa tính toán theo cách này đƣợc ký hiệu là E{xxT}-1/2 hoặc C-1/2. Trắng hóa biến đổi ma trận trộn thành ma trận mới. Ta có ~ z  VAs  As (1.11) ~ Sau khi đã ƣớc lƣợng đƣợc ma trận trắng hóa A , các thành phần độc lập đƣợc tính s  Wz (1. Từ đây, ma trận A đƣợc ƣớc lƣợng ~ A  VA  D1 / 2ET A (1.13) ~ A  ED1 / 2 A  ED1 / 2 W 1  ED1 / 2 WT (1.14) Vì W trực giao nên W1  WT .4 ICA dùng phƣơng pháp cực đại tính phi Gauss Để thực hiện ƣớc lƣợng tính phi Gauss trong ICA, kurtosis đƣợc sử dụng.

Nhƣ đã đề cập, kurtosis thể hiện cumulant bậc 4 của một biến ngẫu nhiên. Kurtosis của y, kurt(y) đƣợc định nghĩa kurt( y )  E{ y 4 }  3( E{ y 2 }) 2 (1.15) Trong thực tế, để cực đại trị tuyệt đối của kurtosis, ta sẽ bắt đầu từ vector w, tính toán hƣớng mà trị tuyệt đối kurtosis của y  wT z tăng nhanh trên các mẫu z(1), …, z(T), và sau đó chuyển vector w theo hƣớng đó. Ý tƣởng này đƣợc thực thi theo phƣơng pháp gradient. Gradient của trị tuyệt đối kurtosis của wT z có thể đƣợc tính  kurt(w T z )  4sign(kurt(w T z ))[ E{z (w T z )3}  3w w ] 2 (1.16) w Ta có đƣợc giải thuật gradient w  sign(kurt(wT z ))[ E{z (wT z )3} (1.18) Để tăng tốc độ hội tụ, giải thuật lặp điểm cố định có thể đƣợc sử dụng trong việc tìm w.

Sử dụng các nhân tử Lagrange, từ (1.19) Từ đây, ta tính giá trị mới cho w w  E{z (wT z )3}  3w (1.20) Sau mỗi vòng lặp, w đƣợc chuẩn hóa bằng cách chia cho độ lớn của nó (vì vậy w  1 và có thể bỏ qua trong công thức 1. Cơ Sở Lý Thuyết Sự hội tụ của giải thuật lặp điểm cố định đó là giá trị w cũ và mới đều có cùng hƣớng, tức là nhân chấm của chúng bằng 1. Giải thuật này đƣợc chứng minh là hội tụ nhanh và đáng tin cậy nên đƣợc gọi là FastICA.5 Phƣơng Pháp Tái Hiện Hình Ảnh Và Tín Hiệu Não Ngƣời 1.1 Phƣơng pháp EEG EEG (Electroencephalography) – điện não đồ là một phƣơng pháp ghi lại các hoạt động về điện trên da đầu của ngƣời. Phƣơng pháp này đo sự thay đổi điện áp do việc di chuyển của các hạt điện tích bên trong các nơ- ron của não.