Chiết Xuất Tính Năng Thời-Gian Tần Số Trong Hệ Thống VLSI Mixed-Signal

Luận án tiến sĩ về mixed signal VLSI và phương pháp trích xuất đặc trưng thời gian tần số mạnh mẽ, ứng dụng trong công nghệ hiện đại.

• Tác giả: Yunbin Deng
• Người hướng dẫn: Gert Cauwenberghs
• Trường học: Johns Hopkins University
• Chuyên ngành: Mixed-Signal VLSI
• Đề tài: Chiết Xuất Tính Năng Thời-Gian Tần Số Trong Hệ Thống VLSI Mixed-Signal
• Loại tài liệu: thesis
• Năm xuất bản: 2006
• Địa điểm: Baltimore

Tóm tắt

I. Tổng Quan Về Chiết Xuất Đặc Trưng Thời Gian Tần Số VLSI

Trong lĩnh vực xử lý tín hiệu, việc chiết xuất đặc trưng thời-gian tần số đóng vai trò then chốt, đặc biệt trong các hệ thống VLSI Mixed-Signal. Các hệ thống này ngày càng được ứng dụng rộng rãi, từ viễn thông đến y sinh, đòi hỏi khả năng xử lý tín hiệu hiệu quả và chính xác. Bài viết này sẽ đi sâu vào các phương pháp và kỹ thuật chiết xuất đặc trưng tiên tiến, tập trung vào việc triển khai chúng trong thiết kế VLSI. Việc hiểu rõ các nguyên tắc cơ bản và thách thức liên quan là rất quan trọng để phát triển các hệ thống Mixed-Signal hiệu năng cao. Theo nghiên cứu của Yunbin Deng, việc kết hợp xử lý tín hiệu thích ứng, học máy và thiết kế VLSI công suất thấp là chìa khóa để tạo ra các giải pháp chiết xuất đặc trưng mạnh mẽ, thời gian thực và tiết kiệm năng lượng.

1.1. Giới Thiệu Về Phân Tích Thời Gian Tần Số Trong VLSI

Phân tích thời gian tần số là một công cụ mạnh mẽ để phân tích các tín hiệu có sự thay đổi về năng lượng phổ theo thời gian. Trong hệ thống VLSI Mixed-Signal, việc này đòi hỏi các thuật toán và kiến trúc phần cứng hiệu quả. Các phương pháp như biến đổi Fourier ngắn hạn (STFT) và biến đổi Wavelet được sử dụng rộng rãi. Việc lựa chọn phương pháp phù hợp phụ thuộc vào đặc điểm của tín hiệu và yêu cầu của ứng dụng. Thiết kế VLSI cho các hệ thống này cần cân nhắc đến các yếu tố như độ chính xác, tốc độ và tiêu thụ năng lượng.

1.2. Tầm Quan Trọng Của Chiết Xuất Đặc Trưng Trong Xử Lý Tín Hiệu

Chiết xuất đặc trưng là quá trình chọn lọc và biểu diễn các thông tin quan trọng từ tín hiệu thô. Trong xử lý tín hiệu Mixed-Signal, các đặc trưng này có thể được sử dụng cho nhiều mục đích khác nhau, chẳng hạn như nhận dạng mẫu, phân loại tín hiệu và điều khiển hệ thống. Một hệ thống chiết xuất đặc trưng tốt cần phải có khả năng loại bỏ nhiễu và các biến thể không liên quan, đồng thời giữ lại các thông tin quan trọng. Điều này đặc biệt quan trọng trong các ứng dụng thực tế, nơi tín hiệu thường bị ảnh hưởng bởi nhiễu và các yếu tố môi trường.

II. Thách Thức Trong Chiết Xuất Đặc Trưng VLSI Mixed Signal

Việc chiết xuất đặc trưng thời-gian tần số trong hệ thống VLSI Mixed-Signal đối mặt với nhiều thách thức. Đầu tiên, tín hiệu thực tế thường chứa nhiễu và các thành phần không mong muốn, đòi hỏi các thuật toán mạnh mẽ để loại bỏ chúng. Thứ hai, yêu cầu hoạt động thời gian thực đặt ra giới hạn về độ phức tạp của thuật toán và kiến trúc phần cứng. Thứ ba, các thiết bị di động yêu cầu phần cứng nhỏ gọn và tiêu thụ năng lượng thấp. Cuối cùng, sự không đồng nhất trong quá trình sản xuất có thể ảnh hưởng đến hiệu suất của các mạch analog, đòi hỏi các kỹ thuật hiệu chỉnh. Theo Yunbin Deng, việc giải quyết những thách thức này đòi hỏi một cách tiếp cận tích hợp, kết hợp các kỹ thuật xử lý tín hiệu thích ứng, học máy và thiết kế VLSI công suất thấp.

2.1. Ảnh Hưởng Của Nhiễu Đến Độ Chính Xác Của Chiết Xuất

Nhiễu là một vấn đề nghiêm trọng trong chiết xuất đặc trưng. Nó có thể làm sai lệch các đặc trưng và làm giảm độ chính xác của hệ thống. Các kỹ thuật lọc nhiễu, như lọc Kalman và lọc trung bình, có thể được sử dụng để giảm thiểu ảnh hưởng của nhiễu. Tuy nhiên, việc lựa chọn kỹ thuật lọc phù hợp phụ thuộc vào đặc điểm của nhiễu và tín hiệu. Trong thiết kế mạch Mixed-Signal, cần chú ý đến việc giảm thiểu nhiễu từ các nguồn khác nhau, chẳng hạn như nhiễu nhiệt và nhiễu điện.

2.2. Yêu Cầu Về Hiệu Năng Thời Gian Thực Trong Ứng Dụng VLSI

Nhiều ứng dụng của hệ thống VLSI Mixed-Signal, chẳng hạn như viễn thông và điều khiển, đòi hỏi hiệu năng thời gian thực. Điều này có nghĩa là hệ thống phải có khả năng xử lý tín hiệu và đưa ra quyết định trong một khoảng thời gian giới hạn. Để đáp ứng yêu cầu này, cần sử dụng các thuật toán hiệu quả và kiến trúc phần cứng song song. Thiết kế VLSI cần tối ưu hóa tốc độ và giảm thiểu độ trễ.

2.3. Hạn Chế Về Tiêu Thụ Năng Lượng Và Diện Tích Chip Trong VLSI

Trong các thiết bị di động, tiêu thụ năng lượng và diện tích chip là những yếu tố quan trọng cần cân nhắc. Chiết xuất đặc trưng cần được thực hiện với mức tiêu thụ năng lượng thấp và diện tích chip nhỏ. Các kỹ thuật thiết kế công suất thấp, như giảm điện áp cung cấp và sử dụng các mạch logic phức tạp, có thể được sử dụng để giảm thiểu tiêu thụ năng lượng. Tối ưu hóa thiết kế cũng cần xem xét đến việc giảm thiểu diện tích chip.

III. Phương Pháp Biến Đổi Fourier Ngắn Hạn STFT Trong VLSI

Biến đổi Fourier ngắn hạn (STFT) là một phương pháp phổ biến để phân tích thời gian tần số. STFT chia tín hiệu thành các đoạn ngắn và tính toán biến đổi Fourier cho mỗi đoạn. Kết quả là một biểu đồ thời gian tần số, cho thấy sự thay đổi của phổ tín hiệu theo thời gian. STFT được sử dụng rộng rãi trong nhiều ứng dụng, chẳng hạn như phân tích âm thanh và nhận dạng tiếng nói. Tuy nhiên, STFT có một số hạn chế, chẳng hạn như độ phân giải thời gian và tần số cố định. Việc triển khai STFT trong thiết kế VLSI đòi hỏi các kỹ thuật tối ưu hóa để giảm thiểu độ phức tạp tính toán và tiêu thụ năng lượng.

3.1. Nguyên Lý Hoạt Động Của Biến Đổi Fourier Ngắn Hạn STFT

STFT hoạt động bằng cách nhân tín hiệu với một cửa sổ trượt và tính toán biến đổi Fourier của tín hiệu đã được nhân. Cửa sổ trượt xác định độ dài của đoạn tín hiệu được phân tích. Độ phân giải thời gian và tần số của STFT phụ thuộc vào độ dài của cửa sổ. Cửa sổ ngắn cho độ phân giải thời gian tốt hơn, nhưng độ phân giải tần số kém hơn, và ngược lại. Việc lựa chọn cửa sổ phù hợp là rất quan trọng để đạt được hiệu suất tốt nhất.

3.2. Triển Khai STFT Hiệu Quả Trong Hệ Thống VLSI Mixed Signal

Việc triển khai STFT trong hệ thống VLSI Mixed-Signal đòi hỏi các kỹ thuật tối ưu hóa để giảm thiểu độ phức tạp tính toán và tiêu thụ năng lượng. Các thuật toán FFT (Fast Fourier Transform) có thể được sử dụng để tính toán biến đổi Fourier một cách hiệu quả. Kiến trúc phần cứng song song có thể được sử dụng để tăng tốc độ tính toán. Thiết kế mạch Mixed-Signal cần xem xét đến việc giảm thiểu nhiễu và đảm bảo độ chính xác.

3.3. Ưu Điểm Và Hạn Chế Của STFT Trong Chiết Xuất Đặc Trưng

STFT có một số ưu điểm, chẳng hạn như đơn giản và dễ triển khai. Tuy nhiên, STFT cũng có một số hạn chế, chẳng hạn như độ phân giải thời gian và tần số cố định. Điều này có nghĩa là STFT không thể phân tích tốt các tín hiệu có sự thay đổi nhanh chóng về tần số. Các phương pháp khác, chẳng hạn như biến đổi Wavelet, có thể phù hợp hơn cho các tín hiệu này.

IV. Biến Đổi Wavelet Giải Pháp Chiết Xuất Linh Hoạt Cho VLSI

Biến đổi Wavelet là một phương pháp phân tích thời gian tần số linh hoạt hơn STFT. Wavelet sử dụng các hàm cơ sở có độ dài thay đổi, cho phép phân tích tín hiệu ở các độ phân giải khác nhau. Điều này làm cho Wavelet phù hợp hơn cho các tín hiệu có sự thay đổi nhanh chóng về tần số. Wavelet được sử dụng rộng rãi trong nhiều ứng dụng, chẳng hạn như nén ảnh và phân tích tín hiệu sinh học. Việc triển khai Wavelet trong thiết kế VLSI đòi hỏi các kỹ thuật tối ưu hóa để giảm thiểu độ phức tạp tính toán và tiêu thụ năng lượng.

4.1. Cơ Chế Hoạt Động Của Biến Đổi Wavelet Trong Xử Lý Tín Hiệu

Biến đổi Wavelet hoạt động bằng cách phân tích tín hiệu bằng các hàm Wavelet có độ dài và hình dạng khác nhau. Các hàm Wavelet được tạo ra bằng cách co giãn và dịch chuyển một hàm Wavelet gốc. Các Wavelet ngắn được sử dụng để phân tích các thành phần tần số cao, trong khi các Wavelet dài được sử dụng để phân tích các thành phần tần số thấp. Kết quả là một biểu diễn đa phân giải của tín hiệu.

4.2. Ứng Dụng Của Biến Đổi Wavelet Trong Thiết Kế Mạch Mixed Signal

Biến đổi Wavelet có thể được sử dụng trong thiết kế mạch Mixed-Signal cho nhiều mục đích khác nhau, chẳng hạn như lọc nhiễu, nén dữ liệu và chiết xuất đặc trưng. Các mạch Wavelet có thể được triển khai bằng các mạch analog hoặc kỹ thuật số. Việc lựa chọn phương pháp triển khai phụ thuộc vào yêu cầu của ứng dụng.

4.3. So Sánh Biến Đổi Wavelet Với STFT Trong Hệ Thống VLSI

Biến đổi Wavelet có một số ưu điểm so với STFT, chẳng hạn như độ phân giải thời gian và tần số linh hoạt. Tuy nhiên, biến đổi Wavelet cũng có một số hạn chế, chẳng hạn như độ phức tạp tính toán cao hơn. Việc lựa chọn phương pháp phù hợp phụ thuộc vào đặc điểm của tín hiệu và yêu cầu của ứng dụng. Trong hệ thống VLSI, cần cân nhắc đến các yếu tố như độ chính xác, tốc độ và tiêu thụ năng lượng.

V. Ứng Dụng Thực Tế Của Chiết Xuất Đặc Trưng VLSI Mixed Signal

Chiết xuất đặc trưng thời-gian tần số trong hệ thống VLSI Mixed-Signal có nhiều ứng dụng thực tế. Một trong những ứng dụng quan trọng nhất là nhận dạng tiếng nói. Các hệ thống nhận dạng tiếng nói sử dụng chiết xuất đặc trưng để chuyển đổi tín hiệu âm thanh thành một chuỗi các đặc trưng, sau đó được sử dụng để nhận dạng các từ và cụm từ. Các ứng dụng khác bao gồm phân tích tín hiệu sinh học, xử lý ảnh và điều khiển hệ thống. Theo Yunbin Deng, các hệ thống chiết xuất đặc trưng dựa trên mô hình thính giác có thể đạt được hiệu suất tốt hơn so với các phương pháp truyền thống, chẳng hạn như MFCC.

5.1. Chiết Xuất Đặc Trưng Trong Nhận Dạng Tiếng Nói VLSI

Trong nhận dạng tiếng nói, chiết xuất đặc trưng đóng vai trò quan trọng trong việc chuyển đổi tín hiệu âm thanh thành một biểu diễn phù hợp cho việc phân loại. Các đặc trưng phổ biến bao gồm MFCC (Mel-Frequency Cepstral Coefficients) và các đặc trưng dựa trên mô hình thính giác. Thiết kế VLSI cho các hệ thống nhận dạng tiếng nói cần tối ưu hóa tốc độ và độ chính xác.

5.2. Ứng Dụng Trong Xử Lý Tín Hiệu Y Sinh Với VLSI Mixed Signal

Chiết xuất đặc trưng được sử dụng rộng rãi trong xử lý tín hiệu y sinh, chẳng hạn như phân tích điện tâm đồ (ECG) và điện não đồ (EEG). Các đặc trưng có thể được sử dụng để phát hiện các bất thường và chẩn đoán bệnh. Hệ thống VLSI Mixed-Signal cho xử lý tín hiệu y sinh cần đảm bảo độ chính xác và độ tin cậy cao.

5.3. Chiết Xuất Đặc Trưng Trong Ứng Dụng Viễn Thông VLSI

Trong viễn thông, chiết xuất đặc trưng được sử dụng cho nhiều mục đích khác nhau, chẳng hạn như điều chế, giải điều chế và cân bằng kênh. Các hệ thống viễn thông hiện đại đòi hỏi tốc độ và hiệu quả cao. Thiết kế VLSI cần tối ưu hóa hiệu suất và giảm thiểu tiêu thụ năng lượng.

VI. Kết Luận Và Hướng Phát Triển Chiết Xuất Đặc Trưng VLSI

Chiết xuất đặc trưng thời-gian tần số là một lĩnh vực quan trọng trong hệ thống VLSI Mixed-Signal. Các phương pháp và kỹ thuật chiết xuất đặc trưng tiên tiến đang được phát triển để đáp ứng nhu cầu ngày càng tăng của các ứng dụng khác nhau. Trong tương lai, chúng ta có thể mong đợi sự phát triển của các hệ thống chiết xuất đặc trưng thông minh hơn, có khả năng thích ứng với các điều kiện thay đổi và cung cấp hiệu suất tốt hơn. Theo Yunbin Deng, việc kết hợp học máy và thiết kế VLSI công suất thấp sẽ đóng vai trò quan trọng trong sự phát triển này.

6.1. Tóm Tắt Các Kết Quả Nghiên Cứu Về Chiết Xuất Đặc Trưng

Các nghiên cứu gần đây đã tập trung vào việc phát triển các thuật toán chiết xuất đặc trưng mạnh mẽ hơn và hiệu quả hơn. Các kỹ thuật học sâu đang được sử dụng để tự động học các đặc trưng từ dữ liệu. Thiết kế VLSI đang được tối ưu hóa để giảm thiểu tiêu thụ năng lượng và tăng tốc độ.

6.2. Hướng Nghiên Cứu Tương Lai Về Hệ Thống VLSI Mixed Signal

Hướng nghiên cứu tương lai bao gồm việc phát triển các hệ thống chiết xuất đặc trưng có khả năng thích ứng với các điều kiện thay đổi và cung cấp hiệu suất tốt hơn. Các hệ thống này sẽ sử dụng các kỹ thuật học máy và thiết kế VLSI công suất thấp. Mô phỏng hệ thống Mixed-Signal đóng vai trò quan trọng trong quá trình thiết kế.

6.3. Tối Ưu Hóa Thiết Kế Cho Chiết Xuất Đặc Trưng Hiệu Quả

Việc tối ưu hóa thiết kế là rất quan trọng để đạt được hiệu suất tốt nhất trong chiết xuất đặc trưng. Các kỹ thuật tối ưu hóa bao gồm giảm độ phức tạp tính toán, sử dụng kiến trúc phần cứng song song và giảm thiểu tiêu thụ năng lượng. Kiểm tra hệ thống Mixed-Signal cần được thực hiện để đảm bảo độ tin cậy.

Trích đoạn nội dung tài liệu

Mixed-Signal VLSI Robust Time-Frequency Feature Extraction Yunbin Deng A dissertation submitted to the Johns Hopkins University in conformity with the requirements for the degree of Doctor of Philosophy. Baltimore, Maryland April, 2006 Copyright © 2006 by Yunbin Deng, All rights reserved. UMI Number: 3240696 Copyright 2006 by Deng, Yunbin All rights reserved. INFORMATION TO USERS The quality of this reproduction is dependent upon the quality of the copy submitted.

Broken or indistinct print, colored or poor quality illustrations and photographs, print bleed-through, substandard margins, and improper alignment can adversely affect reproduction. In the unlikely event that the author did not send a complete manuscript and there are missing pages, these will be noted. Also, if unauthorized copyright material had to be removed, a note will indicate the deletion. ® UMI UMI Microform 3240696 Copyright 2007 by ProQuest Information and Learning Company.

All rights reserved. This microform edition is protected against unauthorized copying under Title 17, United States Code. ProQuest Information and Learning Company 300 North Zeeb Road P. Box 1346 Ann Arbor, MI 48106-1346 Abstract Robust feature extraction is critical to pattern recognition and intelligent systems.

The problem of extracting reliable features from real-world signals is challenging because these signals are embedded in non-stationary noise; real-time operation requires fast adaptation; and mobile operation requires miniature hardware with low-power consumption. The need for robust real-time, and low-power feature extraction solutions calls for an integrative ap- proach that combines adaptive signal processing, machine learning, and micropower VLSI design. This dissertation presents time-frequency feature extraction algorithms, inspired by bi- ological models of auditory processing, for robust feature extraction. The algorithms map efficiently onto massive parallel VLSI hardware to provide real-time operation.

Analog models of computation are combined with digital programmability and adaptation, leading to significant savings in silicon area and power compared to purely analog or digital ap- proaches. A digitally programmable operational transconductance amplifier (OTA) offers more than three decades transconductance gain and wide linear range. Fully differential continuous-time OT A — C filters provide high dynamic range, high power supply noise re- jection, and programmable filter parameters. Fabrication-induced mismatch in the analog implementation is compensated through calibration using a generalized linear modeling and optimization scheme.

My research has resulted in a reconfigurable biomimetic mixed-signal VLSI feature extraction frontend for sonar and acoustic classification. The reconfigurable system is inte- grated on a single 3mm x 3mm chip in 0.5um CMOS technology. It features a 32-channel filter bank, with reconfigurable filter topology and programmable filter parameters. The chip consumes 9mW power for a total of 96 integrated biquad filters.

My work further led to application of the frontend architecture to robust speech and speaker recognition, sonar signal processing for under water target detection, and statisti- il cal analysis of speckle field for adaptive laser communication and adaptive optics. Exper- iments with robust speech and speaker recognition demonstrated the noise robustness of the extracted features under the auditory perception model, outperforming MFCC feature extraction algorithms. Combining ultrasonic time-frequency features with support ma- chine learning algorithms, we showed detection of buried underwater targets from sonar backscatter of single-ping sonar signals. In adaptive optics experiments, time-frequency analysis of speckle field signals indicated to be an effective laser beam quality metric for adaptive target-in-the-loop control.

Thesis advisor: Gert Cauwenberghs ill Acknowledgements I express my deepest gratitude to my thesis advisor, professor Gert Cauwenberghs, for introducing me into the art and science of analog circuit design, for being an outstanding mentor, for being always patient, extremely supportive, and tremendous inspirative through my Ph. My special thanks goes to professor Mikhail Vorontsov, Andreas Andreou, Sanjeev Khudanpur, and Paul Sotiriadis , whose advice and insights helped me to solve theoretical and practical problems during the course of this dissertation. Sanjeev Khudanpur and William Byrne at CLSP enriched my knowledge in the field of languge and speech processing by outstanding lectures. Mikhail Vorontsov, Ernst Polnau, and Gary Carhart at Army Research Lab and Intelligent Optics Laboratory at University of Maryland.

They provided me the resources that made this dissertation possible. I would like to thank Tim Edwards at Johns Hopkins Applied Physics Lab, Marc Co- hen at University of Maryland, Roman Genov at University of Toronto, and Shantanu Chakrabartty at Michigan State University, Milutin Stanacevic at New York State Uni- versity, for their insightful discussions with different facets of my research. I also would like to thank my colleagues and friends at Adaptive Microsystems Lab, Biomedical instrumentation lab, Computational Sensory-Motor Systems Lab, and Sensory Communication and Microsystems lab: Abdullah Celik, Adeel Abbas, Christian Sauer, Grant Mulliken, Karthikeya Murari, Philippe Pouliquen, and Ralf Philipp, for being sup- portive and providing assistance at different steps of my study. I thank my friends at CLSP, Yonggang Deng and Shankar Kumar for their assistance with speech recognition experi- ments.

Finally, my parents, my brothers and sisters provided a nurturing, loving environment and unconditional support through my rough time. I am grateful to my wife Fang, for her tremendous sacrifice throughout my study and encouragements when I needed the most. iv Contents List of Figures viii List of Tables xi I Introduction 1 Pattern Recognition and Feature Extraction 1.2 Time Frequency Feature Extraction Theory .1 Short-Time Fourier Transform .4 Auditory Feature Extraction .3 Relevance: Robust, Real-Time Feature Extraction. vn vu ng g gi kg và v.v na II Mixed-Signal VLSI Implementation Feature Extraction Circuit Design 2.

Q Q Q Q Q ng kg KV 2.2 Reconfigurable Filter Bank Architecture.3 Three Decades Programmable Fully Differential OTA Design.1 Current Division Circuit 2.2 Regulated Cascode Circuit 2. Common Mode Feedback Ctrcut.4 Full-wave RectiierDesign.5 OTA Noise Analysis. 0002 eee ee ee ees 2.4 Fully Differential Analog Filter Design.1 Biquad Filter Parameter Sensitivity Analysis .2 Biquad Filter Noise Analysis. &« 3 VLSI Implementation and Characterization 3.3 Full Wave Rectfe.4 Filter parameter calibratlon.2 The Generalized LinearModel.5 Programmable Gm-C Filter Calibration Experiments .1 Filter Parameter Modeling.

ee HI Applications 4 Robust Speech and Speaker Recognition 4.2 Auditory Perception Model.3 Kernel Predictive Cepstral Coding .1 Kernel Ridge Regression. ee ee ee 4. eee ee 44 Robust Digit Recognition.5 Robust Speaker RecOgnHHIOI.1 7 GMMand YAHO Database.2 Speaker Identification Experimen. c Q Q Q Q Q ng Q ng vn Q kg v v k va 5 Biomimetic Sonar Signal Processing 5.

c c Q Q Q ng vn nu nà k và v.2 Biosonar Target Detection System ©.22 Dolphin Cochlear Model.3 Biosonar Front-EndProcesor.3 Target Classifier: Support Vector Machines. ee 92 6 Real-Time Speckle Field Statistical Analysis 93 6.2 Speckle Field Statistics as Laser Beam Quality Criterion. SpeckSpect: A Mixed-Signal VLSI Speckle Spectrum Analyzer .4 Speckle Measurement Experiment.42 Sampled Static Speckle Field .3 Speckle Spectrum Statistics 2. ee 100 IV Conclusions 105 7 Conclusions 106 7.

Summary of Contributions. Three Decades Programmable OTA and Filter Design.2 Auditory Perception Model for Robust Speech and Speaker Recog- MitiOn 107 7.3 Real-Time VLSI Systems for Sonar and Speckle Field Signal Pro- COSSING Ce 108 7. eeva 108 Bibliography 110 Vil List of Figures 1.1 Human ear anatomy [16] 2.1 Silicon model of cochlear time-frequency signal processing (a) Parallel model; (b) Cascade model.2 Fully differential programmable OTA.3 Coarse current mirror.4 Fine current division ciITCUI.5 Regulated cascode ciIrCUI.6 Common mode feedback circut.7 Full wave rectifier circuit.8 OTA input referred noise vs, programming bits.9 First-order low-pass filter, .10 Digitally programmable OTA-C biquad filter creult.11 Feasible programming range, in theory, of biquad filter .12 The ideal OTA Gm as a function of programming bits. The four selectable scales depend on the coarse current scaling programming bits S0, 51; fine scaling with 8-bit resolution is provided by current division programming bits BO-— 7 Q v1 vu vn g kg k kg và ki vA 2.13 Biquad filter center frequency senSitVitV.14 Biquad filter quality factor sensitlVIy.15 Biquad filter gain sensitivity.16 Single ended noise analysis model for the fully differential OTA-C biquad filter, each OTA has a input referred noise of V,,, .17 Biquad filter input referred noise for constant Q filters.18 Biquad filter input referred noise for constant center frequency filters.1 Photomicrograph of filter bank fontend.2 Measured OTA dynamic range at different common mode input levels.3 Measured Œ„, as a function of digital programming bits B7_9 and 5}.4 Measured OTA input referred noise as a function of digital programming bits Br_o and Si.

ee ee ee ee te 3.5 Measured differential full wave rectifier response.6 Center frequency GLM data fit on 200 training (+) and test (o) data).7 Quality factor GLM data fit on 200 training (+) and test (o) datas.8 Gain GLM data fit on 200 training (+) and test (o) data.9 Low pass filter response at different CF’, with measured (dotted line), sim- ulated (solid line), and theoretical sensitivity error (vertical bars).10 Band pass filter response at different 7", with measured (dotted line), sim- ulated (solid line), and theoretical sensitivity error (vertical bars).11 Band pass filter response at different Q, with measured (dotted line), simu- lated (solid line), and theoretical sensitivity error (vertical bars).12 Programming error for center Íequency.13 Programming error for quality facto.1 Signal flow of logarithmic (4) and simplified linear (6) auditory perception model. c Q Q Q Q Q HQ ng ng à k k k k kg 63 4.2 Frequency response of the constant-Q bandpass filterbank .3 Speech waveform for digit’? weee 66 4.4 Time-frequency feature, left: generated by chip, right: generated by simu- lation, 1.5 Signal flow in KPCC feature extraction .1 Architecture for sonar object classification. Left: Model of dolphin biosonar echo-location [87, 85]. Right: Real-time hardware implementation, with reconfigurable front-end signal processor and massively parallel VLSI kernel- based classifier [93].2 Sonar backscatter signal, 134 samples, sample rate 150Khz.3 Sonar backscatter time-frequency distribution, left: generated by chip, right: generated by simulation.4 Correlation matrix of sonar training data from simulation.5 Correlation matrix of sonar training data from 64 lattice ispPAC chips.6 Correlation matrix of sonar training data from the designed filter bank chip.7 Correlation matrix of training, cross-validation and test sonar data from Ôi 1Š.8 Correlation matrix of training, cross-validation and test sonar data obtained from 64 lattice ispPAC chips.9 Correlation matrix of training, cross-validation and test sonar data otained from the designed filter bank chip.1 Measured filter bank channel response.2 Speckle field analysis experimental setup.3 Speckle field analysis system diagram.4 Statics Speckle from Camera 1 (a): Focused; (b): Non-focused.5 Statics Speckle from Camera 2 (a): Focused; (b): Non-focused.6 The signal of four channels depending on the position of the focus plane relative to the rough surface.

The center frequencies of the band pass filters in the four channel are programmed as follows: Channel 0 — 5kHz, Channel 1 — 10kHz, Channel 3 — 20kHz, Channel 5- 30kHz.7 Channel ratio as image quality metric (a): ratio of Channel 5 and Channel 1; (b): zoomed in version of ratio of Channel 5 and Channel 1. List of Tables 2.1 Parameters for noise calculation .2 Coarse current division circuit noise contribution.1 Measured OTA Characteristics ©.2 Measured Filter Characteristics, ©. ee ee ee 53 3.3 Filter Bank Chip Characteristics .1 Speech Recognition Rates for MFCC, KPCC, and Auditory Features.2 Speaker Identification Rates for MFCC and Auditory Features .1 SVM sonar target detection error rate, 305 training data.2 SVM sonar target detection error rate, 472 training data. 92 71 Comparative study of feature extraction sysfems.

109 xi Part I Introduction Chapter 1 Pattern Recognition and Feature Extraction 1.1 Introduction There are tremendous research interests in pattern recognition systems due to their wide applications: sequence analysis in bio-informatics, pattern search in data mining, internet information retrieval, biometric identification, image understanding for the blind, speech recognition and many others. The best pattern recognizers in many cases are humans, yet our knowledge of how humans recognize patterns is limited. In spite of almost 50 years of research and develop- ment in this field, the general problem of recognizing complex patterns in real life remains unsolved.