Luận văn thạc sĩ: Ứng dụng mạng nơ ron nhân tạo vào nhận dạng khuôn mặt

Luận văn thạc sĩ nghiên cứu ứng dụng mạng nơ ron nhân tạo trong nhận dạng mặt người, khám phá công nghệ và tiềm năng trong lĩnh vực này.

• Tác giả: Nguyễn Hải Bình
• Người hướng dẫn: TS. Nguyễn Đình Hóa
• Trường học: Học viện Công nghệ Bưu chính Viễn thông
• Chuyên ngành: Hệ thống thông tin
• Đề tài: Nghiên cứu ứng dụng mạng nơ ron nhân tạo trong nhận dạng khuôn mặt
• Loại tài liệu: luận văn thạc sĩ
• Năm xuất bản: 2020
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• DANH MỤC CÁC TỪ VIẾT TẮT
• DANH MỤC CÁC HÌNH VẼ
• 1. CHƯƠNG 1: TỔNG QUAN VỀ MẠNG NORON
• 1.1. Giới thiệu mạng noron nhân tạo
• 1.1.1. Lịch sử phát triển của mạng noron
• 1.2. Mạng noron sinh học
• 1.3. Mạng noron nhân tạo
• 1.4. Các hàm kích hoạt (hàm truyền)
• 1.4.1. Hàm đồng nhất (Linear function, Identity function)
• 1.4.2. Hàm nhị phân (Binary step function, Hard limit function)
• 1.4.3. Hàm sigmoid (Sigmoid function (logistic))
• 1.4.4. Hàm sigmoid lưỡng cực (Bipolar sigmoid function (tansig))
• 1.5. Cấu trúc mạng noron
• 1.5.1. Mạng tự kết hợp
• 1.5.2. Kiến trúc truyền thẳng
• 1.5.3. Kiến trúc phản hồi
• 1.6. Các luật học của mạng noron
• 2. CHƯƠNG II: MẠNG NƠ-RON VÀ ỨNG DỤNG TRONG NHẬN DẠNG MẶT NGƯỜI
• 2.1. Tổng quan về mạng noron tích chập
• 2.2. Lớp tích chập
• 2.3. Lớp hàm kích hoạt
• 2.4. Lớp kết nối đầy đủ
• 2.5. Nguyên lý hoạt động
• 2.6. Phương pháp lựa chọn mô hình
• 2.7. Tổng quan về bài toán nhận dạng
• 2.8. Ứng dụng của nhận dạng khuôn mặt
• 2.9. Các hướng tiếp cận bài toán nhận dạng khuôn mặt
• 3. CHƯƠNG III: CÁC KẾT QUẢ THỰC NGHIỆM
• 3.1. Công cụ lập trình
• 3.2. Ngôn ngữ lập trình Python
• 3.3. Các chương trình thực hiện
• 3.4. Bộ dữ liệu
• 3.5. Quá trình thực nghiệm
• 3.6. Kết quả thực nghiệm
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. Giới thiệu về mạng nơ ron nhân tạo

Mạng nơ ron nhân tạo (mạng nơ ron) là một mô hình tính toán được thiết kế để mô phỏng hoạt động của não bộ con người. Mô hình này bao gồm nhiều nơ ron độc lập liên kết với nhau, cho phép xử lý thông tin một cách hiệu quả. Lịch sử phát triển của mạng nơ ron bắt đầu từ những năm 1940, với những nghiên cứu đầu tiên của Warren McCulloch và Walter Pitts. Họ đã chỉ ra rằng các nơ ron nhân tạo có thể tính toán bất kỳ hàm số học hay logic nào. Tuy nhiên, sự phát triển của mạng nơ ron đã gặp nhiều khó khăn do hạn chế về công nghệ và lý thuyết. Đến những năm 1980, với sự ra đời của thuật toán lan truyền ngược (back-propagation), nghiên cứu về mạng nơ ron đã có những bước tiến vượt bậc. Mạng nơ ron nhân tạo hiện nay được ứng dụng rộng rãi trong nhiều lĩnh vực, đặc biệt là trong nhận dạng khuôn mặt.

1.1. Lịch sử phát triển của mạng nơ ron

Mạng nơ ron nhân tạo đã trải qua nhiều giai đoạn phát triển. Ban đầu, các nơ ron chỉ có khả năng giải quyết các bài toán đơn giản. Tuy nhiên, với sự phát triển của công nghệ máy tính và các thuật toán học máy, mạng nơ ron đã trở nên mạnh mẽ hơn. Các nghiên cứu của Minsky và Papert đã chỉ ra rằng các mạng nhận thức chỉ có thể giải quyết các bài toán khả phân tuyến tính, dẫn đến sự đình trệ trong nghiên cứu. Tuy nhiên, vào những năm 1980, sự ra đời của các thuật toán mới đã giúp khôi phục lại sự quan tâm đối với mạng nơ ron. Các mô hình như MLP (Multilayer Perceptron) và CNN (Convolutional Neural Network) đã mở ra nhiều khả năng mới trong việc xử lý và nhận dạng hình ảnh.

II. Ứng dụng của mạng nơ ron trong nhận dạng khuôn mặt

Nhận dạng khuôn mặt là một trong những ứng dụng nổi bật của mạng nơ ron nhân tạo. Công nghệ này đã được áp dụng trong nhiều lĩnh vực như an ninh, thương mại và giải trí. Mạng nơ ron tích chập (CNN) là một trong những mô hình hiệu quả nhất trong việc nhận dạng khuôn mặt. CNN có khả năng tự động trích xuất đặc trưng từ hình ảnh mà không cần phải can thiệp thủ công. Điều này giúp tăng độ chính xác và giảm thời gian xử lý. Các nghiên cứu gần đây cho thấy rằng việc sử dụng mạng nơ ron trong nhận dạng khuôn mặt có thể đạt được độ chính xác lên đến 99%. Điều này mở ra nhiều cơ hội cho việc phát triển các hệ thống an ninh thông minh và các ứng dụng trong đời sống hàng ngày.

2.1. Công nghệ nhận dạng khuôn mặt

Công nghệ nhận dạng khuôn mặt sử dụng các thuật toán học máy để phân tích và nhận diện khuôn mặt trong hình ảnh. Các phương pháp truyền thống thường gặp khó khăn trong việc xử lý các biến thể như ánh sáng, góc nhìn và biểu cảm khuôn mặt. Tuy nhiên, với sự phát triển của học sâu và mạng nơ ron, các hệ thống hiện nay có thể xử lý những thách thức này một cách hiệu quả. Việc sử dụng dữ liệu hình ảnh lớn để huấn luyện các mô hình mạng nơ ron đã giúp cải thiện đáng kể độ chính xác của các hệ thống nhận dạng khuôn mặt. Các ứng dụng của công nghệ này không chỉ giới hạn trong an ninh mà còn mở rộng ra các lĩnh vực như marketing và chăm sóc khách hàng.

III. Kết quả thực nghiệm và đánh giá

Trong nghiên cứu này, các kết quả thực nghiệm cho thấy rằng việc áp dụng mạng nơ ron trong nhận dạng khuôn mặt mang lại hiệu quả cao. Các mô hình được xây dựng đã được kiểm tra trên nhiều bộ dữ liệu khác nhau, cho thấy khả năng nhận diện chính xác và nhanh chóng. Việc sử dụng Python và các thư viện như TensorFlow và Keras đã giúp đơn giản hóa quá trình phát triển và triển khai các mô hình. Kết quả thực nghiệm cho thấy rằng mạng nơ ron tích chập có thể đạt được độ chính xác lên đến 98% trong việc nhận diện khuôn mặt từ các hình ảnh khác nhau. Điều này chứng tỏ rằng công nghệ này có tiềm năng lớn trong việc phát triển các ứng dụng thực tế.

3.1. Phân tích kết quả thực nghiệm

Kết quả thực nghiệm cho thấy rằng các mô hình mạng nơ ron đã hoạt động hiệu quả trong việc nhận diện khuôn mặt. Các chỉ số như độ chính xác, độ nhạy và độ đặc hiệu đều đạt được mức cao. Việc sử dụng các phương pháp như học sâu đã giúp cải thiện đáng kể khả năng nhận diện trong các điều kiện khác nhau. Các mô hình cũng cho thấy khả năng tổng quát tốt khi được áp dụng trên các bộ dữ liệu khác nhau. Điều này cho thấy rằng mạng nơ ron không chỉ có khả năng học từ dữ liệu mà còn có thể áp dụng kiến thức đã học vào các tình huống mới.

Nội dung chính

Tổng quan nghiên cứu

Nhận dạng khuôn mặt là một lĩnh vực quan trọng trong xử lý ảnh và thị giác máy tính, với ứng dụng rộng rãi trong an ninh, thương mại, và các hệ thống tương tác người-máy. Theo ước tính, việc xây dựng hệ thống nhận dạng khuôn mặt đòi hỏi xử lý lượng dữ liệu lớn với yêu cầu về độ chính xác và tốc độ cao. Nhiệm vụ nghiên cứu trong luận văn tập trung vào việc ứng dụng mạng nơ-ron nhân tạo, đặc biệt là mạng nơ-ron tích chập (CNN), nhằm nâng cao hiệu quả nhận dạng mặt người với khối lượng tính toán và thời gian xử lý được tối ưu.

Mục tiêu cụ thể của nghiên cứu là phát triển một mô hình CNN có khả năng nhận dạng khuôn mặt chính xác, giảm thiểu hiện tượng quá khớp (overfitting) và phù hợp với các bộ dữ liệu thực tế. Phạm vi nghiên cứu tập trung vào dữ liệu ảnh khuôn mặt thu thập tại Việt Nam trong giai đoạn 2018-2020, sử dụng bộ dữ liệu LFW và các bộ dữ liệu thực tế khác. Ý nghĩa của nghiên cứu được thể hiện qua việc cải thiện các chỉ số như độ chính xác nhận dạng, tốc độ xử lý và khả năng ứng dụng trong các hệ thống an ninh, kiểm soát ra vào, và các ứng dụng thương mại.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Luận văn dựa trên hai lý thuyết chính: mạng nơ-ron nhân tạo (Artificial Neural Network - ANN) và mạng nơ-ron tích chập (Convolutional Neural Network - CNN). Mạng nơ-ron nhân tạo mô phỏng hoạt động của nơ-ron sinh học, gồm các thành phần như tập đầu vào, trọng số liên kết, hàm tổng, độ lệch (bias), hàm kích hoạt và đầu ra. Các hàm kích hoạt phổ biến gồm hàm đồng nhất, hàm nhị phân, hàm sigmoid và hàm sigmoid lưỡng cực.

Mạng CNN là một biến thể của ANN, được thiết kế đặc biệt cho xử lý ảnh với cấu trúc gồm các lớp tích chập, lớp hàm kích hoạt, lớp pooling và lớp kết nối đầy đủ. Lớp tích chập giúp trích xuất đặc trưng cục bộ từ ảnh, lớp hàm kích hoạt phi tuyến như ReLU tạo ra thông tin trừu tượng, lớp pooling giảm kích thước dữ liệu và giảm hiện tượng quá khớp, trong khi lớp kết nối đầy đủ thực hiện phân loại cuối cùng.

Ba khái niệm chính được sử dụng trong nghiên cứu là:

• Tích chập (Convolution): Phép toán trượt bộ lọc trên ảnh để trích xuất đặc trưng.
• Pooling: Phương pháp lấy mẫu con để giảm kích thước dữ liệu, phổ biến nhất là max pooling.
• Overfitting: Hiện tượng mô hình học quá khớp với dữ liệu huấn luyện, làm giảm hiệu quả trên dữ liệu kiểm tra.

Phương pháp nghiên cứu

Nguồn dữ liệu chính là bộ dữ liệu LFW (Labeled Faces in the Wild) và các bộ dữ liệu thực tế thu thập tại một số địa phương Việt Nam. Cỡ mẫu khoảng vài nghìn ảnh khuôn mặt với đa dạng điều kiện ánh sáng, góc chụp và trạng thái khuôn mặt.

Phương pháp phân tích sử dụng mô hình CNN được xây dựng và huấn luyện trên ngôn ngữ lập trình Python, tận dụng các thư viện hỗ trợ như TensorFlow và Keras. Quá trình huấn luyện được chia thành các giai đoạn: tiền xử lý ảnh (cân bằng sáng, tách ngưỡng), trích xuất đặc trưng qua các lớp tích chập và pooling, và phân loại bằng lớp kết nối đầy đủ với hàm softmax.

Timeline nghiên cứu kéo dài trong 12 tháng, bao gồm 3 tháng chuẩn bị dữ liệu, 6 tháng huấn luyện và tối ưu mô hình, 3 tháng đánh giá và hoàn thiện báo cáo. Phương pháp đánh giá mô hình dựa trên các chỉ số sai số huấn luyện, sai số kiểm tra, độ chính xác nhận dạng và khả năng tổng quát hóa qua kỹ thuật duyệt chéo k-gấp (k-fold cross-validation).

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

1. Độ chính xác nhận dạng: Mô hình CNN đạt độ chính xác trung bình khoảng 92% trên bộ dữ liệu kiểm tra, cao hơn 15% so với mô hình mạng nơ-ron truyền thẳng (MLP) truyền thống.
2. Giảm hiện tượng quá khớp: Sử dụng kỹ thuật dropout và regularization giúp giảm sai số kiểm tra từ 18% xuống còn khoảng 8%, đồng thời duy trì sai số huấn luyện dưới 5%.
3. Tốc độ xử lý: Mô hình CNN với số lượng tham số khoảng 260 tham số cho mỗi ánh xạ đặc trưng, giảm đáng kể so với mô hình truyền thẳng cần hơn 30.000 tham số, giúp tăng tốc độ huấn luyện và dự đoán lên khoảng 3 lần.
4. Khả năng nhận dạng ảnh một phần khuôn mặt: Thuật toán Multi Keypoint Descriptor (MKD) kết hợp với CNN cho phép nhận dạng chính xác trên ảnh khuôn mặt bị che khuất hoặc chỉ có một phần khuôn mặt, với độ chính xác đạt khoảng 85%.

Thảo luận kết quả

Nguyên nhân chính của sự cải thiện độ chính xác là do cấu trúc CNN tận dụng được tính cục bộ và bất biến của ảnh, giảm thiểu số lượng tham số cần huấn luyện so với mạng truyền thẳng. Kỹ thuật dropout và regularization giúp mô hình tránh được hiện tượng quá khớp, điều này phù hợp với các nghiên cứu trước đây trong lĩnh vực học sâu.

So sánh với các nghiên cứu khác, kết quả đạt được tương đương hoặc vượt trội hơn các mô hình CNN phổ biến như AlexNet hay GoogLeNet trên bộ dữ liệu tương tự. Việc áp dụng thuật toán nhận dạng không cần canh chỉnh khuôn mặt giúp mở rộng khả năng ứng dụng trong các môi trường thực tế, nơi ảnh thu thập thường không chuẩn hóa.

Dữ liệu có thể được trình bày qua biểu đồ so sánh độ chính xác giữa các mô hình, bảng thống kê sai số huấn luyện và kiểm tra theo từng kỹ thuật điều chỉnh, cũng như biểu đồ thời gian huấn luyện và dự đoán.

Đề xuất và khuyến nghị

1. Tăng cường thu thập dữ liệu đa dạng: Động từ hành động: mở rộng; Target metric: tăng số lượng và đa dạng bộ dữ liệu; Timeline: 6-12 tháng; Chủ thể thực hiện: các viện nghiên cứu và doanh nghiệp công nghệ.
2. Áp dụng kỹ thuật tăng cường dữ liệu (data augmentation): Động từ hành động: triển khai; Target metric: cải thiện độ chính xác nhận dạng trên ảnh biến đổi; Timeline: 3-6 tháng; Chủ thể thực hiện: nhóm phát triển mô hình.
3. Tối ưu hóa mô hình CNN bằng kỹ thuật pruning và quantization: Động từ hành động: tối ưu; Target metric: giảm kích thước mô hình và tăng tốc độ xử lý; Timeline: 4-8 tháng; Chủ thể thực hiện: nhóm kỹ thuật phần mềm.
4. Phát triển hệ thống nhận dạng khuôn mặt không cần canh chỉnh: Động từ hành động: nghiên cứu và ứng dụng; Target metric: tăng độ chính xác nhận dạng ảnh khuôn mặt bị che khuất; Timeline: 6 tháng; Chủ thể thực hiện: nhóm nghiên cứu AI và thị giác máy tính.

Đối tượng nên tham khảo luận văn

1. Nhà nghiên cứu và sinh viên ngành trí tuệ nhân tạo và thị giác máy tính: Giúp hiểu sâu về ứng dụng mạng nơ-ron tích chập trong nhận dạng khuôn mặt, từ lý thuyết đến thực nghiệm.
2. Doanh nghiệp phát triển hệ thống an ninh và giám sát: Áp dụng mô hình CNN để nâng cao hiệu quả nhận dạng khuôn mặt trong các hệ thống kiểm soát ra vào và giám sát an ninh.
3. Chuyên gia phát triển phần mềm và kỹ sư AI: Tham khảo phương pháp xây dựng, huấn luyện và tối ưu mô hình CNN trên nền tảng Python, cùng các kỹ thuật tránh quá khớp.
4. Cơ quan quản lý và tổ chức nghiên cứu về an ninh công cộng: Sử dụng kết quả nghiên cứu để phát triển các giải pháp nhận dạng khuôn mặt phục vụ công tác điều tra, truy bắt tội phạm và quản lý nhân sự.

Câu hỏi thường gặp

1. Mạng nơ-ron tích chập (CNN) khác gì so với mạng nơ-ron truyền thẳng?
   CNN có cấu trúc đặc biệt với các lớp tích chập giúp trích xuất đặc trưng cục bộ từ ảnh, giảm số lượng tham số và tăng hiệu quả xử lý so với mạng truyền thẳng, vốn kết nối đầy đủ giữa các lớp.

2. Làm thế nào để tránh hiện tượng quá khớp trong huấn luyện mô hình CNN?
   Sử dụng kỹ thuật dropout, regularization, và duyệt chéo k-gấp giúp giảm hiện tượng quá khớp bằng cách ngăn chặn mô hình học quá chi tiết trên dữ liệu huấn luyện mà không tổng quát hóa tốt trên dữ liệu mới.

3. Bộ dữ liệu LFW có đặc điểm gì nổi bật?
   LFW là bộ dữ liệu ảnh khuôn mặt trong môi trường tự nhiên, đa dạng về ánh sáng, góc chụp và biểu cảm, được sử dụng rộng rãi để đánh giá các thuật toán nhận dạng khuôn mặt.

4. Phương pháp nhận dạng khuôn mặt không cần canh chỉnh hoạt động ra sao?
   Phương pháp này sử dụng các mô tả đa điểm chính (MKD) và mẫu tam phân Gabor (GTP) để biểu diễn khuôn mặt mà không cần xác định các điểm mốc như mắt, giúp nhận dạng chính xác trên ảnh bị che khuất hoặc không chuẩn hóa.

5. Tại sao Python được chọn làm ngôn ngữ lập trình trong nghiên cứu này?
   Python có cú pháp dễ học, nhiều thư viện hỗ trợ mạnh mẽ cho trí tuệ nhân tạo và học máy như TensorFlow, Keras, giúp phát triển và triển khai mô hình CNN nhanh chóng và hiệu quả.

Kết luận

• Nghiên cứu đã phát triển thành công mô hình CNN ứng dụng trong nhận dạng khuôn mặt với độ chính xác đạt khoảng 92%, vượt trội so với các mô hình truyền thống.
• Kỹ thuật dropout và regularization được áp dụng hiệu quả để giảm hiện tượng quá khớp, nâng cao khả năng tổng quát của mô hình.
• Mô hình CNN giảm đáng kể số lượng tham số so với mạng truyền thẳng, giúp tăng tốc độ huấn luyện và dự đoán.
• Thuật toán nhận dạng không cần canh chỉnh khuôn mặt mở rộng khả năng ứng dụng trong các môi trường thực tế đa dạng.
• Các bước tiếp theo bao gồm mở rộng bộ dữ liệu, tối ưu mô hình và phát triển hệ thống nhận dạng khuôn mặt toàn diện cho các ứng dụng thực tiễn.

Khuyến khích các nhà nghiên cứu và doanh nghiệp ứng dụng kết quả nghiên cứu để phát triển các hệ thống nhận dạng khuôn mặt thông minh, đồng thời tiếp tục cải tiến mô hình nhằm đáp ứng yêu cầu ngày càng cao của thực tế.

Trích đoạn nội dung tài liệu

CHƯƠNG 1. TỔNG QUAN VỀ MẠNG NORON 1. Giới thiệu mạng noron nhân tạo 1. Lịch sử phát triển của mạng noron Mạng noron nhân tạo đã có một lịch sử phát triển lâu dài.

Năm 1940 với công trình của Warren McCulloch và Walter Pitts [6]. Họ chỉ ra rằng về nguyên tắc, mạng của các noron nhân tạo có thể tính toán bất kỳ một hàm số học hay logic nào. Tiếp theo hai người là Donald Hebb, ông đã phát biểu rằng việc thuyết lập luận cổ điển (classical conditioning) là hiện thực bởi do các thuộc tính của từng noron riêng biệt. Ông cũng nêu ra một phương pháp học của các noron nhân tạo.

Ứng dụng thực nghiệm đầu tiên của các noron nhân tạo có được vào cuối những năm 50 cùng với phát minh của mạng nhận thức (perceptron network) và luật học tương ứng bởi Frank Rosenblatt. Mạng này có khả năng nhận dạng các mẫu. Điều này đã mở ra rất nhiều hy vọng cho việc nghiên cứu mạng noron. Tuy nhiên nó có hạn chế là chỉ có thể giải quyết một số lớp hữu hạn các bài toán.

Cùng thời gian đó, Bernard Widrow và Ted Hoff đã đưa ra một thuật toán học mới và sử dụng nó để huấn luyện cho các mạng noron tuyến tính thích nghi, mạng có cấu trúc và chức năng tương tự như mạng của Rosenblatt. Luật học Widrow-Hoff vẫn còn được sử dụng cho đến nay. Tuy nhiên cả Rosenblatt và Widrow-Hoff đều cùng gặp phải một vấn đề, do Marvin Minsky và Seymour Papert đã phát hiện ra, đó là các mạng nhận thức chỉ có khả năng giải quyết các bài toán khả phân tuyến tính. Họ cố gắng cải tiến luật học và mạng để có thể vượt qua được hạn chế này nhưng họ đã không thành công trong việc cải tiến luật học để có thể huấn luyện được các mạng có cấu trúc phức tạp hơn.

Do những kết quả của Minsky-Papert nên việc nghiên cứu về mạng noron gần như bị đình lại trong suốt một thập kỷ do nguyên nhân là không có được các máy tính đủ mạnh để có thể thực hiện. Luan van 4 Mặc dù vậy, cũng có một vài phát kiến quan trọng vào những năm 70. Năm 1972, Teuvo Kohonen và James Anderson độc lập nhau phát triển một loại mạng mới có thể hoạt động như một bộ nhớ. Stephen Grossberg cũng rất tích cực trong việc khảo sát các mạng tự tổ chức (Self organizing networks).

Vào những năm 80, việc nghiên cứu mạng noron phát triển rất mạnh mẽ cùng với sự ra đời của PC. Có hai khái niệm mới liên quan đến sự hồi sinh này, đó là: - Việc sử dụng các phương pháp thống kê để giải thích hoạt động của một lớp các mạng hồi quy (recurrent networks) có thể được dùng như bộ nhớ liên hợp (associative memory) trong công trình của nhà vật lý học Johh Hopfield. - Sự ra đời của thuật toán lan truyền ngược (back-propagation) để luyện các mạng nhiều lớp được một vài nhà nghiên cứu độc lập tìm ra như: David Rumelhart, James McCelland,. Đó cũng là câu trả lời cho Minsky-Papert.

Mạng noron sinh học Não người là tổ chức vật chất cấp cao, có cấu tạo vô cùng phức tạp, dày đặc các mối liên kết giữa các nơron nhưng xử lý thông tin rất linh hoạt trong môi trường bất định. Trong bộ não người có khoảng 1011 – 1012 tế bào thần kinh được gọi là các nơron và mỗi nơron có thể liên kết với 104 nơron khác thông qua các khớp nối thần kinh (synapse). Dưới con mắt của những người làm tin học cấu tạo của mỗi nơron gồm các thành phần cơ bản sau: - Thân nơron được giới hạn trong một màng membran và trong cùng là nhân. Nó là nơi tiếp nhận, tổng hợp và phát ra các xung thần kinh hay các thông tin sau khi đã được tổng hợp.

Từ thân nơron còn có rất nhiều đường rẽ nhánh tạm gọi là rễ. - “Bus” liên kết nơron này với các nơron khác được gọi là axon, trên axon có các đường rẽ nhánh. Nơron còn có thể liên kết với các nơron khác qua các rễ. Chính vì cách liên kết đa dạng như vậy nên mạng nơron có độ liên kết rất cao.

Luan van 5 Hình 1. Mô hình mạng nơron sinh học Các rễ của nơron được chia làm hai loại: rễ đầu vào nhận thông tin từ các nơron khác qua axon và rễ đầu ra đưa thông tin qua axon tới các nơron khác. Một nơron có thể có nhiều rễ đầu vào, nhưng chỉ có một rễ đầu ra. Bởi vậy nếu coi nơron như một khâu điều khiển thì nó chính là khâu có nhiều đầu vào và một đầu ra.

Quá trình hoạt động của một nơron là một quá trình điện hoá tự nhiên. Khi có tác động từ bên ngoài vào nơron, tức ở đầu vào của nơron xuất hiện một tín hiệu tác động vượt quá ngưỡng cân bằng của nó thì nơron sẽ ở trạng thái kích thích. Trong tế bào nơron xảy ra hàng loạt các phản ứng hoá học tạo thành lực tác động làm nơron bị kích thích hoàn toàn. Thế năng sinh ra khi nơron ở trạng thái bị kích thích hoàn toàn này chỉ tồn tại vài mili giây sau đó nơron lại trở về trạng thái cân bằng cũ.

Thế năng này được chuyển vào mạng qua axon và có khả năng kích thích hoặc kìm hãm tự nhiên các nơron khác trong mạng. Một tính chất rất cơ bản của mạng nơron sinh học là các đáp ứng theo kích thích có khả năng thay đổi theo thời gian. Các đáp ứng có thể tăng lên, giảm đi hoặc hoàn toàn biến mất. Qua các nhánh axon liên kết các tế bào nơron với nhau, sự thay đổi trạng thái của một nơron dẫn theo sự thay đổi trạng thái của những nơron khác và dẫn tới sự thay đổi của toàn bộ mạng nơron.

Việc thay đổi trạng thái của mạng nơron có thể thực hiện qua một quá trình “dạy” hoặc do khả năng “học” tự nhiên. Luan van 6 Hoạt động tư duy của con người phần nhiều mang tính chủ quan định tính, dựa trên những bài học, kinh nghiệm học được từ khi còn nhỏ. Càng lớn dần thì những bài học hay kinh nghiệm của con người ngày càng nhiều, giúp con người giải quyết các vấn dề trong tự nhiên, xã hội tốt hơn. Bộ não có khả năng tự thay đổi cấu trúc để thích nghi dần với môi trường, làm cho cấu trúc bộ não ngày càng trở nên phức tạp sau mỗi lần học.

Cấu trúc của mạng nơron sinh học cũng luôn luôn được phát triển và thay đổi. Một số cấu trúc của nơron được xác định trước, một số sau này mới được hình thành và một số thì bị huỷ bỏ qua quá trình chọn lọc tự nhiên, học và thích nghi. Qua quá trình tìm hiểu, nghiên cứu cấu trúc và hoạt động của bộ não người, các nhà khoa học đã và đang xây dựng và phát triển các mô hình xử lý thông tin mô phỏng hoạt động của bộ não người. Đó chính là mô hình mạng nơron nhân tạo.

Mạng noron nhân tạo Mạng nơron nhân tạo bao gồm nhiều nơron độc lập liên kết với nhau. Trước khi định nghĩa thế nào là mạng nơron nhân tạo, chúng ta sẽ tìm hiểu mô hình của một nơron nhân tạo. Một nơron nhân tạo phản ánh các tính chất cơ bản của nơron sinh học. Mỗi nơron nhân tạo là một đơn vị xử lí thông tin làm cơ sở cho hoạt động của một mạng nơron.

Nó có chức năng nhận tín hiệu vào, tổng hợp và xử lý các tín hiệu vào để tính tín hiệu ra. Dưới đây là một mô hình của một nơron nhân tạo: Hình 1. Mô hình mạng noron Luan van 7 Với mục đích tạo ra một mô hình tính toán phỏng theo cách làm việc của noron trong bộ não con người, vào năm 1943, các tác giả McCulloch và Pitts [6] đã đề xuất một mô hình toán cho một noron như hình 1. Trong mô hình này, một noron thứ i sẽ nhận các tín hiệu vào pjvới các trọng n số tương ứng là wij, tổng các thông tin vào có trọng số là: w p  b.

j 1 ij j i Thông tin đầu ra ở thời điểm t+1 được tính từ các thông tin đầu vào như sau: n a(t  1)  f ( wij p j  bi ) (1) j 1 Trong đó f là hàm truyền có dạng là hàm bước nhảy, nó đóng vai trò biến đổi từ thông tin đầu vào thành tín hiệu đầu ra: nếu x ≥ 0 0 f (x)   nếu x ≤ 0 (2) 1 Như vậy, a = 1 (ứng với việc noron tạo tín đầu ra) khi tổng các tín hiệu vào lớn hơn độ lệch bi, còn a = 0 (noron không tạo tín hiệu ở đầu ra) khi tổng các tín hiệu vào nhỏ hơn độ lệch bi. Trong mô hình noron của McCulloch và Pitts, các trọng số wij thể hiện ảnh hưởng của khớp nối trong liên kết giữa noron j (noron gửi tín hiệu) và noron i (noron nhận tín hiệu). Trọng số wij dương ứng với khớp nối kích thích, trọng số âm ứng với khớp nối ức chế còn wij bằng 0 khi không có liên kết giữa hai noron. Hàm truyền f ngoài dạng hàm bước nhảy còn có thể chọn nhiều dạng khác nhau và sẽ được đề cập ở các phần sau.

Thông qua cách mô hình hoá đơn giản một noron sinh học như trên, McCulloch và Pitts đã đưa ra một mô hình noron nhân tạo có tiềm năng tính toán quan trọng. Nó có thể thực hiện các phép toán logic cơ bản như AND, OR và NOT khi các trọng số và ngưỡng được chọn phù hợp. Sự liên kết giữa các noron nhân tạo với các cách thức khác nhau sẽ tạo nên các loại mạng noron nhân tạo với những tính Luan van 8 chất và khả năng làm việc khác nhau. Một noron nhân tạo được thể hiện thông qua các thành phần cơ bản sau: - Tập các đầu vào: là tín hiệu vào của mạng noron, các tín hiệu này thường được đưa vào dưới dạng một véc tơ R thành phần, hoặc tín hiệu ra của các noron thuộc lớp đằng trước.

- Trọng số liên kết: là trọng số liên kết giữa tín hiệu vào thứ j cho noron i. Thông thường các trọng số này được khởi tạo ngẫu nhiên ở thời điểm khởi tạo mạng và được cập nhật liên tục trong quá trình học. - Bộ tổng (hàm tổng): thường dùng để tính tổng của các đầu vào đã được nhân với các trọng số liên kết của nó. - Độ lệch (bias): thường được đưa vào như một thành phần của hàm truyền.

- Hàm kích hoạt (hàm truyền): hàm này dùng để xác định và giới hạn giá trị đầu ra của mỗi noron. Nó nhận đầu vào là kết quả của hàm tổng kết hợp với độ lệch đã cho. Các hàm truyền rất đa dạng có thể là tuyến tính hoặc phi tuyến.