QC-StyleGAN2: Mô Hình Sinh Đối Nghịch Tùy Biến Chất Lượng Đầu Ra

Khám phá Qc StyleGAN2, mô hình sinh đối kháng với khả năng tùy biến chất lượng đầu ra, mở ra tiềm năng trong lĩnh vực trí tuệ nhân tạo.

• Tác giả: Nguyễn Viết Thành Đạt
• Người hướng dẫn: PGS. Phạm Văn Cường
• Trường học: Học viện Công nghệ Bưu chính Viễn thông
• Chuyên ngành: Công nghệ thông tin
• Đề tài: QC-StyleGAN2: Mô Hình Sinh Đối Nghịch Tùy Biến Chất Lượng Đầu Ra
• Loại tài liệu: đồ án
• Năm xuất bản: 2021
• Địa điểm: Hà Nội

Mục lục chi tiết

• LỜI CẢM ƠN
• LỜI GIỚI THIỆU
• 1. CHƯƠNG 1: TỔNG QUAN
• 1.1. Tổng quan về bài toán về chủ đề nghiên cứu
• 1.2. Học tập có giám sát và không giám sát. Giới thiệu mạng nơ-ron (Artificial Neural Network). Mô hình mạng nơ-ron tổng quát
• 1.3. Mạng Perceptron nhiều lớp (Multilayer perceptron). Convolutional neural network
• 1.4. Generative Adversarial Networks. Các nghiên cứu liên quan về GAN
• 1.5. Mạng sinh đối nghịch. Mạng sinh đối nghịch có điều kiện - CGAN. Học không giám sát với mạng sinh đối nghịch sử dụng mạng nơ-ron tích chập - DCGAN
• 1.6. Các cải tiến của mạng sinh đối nghịch có điều kiện (GAWWN, StackGAN). Sự phát triển liên tục của GAN để cải thiện chất lượng, độ ổn định và sự thay đổi. Kiến trúc mô hình sinh dựa trên phong cách - StyleGAN. Huấn luyện mạng sinh đối nghịch với dữ liệu hạn chế - StyleGAN2-ADA
• 2. CHƯƠNG 2: MÔ HÌNH SINH ĐỐI NGHỊCH VỚI TÙY BIẾN CHẤT LƯỢNG ĐẦU RA QC-StyleGAN2
• 2.1. Kiến trúc mạng sinh đối nghịch QC-StyleGAN2. Tập dữ liệu Flickr-Faces-HQ (FFHQ). Tiền xử lý dữ liệu. Tạo dữ liệu hình ảnh suy giảm chất lượng. Mô hình sinh G. Mô hình phân biệt D
• 2.2. Mô hình phân biệt theo cặp D Đối với các chỉ số đánh giá GAN. Khoảng cách khởi đầu Frechet. PPL - Độ dài đường dẫn cảm nhận
• 3. CHƯƠNG 3: THỰC NGHIỆM VÀ ĐÁNH GIÁ
• 3.1. Kết quả thực nghiệm
• 3.2. Công cụ và thiết bị phần mềm để đào tạo đánh giá mô hình GAN. Kết quả tùy biến chất lượng hình ảnh đầu ra từ mô hình sinh. Tái tạo hình ảnh bằng cách đưa hình ảnh về không gian tiềm ẩn. PTI - Điều chỉnh tổng thể dựa trên tiềm ẩn. Kết quả tái tạo hình ảnh QC-StyleGAN2
• PHỤ LỤC TỪ VIẾT TẮT
• PHỤ LỤC TỪ NGỮ TIẾNG ANH
• TÀI LIỆU THAM KHẢO

Tóm tắt

I. QC StyleGAN2 Tổng Quan Mô Hình Sinh Đối Nghịch Mới Nhất

Các mô hình học máy, đặc biệt là mô hình sinh đối nghịch (GAN), đang thu hút sự quan tâm lớn từ cộng đồng nghiên cứu. Công nghệ này mở ra nhiều hướng mới trong thao tác hình ảnh, từ chuyển đổi ảnh giữa các miền, thay đổi phong cách, đến chỉnh sửa thuộc tính. Tuy nhiên, các nghiên cứu trước đây thường tập trung vào tái tạo và xử lý ảnh chất lượng cao. Do đó, hiệu quả của chúng giảm sút khi đối diện với dữ liệu ảnh thực tế chất lượng thấp, chịu ảnh hưởng của nhiễu, mờ, hoặc bề hạt do nén ảnh. Đồ án này đề xuất một mô hình sinh đối nghịch mới, QC-StyleGAN2, nhằm giải quyết vấn đề này, đặc biệt khi đầu vào là hình ảnh chất lượng thấp như ảnh có độ phân giải thấp, mờ, nhiễu hay có định dạng JPEG. QC-StyleGAN2 phát triển dựa trên StyleGAN2 – một mô hình sinh đối nghịch được thiết kế đặc thù để sinh ảnh chất lượng cao và độ phân giải lớn. Điểm khác biệt là QC-StyleGAN2 có khả năng tùy biến đầu vào để thu được ảnh sắc nét hoặc kém chất lượng tùy theo nhu cầu.

1.1. Giới thiệu Mô Hình Sinh Đối Nghịch GAN và Ứng Dụng

Mô hình sinh đối nghịch (GAN) đã trở thành một công cụ mạnh mẽ trong lĩnh vực học máy, đặc biệt là học không giám sát. GAN cung cấp một phương pháp hiệu quả để phân tích và hiểu dữ liệu không được gán nhãn. Ý tưởng cốt lõi của GAN là nắm bắt phân phối xác suất bên trong dữ liệu để tạo ra dữ liệu tương tự. Theo tài liệu nghiên cứu, điều này có thể được sử dụng để lập chỉ mục và truy xuất dữ liệu nhanh chóng, cũng như thực hiện nhiều tác vụ khác. GAN đã được ứng dụng rộng rãi trong nhiều lĩnh vực như nhận dạng trực quan, nhận dạng và tạo giọng nói, xử lý ngôn ngữ tự nhiên và robot. Trong đó có thể kể đến các ứng dụng như kiểm soát thuộc tính hình ảnh tạo ra; Single image super-resolution; sáng tạo mỹ thuật; hoặc các ứng dụng chuyền đổi ảnh này sang anh khác.

1.2. Vấn Đề Với Ảnh Chất Lượng Kém Động Lực Phát Triển QC StyleGAN2

Các phương pháp xử lý ảnh hiện tại thường gặp khó khăn khi đối mặt với ảnh chất lượng kém do nhiễu, mờ, hoặc nén JPEG. StyleGAN2, mặc dù mạnh mẽ trong việc tạo ảnh chất lượng cao, lại không tối ưu cho việc xử lý ảnh đầu vào chất lượng thấp. Điều này tạo ra một khoảng trống trong nghiên cứu và ứng dụng thực tế. QC-StyleGAN2 ra đời để giải quyết vấn đề này, mang lại khả năng tùy biến chất lượng ảnh, đồng thời tái tạo ảnh chất lượng cao từ ảnh đầu vào chất lượng thấp. Bài toán đặt ra là làm sao tùy biến đầu vào để thu được ảnh sắc nét hoặc kém chất lượng tùy theo nhu cầu, và đặc biệt là có thể tái tạo lại ảnh chất lượng cao từ ảnh chất lượng thấp đầu vào.

II. Giải Pháp QC StyleGAN2 Kiến Trúc và Phương Pháp Tùy Biến

QC-StyleGAN2 được xây dựng dựa trên kiến trúc của StyleGAN2, nhưng được bổ sung thêm các thành phần và cơ chế để có thể tùy biến chất lượng đầu ra. Mô hình này bao gồm một bộ sinh (Generator) và một bộ phân biệt (Discriminator), hoạt động đối nghịch nhau để tạo ra những hình ảnh chân thực. Điểm đặc biệt của QC-StyleGAN2 là khả năng tùy biến chất lượng ảnh thông qua việc điều chỉnh các tham số trong không gian tiềm ẩn (latent space). Điều này cho phép người dùng kiểm soát mức độ sắc nét, nhiễu, hoặc mờ của ảnh đầu ra. Ngoài ra, đồ án còn trình bày ứng dụng của QC-StyleGAN2 trong việc tái tạo lại ảnh chất lượng cao từ ảnh chất lượng thấp đầu vào, sử dụng một phép chiếu để tìm mã hóa tương ứng của ảnh đầu vào và tùy biến lại chất lượng ảnh.

2.1. Kiến Trúc Mạng QC StyleGAN2 Bộ Sinh Generator và Bộ Phân Biệt Discriminator

Kiến trúc của QC-StyleGAN2 kế thừa những ưu điểm của StyleGAN2, bao gồm việc sử dụng mapping network để chuyển đổi vector ngẫu nhiên thành một phong cách (style) đại diện cho các đặc trưng của ảnh. Sau đó, phong cách này được đưa vào bộ sinh để tạo ra ảnh. Bộ phân biệt đóng vai trò đánh giá tính chân thực của ảnh được tạo ra bởi bộ sinh, từ đó giúp bộ sinh cải thiện khả năng tạo ảnh chân thực hơn. Điểm khác biệt quan trọng nằm ở việc QC-StyleGAN2 bổ sung thêm các lớp và tham số để kiểm soát chất lượng ảnh đầu ra. Bên cạnh đó cũng sử dụng thêm kiến trúc mô hình phân biệt theo cặp. Theo tài liệu nghiên cứu kiến trúc của mô hình phân biệt này đã được minh họa rõ ràng ở chương 2.

2.2. Không Gian Tiềm Ẩn Latent Space và Tùy Biến Chất Lượng Ảnh

Không gian tiềm ẩn đóng vai trò quan trọng trong việc tùy biến chất lượng ảnh. Bằng cách điều chỉnh các tham số trong không gian này, người dùng có thể kiểm soát các thuộc tính của ảnh, bao gồm độ sắc nét, mức độ nhiễu, và độ mờ. QC-StyleGAN2 sử dụng các kỹ thuật đặc biệt để đảm bảo rằng việc điều chỉnh các tham số trong không gian tiềm ẩn không làm ảnh hưởng đến tính chân thực của ảnh. Điều này cho phép tạo ra những hình ảnh có chất lượng khác nhau nhưng vẫn giữ được những đặc điểm cơ bản của đối tượng.

III. QC StyleGAN2 Thực Nghiệm và Đánh Giá Hiệu Quả Mô Hình

Để đánh giá hiệu quả của QC-StyleGAN2, đồ án đã tiến hành thực nghiệm trên tập dữ liệu FFHQ (Flickr-Faces-HQ). Các kết quả cho thấy QC-StyleGAN2 có khả năng tạo ra những hình ảnh với chất lượng khác nhau, từ ảnh sắc nét đến ảnh mờ hoặc nhiễu. Đặc biệt, mô hình này có khả năng tái tạo ảnh chất lượng cao từ ảnh đầu vào chất lượng thấp một cách hiệu quả. Các chỉ số đánh giá như FID (Frechet Inception Distance) và PPL (Perceptual Path Length) cho thấy QC-StyleGAN2 đạt được kết quả tốt so với các mô hình GAN khác.

3.1. Tập Dữ Liệu FFHQ và Quá Trình Tiền Xử Lý Dữ Liệu

Tập dữ liệu FFHQ (Flickr-Faces-HQ) là một tập dữ liệu lớn chứa hình ảnh khuôn mặt người với độ phân giải cao. Đây là một tập dữ liệu phổ biến được sử dụng để huấn luyện và đánh giá các mô hình GAN. Trong quá trình thực nghiệm, tập dữ liệu FFHQ được tiền xử lý để đảm bảo chất lượng và tính đồng nhất của dữ liệu. Quá trình tiền xử lý bao gồm các bước như chuẩn hóa kích thước ảnh, căn chỉnh khuôn mặt, và loại bỏ các ảnh bị lỗi hoặc chất lượng kém. Bên cạnh đó, còn sử dụng một vài phương pháp tăng cường dữ liệu như làm mờ hình ảnh; thay đổi màu sắc trong ảnh; thêm nhiễu vào ảnh; hoặc làm vỡ ảnh.

3.2. Các Chỉ Số Đánh Giá FID và PPL Kết Quả và So Sánh

FID (Frechet Inception Distance) và PPL (Perceptual Path Length) là hai chỉ số đánh giá phổ biến được sử dụng để đánh giá chất lượng của các mô hình GAN. FID đo lường khoảng cách giữa phân phối của ảnh được tạo ra bởi mô hình và phân phối của ảnh thực tế. PPL đo lường tính liên tục của không gian tiềm ẩn, tức là mức độ thay đổi của ảnh khi di chuyển trong không gian tiềm ẩn. Kết quả thực nghiệm cho thấy QC-StyleGAN2 đạt được kết quả tốt trên cả hai chỉ số này, cho thấy mô hình có khả năng tạo ra những hình ảnh chân thực và có tính liên tục cao.

IV. Ứng Dụng QC StyleGAN2 Tái Tạo Ảnh và Tùy Biến Nghệ Thuật

QC-StyleGAN2 mở ra nhiều ứng dụng tiềm năng trong lĩnh vực xử lý ảnh. Một trong những ứng dụng quan trọng nhất là tái tạo ảnh chất lượng cao từ ảnh đầu vào chất lượng thấp. Điều này có ý nghĩa lớn trong việc khôi phục các bức ảnh cũ bị mờ hoặc hỏng. Ngoài ra, QC-StyleGAN2 cũng có thể được sử dụng để tạo ra những hiệu ứng nghệ thuật độc đáo, bằng cách tùy biến chất lượng ảnh và kết hợp các phong cách khác nhau. Mô hình có khả năng tái tạo lại ảnh chất lượng cao từ ảnh chất lượng thấp đầu vào, sử dụng một phép chiếu để tìm mã hóa tương ứng của ảnh đầu vào và tùy biến lại chất lượng ảnh.

4.1. Tái Tạo Ảnh Chất Lượng Cao Từ Ảnh Chất Lượng Thấp

Quá trình tái tạo ảnh thường sử dụng kỹ thuật PTI (Perceptual Tuning Inversion) - một kỹ thuật điều chỉnh tổng thể cho ảnh dựa trên tiềm ẩn, tức là tìm kiếm một vector trong không gian tiềm ẩn sao cho ảnh được tạo ra từ vector đó giống với ảnh gốc chất lượng thấp nhất có thể. Sau đó, QC-StyleGAN2 sẽ sử dụng các tham số đã được học để tùy biến chất lượng ảnh, tạo ra ảnh đầu ra với độ sắc nét và chi tiết cao hơn.

4.2. Ứng Dụng Sáng Tạo Tạo Hiệu Ứng Nghệ Thuật Độc Đáo

Ngoài việc tái tạo ảnh, QC-StyleGAN2 còn có thể được sử dụng để tạo ra những hiệu ứng nghệ thuật độc đáo. Bằng cách tùy biến các tham số trong không gian tiềm ẩn, người dùng có thể tạo ra những hình ảnh với phong cách khác nhau, từ cổ điển đến hiện đại. Mô hình này cũng có thể được sử dụng để kết hợp các phong cách khác nhau, tạo ra những tác phẩm nghệ thuật độc đáo và ấn tượng.

V. Kết Luận Triển Vọng và Hướng Phát Triển QC StyleGAN2

QC-StyleGAN2 là một bước tiến quan trọng trong lĩnh vực mô hình sinh đối nghịch, đặc biệt là trong việc xử lý ảnh chất lượng thấp. Mô hình này có tiềm năng ứng dụng rộng rãi trong nhiều lĩnh vực, từ xử lý ảnh y tế đến tạo hiệu ứng nghệ thuật. Trong tương lai, hướng phát triển của QC-StyleGAN2 có thể tập trung vào việc cải thiện khả năng tái tạo ảnh, tăng cường khả năng tùy biến, và khám phá các ứng dụng mới. Cần tiếp tục nghiên cứu và phát triển mô hình để khai thác tối đa tiềm năng của nó.

5.1. Những Hạn Chế Cần Khắc Phục Của Mô Hình QC StyleGAN2

Mặc dù QC-StyleGAN2 đã đạt được những kết quả ấn tượng, vẫn còn một số hạn chế cần khắc phục. Một trong những hạn chế lớn nhất là thời gian huấn luyện mô hình tương đối dài. Ngoài ra, mô hình cũng có thể gặp khó khăn trong việc tái tạo các chi tiết phức tạp trong ảnh. Nghiên cứu trong tương lai có thể tập trung vào việc tối ưu hóa kiến trúc mạng, sử dụng các kỹ thuật huấn luyện tiên tiến, và tăng cường khả năng biểu diễn của mô hình.

5.2. Hướng Nghiên Cứu Mở Rộng Kết Hợp Với Các Mô Hình Học Sâu Khác

QC-StyleGAN2 có thể được kết hợp với các mô hình học sâu khác để tạo ra những hệ thống xử lý ảnh mạnh mẽ hơn. Ví dụ, có thể kết hợp QC-StyleGAN2 với các mô hình nhận dạng đối tượng để tạo ra một hệ thống có khả năng nhận dạng và tái tạo ảnh của các đối tượng khác nhau. Hoặc có thể kết hợp QC-StyleGAN2 với các mô hình xử lý ngôn ngữ tự nhiên để tạo ra một hệ thống có khả năng tạo ra ảnh từ mô tả văn bản. Các hướng nghiên cứu này hứa hẹn sẽ mở ra những ứng dụng mới và thú vị cho QC-StyleGAN2.

Trích đoạn nội dung tài liệu

chương 1 trình bay qua các phan: e - Tông quan về chu đê nghiên cứu e Hoc sâu e Các nghiên cứu liên quan về mô hình sinh đôi nghịch e Muc tiêu đô án 14 Sinh viên: Nguyễn Viết Thành Đạt — MSV: BI7DCCN117 — Khóa: D17 — Lop: DI7HTTT5 GVHD: PGS. Phạm Van Cuong 1. Tổng quan về bài toán về chủ đề nghiên cứu 1. Generative model: Các mô hình sinh — Generative model[7] đã đi đầu trong lĩnh vực học tập không giám sát trong thập kỷ qua.

Lý do cho điều đó là vì họ cung cấp một cách rất hiệu quả trong việc phân tích và hiểu dữ liệu không được gắn nhãn. Ý tưởng đăng sau các mô hình tổng hợp là năm bắt phân phối xác suất bên trong dir liệu dé tạo ra dit liệu tương tự. Điều này có thé được sử dụng dé lập chỉ mục và truy xuất dir liệu nhanh chóng và nhiều tác vụ khác. Mô hình sinh đã được sử dụng trong nhiều lĩnh vực va van đề như nhiệm vụ nhận dạng trực quan, nhận dạng và tạo giọng nói, xử lý ngôn ngữ tự nhiên và robot.

Tổng quan, các mô hình sinh có thé được chia thành hai thé loại: e Các mô hình dựa trên hàm chi phí như bộ tự mã hóa autoencoders[24] va mạng sinh đối nghịch GAN[8]. e_ Các mô hình dựa trên năng lượng trong đó xác suất chung được xác định bang cách sử dụng một hàm năng lượng. Ví du, máy Boltzmann và các biên thê của nó và mang lưới niêm tin sâu deep belief networks. Tùy thuộc vào ban chất và độ sâu, một mô hình có thé thực hiện các loại hình đào tạo khác nhau.

Nhìn chung, một số chiến lược đào tạo nhanh nhưng không hiệu quả và những chiến lược khác hiệu quả hơn nhưng khó thực hiện hoặc mat quá nhiều thời gian. Cũng có những kỹ thuật được sử dụng dé tránh sự đánh đổi nay, chang han như đào tạo hai giai đoạn. Ví dụ đáng chú ý nhất là mạng lưới niềm tin sâu thường trải qua quá trình đảo tạo riêng biệt cho các thành phần của nó trong một giai đoạn được gọi là đào tạo trước, trước khi đào tạo cuối cùng của toàn bộ mạng cùng một lúc trong giai đoạn tinh chỉnh. Đề xây dựng một mô hình sinh sâu bằng cách kết hợp các mô hình khác, chúng ta cần lưu ý rang phân phối xác suất của mô hình kết quả có thé được tính toán và đánh giá một cách rõ ràng hoặc ngầm hiểu dé cung cấp cơ sở xác suất cho việc lay mẫu hoặc cuối cùng thực hiện suy luận trên mô hình.

Nói chung, các mạng chuyền tiếp dé xếp chồng và kết hợp hơn, trong khi các mô hình dựa trên năng lượng khó kết hợp hơn mà không làm mât khả năng kiêm soát của các xác suât chung. 15 Sinh viên: Nguyễn Viết Thành Đạt — MSV: BI7DCCN117 — Khóa: D17 — Lop: DI7HTTT5 GVHD: PGS. Phạm Van Cuong Trong đồ án này sẽ tập trung vào phát triển mô hình dựa trên hàm chỉ phí — mạng sinh đối nghịch GAN[8]. Vi dụ vê một sô nhiệm vụ đòi hỏi ban chat phải tạo ra các mau tot bao gôm: e Kiểm soát thuộc tính hình ảnh tao ra: Trong tác vụ nảy, mục tiêu có thể kiểm soát hình ảnh được tạo bằng cách cài đặt các thuộc tính chính xác như tuổi, tư thế, biểu cảm, v.

Hầu hết các phương pháp xử lý hình anh do GAN[8] tạo đều đạt được khả năng kiểm soát một phần băng cách tận dụng các thuộc tính xáo trộn ở trong không gian tiềm an, co duoc sau khi dao tạo GAN[8] tiêu chuẩn. e Single image super-resolution: Trong tác vụ này, mục tiêu là chụp ảnh có độ phân giải thấp và tổng hợp anh có độ phân giải cao tương ứng. Bắt buộc phải tạo mô hình sinh vì tác vụ này yêu cầu mô hình đưa nhiều thông tin vào hình ảnh hơn so với thông tin đầu vào ban đầu. e Sáng tạo mỹ thuật: Trong tác vụ này GAN[8] có thể được sử dụng để tạo các chương trình tương tác hỗ trợ người dùng tạo hình ảnh thực tế tương ứng với các cảnh phác thảo trong trí tưởng tượng của người dùng.

e Các ứng dụng chuyền đổi ảnh này sang anh khác: có thé chuyên đổi ảnh thành bản đồ hoặc chuyển bản phác thảo sang ảnh. Có rất nhiều ứng dụng sáng tạo mới lạ nhưng rất hữu ích khi chúng đã được khám phá. 16 Sinh viên: Nguyễn Viết Thành Đạt — MSV: BI7DCCN117 — Khóa: D17 — Lop: DI7HTTT5 GVHD: PGS. Phạm Văn Cường Hình 1 Vi dụ về kiểm soát hình ảnh dau vào Hàng 1, 2 thé hiện việc kiểm soát thuộc tính tuổi tác và hang 3,4 thé hiện việc kiểm soát thuộc tính tư thé.

bicubic SRResNet SRGAN (21. 17 Sinh viên: Nguyễn Viết Thành Đạt — MSV: BI7DCCN117 — Khóa: D17 — Lop: DI7HTTT5 GVHD: PGS. Phạm Văn Cường Kết qua Single image super-resolution thé hiện lợi ích khi sử dụng mô hình sinh để tạo ra hình ảnh thực tế chỉ tiết. Với hình ảnh ngoài cùng bên trái là ảnh gốc có độ phân giải cao sau đó được thu nhỏ xuống độ phân giải thấp dé thử nghiệm các phương pháp.

Với hình ảnh bên cạnh ảnh gốc sử dụng phương pháp nội suy, tiếp theo là sử | Hình 3 Vi dụ ứng dung tương tác được gọi là mang sinh doi nghịch tương tác (iGAN) dụng neural network đơn giản và cuối cũng là sử dụng mô hình GAN[8]. Người dùng có thé vẽ một bản phác thảo thô của một hình ảnh và iGAN sử dụng GAN để tạo ra hình ảnh thực tế tương tự nhất. 18 Sinh viên: Nguyễn Viết Thành Đạt — MSV: BI7DCCN117 — Khóa: D17 — Lop: DI7HTTT5 GVHD: PGS. Phạm Văn Cường Input Ground truth Output Labels to Street Scene Van input output e Aerial to Map ————— i Input : : output Hình 4 Vi du sử dung mô hình sinh dé chuyển đổi anh này sang ảnh khác Tất cả những điều này và các ứng dụng khác của mô hình sinh cung cấp những ly do thuyết phục dé dau tư thời gian và nguồn lực vào việc cải thiện các mô hình sinh cụ thể ở là mạng sinh đối nghịch.

Hoc tập có giám sát va không giám sat Các thuật toán học máy dựa trên dữ liệu mà chúng học được được phân loại là học có giám sát và không giám sát. Trong trường hợp học tập có giám sát với tập dữ liệu thuật toán được học, tập dữ liệu có đầu ra mục tiêu (nhãn đích) cho mọi mẫu dữ liệu và thuật toán cố gang suy ra một ham f phù hợp nhất với tập dữ liệu huyến luyện. Sau đó, chúng tôi sử dụng hàm f nay dé dự đoán dau ra mục tiêu (nhãn đích) cho dit liệu thử nghiệm được xem xét. Đối với phương pháp học tập này, sai số bình phương trung bình (MSE) là một thước đo tốt cho chất lượng mô hình.

Các giá trị MSE luôn không âm và giá trị càng thấp thì mô hình càng tốt.1) MSE =—'(¥- f(xd) ==) (Y,— Ÿ) i=1 i=1 Trong do: 19 Sinh viên: Nguyễn Viết Thành Đạt — MSV: BI7DCCN117 — Khóa: D17 — Lop: DI7HTTT5 GVHD: PGS. Phạm Văn Cường e —n: số lượng mau dữ liệu. e X,: mau dữ liệu thứ i. e - ƒ(X,): ham hypothesis với đầu vào là mẫu dữ liệu thứ i.

e __ Y;: đầu ra mục tiêu (nhãn đích) của mẫu dữ liệu thứ i. e _ ñ: đầu ra dự đoán của ham hypothesis với mẫu dữ liệu thứ i. Học tập có giám sát đi kèm với tập dữ liệu được gắn nhãn, ví dụ như bài toán phân loại chó / mèo hoặc bài toán hồi quy với các giá trị liên tục như giá nhà, v., Trái ngược, học tập không giám sát không có đầu ra mục tiêu (nhãn đích) mà chỉ có dữ liệu đầu vào. Mô hình học tập không giám sát cố gang tìm các đặc trưng phù hợp nhất, nén thông tin, truy xuất các đối tượng tương tự (truy xuất hình ảnh) và phân cum dé liệu có đặc điểm tương tự - điều này giống như ngược lại với phương pháp học tập có giám sát, chăng hạn như bạn được cung cấp hình ảnh của một con mèo và mô hình học tập có giám sát cân tìm một nhãn cho hình ảnh đó.

Giới thiệu mạng nơ-ron (Artificial Neural Network) Mạng nơ-ron nhân tạo (ANN/NN)[1] là mô hình toán hoc xử lý thông tin được mô phỏng dựa trên hoạt động của hệ thống thần kinh sinh vật. Nó bao gồm một lượng lớn các nơ ron được liên kết với nhau. ANN có khả năng lưu trữ những tri thức ( kinh nghiệm) và sử dụng những tri thức đó cho việc dự đoán các dữ liệu chưa biết thông qua học tập ( huấn luyện). Noron có 4 phan chính: thân noron (soma), cây thần kinh (dendrite), trục thần kinh (axon) và khớp thần kinh (synapse).

— axon ` ụ 20 Sinh viên: Nguyễn Viết Thành Đạt — MSV: BI7DCCN117 — Khóa: D17 — Lop: DI7HTTT5 GVHD: PGS. Phạm Văn Cường Tín hiệu trong mang nơ ron sinh học. được truyền từ noron này sang noron khác bằng các phan ứng điện hóa. Dạng sinh học của noron có thể mô phỏng dưới dang toán học như sau: Inputs s4 (s ) xy Output Activation Function Weights Hình 6 Mô phỏng mạng no-ron của con người trong máy tinh Các cây thần kinh thu thập thông tin từ một nơron bên ngoài được mô hình như một vectơ đầu vào X.

Vectơ trọng số ( weights- W) mô tả các khớp thần kinh đặt trọng số vào thông tin. Bộ cộng (Sum) là một sự mô tả của thân nơron sẽ cộng tất cả các thông tin đầu vào. Hàm chuyên đổi thể hiện một giá trị nào đó điều khiển nơron phát ra, và cuối cùng trục thần kinh có thể được mô tả như là một vectơ đầu ra. Mô hình mạng no-ron tổng quát Một mô hình noron nhân tạo gồm 3 lớp cơ bản: Lớp đầu vào (Input layer) là lớp làm việc trực tiếp với đữ liệu bên ngoài, cho nên số lượng nơron ở lớp đầu vào phụ thuộc vào số chiều của dữ liệu bên ngoài.

Lớp giữa (lớp 4n- Hidden layer) là lớp xử lý dữ liệu nhận từ lớp đầu vào, có thé có nhiều lớp noron hơnở lớp giữa. Lớp đầu ra (Output layer) là lớp xuất ra kết quả, số lượng noron lớp dau ra phụ thuộc vào số lượng kết quả muốn có. Nếu lớp nơron ở giữa mà nhiều hơn 2 người ta gọi đó là mô hình học sâu (Deep Hidden Input = Output f + k Ye yo ON — L ⁄ x( h. , ( 2 x \- ay ` P Y : Sf WA \Sa .= ` fa À, ⁄ x ⁄ Hình 7 Mô hình mạng nơ-ron tổng quát 21 Sinh viên: Nguyễn Viết Thành Đạt — MSV: BI7DCCN117 — Khóa: D17 — Lop: DI7HTTT5 GVHD: PGS.

Phạm Văn Cường Learning).