Chương 1: GIỚI THIỆU.- 2-2 2 E+SE+SE£+EE2EE#EE£EEEEEE2EEEEEEEEEEEEEEEEEEEE171711211211 1111110. Tinh cần thiết tiếp cận máy học giải phương trình đạo ham riêng. Sự cần thiết của phương trình đạo hàm riêng trong xử lý ảnh. Tổng quan tình hình nghiên cứu.-------- ¿22 2 E+EE££E£EE+EE£EEtEEEEEEEEEEEerkrrkerrsees 4 1.
Các kết quả liên quan.----- 2 5¿+5++2+++EE+2EEEEEESEE2EEE2E1221E221 21122122121. Một số tiếp cận giải PDE hiện may .---2¿25c©5222S222+vEE+SEE2Exerkrerxrerxees 7 1. Mục tiêu nghiÊn CỨU. - ó5 2111 * TT HH HH 10 1.
Đối tượng nghiên CỨU.- ¿- ¿+ k9SE+EE2ESE£EEEEEEE1E11211217111112112117111 1111111 re. Pham vi nghién CUU n6. Phương pháp nghiÊn CỨU.- 6 6112111911191 911 1119101 11H TH HH HH 11 1. Đóng góp chính của luận án.-- --- ¿+ 111v v19 TH TH ng ng nàng 12 1.
Bố cục của luận án. - -- ¿- 2 %+Ss+SE£2E£2EE2E12E1E7121121121121171711211211111111. xe 13 Chương 2: CƠ SỞ LÝ THUUYÊT.- - 2 2 2S +E£SEÉEEÊEE2EE2E1EE2E9E15212112112171711111 1. Phương trình đạo ham riéng .-- - - -- G2 1921133911 13911 19111911 118111 g1 ng ng rệt 15 2.
Khái niệm phương trình đạo hàm rIÊng. Phân loại phương trình đạo hàm riêng với hai biến độc lập. Phuong trinh nhiét. Phuong phap sai phan.
Xử ly anh dựa trên phương trình dao ham riÊng. Một số mạng noron hồi quy ứng dụng trong nhận dạng hành vi. Nhận dạng hành động. Vệ sinh tay trong ứng dụng nhận dạng hành vi.
Mạng noron ODE,. c1 9H HH HH TH HH HH. Mạng noron CT-RNN. LH TH HH HH HH HH HH 31 2.
Mạng noron CT-GR. Histogram of Oriented Gradient (HOG). Rut trich HOG trong ah 1n. Chuẩn hóa vecto đặc trưng cho từng bIOCK.
Tong két ChUON Nnn. 43 Chương 3: TIẾP CAN MAY HOC TRONG GIẢI PHƯƠNG TRÌNH DAO HAM RIÊNG 44 3. Bài toán PDE tuyến tính dang elliptiC.----- 2 2S s+SE£EE2EE2EE2EeEEeEEeEkeExzrrrrerree 46 3. Kiến trúc mạng truyền thang một lớp an giải PDE dang elliptic.
Thuật toán ELMNN giải bài toán PDE dang elÏIptIC. Bài toán PDE tuyến tính dạng paraboliC. Ham phan du AD-PDE va điểm huấn luyện SLFN. Thuật toán ELMNET giải AD-PDEE.
Gà vn ng ng re 55 3. Bai todn PDE phi tuy@n. Phurong phap Euler. Xấp xi PDE tuyến tính kết hợp với khai triển Taylor.
Mạng noron nhân fạO. Tổng kết ChUONG.ceccecsesscsessessesessessessesscsvcsssessessessesssssssesssssesussussscsessessessesseaneaseaes 65 Chương 4:ỨNG DỤNG PHƯƠNG TRÌNH ĐẠO HÀM RIÊNG TRONG XỬ LÝ ẢNH Y KHOA 67 4. Ứng dụng phương trình dao hàm riêng trong khử nhiễu ảnh. Thuật toán khử nhiễu anh sử dung NDE dựa trên ANN.
Ứng dụng phương trình đạo hàm riêng trong nhận dạng hành vi. Hệ thống giám sát quá trình rửa tay. Cay Liquid Time-Consstant. Giải ODE sử dụng ELMNET 00.
86 Chương 5: KET QUA THUC NGHIEM. Thuật toán ELMNN giải PDE dang elliptic 0. Bai toán Poisson với f(x, y) = Sim (TEX)SEN (TY). Bài toán Poisson với f(x, y) =@ — XX — 2 + y3 + OY.
eee eet eee reels91 5. Thuật toán ELMNET giải AID-PDE. Bai todn 1Dt 0. Bai toán 2Dt AD-PDEE,.- HH nh TT TH Hà HT nh nành 98 5.
Ứng dụng phương trình đạo hàm riêng trong khử nhiễu ảnh. Thực nghiệm với ảnh thông thường. Thực nghiệm với ảnh y KhOa.-- - c1 1121191 S1 9 ng ng ng ng 104 5. Ứng dụng phương trình đạo hàm riêng trong nhận dạng hành vi.
Mô tả tập dữ liệu và chi tiết hiện thực. Đánh giá kết quả thực nghiệm và thảo luận.---2- 2-5 s22sz+zz+c++zxezsez 107 5. Tổng kết chương.--- 2 2© S£2EE+EE£EE£EEEEEE2E12E157171711711211111171.211 111111 xe 115 Chương 6: KET LUẬN VÀ HƯỚNG PHAT TRIÉN. Tóm tắt nội dung thực hiện .--- 2-2 c SE£SE9EE+EE2EEEEEEEEEEEEEEEEEEEEEEEErkrrkrrree 118 6.
Đánh giá mục tiêu dat được và đóng góp khoa hoc. Hướng phát triỂn.----¿- ¿+ ©S+S£+EE£EE£EE£EE2E12E12717171121121121111711211211 11.11 cxe 120 DANH MỤC CÔNG TRÌNH ĐÃ CÔNG BỒ.-2-22- 52c 2E2E2EE22EE2EEEEEEErrrrrrred 121 TAI LIEU THAM KHAO We .oceccssessessssssssesssesssssessssssssscsecsusasssssssscsessussusssessessessessuesseesessess 122 ix DANH MỤC CÁC HÌNH VE, DO THỊ Hiih 2. Lưới sai phân hữu hạn. Biéu diễn sự khuếch tán ánh 1010 1n.
Cac bước rửa tay theo WHO [6/7]. 2S Hy ygrey 28 Hình 2. Một khối phần dư ResNet [80]. Trường vectơ mẫu của hệ thống động.
Lược đồ của CT-RNN, một mạng kết nối hỗn loạn ngẫu nhiên. Mô hình GRU [§4].-- 2G 252191991 9111112111119 TH HH Hư 37 Hình 2. Mạng nơron GRU (trái) và Mạng noron CT-GRU (phải) [85]. Một khối gồm 9 6 [86].--- 2-2 £+S£2EE+EE£EE£EEE2EE2EEEEEEEEEEEEEEEEEEErkerkree 39 Hình 2.
Các khối được đặt chồng lên nhau [86]. HOG của ảnh [77].-- 6 6 3111191991191 111 11111911 HH HH 41 Hình 2. Thông tin gradient tai pixel theo trục X Và trỤC Y.----cc+cs<xs+ 41 Hình 3. Kiến trúc tiêu biéu cua mang noron một lớp an giải PDE.
Kiến trúc SLEN giải AD-PDE. Sơ đồ Time-marching DLM.- -- - 2 2 2+S£2E££E£EE£EE+EE2EZErkerxersrxee 62 Hình 3. PDE trong miền tính toán .- ¿- ¿- ¿ ESE+SE2E£2E£EE£EEEEEEEE2EEZEEEerkerxrrxres 63 Hình 3. Các thành phần của DPINN [34].
Biéu diễn hướng của Gradient [13]. Biéu diễn mối quan hệ giữa Gradient và độ mờ [13] với công thức (4. Biéu diễn mối quan hệ giữa Gradient và độ mờ [13] với công thức (4. Kiến trúc nhận dạng quá trình rửa tay [CÏ4].
Kiến trúc một cây [CTT4].----- ¿2 2+ESE9EE9EE2EE2E2EEEE7152121171221 2121 x0. Đồ thị nghiệm bài toán (5. Đồ thị nghiệm bài toán (5.--:¿- 2 ©5222S+2EEt2EE2EEEEEerkrerkrrrres 92 Hình 5. Nghiệm chính xác, VarNet, và ELMNET của IDt AD-PDE.
Biến thiên lỗi VarNet và ELMINETT.----2- 22 ©52+S++Ex+EEt£EtzEzrkerkerkrrei 97 Hình 5. Giá trị lỗi của e's, eiC, CDC, total .--cs-ccccctthEtittrrerree 97 Hình 5. Đồ thị đường cong ROC (Receiver operating characteristic). Biểu đồ boxplot chỉ số Accuracy của 5 mô hình mạng .- 113 XI DANH MỤC CÁC BANG Bảng 5.
Lỗi nghiệm ELMNN và nghiệm trong [90] bài toán (Š. Lỗi nghiệm ELMNN và nghiệm trong [90] bài toán (Š5. So sánh lỗi giữa các số nút ân khác nhau của 1Dt AD-PDE. Lỗi ELMNET, VarNNet.5 So sánh lỗi giữa các số nút ẩn khác nhau của 2Dt AD-PDE.
Nghiệm ELMNET và các phương pháp khác giải PDE. Ảnh gốc và ảnh nhiễu ảnh thông thường. PSNR và MAE của PM và NDEANN ảnh thông thường. Ảnh gốc va ảnh nhiễu ảnh y khoa .- - 2-52-5252 S£Ee£Ee£+zEzEzEred 104 Bang 5.
PSNR va MAE của PM và NDEANN ảnh y khoa. Độ chính xác của các bước rửa tay trên tập dữ liệu Hand Wash. Độ chính xác của từng bước rửa trên tập Hand Wash. Các chỉ số đánh giá cho RT6B trên tập Ad-Hoc.
Kết quả đánh giá 5 phương pháp khác nhau trên tập Ad-Hoc. 111 xH DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIET TAT Từ viết x : x. , Diễn giải tiêng Anh Diễn giải tiêng Việt tat Advection Diffusion Partial Phương trình khuếch tán AD-PDE , Differential Equation doi luu ANN Artificial neural network Mang noron nhan tao Mang noron có lớp ân được BeNN Bernstein neural network nội suy từ da thức Bernstein BN Batch Normalization Chuan hóa giá trị đầu vào Thuật toán lan truyền BP Backpropagation , ngược huân luyện mạng BVPs Boundary Value Problems Bai toan gia tri bién CDC The Centers for Disease Control and | Trung tâm Kiểm soát và Prevention Phong ngtra Dich bénh Mang nơron có lớp ấn được ChNN Chebyshev neural network nội suy từ da thức Chebyshev CINT Constraint Integration mạng kết hợp Galerkin và CNN Convolutional Neural Network Mang noron tich chap ; Thuật toán huấn luyện lan CPROP Constrained Backpropagation truyén ngược có rang buộc xiii CT Computed Tomography Ảnh chụp cắt lớp vi tính Continuous Time Gates Recurrent | Mạng nút hồi tiếp có công CT-GRU La Units theo thời gian thực Continuous Time Recurrent Neural Mang hồi quy theo thời CT-RNN Network gian thuc DAE Denoising AutoEncoders Bộ tu mã hóa khử nhiễu Phương pháp Galerkin DGM Deep Galerkin method trong học sâu DnCNNs - Denoising Convolutional | Mạng tích chập khử nhiễu DnCNNs Neural Networks DNN Deep neural network Mạng học sâu Distributed Physics Inform Extreme | Các PIELM được kết hợp DPIELM Learning Machine với nhau Distributed physics informed neural | Cac PINN được kết hợp DPINN netwwork voi nhau DT Decision Trees Thuật toán cây quyết định Thuật toán huấn luyện cực ELM Extreme Learning Machine trị Mạng truyền thăng một lớp Extreme Learning Machine an sử dụng thuật toán huấn ELMNET , Network luyện ELM kêt hop Monte Carlo Mang truyền thang một lớp Extreme Learning Machine Neural | , , ELMNN ân sử dụng thuật toán huân Network luyện ELM XIV Phương pháp sai phân hữu FDM Finite difference method han Phương pháp phan tử hữu FEM Finite element method han Fast and Flexible Denoising Mang tích chập khử nhiễu FFDNet Convolutional Neural Network nhanh va linh hoat Phương pháp thé tích hữu FVM Finite volume method han GRU Gates Recurrent Units Mang nút hồi tiếp có công Các bệnh nhiễm khuẩn do HAIs Healthcare Associated Infections , chăm sóc y tê Nhận dạng hành động của HAR Human activity recognition con người HMM Hidden Markov Model M6 hinh Markov an Bộ đặc trưng hình dạng anh HOG Histogram of Oriented Gradient dựa trên phương gradient UBC Initial and Boundary condition Điều kiện đầu/biên I/BCs Initial and Boundary Conditions Diéu kién bién dau IBVPs Initial Boundary Value Problems Bài toán giá trị biên đầu IC Initial condition Điều kiện đầu Thuật toán K láng giềng KNN K-Nearest Neighbor gần nhất XV Một thuật toán huấn luyện LM Levenberg-Marquardt mang dura trén lan truyén ngược Mạng nơron có lớp ấn được LNN Legendre neural network nội suy từ đa thức Legendre Bộ nhớ ngắn hạn hướng dài LSTM Long Short Term Memory hạn Mạng kết hợp CT-RNN và LTC Liquid Time Constant NODE MAE Mean Absolute Error Sai số tuyệt đối trung bình Mạng nơron giải phương MANN | Modified Artificial Neural Network trinh dao ham riéng Phuong phap Monte Carlo MC Monte Carlo , - trong lây mâu MLP Multi-Layer Perception Mạng noron nhiều lớp MRI Magnetic Resonace Imaging Ảnh chụp cộng hưởng từ Sai số bình phương trung MSE Mean Square Error bình NB Negative Binomial Phân bồ nhị thức âm Phương trình khuếch tán NDE Nonlinear Diffusion Equation ; , phi tuyên Nonlinear Diffusion Equation Phương pháp khử nhiễu NDEANN Artificial Neural Network anh NDEANN Xvi Mạng nơron mà mỗi nút là NODE Neural ODE một phương trình ODE Phương trình vi phân đạo ODE Ordinary differential equation ham riéng Phuong trinh dao ham PDE Partial differential equation riéng Physics Inform Extreme Learning Mang PINN su dung thuat PIELM , Machine toán huân luyện ELM Mạng nơron mô phỏng PINN Physics-informed neural network | dạng phương trình đạo ham riéng Phương pháp số giải hương trình phi tuyến khử PM Perona and Malik P - ` P y nhiéu do Perona and Malik dé xuat Ti s6 ti hiéu cuc dai trén PSNR Peak-Signal-To Noise Ratio " nhiêu RBFNS Radial Basis Function Networks Mang ham cơ sở ban kính RNN Recurrent Neural Network Mang hồi quy RTTB Rửa tay từng bước Rửa tay sáu bước theo RT6B WHO Thuat toan lay mau theo ty RS Rejection Sampling lệ bác bỏ XVI Single Hidden Layer Feedforward Mạng truyền thắng một lớp SLFN : Network an Thuật toán máy vecto hỗ SVM Support Vector Machine trợ Phương pháp chung cho TFC Theory of Functional Connections ; nội suy ham Phương pháp phục hồi ảnh Trainable Nonlinear Reaction TNRD dựa trên phương trình phi Diffusion. , tuyên khuêch tán WHO World Health Organization Tổ chức y tế thé giới Mạng PINN kết hop TFC Extreme Theory of Functional ¬ X-TFC giải phương trình đạo hàm Connections riêng XVill Chuong1: GIỚI THIỆU 1.
Giới thiệu đề tài 1.