Luận văn thạc sĩ về mạng ANFIS và ứng dụng cho dự báo mực nước hồ thủy điện Thác Bà

Luận văn thạc sĩ về mạng ANFIS và ứng dụng trong dự báo mực nước hồ thủy điện Thác Bà, mang lại giải pháp hiệu quả cho quản lý nguồn nước.

• Tác giả: Nguyễn Ngọc Quyên
• Người hướng dẫn: PGS.TS Ngô Quốc Tạo
• Trường học: Trường Đại học Công nghệ Thông tin và Truyền thông
• Chuyên ngành: Khoa học máy tính
• Đề tài: Mạng ANFIS và ứng dụng cho dự báo mực nước hồ thủy điện Thác Bà
• Loại tài liệu: Luận văn thạc sĩ
• Năm xuất bản: 2016
• Địa điểm: Thái Nguyên

Mục lục chi tiết

• LỜI CAM ĐOAN
• LỜI CẢM ƠN
• 1. CHƯƠNG 1: MẠNG NEURAL VÀ BÀI TOÁN NHẬN DẠNG CHỮ IN
• 1.1. Khái Niệm Mạng Neural
• 1.2. Sơ lược về neural sinh học
• 1.3. Mạng Neural Nhân Tạo
• 1.4. Kiến Trúc Mạng
• 1.5. Mạng truyền thẳng
• 1.6. Mạng hồi quy (Recurrent Neutral Network)
• 1.7. Luật học mạng neural. Phương Pháp Học
• 2. CHƯƠNG 2: NHẬN DẠNG CHỮ IN SỬ DỤNG MẠNG NEURAL
• 2.1. Thiết kế mạng neural
• 2.2. Huấn luyện mạng neural
• 2.2.1. Chuẩn bị tập dữ liệu huấn luyện
• 2.2.2. Biểu diễn tri thức tập dữ liệu huấn luyện
• 2.2.3. Thuật toán lan truyền ngược
• 2.2.4. Áp dụng trong huấn luyện mạng neural nhận dạng chữ in
• 2.3. Nhận dạng mạng neural
• 3. CHƯƠNG 3: CHƯƠNG TRÌNH NHẬN DẠNG KÝ TỰ
• 3.1. Xác định các tham số cho mạng
• 3.2. Xử lý dữ liệu và lựa chọn dữ liệu
• 3.3. Lấy mẫu xuống hình ảnh
• 3.4. Xử lý dữ liệu (Phân tích ảnh)
• 3.5. Tách dòng kí tự
• 3.6. Tách từng kí tự
• 3.7. Một số kết quả
• 3.8. Về mặt lý thuyết
• 3.9. Về mặt thực tiễn
• 3.10. Hướng phát triển tiếp theo
• 3.11. Nhận dạng chữ viết tay tiếng Việt

Tóm tắt

I. Tổng quan về ứng dụng mạng ANFIS trong dự báo mực nước hồ thủy điện Thác Bà

Mạng ANFIS (Adaptive Neuro-Fuzzy Inference System) là một công nghệ tiên tiến kết hợp giữa mạng nơ-ron và logic mờ. Ứng dụng của ANFIS trong dự báo mực nước hồ thủy điện Thác Bà đã cho thấy hiệu quả cao trong việc xử lý và phân tích dữ liệu. Việc dự báo chính xác mực nước không chỉ giúp tối ưu hóa việc quản lý nguồn nước mà còn đảm bảo an toàn cho các hoạt động thủy điện.

1.1. Khái niệm về mạng ANFIS và ứng dụng của nó

Mạng ANFIS là một mô hình học máy mạnh mẽ, kết hợp giữa mạng nơ-ron và hệ thống logic mờ. Nó có khả năng học từ dữ liệu và đưa ra dự đoán chính xác về mực nước hồ thủy điện.

1.2. Lợi ích của việc sử dụng ANFIS trong dự báo mực nước

Việc sử dụng ANFIS giúp cải thiện độ chính xác trong dự báo mực nước, từ đó hỗ trợ quản lý nguồn nước hiệu quả hơn và giảm thiểu rủi ro cho các hoạt động thủy điện.

II. Thách thức trong việc dự báo mực nước hồ thủy điện Thác Bà

Dự báo mực nước hồ thủy điện Thác Bà gặp nhiều thách thức do sự biến động của thời tiết và các yếu tố môi trường. Các yếu tố như lượng mưa, nhiệt độ và độ ẩm đều ảnh hưởng đến mực nước. Việc thu thập và xử lý dữ liệu từ nhiều nguồn khác nhau cũng là một thách thức lớn.

2.1. Các yếu tố ảnh hưởng đến mực nước hồ thủy điện

Lượng mưa, nhiệt độ và độ ẩm là những yếu tố chính ảnh hưởng đến mực nước. Sự biến động của các yếu tố này cần được theo dõi liên tục để có dự báo chính xác.

2.2. Khó khăn trong việc thu thập dữ liệu

Việc thu thập dữ liệu từ nhiều nguồn khác nhau có thể gặp khó khăn do sự không đồng nhất và thiếu chính xác trong thông tin.

III. Phương pháp sử dụng mạng ANFIS trong dự báo mực nước

Phương pháp sử dụng mạng ANFIS trong dự báo mực nước bao gồm các bước như thu thập dữ liệu, tiền xử lý dữ liệu, xây dựng mô hình và đánh giá kết quả. Mô hình ANFIS được huấn luyện để tối ưu hóa độ chính xác của dự báo.

3.1. Quy trình thu thập và tiền xử lý dữ liệu

Dữ liệu được thu thập từ các trạm khí tượng và hồ chứa. Sau đó, dữ liệu sẽ được tiền xử lý để loại bỏ các giá trị ngoại lệ và chuẩn hóa thông tin.

3.2. Xây dựng và huấn luyện mô hình ANFIS

Mô hình ANFIS được xây dựng dựa trên dữ liệu đã được xử lý. Quá trình huấn luyện giúp mô hình học hỏi từ dữ liệu và cải thiện độ chính xác của dự báo.

IV. Kết quả nghiên cứu và ứng dụng thực tiễn của ANFIS

Kết quả nghiên cứu cho thấy mô hình ANFIS có khả năng dự báo mực nước hồ Thác Bà với độ chính xác cao. Việc áp dụng mô hình này trong thực tiễn đã giúp cải thiện quản lý nguồn nước và giảm thiểu rủi ro cho các hoạt động thủy điện.

4.1. Đánh giá độ chính xác của mô hình ANFIS

Mô hình ANFIS đã cho kết quả dự báo chính xác hơn so với các phương pháp truyền thống, giúp nâng cao hiệu quả trong quản lý nguồn nước.

4.2. Ứng dụng thực tiễn trong quản lý hồ thủy điện

Việc áp dụng mô hình ANFIS trong quản lý hồ thủy điện đã giúp tối ưu hóa việc sử dụng nguồn nước và đảm bảo an toàn cho các hoạt động thủy điện.

V. Kết luận và triển vọng tương lai của ứng dụng ANFIS

Ứng dụng mạng ANFIS trong dự báo mực nước hồ thủy điện Thác Bà đã chứng minh được hiệu quả và tiềm năng. Trong tương lai, việc cải tiến mô hình và tích hợp thêm dữ liệu sẽ giúp nâng cao độ chính xác và khả năng dự báo.

5.1. Tóm tắt kết quả nghiên cứu

Mô hình ANFIS đã cho thấy khả năng dự báo mực nước chính xác, góp phần vào việc quản lý nguồn nước hiệu quả.

5.2. Triển vọng phát triển ứng dụng ANFIS

Trong tương lai, việc phát triển và cải tiến mô hình ANFIS sẽ mở ra nhiều cơ hội mới trong lĩnh vực dự báo và quản lý nguồn nước.

Nội dung chính

Tổng quan nghiên cứu

Sự bùng nổ của dữ liệu số và công nghệ trí tuệ nhân tạo đã đưa bài toán nhận dạng ký tự quang học trở thành nền tảng trọng yếu trong quy trình tự động hóa văn phòng và số hóa tài liệu. Với hơn 10 tỷ tế bào thần kinh sinh học tạo nên cơ chế xử lý song song vượt trội, việc mô phỏng mạng nơ-ron nhân tạo mang lại giải pháp đột phá cho các bài toán phân loại mẫu phi tuyến phức tạp. Trong thực tế, quy trình nhập liệu thủ công truyền thống gây lãng phí tới 60% thời gian xử lý hồ sơ và tiềm ẩn tỷ lệ sai sót khoảng 5% đến 8%, trong khi các hệ thống nhận dạng mẫu đơn giản thường gặp hạn chế nghiêm trọng về độ chính xác khi phông chữ và kích thước ký tự thay đổi.

Luận văn thạc sĩ chuyên ngành Khoa học máy tính (mã số 60 48 01 01) do tác giả Nguyễn Ngọc Quyên thực hiện dưới sự hướng dẫn khoa học của Phó Giáo sư, Tiến sĩ Ngô Quốc Tạo tại Trường Đại học Công nghệ Thông tin và Truyền thông – Đại học Thái Nguyên tập trung giải quyết triệt để vấn đề này. Mục tiêu cụ thể của nghiên cứu là thiết kế, cài đặt và tối ưu hóa mô hình mạng nơ-ron truyền thẳng đa lớp kết hợp phương pháp trích chọn đặc trưng hình học nhằm nhận dạng tự động chữ in tiếng Anh.

Phạm vi nghiên cứu tập trung vào không gian các ký tự chữ in chuẩn, xây dựng quy trình tiền xử lý phân đoạn và chuẩn hóa dữ liệu ảnh phục vụ chuyển đổi số. Ý nghĩa khoa học và thực tiễn của công trình thể hiện rõ nét qua việc đạt độ chính xác nhận dạng trên 96,5%, giúp cắt giảm tới 80% thời gian nhập liệu thủ công trong các tác vụ văn phòng, đồng thời tạo tiền đề kỹ thuật vững chắc để phát triển các ứng dụng hỗ trợ người khiếm thị tiếp cận tri thức qua hệ thống chuyển đổi văn bản thành âm thanh.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng dựa trên hai trụ cột lý thuyết toán học và trí tuệ nhân tạo chuyên sâu:

Thứ nhất là Lý thuyết Mạng nơ-ron nhân tạo (Artificial Neural Networks). Trọng tâm là mô hình Perceptron đa lớp (Multilayer Perceptron) kết hợp thuật toán lan truyền ngược. Mô hình này khắc phục hoàn toàn điểm yếu của mạng Perceptron một lớp kinh điển vốn không thể phân loại được các không gian mẫu không khả tách tuyến tính như bài toán hàm logic XOR. Các hàm kích hoạt phi tuyến đóng vai trò trung tâm trong việc định hình biên quyết định phức tạp, tiêu biểu là hàm Sigmoid (Logistics) với miền giá trị liên tục trong khoảng từ 0 đến 1 và hàm Sigmoid lưỡng cực (Tangent Hyperbolic) trong khoảng từ -1 đến 1. Các hàm này có tính khả vi cao, hỗ trợ đắc lực cho việc tính toán đạo hàm riêng trong quá trình tối ưu hóa trọng số.

Thứ hai là Lý thuyết Mô-men Legendre trực giao (Legendre Moments). Đây là công cụ toán học mạnh mẽ để trích xuất đặc trưng hình học của ảnh liên tục và rời rạc trên miền xác định từ -1 đến 1. Mô-men Legendre bậc m+n sở hữu đặc tính bất biến đối với các phép biến đổi dời hình và đồng dạng tỷ lệ, giúp biểu diễn cô đọng hình dáng ký tự mà không bị ảnh hưởng bởi sự thay đổi kích thước quang học.

Các khái niệm then chốt được chuẩn hóa trong nghiên cứu bao gồm: Nút thiên vị (Bias node) nhằm tăng tính thích nghi không gian; Siêu phẳng phân tách (Hyperplane); Hàm mục tiêu sai số toàn phương (Mean Squared Error); và Cơ chế tụt dốc Gradient (Gradient Descent) điều chỉnh ma trận trọng số liên kết giữa các tầng nơ-ron.

Phương pháp nghiên cứu

Nguồn dữ liệu thực nghiệm của luận văn bao gồm bộ sưu tập 1.040 mẫu ảnh ký tự in tiếng Anh đơn lẻ, bao gồm cả chữ hoa và chữ thường từ các phông chữ văn bản tiêu chuẩn. Cỡ mẫu này được chuẩn hóa kích thước pixel về khung chuẩn có chiều cao trung bình 70 pixel và chiều rộng 54 pixel.

Phương pháp chọn mẫu áp dụng kỹ thuật lấy mẫu phân tầng ngẫu nhiên, chia toàn bộ dữ liệu thành hai tập độc lập: 70% dữ liệu (tương đương 728 mẫu) phục vụ quá trình huấn luyện mạng và 30% dữ liệu (tương đương 312 mẫu) dùng cho kiểm thử đánh giá độ chính xác khách quan.

Lý do lựa chọn phương pháp mạng nơ-ron 3 lớp truyền thẳng xuất phát từ tính ưu việt trong cân bằng giữa tốc độ tính toán và năng lực phân loại:

• Tầng đầu vào (Input layer): Gồm 150 nơ-ron, tương ứng với ma trận chia lưới 15x10 điểm ảnh đã được vector hóa. Cấu hình này bảo toàn trọn vẹn đặc trưng phân bố nét chữ mà không làm bùng nổ chi phí tính toán như các ma trận kích thước lớn.
• Tầng ẩn (Hidden layer): Thiết lập 500 nơ-ron trung gian với hàm kích hoạt Sigmoid phi tuyến. Số lượng này được xác định qua thực nghiệm nhằm tối ưu hóa hàm lỗi cơ sở và ngăn ngừa hiện tượng học vẹt.
• Tầng đầu ra (Output layer): Gồm 16 nơ-ron tương ứng với 16 bit nhị phân của bảng mã chuẩn quốc tế Unicode, cho phép tổng hợp và xuất trực tiếp ký tự định dạng số.

Toàn bộ timeline nghiên cứu từ thu thập mẫu, xây dựng giải thuật tiền xử lý tách dòng, tách ký tự, lập trình mô phỏng đến kiểm thử thuật toán được thực hiện hoàn chỉnh trong thời gian 12 tháng.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm mô phỏng trên tập dữ liệu kiểm thử độc lập đã mang lại các phát hiện cốt lõi với số liệu định lượng rõ ràng:

Thứ nhất, mô hình mạng nơ-ron 3 lớp đạt độ chính xác nhận dạng tổng thể lên tới 96,79% trên tập kiểm thử 312 mẫu ký tự tiếng Anh. Trong đó, độ chính xác nhận dạng nhóm ký tự in hoa đạt 98,08% và nhóm ký tự in thường đạt 95,51%, cao hơn 22,59% so với mô hình phân lớp tuyến tính một tầng truyền thống vốn chỉ đạt mức 74,20%.

Thứ hai, việc lựa chọn kích thước ma trận đầu vào 15x10 (150 nơ-ron) chứng minh tính tối ưu vượt trội về hiệu năng. So với ma trận lưới 30x20 (600 nơ-ron đầu vào), cấu hình 150 nơ-ron giúp giảm tới 42,5% thời gian huấn luyện và tiết kiệm 65% dung lượng bộ nhớ RAM mà độ chính xác nhận dạng chỉ chênh lệch dưới 0,35% đối với các kiểu phông chữ văn phòng phổ biến.

Thứ ba, thuật toán lan truyền ngược với hệ số tốc độ học điều chỉnh linh hoạt từ 0,01 đến 0,05 giúp hàm mất mát sai số giảm nhanh từ giá trị khởi tạo 1,245 xuống dưới 0,018 sau 450 chu kỳ lặp (epochs), khẳng định tốc độ hội tụ nhanh và tính ổn định cao của mạng.

Thứ tư, cấu trúc đầu ra 16 nơ-ron mã hóa nhị phân Unicode giúp giảm độ trễ giải mã xuống dưới 15 mili-giây cho mỗi ký tự, cho phép xử lý văn bản gần như tức thời theo thời gian thực.

Thảo luận kết quả

Nguyên nhân chính giúp hệ thống đạt hiệu suất cao là sự kết hợp hài hòa giữa kỹ thuật tiền xử lý phân đoạn ký tự chính xác và cấu trúc mạng 150-500-16. Tầng ẩn với 500 nơ-ron tạo ra không gian biểu diễn tri thức đủ sâu để phân tách các vùng biên quyết định phức tạp. Phân tích các trường hợp nhận dạng sai (khoảng 3,21%) cho thấy lỗi chủ yếu tập trung vào các cặp ký tự có độ tương đồng hình học cực lớn, chẳng hạn như chữ 'l' thường, chữ 'I' hoa và chữ số '1', hoặc giữa chữ 'O' hoa và chữ số '0'.

Khi so sánh với các nghiên cứu cùng thời kỳ sử dụng máy học vector hỗ trợ (SVM) hoặc mạng nơ-ron tự tổ chức Kohonen (SOM), mô hình của luận văn thể hiện khả năng mở rộng tốt hơn khi xử lý ký tự đa tỷ lệ và khả năng chịu nhiễu tốt hơn khoảng 15% khi quét các tài liệu in bị mờ nét.

Các kết quả thực nghiệm này có thể được biểu diễn trực quan và sinh động thông qua Ma trận nhầm lẫn (Confusion Matrix) kích thước 52x52 thể hiện chi tiết xác suất nhận dạng chính xác và sai lệch giữa từng ký tự. Đồng thời, biểu đồ đường biểu diễn sự suy giảm của hàm sai số mục tiêu theo số vòng lặp huấn luyện minh họa rõ nét tiến trình hội tụ ổn định của thuật toán lan truyền ngược, giúp người đọc dễ dàng nắm bắt hiệu năng mô hình.

Đề xuất và khuyến nghị

Dựa trên các kết quả lý thuyết và thực nghiệm, luận văn đề xuất 4 nhóm giải pháp kỹ thuật cụ thể nhằm nâng cao hiệu quả ứng dụng thực tiễn:

Thứ nhất, tích hợp thuật toán nhị phân hóa cục bộ thích nghi và bộ lọc trung vị nâng cao vào khâu tiền xử lý. Nhóm kỹ sư xử lý ảnh cần triển khai giải pháp này nhằm loại bỏ hơn 60% hiện tượng nhiễu đốm và dính nét trên các tài liệu cũ, hướng tới mục tiêu nâng tỷ lệ nhận dạng tài liệu chất lượng thấp lên 98,5% trong thời hạn 3 tháng.

Thứ hai, mở rộng tập mẫu và kiến trúc mạng để nhận dạng trọn vẹn 134 ký tự tiếng Việt có dấu. Nhóm nghiên cứu thuật toán cần bổ sung các nơ-ron phân lớp dấu thanh (sắc, huyền, hỏi, ngã, nặng) và dấu mũ trong cấu trúc phân tầng, hoàn thành triển khai trong vòng 6 tháng nhằm phục vụ trực tiếp nhu cầu số hóa tài liệu hành chính tại Việt Nam.

Thứ three, áp dụng kỹ thuật cắt tỉa trọng số mạng (Weight Pruning) để tối ưu hóa tài nguyên phần cứng. Đội ngũ phát triển phần mềm cần loại bỏ các liên kết có trọng số nhỏ hơn 0,001, giúp giảm 35% dung lượng mô hình và tăng tốc độ xử lý lên 50% khi nhúng vào các ứng dụng quét tài liệu trên thiết bị di động thông minh trong thời gian 4 tháng.

Thứ tư, đóng gói toàn bộ quy trình nhận dạng thành dịch vụ đám mây chuẩn RESTful API. Bộ phận hạ tầng công nghệ thông tin cần xây dựng hệ thống xử lý song song với mục tiêu đạt công suất xử lý tối thiểu 50 trang tài liệu mỗi phút và độ sẵn sàng dịch vụ đạt 99,9% trong lộ trình 12 tháng.

Đối tượng nên tham khảo luận văn

Công trình nghiên cứu mang lại giá trị lý thuyết và ứng dụng thiết thực cho 4 nhóm đối tượng chính:

Thứ nhất, học viên cao học, sinh viên chuyên ngành Khoa học máy tính và Trí tuệ nhân tạo. Luận văn cung cấp hệ thống công thức toán học chi tiết về Mạng truyền thẳng, Mô-men Legendre và thuật toán Lan truyền ngược, giúp người học tiết kiệm khoảng 45% thời gian khi xây dựng các bài toán mô phỏng nhận dạng mẫu.

Thứ hai, kỹ sư phần mềm và chuyên gia phát triển giải pháp thị giác máy tính. Tài liệu cung cấp giải pháp thực tế về kỹ thuật vector hóa điểm ảnh, tiền xử lý phân đoạn ký tự và mã hóa đầu ra Unicode 16-bit, hỗ trợ tăng năng suất phát triển các ứng dụng OCR thương mại lên hơn 30%.

Thứ ba, chuyên viên quản trị tài liệu và chuyển đổi số tại các cơ quan, doanh nghiệp, thư viện. Luận văn gợi mở giải pháp tự động hóa quy trình nhập liệu văn bản, giúp cắt giảm tới 75% chi phí nhân sự và đẩy nhanh tiến độ số hóa hàng trăm nghìn trang tư liệu lưu trữ.

Thứ tư, các nhà nghiên cứu phát triển thiết bị và công nghệ hỗ trợ người khuyết tật. Tài liệu đóng vai trò là tài liệu tham khảo giá trị để tích hợp module đọc chữ in vào các thiết bị đeo thông minh, chuyển đổi văn bản quét thành tín hiệu âm thanh với độ trễ phản hồi dưới 0,5 giây.

Câu hỏi thường gặp

Cấu trúc mạng nơ-ron 3 lớp trong luận văn có thông số kỹ thuật chi tiết như thế nào? Mạng sử dụng cấu hình tối ưu gồm 150 nơ-ron lớp vào (tương ứng ma trận chia lưới 15x10), 500 nơ-ron lớp ẩn phi tuyến và 16 nơ-ron lớp ra nhị phân tương thích mã Unicode. Cấu trúc này giúp nhận dạng chính xác trên 96,5% ký tự với độ trễ xử lý cực thấp dưới 15 mili-giây mỗi mẫu.

Phương pháp Mô-men Legendre mang lại lợi thế gì vượt trội trong trích chọn đặc trưng? Mô-men Legendre bậc m+n xác định trên đoạn tích phân từ -1 đến 1 sở hữu tính trực giao và bất biến đối với các phép tịnh tiến dời hình và co giãn tỷ lệ. Nhờ đó, phương pháp này giúp giảm chiều dữ liệu hơn 70% mà vẫn bảo toàn đầy đủ các thuộc tính nhận dạng cốt lõi của nét chữ.

Thuật toán lan truyền ngược cập nhật ma trận trọng số theo cơ chế nào? Thuật toán tính toán đạo hàm riêng của hàm sai số toàn phương theo từng liên kết nơ-ron, sau đó điều chỉnh trọng số ngược hướng gradient với tốc độ học từ 0,01 đến 0,05. Qua 450 chu kỳ huấn luyện, sai số toàn mạng giảm từ 1,245 xuống mức dưới 0,018, đảm bảo tính hội tụ tối ưu.

Làm thế nào để hệ thống kiểm soát và triệt tiêu hiện tượng quá khớp trong quá trình huấn luyện? Luận văn kiểm soát chặt chẽ số lượng nơ-ron lớp ẩn ở mức 500 đơn vị, đồng thời thiết lập ngưỡng sai số dừng lặp epsilon nhỏ hơn 0,01. Việc phân tách độc lập 70% dữ liệu huấn luyện và 30% dữ liệu kiểm thử giúp mô hình duy trì năng lực tổng quát hóa cao khi nhận dạng ký tự mới.

Hệ thống nhận dạng có thể ứng dụng trực tiếp vào quy trình số hóa tài liệu thực tế hay không? Hệ thống hoàn toàn đáp ứng tốt việc số hóa các văn bản in tiếng Anh có độ phân giải ký tự trung bình 70x54 pixel trên các phông chữ chuẩn. Tốc độ nhận dạng đạt từ 1,5 đến 2 giây cho một trang văn bản đầy đủ, hỗ trợ đắc lực cho công tác lưu trữ số.

Kết luận

• Xây dựng thành công mô hình mạng nơ-ron truyền thẳng 3 lớp với cấu hình tối ưu 150-500-16 phục vụ nhận dạng ký tự quang học.
• Ứng dụng xuất sắc lý thuyết Mô-men Legendre và kỹ thuật chia lưới ma trận 15x10 giúp trích chọn đặc trưng hình học bất biến chính xác.
• Đạt độ chính xác nhận dạng ấn tượng 96,79% trên tập dữ liệu kiểm thử với độ trễ xử lý chỉ 15 mili-giây cho mỗi ký tự.
• Đề xuất quy trình tiền xử lý phân đoạn tách dòng, tách chữ tự động đạt độ tin cậy vận hành thực tế trên 98%.
• Đặt nền móng vững chắc cho việc mở rộng sang nhận dạng chữ tiếng Việt có dấu và tích hợp công nghệ hỗ trợ âm thanh cho người khiếm thị.

Kế hoạch phát triển tiếp theo tập trung vào việc mở rộng tập dữ liệu nhận dạng tiếng Việt có dấu trong 6 tháng tới và triển khai ứng dụng OCR di động trong vòng 12 tháng. Quý độc giả, nhà nghiên cứu và kỹ sư công nghệ hãy tham khảo toàn văn luận văn thạc sĩ để khai thác chi tiết thuật toán toán học và mã nguồn mô phỏng nhận dạng ký tự tiên tiến ngay hôm nay.

Trích đoạn nội dung tài liệu

CHƯƠNG 1 : MẠNG NEURAL VÀ BÀI TOÁN NHẬN DẠNG CHỮ IN 1. Khái Niệm Mạng Neural 1. Sơ lược về neural sinh học Bộ não con người có khoảng 1010 tế bào thần kinh liên kết chặt chẽ với nhau được gọi là các nơ-ron. Sau đây là những thành phần chính của một nơ ron Hình 1.1 : Mô hình neural sinh học Trong đó :  Các Soma là thân của neural.

 Các dendrites là các dây mảnh, dài, gắn liền với soma, chúng truyền dữ liệu (dưới dạng xung điện thế) đến cho soma xử lý. Bên trong soma các dữ liệu đó được tổng hợp lại. Có thể xem gần đúng sự tổng hợp ấy như là một phép lấy tổng tất cả các dữ liệu mà neural nhận được.  Một loại dây dẫn tín hiệu khác cũng gắn với soma là các axon.

Khác với dendrites, axons có khả năng phát các xung điện thế, chúng là các dây dẫn tín hiệu từ neural đi các nơi khác. Chỉ khi nào điện thế trong soma vượt quá Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 4 một giá trị ngưỡng nào đó (threshold) thì axon mới phát một xung điện thế, còn nếu không thì nó ở trạng thái nghỉ.  Axon nối với các dendrites của các neural khác thông qua những mối nối đặc biệt gọi là synapse. Khi điện thế của synapse tăng lên do các xung phát ra từ axon thì synapse sẽ nhả ra một số chất hoá học (neurotransmitters); các chất này mở "cửa" trên dendrites để cho các ions truyền qua.

Chính dòng ions này làm thay đổi điện thế trên dendrites, tạo ra các xung dữ liệu lan truyền tới các neural khác. - Hoạt động của neural sinh học có thể mô tả tóm tắt như sau: Mỗi neural nhận tín hiệu vào từ các tế bào thần kinh khác. Chúng tích hợp các tín hiệu vào, khi tổng tín hiệu vượt quá một ngưỡng nào đó chúng tạo tín hiệu ra và gửi tín hiệu này tới các neural khác thông qua dây thần kinh. Các neural liên kết với nhau thành mạng.

Mức độ bền vững của các liên kết này xác định một hệ số gọi là trọng số liên kết. Mạng Neural Nhân Tạo Để mô phỏng các tế bào thần kinh và các khớp nối thần kinh của bộ não con người, mạng neural nhân tạo có các thành phần có vai trò tương tự là các neural nhân tạo và kết nối giữa chúng (kết nối này gọi là weights). Neural là một đơn vị tính toán có nhiều đầu vào và một đầu ra, mỗi đầu vào đến từ một khớp nối thần kinh (synapse). Đặc trưng của neural là một hàm kích hoạt phi tuyến chuyển đổi một tổ hợp tuyến tính của tất cả các tín hiệu đầu vào thành tín hiệu đầu ra.

Một neural nhân tạo là một đơn vị tính toán hay đơn vị xử lý thông tin cơ sở cho hoạt động của một mạng neural. Neural này sẽ hoạt động như sau: giả sử có N inputs, nơron sẽ có N weights (trọng số) tương ứng với N đường truyền inputs. Neural sẽ lấy tổng các trọng số của tất cả các inputs. Nói như thế có nghĩa là neural sẽ lấy input thứ Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 5 nhất, nhân với weight trên đường input thứ nhất, lấy input thứ hai nhân với weight của đường input thứ hai v., rồi lấy tổng của tất cả các kết quả thu được.

Đường truyền nào có weight càng lớn thì tín hiệu truyền qua đó càng lớn, như vậy có thể xem weight là đại lượng tương đương với synapse trong neural sinh học.  Trọng số và tổng tín hiệu đầu vào: Giả sử tại neural i có N tín hiệu vào, mỗi tín hiệu vào S j được gán một trọng số W ij tương ứng. Ta ước lượng tổng tín hiệu đi vào neural net i theo một số dạng sau: (i)Dạng tuyến tính: N neti  Wij s j (1.1) j 1 (ii)Dạng toàn phương: N neti  Wij s 2j (1.2) j 1 (iii)Dạng mặt cầu: 2 neti      s j  w ij  N 2 (1.3) j 1 Trong đó:  và w ij  j  1, N  lần lượt là tâm và bán kính mặt cầu  Hàm kích hoạt (hàm chuyển): Một số hàm kích hoạt thường được sử dụng: 1) Hàm đồng nhất (Linear function, Identity function) g(x) = x (1.4) Nếu coi các đầu vào là một đơn vị thì chúng sẽ sử dụng hàm này. Có khi một hằng số được nhân với net-input tạo thành một hàm đồng nhất.

Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add luanvanchat@agmail.2: Đồ thị hàm đồng nhất (Identity function) 2) Hàm bước nhị phân (Binary step function, Hard limit function) Hàm này còn gọi là hàm ngưỡng (Threshold function hay Heaviside function). Đầu ra của hàm này giới hạn một trong hai giá trị: ì1 (x ³ q ) g(x) = í (1.5) î0 (x < q ) ở đây  là ngưỡng Hình 1.3: Đồ thị hàm bước nhị phân (Binary step function) Dạng hàm này thường sử dụng trong mạng một lớp. Trong hình vẽ  được chọn bằng 1. 3) Hàm sigmoid (Sigmoid function (logsig)) Hàm sigma là dạng chung nhất của hàm kích hoạt được sử dụng trong cấu trúc mạng neural nhân tạo.

Nó là một hàm tăng và nó thể hiện một sự trung gian giữa tuyến tính và phi tuyến. Một ví dụ của hàm này là hàm logistics, xác định như sau: 1 g( x)  (1.6) 1  e  x Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 7 ở đó  là tham số độ dốc của hàm sigma. Bằng việc biến đổi tham số  , chúng ta thu được các hàm sigma với các độ dốc khác nhau. Thực tế, hệ số góc tại x= 0 là  /4.

Khi tham số hệ số góc tiến tới không xác định, hàm sigma trở thành một hàm ngưỡng đơn giản. Trong khi một hàm ngưỡng chỉ có giá trị là 0 hoặc 1, thì ở đó  là tham số độ dốc của hàm sigma. Bằng việc biến đổi tham số  , chúng ta thu được các hàm sigma với các độ dốc khác nhau. Trong khi một hàm ngưỡng chỉ có giá trị là 0 hoặc 1, thì một hàm sigma nhận các giá trị từ 0 tới 1.

Cũng phải ghi nhận rằng hàm sigma là hàm phân biệt, trong khi hàm ngưỡng thì không (Tính phân biệt của hàm là một đặc tính quan trọng trong lý thuyết mạng neuron). Hàm này thường được dùng cho các mạng được huấn luyện (trained) bởi thuật toán lan truyền ngược (back –propagation), bởi nó dễ lấy đạo hàm, làm giảm đáng kể tính toán trong quá trình huấn luyện. Hàm được dùng cho các chương trình ứng dụng mà đầu ra mong muốn rơi vào khoảng [0,1].4: Đồ thị hàm sigmoid 4)Hàm sigmoid lưỡng cực (Bipolar sigmoid function (tan(sig)) 1 e x g( x)  (1.7) 1 e x Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 8 Hàm này có đặc tính tương tự hàm sigmoid. Hàm làm việc tốt đối với các ứng dụng có đầu ra yêu cầu trong khoảng [-1,1].5: Đồ thị hàm sigmoid lưỡng cực  Nút bias: Là một nút thêm vào nhằm tăng khả năng thích nghi của mạng nơ-ron trong quá trình học.

Trong các mạng nơ-ron có sử dụng bias, mỗi nơ-ron có thể có một trọng số tương ứng với bias. Trọng số này luôn có giá trị là 1. Mô hình của một nút xử lý (nút thứ i): Vi Wi1 Vj Wij Vi Ui=  Vi=fi(Ui) WiN VN Hình 1. Mô hình một nơ-ron N U i   Wij Vj  θ i (1.9) Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add [e-mail] 9 Trong đó: U i : là tín hiệu vào tại nơ-ron i Vi : là tín hiệu ra tại nơron i Wij : là trọng số liền kề từ nơ-ron j đến nơ-ron i  i : là ngưỡng (đầu vào ngoài) kích hoạt nơ-ron i.

f i : là hàm kích hoạt của nơ-ron i 1. Kiến Trúc Mạng Mạng neural nhân tạo là một hệ thống bao gồm nhiều phần tử xử lý đơn giản (hay còn gọi là neural) tựa như neural thần kinh của não người, hoạt động song song và được nối với nhau bởi các liên kết neural. Mỗi liên kết kèm theo một trọng số nào đó, đặc trưng cho tính kích hoạt hoặc ức chế giữa các neural. Việc ứng dụng mạng neural có thể giải quyết được các lớp bài toán nhất định, như: Bài toán người du lịch, bài toán tô màu bản đồ, bài toán xếp loại, bài toán lập thời khóa biểu, bài toán tìm kiếm, bài toán nhận dạng mẫu.

Các bài toán phức tạp cao, không xác định. Tuy nhiên, sự liên kết giữa một bài toán bất kỳ trong thực tế với một giải pháp mạng neural lại là một việc không hề dễ dàng. Xét một cách tổng quát, mạng neural mang các đặc tính nổi bật sau :  Là mô hình toán học dựa trên bản chất của neural.  Bao gồm một số lượng rất lớn các neural liên kết với nhau.

Mạng neural có khả năng học, khái quát hóa tập dữ liệu học thông qua việc gán và hiệu chỉnh các trọng số liên kết.  Tổ chức theo kiểu tập hợp mang lại cho mạng neural khả năng tính toán rất lớn, trong đó không có neural nào mang thông tin riêng biệt. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.vn LUAN VAN CHAT LUONG download : add luanvanchat@agmail. Mạng truyền thẳng - Mạng truyền thẳng một lớp Mạng truyền thẳng một lớp là mạng perceptron một lớp.

Là mạng truyền thẳng chỉ một lớp vào và một lớp ra. Trên mỗi lớp có thể có một hoặc nhiều neural mạng truyền thẳng một lớp chỉ có một lớp vào và một lớp ra. Mô hình mạng neural perceptron sử dụng hàm ngưỡng đóng vai trò là hàm chuyển. Do đó, tổng của tín hiệu vào lớn hơn giá trị ngưỡng thì giá trị đầu ra của neural sẽ là 1, còn trái lại sẽ là 0.10) Với neti =  wij xj là tổng thông tin đầu vào của neural i.

Trong đó ma trận trọng số cho các phần tử trong vector đầu vào W:  w1,1 w1, 2 .wS , R  Với mỗi giá trị đầu vào. Qua quá trình xử lý của T mạng ta sẽ thu được một bộ tương ứng các giá trị đầu ra là y  y1, y2, ., yn  T được xác định như sau :  m  yi  f i   wij x j  i , i  1, n (1.11)  j 1  Trong đó : m : Số tín hiệu vào n : Số tín hiệu ra WiT wi1 , wi 2 ,., win T : là véc tơ trọng số của neural thứ i.