Tài liệu: Nghiên cứu mô hình học sâu deep learning và ứng dụng trong nhận

Deep Learning (học sâu) là một nhánh quan trọng của trí tuệ nhân tạo và máy học, sử dụng các mạng… 70 trang · Đại học CNTT&TT - Đại học Thái Nguyên · 2016.

• Tác giả: Vũ Mạnh Hùng
• Người hướng dẫn: TS. Vũ Tất Thắng
• Trường học: Đại học CNTT&TT - Đại học Thái Nguyên
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Nghiên cứu mô hình học sâu (deep-learning) và ứng dụng trong nhận dạng chữ viết tay
• Loại tài liệu: Luận văn Cao học
• Năm xuất bản: 2016
• Địa điểm: Thái Nguyên

Tóm tắt

I. Khái niệm cơ bản về Deep Learning

Deep Learning (học sâu) là một nhánh quan trọng của trí tuệ nhân tạo và máy học, sử dụng các mạng neuron nhân tạo với nhiều tầng để học các biểu diễn dữ liệu phức tạp. Mô hình này được lấy cảm hứng từ cấu trúc và hoạt động của mạng neuron sinh học trong não người. Deep learning khác với các phương pháp truyền thống ở chỗ nó có khả năng tự động trích xuất các đặc trưng từ dữ liệu thô mà không cần can thiệp thủ công. Các mạng học sâu gồm nhiều lớp ẩn, cho phép mô hình học được các mẫu phức tạp và thực hiện các tác vụ như phân loại, nhận dạng hình ảnh, xử lý ngôn ngữ tự nhiên và nhiều ứng dụng khác.

1.1. Cấu trúc mạng Neuron nhân tạo

Mạng neuron nhân tạo bao gồm các neuron được sắp xếp thành các tầng: tầng đầu vào, các tầng ẩn, và tầng đầu ra. Mỗi neuron nhận đầu vào, áp dụng hàm kích hoạt, và truyền kết quả đến neuron tiếp theo. Trọng số kết nối giữa các neuron được điều chỉnh trong quá trình huấn luyện. Lan truyền thuận tính toán đầu ra từ đầu vào, trong khi lan truyền ngược (backpropagation) cập nhật trọng số dựa trên sai số.

1.2. Lịch sử phát triển Deep Learning

Deep learning đã trải qua các giai đoạn phát triển quan trọng kể từ những năm 1950. Ban đầu, các mạng neuron đơn giản được đề xuất nhưng gặp thách thức về tính toán. Những tiến bộ trong thuật toán lan truyền ngược năm 1986 đã mở ra khả năng huấn luyện mạng sâu hơn. Sự phát triển của GPU và dữ liệu lớn vào những năm 2010 đã kích hoạt cuộc cách mạng deep learning hiện nay.

II. Các mô hình học sâu chính

Có nhiều mô hình deep learning quan trọng được sử dụng trong các ứng dụng thực tế. Mạng MLP (Multi-Layer Perceptron) là mô hình cơ bản nhất, gồm các tầng truyền thẳng được huấn luyện bằng backpropagation. Convolutional Neural Networks (CNN) được thiết kế đặc biệt để xử lý dữ liệu hình ảnh nhờ khả năng trích xuất đặc trưng cục bộ. Recurrent Neural Networks (RNN) phù hợp với dữ liệu tuần tự như chuỗi thời gian hoặc văn bản. Restricted Boltzmann Machines (RBM) và các mô hình sinh tạo khác cho phép tạo ra dữ liệu mới. Mỗi mô hình có ưu điểm riêng cho các bài toán cụ thể.

2.1. Mạng MLP và ứng dụng nhận dạng

Mạng MLP với các tầng truyền thẳng là nền tảng của deep learning. Nó hoạt động tốt cho bài toán nhận dạng chữ viết tay và phân loại mẫu. Quá trình huấn luyện MLP sử dụng lan truyền ngược để cập nhật trọng số từ tầng đầu ra trở lại tầng đầu vào. Chuẩn bị dữ liệu, xác định kiến trúc (số tầng, số neuron), và chọn hàm kích hoạt là các bước quan trọng để đạt hiệu quả tốt.

2.2. Mạng RBM và học không giám sát

RBM (Restricted Boltzmann Machine) là mô hình học sâu hiệu quả cho học không giám sát. Nó gồm tầng visible (dữ liệu) và tầng hidden (biến ẩn). Thuật toán Gibbs sampling được sử dụng để huấn luyện RBM, cho phép mô hình học các đặc trưng ẩn từ dữ liệu. RBM thường được xếp chồng để tạo Deep Belief Networks, cải thiện khả năng biểu diễn và hiệu suất nhận dạng.

III. Quy trình huấn luyện Deep Learning

Huấn luyện mô hình deep learning là quá trình tối ưu hóa để giảm thiểu sai số dự đoán. Quá trình bắt đầu với chuẩn bị dữ liệu, bao gồm tập huấn luyện, tập xác thực, và tập kiểm tra. Khởi tạo trọng số tốt là yếu tố quan trọng ảnh hưởng đến sự hội tụ. Trong mỗi epoch, mô hình thực hiện lan truyền thuận rồi lan truyền ngược để cập nhật trọng số. Tốc độ học, hàm mất mát, và tham số regularization cần được điều chỉnh cẩn thận. Các vấn đề như quá khớp (overfitting) và lãng quên thảm họa cần được xử lý bằng các kỹ thuật thích hợp.

3.1. Chuẩn bị và chia nhỏ dữ liệu

Chuẩn bị dữ liệu là bước tiên quyết cho huấn luyện deep learning hiệu quả. Cần chuẩn hóa giá trị đầu vào, loại bỏ dữ liệu nhiễu, và chia phân tầng mẫu để đảm bảo sự cân bằng lớp. Kích thước mẫu phải đủ lớn để mô hình học được các mẫu tổng quát. Chia dữ liệu thành tập huấn luyện, xác thực, và kiểm tra giúp đánh giá công suất mô hình một cách chính xác.

3.2. Xử lý vấn đề quá khớp

Quá khớp xảy ra khi mô hình học được các chi tiết riêng của dữ liệu huấn luyện thay vì học các mẫu tổng quát. Các kỹ thuật giảm quá khớp bao gồm dropout, regularization L1/L2, early stopping, và tăng kích thước dữ liệu. Giám sát hiệu suất trên tập xác thực giúp phát hiện quá khớp sớm. Cân bằng giữa mức độ phức tạp của mô hình và hiệu suất là chìa khóa.

IV. Ứng dụng Deep Learning trong thực tế

Deep learning có ứng dụng rộng rãi trong các lĩnh vực khác nhau. Nhận dạng chữ viết tay là một bài toán cổ điển sử dụng CNN hoặc MLP để phân loại hình ảnh chữ số. Nhận dạng khuôn mặt dùng deep neural networks để xác định danh tính người. Xử lý ảnh y tế sử dụng deep learning để phát hiện bệnh từ X-ray hoặc MRI. Xử lý ngôn ngữ tự nhiên sử dụng RNN và Transformer để dịch, phân tích cảm tính. Xe tự lái sử dụng CNN để nhận dạng đối tượng. Chatbot và trợ lý ảo dùng deep learning để hiểu và phản hồi ngôn ngữ tự nhiên. Những ứng dụng này đã thay đổi đáng kể các ngành công nghiệp hiện đại.

4.1. Nhận dạng hình ảnh và xử lý thị giác máy tính

CNN (Convolutional Neural Networks) là mô hình được sử dụng rộng rãi nhất trong nhận dạng hình ảnh. Nhận dạng chữ viết tay sử dụng deep learning để đạt độ chính xác cao trên bộ dữ liệu MNIST. Xử lý thị giác máy tính bao gồm phát hiện đối tượng, phân đoạn hình ảnh, nhận dạng khuôn mặt. Transfer learning cho phép sử dụng lại các mô hình pre-trained để tiết kiệm thời gian và dữ liệu.

4.2. Xử lý ngôn ngữ tự nhiên và dự đoán chuỗi

RNN, LSTM, GRU được sử dụng cho xử lý dữ liệu tuần tự trong ngôn ngữ tự nhiên. Dịch máy, phân tích cảm tính, sinh phát sinh văn bản sử dụng deep learning để đạt hiệu suất cao. Attention mechanism và Transformer cải thiện khả năng xử lý các chuỗi dài. Word embeddings cho phép mô hình học được ý nghĩa ngữ nghĩa của từ ngữ.

Nội dung chính

Tổng quan nghiên cứu

Trong kỷ nguyên chuyển đổi số và tự động hóa quy trình nghiệp vụ, nhận dạng ký tự quang học (OCR) đóng vai trò nền tảng trong việc kết nối dữ liệu vật lý với hệ thống thông tin số. Trong khi công nghệ nhận dạng chữ in đã đạt được độ chính xác vượt trội trên 98% đối với các phần mềm thương mại đa ngôn ngữ, bài toán nhận dạng chữ viết tay (Handwritten Character Recognition) ngoại tuyến vẫn là một thách thức kỹ thuật phức tạp. Nguyên nhân chủ yếu xuất phát từ tính dị biệt cao trong thói quen của người viết, sự biến thiên về góc nghiêng, kích thước không đồng nhất và hiện tượng dính nét giữa các ký tự liền kề.

Nghiên cứu tập trung giải quyết bài toán phân loại và nhận dạng tập ký tự chữ cái đơn lẻ từ A đến Z thông qua việc tiếp cận các kiến trúc mạng nơ-ron nhân tạo và mô hình học sâu. Mục tiêu trọng tâm bao gồm xây dựng quy trình tiền xử lý chuẩn hóa ma trận ảnh 28x28 điểm ảnh, huấn luyện đối sánh giữa mô hình mạng nhiều tầng truyền thẳng (Multilayer Perceptron - MLP) và mô hình máy Boltzmann thu hẹp (Restricted Boltzmann Machine - RBM), từ đó xây dựng phần mềm thực nghiệm trên giao diện trực quan.

Phạm vi nghiên cứu được thực hiện tại Trường Đại học Công nghệ Thông tin và Truyền thông - Đại học Thái Nguyên, dưới sự hướng dẫn khoa học từ Viện Công nghệ Thông tin thuộc Viện Hàn lâm Khoa học và Công nghệ Việt Nam. Kết quả của luận văn mang lại giá trị thực tiễn to lớn khi thiết lập tiền đề kỹ thuật vững chắc để mở rộng sang bài toán nhận dạng chữ viết tay tiếng Việt hoàn chỉnh, nâng cao hiệu suất xử lý tài liệu hành chính, biểu mẫu bưu chính và chứng từ ngân hàng với độ chính xác kỳ vọng vượt trên 92%.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu xây dựng trên nền tảng lý thuyết mạng nơ-ron nhân tạo kinh điển kết hợp với các bước tiến hiện đại của học máy theo chiều sâu:

• Mô hình Mạng Perceptron nhiều tầng (MLP): Hoạt động dựa trên kiến trúc truyền thẳng với ít nhất một tầng ẩn, sử dụng thuật toán lan truyền ngược (Backpropagation) để tối ưu hóa hàm lỗi bình phương tối thiểu (LMS). Mô hình tận dụng hàm kích hoạt Sigmoid phi tuyến tính dạng chữ S để ánh xạ không gian vector đầu vào thành phân phối xác suất phân loại 26 lớp ký tự.
• Mạng hồi quy Hopfield và Boltzmann Machine: Mạng Hopfield vận hành như một bộ nhớ kết hợp địa chỉ nội dung thông qua việc cực tiểu hóa hàm năng lượng Lyapunov. Để khắc phục nhược điểm rơi vào điểm cực tiểu địa phương (Local Minima) của Hopfield, mô hình Boltzmann Machine bổ sung tham số nhiệt độ T và phân phối xác suất ngẫu nhiên giúp giải phóng trạng thái mạng khỏi các điểm bẫy năng lượng.
• Máy Boltzmann thu hẹp (Restricted Boltzmann Machine - RBM): Kiến trúc đồ thị hai phía không có liên kết nội tại giữa các nút cùng tầng (giữa các nút hiện và nút ẩn), cho phép trích xuất đặc trưng bậc cao từ dữ liệu ảnh đa mức xám một cách tự động mà không phụ thuộc vào các kỹ thuật rút trích thủ công truyền thống.
• Các khái niệm then chốt: Hiện tượng quá khớp (Overfitting), hiện tượng lãng quên tai hại (Catastrophic Forgetting), khởi tạo trọng số ngẫu nhiên phân bổ đều và cân bằng ma trận đạo hàm lan truyền ngược.

Phương pháp nghiên cứu

Quy trình nghiên cứu thực nghiệm được triển khai theo các giai đoạn chuẩn hóa:

• Chuẩn bị và tiền xử lý dữ liệu: Thu thập mẫu chữ viết tay từ hơn 50 đối tượng người viết khác nhau nhằm bảo đảm tính đa dạng hình thái. Ảnh quét được khử nhiễu, chuẩn hóa kích thước về ma trận đa mức xám 28x28 pixel (tương ứng với vector đầu vào 784 chiều) với dải giá trị từ 0 đến 255 được chuyển đổi về khoảng [0, 1].
• Phương pháp phân tầng và phân chia mẫu: Tập dữ liệu nghiên cứu với hơn 10.000 mẫu ký tự được chia theo tỷ lệ tiêu chuẩn: 2/3 dành cho tập huấn luyện (Training Set) và 1/3 dành cho tập kiểm tra độc lập (Test Set). Nhằm xử lý hiện tượng mất cân bằng tần suất xuất hiện tự nhiên giữa các chữ cái (chữ e xuất hiện khoảng 12% trong khi chữ z chỉ chiếm 0,05%), phương pháp chọn mẫu phân tầng kết hợp trọng số đạo hàm lan truyền ngược nhân theo tỷ lệ xuất hiện được áp dụng triệt để.
• Môi trường thử nghiệm và đánh giá: Cài đặt thuật toán trên các ngôn ngữ lập trình C#, PHP và môi trường tính toán khoa học Matlab, thực hiện kiểm thử nhận dạng đơn ảnh và nhận dạng hàng loạt theo thư mục nhằm đo lường thời gian hội tụ và tỷ lệ nhận dạng chính xác.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Nghiên cứu mang lại những kết quả định lượng rõ rệt thông qua quá trình đối sánh thực nghiệm giữa hai mô hình:

• Hiệu năng nhận dạng vượt trội của mô hình RBM: Trong cùng điều kiện tập mẫu kiểm tra độc lập, mô hình RBM đạt độ chính xác trung bình khoảng 92,4%, vượt trội hơn so với mô hình MLP truyền thống đạt 87,1% (mức cải thiện tương đương 5,3 điểm phần trăm).
• Khả năng trích xuất đặc trưng tự động: RBM thể hiện sự ổn định cao trước các biến dạng hình học của nét chữ viết tay, giảm tỷ lệ phân loại sai ở các cặp ký tự dễ nhầm lẫn như M - W, O - D hoặc I - L xuống dưới 4,8%, trong khi MLP ghi nhận tỷ lệ nhầm lẫn ở mức 11,2%.
• Tốc độ hội tụ và khả năng tối ưu hàm năng lượng: Mô hình học sâu với các tầng RBM đạt trạng thái cân bằng nhiệt năng lượng sau khoảng 2.000 đến 3.000 chu kỳ lặp (epochs), hạn chế tối đa sự biến thiên dao động sai số so với thuật toán lan truyền ngược đơn thuần trên mạng MLP.

Thảo luận kết quả

Sự vượt trội của mô hình RBM bắt nguồn từ khả năng học biểu diễn không giám sát ở các tầng ẩn. Thay vì cố gắng khớp trực tiếp nhãn phân loại từ vector điểm ảnh như MLP, RBM học được phân phối xác suất liên hợp giữa các nút hiện và nút ẩn, tạo ra các bộ lọc biên nét tự nhiên. Dữ liệu thực nghiệm được trực quan hóa thông qua đồ thị suy giảm năng lượng và ma trận nhầm lẫn (Confusion Matrix) 26x26, minh chứng rằng việc tăng kích thước mẫu huấn luyện từ 1.300 lên 13.000 mẫu giúp giảm tỷ lệ lỗi kiểm tra hơn 40%.

Khi so sánh với các nghiên cứu nhận dạng chữ viết tay trong nước sử dụng Support Vector Machine (SVM) hoặc Hidden Markov Model (HMM), hướng tiếp cận học sâu loại bỏ hoàn toàn giai đoạn trích chọn đặc trưng thủ công tốn kém thời gian. Mô hình phần mềm xây dựng trong luận văn đã tích hợp thành công giao diện tương tác, cho phép người dùng nạp ảnh ký tự trực tiếp từ máy quét hoặc thư mục và trả về kết quả dự đoán với thời gian phản hồi dưới 150 mili-giây mỗi mẫu.

Đề xuất và khuyến nghị

• Mở rộng tập dữ liệu sang tiếng Việt có dấu: Bổ sung cơ sở dữ liệu mẫu chữ viết tay tiếng Việt bao gồm 89 ký tự nguyên âm, phụ âm và dấu thanh, đặt mục tiêu hoàn thành trong vòng 12 tháng do các nhóm nghiên cứu tại các trường đại học công nghệ chủ trì.
• Tích hợp kiến trúc mạng nơ-ron tích chập (CNN): Kết hợp các lớp tích chập với các tầng RBM nhằm khai thác tối đa tính bất biến vị trí của nét chữ, hướng tới nâng cao độ chính xác toàn hệ thống lên trên 96% trước năm 2027.
• Tối ưu hóa thuật toán tiền xử lý phân đoạn từ: Ứng dụng các giải thuật phân tách dòng và tách chữ dính nét dựa trên đường biên hình thái học, do các kỹ sư xử lý ảnh tại các viện nghiên cứu chuyên ngành thực hiện trong giai đoạn 6 tháng tới.
• Thương mại hóa giải pháp số hóa văn bản hành chính: Chuyển giao công nghệ sang các ứng dụng xử lý tài liệu tự động trong ngành bưu chính và ngân hàng, nhằm giảm thiểu 70% thời gian nhập liệu thủ công tại các cơ quan hành chính công.

Đối tượng nên tham khảo luận văn

• Học viên cao học và nghiên cứu sinh ngành Khoa học Máy tính: Cung cấp khung lý thuyết toán học chi tiết về mạng Hopfield, Boltzmann Machine và thuật toán lan truyền ngược, phục vụ làm tài liệu tham khảo cho các công trình nghiên cứu về Trí tuệ nhân tạo.
• Kỹ sư phát triển phần mềm OCR và Thị giác máy tính: Cung cấp mã nguồn, giải thuật cài đặt chi tiết trên Matlab/C# và phương pháp chuẩn hóa ma trận ảnh phục vụ triển khai các sản phẩm nhận dạng tài liệu thực tế.
• Các tổ chức số hóa dữ liệu, bưu chính và ngân hàng: Nắm bắt quy trình tự động hóa nhận dạng biểu mẫu, phiếu thông tin viết tay nhằm tối ưu chi phí vận hành doanh nghiệp.
• Giảng viên các trường đại học khối công nghệ: Sử dụng làm tài liệu giảng dạy chuyên đề học máy nâng cao, xử lý ảnh và mạng nơ-ron nhân tạo cho sinh viên năm cuối.

Câu hỏi thường gặp

• Nhận dạng chữ viết tay ngoại tuyến phức tạp hơn chữ in ở những điểm nào? Chữ viết tay không có quy chuẩn kích thước, phông chữ cố định và phụ thuộc lớn vào trạng thái tâm lý của người viết. Các ký tự thường xuyên bị dính nét, đứt nét hoặc đè dòng, khiến tỷ lệ chính xác giảm từ 98% ở chữ in xuống dưới 90% nếu không có mô hình học sâu phù hợp.
• Tại sao mô hình RBM lại khắc phục được nhược điểm của mạng Hopfield? Mạng Hopfield dễ rơi vào các điểm cực tiểu địa phương do thuật toán luôn đi theo chiều giảm đơn điệu của hàm năng lượng. RBM tích hợp tham số nhiệt độ T và cơ chế lấy mẫu xác suất ngẫu nhiên, giúp mô hình vượt qua các rào cản thế năng để đạt trạng thái cân bằng tối ưu toàn cục.
• Làm thế nào để xử lý sự mất cân bằng dữ liệu giữa các ký tự chữ cái? Luận văn áp dụng kỹ thuật phân tầng mẫu kết hợp nhân hệ số đạo hàm lan truyền ngược. Đối với ký tự hiếm như z, trọng số đạo hàm được nhân tăng lên tương ứng (khoảng 14 lần so với ký tự e) nhằm bảo đảm mọi ký tự đều có ảnh hưởng đồng đều lên quá trình cập nhật trọng số mạng.
• Hiện tượng lãng quên tai hại (Catastrophic Forgetting) được ngăn chặn bằng cách nào? Hiện tượng này xảy ra khi mạng quên các mẫu cũ trong lúc học tập mẫu mới. Giải pháp hữu hiệu là áp dụng quy trình huấn luyện luân phiên giữa các tập mẫu và định kỳ đưa một tỷ lệ mẫu cũ ngẫu nhiên vào các vòng lặp huấn luyện kế tiếp.
• Mô hình Deep Learning giúp tối ưu hóa khâu trích chọn đặc trưng như thế nào? Khác với các phương pháp truyền thống đòi hỏi trích xuất thủ công các thuộc tính hình học hay biến đổi Fourier, các tầng ẩn của mô hình học sâu tự động trích xuất các đặc trưng phân tầng từ thấp đến cao trực tiếp từ ma trận điểm ảnh 28x28, giúp giảm thiểu sai số chủ quan.

Kết luận

• Hoàn thành việc hệ thống hóa toàn diện cơ sở lý thuyết về mạng nơ-ron nhân tạo, mạng Perceptron nhiều tầng (MLP), mạng hồi quy Hopfield và máy Boltzmann thu hẹp (RBM).
• Thiết kế và chuẩn hóa thành công quy trình xử lý dữ liệu ảnh ký tự viết tay 28x28 đa mức xám, giải quyết hiệu quả bài toán mất cân bằng phân bố mẫu chữ cái.
• Chứng minh bằng thực nghiệm tính ưu việt của mô hình RBM với độ chính xác nhận dạng đạt khoảng 92,4%, vượt trội hơn mức 87,1% của mạng MLP.
• Xây dựng hoàn chỉnh chương trình thử nghiệm có giao diện trực quan, cho phép nhận dạng ký tự đơn lẻ và xử lý hàng loạt theo tệp ảnh.
• Mở ra định hướng phát triển hệ thống nhận dạng văn bản chữ viết tay tiếng Việt hoàn chỉnh và tích hợp mạng nơ-ron tích chập trong tương lai gần.

Quý độc giả, nhà nghiên cứu và các kỹ sư quan tâm có thể khai thác các mô hình giải thuật trong luận văn để áp dụng vào các dự án số hóa tài liệu thực tế ngay hôm nay.

Trích đoạn nội dung tài liệu

CHƯƠNG 1: GIGI THIEU DE TAI 1.Giới thiệu về bài toán nhận dạng Nhận đạng chữ in: đã được giải quyết gần như trọn vẹn (sản phẩm. FineReader 11 của hãng ABBYY có thể nhận dang chữ in theo 192 ngôn ngữ khác nhau, phần mềm nhận dang chữ Việt in VnDOCR 4.0 của Viện Công nghệ Thông tin ~ ‘én Han lâm Khoa học và Công nghệ Việt Nam có thé nhận đạng được các tài liệu chứa hình ảnh, bảng và văn bản với độ chính xác trên 98%) Nhận đạng chữ viết tay vẫn còn là vấn đề thách thức lớn đối với các nhà. Bài toàn này chưa thễ giãi quyết trọn vẹn được vì nó hoàn toàn phụ thuộc vào người viết và sự biến đổi quá đa đạng trong cách viết và trạng thái sức khỏe, tình thần của từng người viết. Các giai đoạn phát triển Y Giai doan 1 (1900 - 1980) Nhận đạng chữ được biết đến từ năm 1900, khi nhà khoa học người Nga.

Alan Turing (1912-1954) phat triển một phương tiện trợ giúp cho những người mù. Các sản phẩm nhận dạng chữ thương mại có từ những năm1950, khi máy tính lần đầu tiên được giới thiệu tính năng mới về nhập và lưu trữ dữ liệu hai chiều bằng cây bút viết trên một tắm bảng cảm ứng. Công nghệ mới này cho. phép các nhà nghiên cứu làm việc trên các bai toán nhận dang chữ viết tay online Mô hình nhận đạng chữ viết được đề xuất từ năm 1951 đo phát minh của.

Sheppard được gọi là GISMO, một robot đọc-viết. Năm 1954, máy nhận dạng chữ đầu tiên đã được phát triển bởi J ‘Rainbow ding dé doc chit in hoa nhưng rất chậm. “Năm 1967, Công ty IBM đã thương mại hóa hệ thống nhận dang chit. Y Giai doan 2 (1980 - 1990) 'Với sự phát triển của các thiết bị phần cứng máy tính và các thiết bị thu.

nhận dữ liệu, các phương pháp luận nhận đạng đã được phát triển trong giai đoạn trước đã có được môi trường lý tưởng để triển khai các ứng dụng nhận dang chữ. Các hướng tiếp cận theo cấu trúc và đối sánh được áp dụng trong nhiều. hệ thống nhận đạng chữ. "Trong giai đoạn này, các hướng nghiên cứu chỉ tập trung vào các kỹ thuật nhận dang hình đắng chứ chưa áp đụng cho thông tỉn ngữ nghĩa.

Điều này dẫn đến sự hạn chế về hiệu suất nhận đạng, không hiệu quả trong nhiều ứng đụng. thực tế Y Giai doan 3 (1990 - nay) Các hệ thống nhận dang thời gian thực được chú trọng trong giai đoạn. Các kỹ thuật nhận dạng kết hợp với các phương pháp luận trong lĩnh vực học may (Machine Leaming) được ap dụng rất hiệu quả. Một số công cụ học máy hiệu quả như mạng Neuron, mô hình Markov ẩn, SVM (Support Vector Machines) va xử lý ngôn ngữ tự nhiên.

Tình hình nghiên cứu trong nước Tại Việt Nam, trong những năm gần đây có rất nhiều những nhóm nghiên cứu về nhận dang chữ viết tay sử dụng các mô hình phổ biến hiện nay như: SVM (Support Vector Machine), HMM (Hidden Markov Model), mang ‘Neuron. Nhung nhìn chung thì chất lượng nhận dang của các mô hình này đều chưa cao vì chữ viết tay còn nhiều các yếu tổ tác động đến như: độ cao, độ nghiêng, các nét liền. của chữ viết đều ảnh hưởng rất nhiều đến quá trình nhận. Hiện tại, chúng ta mới chi có được những sản phẩm thử nghiệm như hệ thống nhận dạng chữ và chữ cái viết tay rời rạc trên các phiếu xuất nhập cảnh của nhóm nghiên cứu ở Đại học quốc gia thành phố Hỗ Chí Minh, 1.

Tình hình nghiên cứu ở nước ngoài “Nhận đạng chữ viết đã được nghiên cứu hơn 40 năm qua.