CHƯƠNG 1 - TỔNG QUAN VỀ BÀI TOÁN NHẬN DẠNG CHỮ VIỆT 1.1 Qui trình chung của một hệ nhận dạng chữ Qui trình chung của một hệ thống nhận dạng chữ thường gồm hai giai đoạn là: Phân lớp mẫu và nhận dạng văn bản [2].1 Phân lớp mẫu Phân lớp (sắp lớp) mẫu là giai đoạn quyết định trong quá trình nhận dạng. Hai kiểu phân lớp điển hình thường được sử dụng là: phân lớp có thầy (học có thầy) và phân lớp không có thầy (học không có thầy). Các vấn đề thường được đặt ra trong bước phân lớp là: • Độ chính xác: Độ tin tưởng của một luật phân lớp được thể bởi tỷ lệ phân lớp đúng. Nhìn chung, độ chính xác được đo bởi tập dữ liệu học và độ chính xác được đo bởi tập dữ liệu thử nghiệm là khác nhau.
Đây không phải là một điều bất thường, đặc biệt trong các ứng dụng học máy, đối với tập dữ liệu học thì có thể đúng hoàn toàn, nhưng trên tập dữ liệu thử nghiệm có khi kết quả lại rất tồi tệ. Khi nói đến độ chính xác của một thuật toán phân lớp thì thường là nói đến độ chính xác trên tập dữ liệu thử nghiệm. Kinh nghiệm thực tế cho thấy, độ chính xác của một thuật toán phân lớp phụ thuộc khá nhiều vào tập dữ liệu học (cả về mặt số lượng lẫn chất lượng) nói một cách khác là v iệc trích chọn đặc trưng của các mẫu có ảnh hưởng lớn tới độ chính xác của quá tr ình phân lớp. • Tốc độ phân lớp: Đây là yếu tố đặc biệt quan trọng đối với các hệ thống có tính thời gian thực, chẳng hạn nh ư nhận dạng chữ viết tay trực tuyến (online) ,.
• Tính dễ hiểu: Thuật toán phân lớp đơn giản, dễ cài đặt và hiệu quả. 5 • Thời gian học: Nhất là trong một môi trường thường xuyên thay đổi, cần phải học một luật phân lớp một cách nhanh chóng hoặc hiệu chỉnh một luật đã có trong thời gian thực. Để học nhanh , nhiều khi ta chỉ cần sử dụng một số lượng nhỏ các mẫu huấn luyện để thiết lập các luật phân lớp. Tổng quan về các phương pháp phân lớp kí tự đã được đề cập.
Về cơ bản, có thể chia thành ba hướng tiếp cận chính: Phân lớp ký tự dựa trên đối sánh mẫu, phân lớp ký tự dựa trên phân tích cấu trúc chữ và phân lớp ký tự dựa trên các kỹ thuật học máy.1 Hướng tiếp cận đối sánh mẫu Quá trình phân lớp kí tự được tiến hành dựa trên việc đối sánh mỗi đối tượng đầu vào với lần lượt từng mẫu (prototypes) đã được lưu trữ n hằm tìm ra một lớp mẫu phù hợp nhất với đối tượng đó. Các kỹ thuật đối sánh mẫu điển hình gồm đối sánh trực tiếp , đối sánh mềm (deformable templates and elastic matching) và đối sánh trên tập đặc trưng (so khớp tập đặc trưng). Với kỹ thuật đối sánh trực ti ếp, mỗi kí tự đầu vào sẽ được so sánh trực tiếp với một tập mẫu chuẩn đã được lưu trữ dựa trên một số độ đo cụ thể, chẳng hạn như các độ đo khoảng cách (Euclide, Manhattan, Jaccard), độ tương tự (similarity measure), v. Mặc dù các kỹ thuật đối sánh trực tiếp là trực quan và có một nền tảng toán học vững chắc, tuy nhiên lại rất nhạy cảm với nhiễu.
Ý tưởng của phương pháp đối sánh mềm là đối sánh mỗi ảnh đầu vào với tất cả các biến dạng có thể có của tập mẫu một cách tối ưu dựa trên phương pháp qui hoạch động và các phép biến dạng ảnh. Vấn đề gặp phải của phương pháp đối sánh mềm là thời gian và tốc độ thực thi. 6 Đối với Phương pháp đối sánh tập đặc trưng còn được gọi là phương pháp đối sánh không chặt (relaxation matching - RM), mỗi ảnh đầu vào sẽ được biểu diễn bằng một tập các đặc trưng. Trong quá trình phân lớp, mỗi tập đặc trưng đầu vào sẽ được đối sánh với lần lượt các tập đặc trưng mẫu.
Các kỹ thuật này khắc phục được các vấn đề thời gian và tốc độ nhưng hiệu quả của thuật toán phân lớp phụ thuộc nhiều vào tập đặc trưng được trích chọn.2 Hướng tiếp cận phân tích cấu trúc Hướng tiếp cận này xuất phát từ ý tưởng biểu diễn một mẫu phức tạp bằng các mẫu đơn giản hơn dựa trên hình dạng của đối tượng. Các mẫu này được sử dụng để mô tả và phân lớp các kí tự tro ng hệ thống OCR. Hai phương pháp điển hình trong hướng tiếp cận này là phân tích cú pháp văn phạm (grammatical) v à đồ thị (graphical). Các phương pháp phân tích văn phạm thường bắt đầu bằng việc tạo một số luật để sinh ra một kí tự từ tập các nét cơ bản th ông qua các văn phạm hình thức.
Các phương pháp này có thể kết hợp các đặc trưng tô pô với bất kỳ kiểu đặc trưng nào theo một số luật cú pháp và ngữ nghĩa. Các công cụ hình thức chẳng hạn như lý thuyết ngôn ngữ cho phép mô tả các cấu trúc và trích chọn thô ng tin ngữ cảnh về người viết bằng cách sử dụng các kiểu văn phạm khác nhau. Trong các phương pháp văn phạm, việc huấn luyện được thực hiện bằng cách mô tả mỗi kí tự bởi một văn phạm G. Trong quá trình nhận dạng, mỗi chuỗi, cây hoặc đồ thị của các đơn vị viết bất kỳ (kí tự, từ, câu) được phân tích để quyết định xem nó thuộc vào văn phạm mẫu nào.
Các phương pháp phân tích dưới lên (bottom -up) hoặc trên xuống (top-down) được sử dụng cho việc phân tích cú pháp. Phương pháp phân tích văn phạm có thể áp dụng cho các mức kí tự, từ và câu. Ở 7 mức kí tự, ngôn ngữ mô tả hình ảnh (PDL) được sử dụng để mô hình hóa mỗi kí tự bằng tập các nét và các mối quan hệ giữa chúng. Quá trình phân lớp sẽ tìm kiếm lớp mẫu phù hợp nhất cho mỗi đối tượng đầu vào dựa trên các mô t ả đã được lưu trữ.
Ở mức từ, các thống kê bi -gram và tri-gram được sử dụng để tạo ra các văn phạm sinh từ (word). Việc mô tả từ và câu sử dụng các tri thức dựa trên các luật ngôn ngữ. Các phương pháp văn phạm cũng được sử dụng trong công đoạn hậu xử lý để tăng độ chính xác nhận dạng. Với phương pháp đồ thị , các đơn vị viết (kí tự/từ) được thể hiện bởi các cây hoặc đồ thị.
Trong quá trình huấn luyện, một đồ thị hoặc cây sẽ được tạo ra để biểu diễn các nét cơ bản tương ứng với mỗi lớp mẫu. Quá trình nhận dạng sẽ gán mỗi đồ thị chưa biết cho một trong các lớp mẫu dựa trên các độ đo cụ thể.3 Hướng tiếp cận dựa trên học máy Các phương pháp học máy được ứng dụng phổ biến trong phân lớp/nhận dạng mẫu. Lợi điểm của các phương pháp học máy là không yêu cầu phải đầu tư quá nhiều thời gian và công sức cho việc xây dựng tập mẫu như các hướng tiếp cận cấu trúc hay văn phạm. Ngoài ra, các phương pháp học máy còn cải thiện đáng kể độ chính xác nhận dạng do đã được huấn luyện với một tập mẫu học lớn.
Các phương pháp học máy điển hình được áp dụng trong bài toán nhận dạng chữ là các phương pháp thống kê , mạng nơron nhân tạo (ANN), các phương pháp hàm nhân, và kết hợp nhiều phương pháp phân lớp. Các phương pháp thống kê : Lý thuyết quyết định thống kê thường liên quan tới các hà m quyết định thống kê và tập các tiêu chuẩn tối ưu, 8 cực đại hóa xác xuất của mẫu quan sát được bởi mô hình của một lớp mẫu cụ thể. Các kỹ thuật thống kê chủ yếu dựa trên ba giả thiết cơ bản sau: i) Phân bố của tập đặc trưng là phân bố Gaussian hoặc phân bố c huẩn. ii) Có các biến thống kê đầy đủ cho mỗi lớp.
iii)Với mỗi ảnh I cho trước sẽ trích chọn được một tập các đặc trưng {fi | i = 1, n}, đại diện cho các lớp mẫu riêng biệt. Các kỹ thuật điển hình trong phân lớp thống kê gồm có: Phân lớp có tham số, phân lớp không tham số và phân lớp dựa trên các mô hình Markov ẩn. Các phương pháp phân lớp không tham số thường được sử dụng để phân tách các lớp mẫu khác nhau theo các siêu phẳng trong một không gian cho trước. Phương pháp k -láng giềng gần nhất (k -nn) là phương pháp phân lớp không tham số được sử dụng phổ biến nhất trong bài toán nhận dạng.
Trong trường hợp biết trước thông tin về các kí tự trong tập dữ liệu huấn luyện, có thể xây dựng được một mô hình tham số cho mỗi kí tự. Khi các tham số của mô hình đã được xác định, các kí tự sẽ được phân lớp theo một số luật quyết định (MLE, Bayes). Mô hình Markov ẩn được ứng dụng phổ biến nhất trong bài toán nhận dạng chữ viết tay trực tuyến (online-handwritting). Mô hình này được định nghĩa là một tiến trình ngẫu nhiên đư ợc sinh ra bởi hai cơ chế có liên quan mật thiết với nhau: một xích Markov có hữu hạn trạng thái và một tập các hàm ngẫu nhiên, trong đó mỗi hàm được liên kết với một trạng thái.
Tại mỗi thời điểm, một quan sát được sinh ra bởi hàm ngẫu nhiên tương ứng với trạng thái đang xét. Xích Markov sau đó sẽ thay đổi các 9 trạng thái theo các xác suất chuyển của chúng. Các mô hình MD -HMM (model discriminant HMM) thường được sử dụng cho bài toán phân lớp kí tự. Trong đó mô hình này, mỗi HMM sẽ được xây dựng cho một lớp mẫu kí tự trong quá trình huấn luyện.
Các trạng thái thể hiện các trọng tâm của cụm trong không gian đặc trưng. Nhiệm vụ của quá trình phân lớp là xác định mô hình đã sinh ra chuỗi quan sát đầu vào. Mô hình mạng nơron: Mạng nơron nhân tạo (Artificial Neur al Network) là một mô hình tính toán mô phỏng theo hoạt động của bộ não và nơron sinh học của con người. Cấu trúc của một mô hình mạng nơron bao gồm nhiều nút (đơn vị xử lý, nơron) được nối với nhau bởi các liên kết nơron.
Mỗi liên kết kèm theo một trọng số nào đó, đặc trưng cho đặc tính kích hoạt/ức chế các nơron. Có thể xem các trọng số như là thành phần để lưu giữ thông tin dài hạn trong mạng nơron. Nhiệm vụ của quá trình huấn luyện mạng là cập nhật các trọng số khi có thêm các thông tin về các mẫu học, hay nói một cách khác là các trọng số được điều chỉnh sao cho dáng điệu vào ra của nó mô phỏng hoàn toàn phù hợp với tập mẫu đang xét.