chương 1 Chương một đã nêu sơ lược lịch sử hình thành và phát triển chữ Nôm, cấu trúc chữ nôm, tầm quan trọng của bài toán nhận dạng chữ LUAN VAN CHAT LUONG download : add luanvanchat@agmail. Mô hình tổng thể cho bài toán nhận dạng chữ nôm với các bước cơ bản và các khái niệm cơ bản cũng được nêu chi tiêt. Qua chương này chúng tôi cung cấp cái nhìn cơ bản về chữ Nôm, các bước cơ bản để giải quyết bài toán nhận dạng chữ Nôm, làm nền tảng để đi đến chương tiếp theo – một số kỹ thuật nhận dạng chữ tượng hình. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 22 Chương 2 MỘT SỐ KỸ THUẬT NHẬN DẠNG CHỮ TƯỢNG HÌNH 2.1 NHẬN DẠNG THEO PHƯƠNG PHÁP CỰC ĐẠI HÓA ENTROPY Mô hình cực đại hóa Entropy (MEM) là kỹ thuật dùng để đánh giá phân phối xác suất nhằm tìm ra một mô hình có phân phối xác suất thỏa mãn mọi ràng buộc của bài toán.
Tư tưởng của mô hình là với những ràng buộc không rõ ràng mô hình cho một phân phối đều, với những ràng buộc cụ thể mô hình cho một phân phối thỏa mãn những ràng buộc cụ thể đó. Nhận dạng theo phương pháp cực đại hóa entropy là sử dụng mô hình maximum entropy [8] để huấn luyện và nhận dạng. Với tập mẫu huấn luyện, từng chữ sẽ được trích chọn đặc trưng. Sau khi có tập đặc trưng thì tập đặc trưng này cùng với mã và nghĩa được đưa vào huấn luyện theo mô hình maximum entropy [8].
Kết quả ta được một tập phân phối xác suất, theo đó thì ứng với mỗi chuỗi đặc trưng của một ký tự sẽ có bao nhiêu phần trăm có nghĩa này, bao nhiêu phần trăm có nghĩa kia. Đây chính là tập tri thức phục vụ cho nhận dạng. Khi tiến hành nhận dạng một ảnh chữ tượng hình, ảnh chữ tượng hình này cũng được chuẩn hóa lại qua các thao tác tiền xử lý. Sau đó nó được trích chọn đặc trưng theo phương pháp trích chọn đặc trưng của tập dữ liệu mẫu.
Với chuỗi đặc trưng trích chọn được, dựa vào cơ sở tri thức là file phân phối xác suất thu được sau quá trình huấn luyện, kết quả nhận dạng là trường hợp có xác suất lớn nhất tương ứng với tập đặc trưng.2 NHẬN DẠNG THEO MẠNG NƠ-RON Nhận dạng theo mạng nơ-ron là sử dụng mạng nơ-ron nhân tạo để huấn luyện, nhận dạng chữ tượng hình. Trước khi đưa vào nhận dạng, LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 23 chữ tượng hình cũng cần qua giai đoạn tiền xử lý, chuẩn hóa để tạo ra ảnh dữ liệu tốt hơn, mục đích để nhận dạng chính xác hơn. Có nhiều mạng nơ-ron có thể áp dụng vào bài toán nhận dạng tùy theo cách lấy đặc trưng của chữ và thuật toán nhận dạng chữ. Chẳng hạn ứng dụng mạng nơ-ron để lấy đặc trưng và huấn luyện mạng trực tiếp trên ảnh gốc thì mô hình mạng nơ-ron có thể khác với việc ứng dụng mạng neuron để lấy đặc trưng và huấn luyện mạng dựa trên khung xương hay giả khung lấy ra từ ảnh gốc.
Cách lấy đặc trưng cũng ảnh hưởng nhiều đến mô hình mạng như lấy đặc trưng theo nét, lấy đặc trưng theo tọa độ điểm đến, lấy đặc trưng theo histogram nếu ứng dụng mạng nơ- ron vào thì mô hình mạng cũng khác nhau. Trong nghiên cứu [3] nhóm nghiên cứu nhận dạng chữ Nôm của trường Đại học Công nghệ, đại học Quốc gia Hà Nội đưa ra phương án nhận dạng chữ Nôm bằng mạng nơ-ron với mô hình mạng có 24x24 nơ- ron ở tầng vào để biểu diễn ảnh 24x24 pixel, 16 nơ-ron ở tầng ra để biểu diễn để biểu diễn hơn 9000 ký tự Nôm, tầng ẩn có thể điều chỉnh số lớp và số lượng nơ-ron để cải tiến tốc độ và độ chính xác khi nhận dạng (hình 2. Mô hình mạng này sử dụng hàm chuyển (2. Mô hình mạng nơ-ron nhận dạng chữ Nôm Quá trình huấn luyện là quá trình học có giám sát.
Với tập mẫu {(Xs,Ys). Trong đó, Xs là mảng nhị phân 24x24 phần tử biểu diễn ảnh LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 24 một ký tự Nôm, Ys là mảng nhị phân 16 phần tử. Ý tưởng cơ bản của quá trình huấn luyện mạng là xác định bộ trọng số W sao cho: Outs= f(Xs,Ws) =Ys đối với mọi mẫu học s Ban đầu các trọng số được gán ngẫu nhiên trong khoảng nào đó. Trong quá trình học, các trọng số được tự điều chỉnh sao cho phù hợp với các mẫu học, làm giảm sai số giữa giá trị đầu ra chuẩn Y s với giá trị tính toán thực tế outs.
Việc hiệu chỉnh trọng số dừng khi quá trình huấn luyện hội tụ tại một ngưỡng lỗi chấp nhận được hoặc dừng sau một số lần học xác định trước; Kết thúc pha huấn luyện, bộ trọng số đặc trưng cho thông tin nhận dạng được lưu trữ lại trong tệp tin, tạo thành bộ tri thức để sử dụng cho quá trình nhận dạng. Việc nhận dạng chỉ đơn giản là quá trình biến đổi mẫu vào X thành mẫu ra Y dựa trên bộ trọng số đã xác định. Mẫu ra Y sẽ được nhận dạng nếu nó thuộc tập mẫu ra chuẩn đã dùng để huấn luyện mạng. Ngược lại, mạng không nhận dạng được nếu sau quá trình biến đổi trên mạng thu được mẫu ra Y không thuộc tập mẫu chuẩn đã học.
Trong phương pháp nhận dạng theo string-edit distance dựa trên đặc trưng lấy từ histogram của khung xương ảnh chữ mà tác giả luận văn trình bày sau đây cũng được ứng dụng mạng neuron vào giai đoạn trích khung xương ảnh.3 NHẬN DẠNG SỬ DỤNG THƯ VIỆN TESSERACT Tesseract là một chương trình nhận dạng chữ (OCR) mã mở do HP phát triển, có thể hoạt động trên cả 2 môi trường Linux và Windows. Năm 1995 Tesseract là một trong ba bộ nhận dạng chữ có độ chính xác cao nhất tại cuộc thi tổ chức tại Đại học Nevada, Las Vegas. Cuối năm 2005, Tesseract được công bố dưới dạng bản quyền mã mở (Apache License 2.0) và được Google tiếp tục phát triển (http://code.com/p/tesseract-ocr/). Hiện nay Tesseract nhận dạng được sáu ngôn ngữ: Anh, Pháp, Ý, Đức, Tây ban nha, Hà lan.
Lưu đồ hoạt động của Tesseract được mô tả trong Hình 2. LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 25 Đường viền Ảnh đầu Phân tích thành các ký tự Tìm ra các dòng Tiền xử lý vào phần kết nối văn bản và từ Các đường bao ký tự được tổ chức thành các từ Tìm ra các dòng Nhận dạng từ 2 Nhận dạng từ 1 văn bản và từ Bộ tách ký tự Bộ kết hợp ký tự Từ thích hợp Bộ phân lớp ký tự Từ điển Bộ phân lớp Bộ phân tích tĩnh thích nghi số Hình 2. Kiến trúc tổng quát của Tesseract. Trong quá trình huấn luyện, từ một ảnh đầu vào chứa các ký tự hoặc đoạn văn bản cần để huấn luyện, Tesseract sẽ áp dụng các thuật toán xử lý ảnh để phân tích ảnh đầu vào thành các dòng, các từ rồi đến các ký tự riêng biệt.
Sau đó chương trình sẽ trích xuất ra các đặc trưng tương ứng với các ký tự. Trong quá trình huấn luyện các đặc trưng cần trích xuất là các phân đoạn xấp xỉ theo đa giác và những đặc trưng này được xem như là các khuôn mẫu của dữ liệu huấn luyện và được lưu vào cấu trúc dữ liệu. Tesseract dùng k láng giềng gần nhất (k-NN) để thực hiện phân lớp đối tượng. Với một vector có n đặc trưng: (A1(x), A2(x), …, An (x)).
Thì cách tính khoảng cách từ đối tượng x tới y được tính như sau: n D(x, y) = ( A ( x) A ( y)) i 1 i i 2 (2.2) Đối tượng gần với mẫu nhất sẽ có khoảng cách tổng hợp trên tất cả các đặc trưng là nhỏ nhất. Tesseract ban đầu được thiết kế chỉ để nhận dạng văn bản tiếng Anh. Sau này nó đã được chỉnh sửa và phát triển để nó có khả năng nhận dạng các ngôn ngữ khác. Với chữ tượng hình, do đặc trưng có kích thước cố định và các chữ không dính nhau nên có thể sử dụng kỹ thuật tiền xử lý rất tốt của Tesseract như công đoạn xử lý nhiễu, căn chỉnh độ nghiêng, tách dòng, tách từ để áp dụng LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 26 Với chữ Nôm, trong nghiên cứu [3], nhóm nghiên cứu nhận dạng chữ Nôm của trường Đại học Công nghệ, đại học Quốc gia Hà Nội cũng đã thực nghiệm với một số sửa đổi trong mã nguồn của Tesseract để ứng dụng nhận dạng chữ Nôm với kết quả bước đầu khả quan.
Tổng kết chương 2 Chương 2 chúng tôi cung cấp một số kỹ thuật nhận dạng chữ tượng hình liên quan. Cụ thể chúng tôi cung cấp 3 phương pháp nhận dạng đã được sử dụng trong thực tiễn với những chữ tượng hình khác như chữ Hán, chữ Nhật, chữ Hàn. nhưng trước đó chưa được thực nghiệm trên chữ Nôm. Ba phương pháp này đã được chúng tôi thực nghiệm trên cùng một bộ chữ Nôm, với một số phương pháp lấy đặc trừng khác nhau.
Kết quả bước đầu phương pháp cực đại hóa Entropy dựa trên đặc trưng theo histogram của giả khung kết quả thử nghiệm đạt 63%, có thể cải tiến cách lấy đặc trưng để tăng độ chính xác nhận dạng. Phương pháp mạng Nơ-ron truyền thẳng với đặc trưng là các điểm ảnh đạt 82%. Với phương pháp sử dụng thư viện tesseract độ chính xác thấp. Tesseract tỏ ra không thích hợp với chữ tượng hình do phương pháp trích chọn đặc trưng của đơn giản, số đặc trưng không đủ lớn để mô tả cấu trúc phức tập của các chữ tượng hình.
LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com 27 Chương 3 GIỚI THIỆU MỘT SỐ PHƯƠNG PHÁP TRÍCH CHỌN ĐẶC TRƯNG 3.1 LẤY ĐẶC TRƯNG THEO CẠNH Phương pháp lấy đặc trưng theo nét dựa vào 3 loại nét chính là nét ngang, nét đứng, nét xiên. Trong nét xiên lại phân ra 4 loại khác nhau là xiên trái 45 độ, xiên phải 45 độ, xiên trái 25 độ, xiên phải 25 độ. Phương pháp lấy đặc trưng theo nét sử dụng khung xương để xác định các cạnh của chữ. Khung xương được hiểu là trục chính của đối tượng ảnh.
Để thu được khung xương ảnh dùng một số phương pháp để loại bỏ dần những điểm ảnh bên ngoài, chỉ lấy ngững điểm ảnh giữa của đối tượng ảnh.1 thể hiện một ví dụ lấy khung xương của chữ Nôm, trong đó hình a thể hiện chữ ban đầu, hình b thể hiện khung xương lấy được. Khung xương ảnh Hình 3. Ví dụ khung xương chữ Nôm Trên khung xương thể hiện rõ những nét vẽ mà ta gọi là các cạnh. Mỗi nét có các thuộc tính gồm điểm đầu, điểm cuối và độ dài.