Tổng quan nghiên cứu

Trong bối cảnh bùng nổ của các thiết bị màn hình cảm ứng với hơn 3,5 tỷ người dùng điện thoại thông minh và máy tính bảng trên toàn cầu, phương thức nhập liệu bằng chữ viết tay tự nhiên ghi nhận mức tăng trưởng nhu cầu vượt mức 28% mỗi năm. Nhận dạng chữ viết tay trực tuyến (online handwriting recognition) nổi lên như một nhánh nghiên cứu then chốt trong lĩnh vực trí tuệ nhân tạo và xử lý mẫu, cho phép chuyển đổi tức thì các quỹ đạo nét bút cơ học thành ký tự số hóa. Khác với nhận dạng ngoại tuyến (offline) vốn chỉ thao tác trên ảnh tĩnh sau khi quét, dữ liệu trực tuyến chứa đựng chuỗi tọa độ biến thiên theo thời gian thực cùng các thuộc tính động như thứ tự nét và trạng thái nhấc/đặt bút.

Tuy nhiên, bài toán nhận dạng chữ viết tay trực tuyến đối mặt với nhiều thách thức lớn xuất phát từ tính đa dạng trong phong cách viết cá nhân, hiện tượng nét trễ và sự tương đồng hình học giữa các cặp ký tự như chữ O với số 0 hay chữ l với số 1. Luận văn Thạc sĩ Kỹ thuật chuyên ngành Khoa học máy tính của tác giả Cao Xuân Trường, thực hiện tại Học viện Công nghệ Bưu chính Viễn thông năm 2019 dưới sự hướng dẫn khoa học của PGS. TS Từ Minh Phương, tập trung giải quyết bài toán cốt lõi: nghiên cứu và ứng dụng mạng nơ-ron nhân tạo truyền thẳng một lớp ẩn kết hợp thuật toán lan truyền ngược để nhận dạng chính xác các ký tự viết tay trực tuyến. Nghiên cứu thực nghiệm trên bộ dữ liệu chuẩn quốc tế UNIPEN gồm 50.000 mẫu chữ viết, tối ưu hóa thành công vector đặc trưng không gian 11 chiều và đạt tỷ lệ nhận dạng chính xác 82%, giúp giảm thiểu hơn 35% độ phức tạp tính toán so với các kiến trúc mạng nhiều tầng truyền thống.

Cơ sở lý thuyết và phương pháp nghiên cứu

Khung lý thuyết áp dụng

Nghiên cứu được xây dựng trên nền tảng lý thuyết mạng nơ-ron nhân tạo (Artificial Neural Network - ANN) bắt nguồn từ mô hình tế bào thần kinh sinh học của Warren McCulloch và Walter Pitts năm 1943, kết hợp với các nguyên lý học có giám sát của thuật toán lan truyền ngược sai số (Backpropagation) dựa trên việc tối thiểu hóa hàm sai số toàn phương trung bình (Mean Squared Error - MSE). Mô hình nơ-ron nhân tạo tiếp nhận vector đầu vào p chiều, tính tổng có trọng số kèm theo ngưỡng phân cực và truyền qua hàm kích hoạt phi tuyến để tạo đầu ra.

Bên cạnh lý thuyết mạng nơ-ron, nghiên cứu tích hợp hệ thống 4 khái niệm nền tảng trong xử lý chữ viết tay trực tuyến:

  1. Thuộc tính tiếp xúc Pen-up và Pen-down: Đại lượng nhị phân biểu thị trạng thái đầu bút chạm vào màn hình cảm ứng để bắt đầu nét vẽ hoặc nhấc khỏi bề mặt để kết thúc nét.
  2. Thuộc tính động học và góc viết: Vận tốc di chuyển của nét bút cùng góc tiếp tuyến được lượng hóa thông qua giá trị sin và cosin so với trục hoành.
  3. Hiện tượng nét trễ (Delayed Strokes): Các nét viết bổ sung xuất hiện không theo quy luật từ trái sang phải, điển hình như nét gạch ngang của chữ "t" hoặc dấu chấm của chữ "i" sau khi hoàn thành các ký tự kế tiếp.
  4. Chuẩn hóa đường cơ sở (Baseline) và đường corpus: Hai đường hồi quy tuyến tính song song xác định đường đáy và đỉnh của ký tự để chuẩn hóa kích thước và khử độ xiên trong khoảng góc từ -90 độ đến 90 độ với bước nhảy 2 độ.

Phương pháp nghiên cứu

Nghiên cứu sử dụng nguồn dữ liệu thực nghiệm từ kho cơ sở dữ liệu UNIPEN quốc tế do Ủy ban Kỹ thuật 11 (IAPR) thành lập từ năm 1992. Cỡ mẫu nghiên cứu gồm chính xác 50.000 mẫu chữ viết tay của hàng trăm tác giả đa dạng quốc tịch. Phương pháp chọn mẫu áp dụng kỹ thuật lấy mẫu phân tầng ngẫu nhiên, phân chia toàn bộ dữ liệu thành 2 tập độc lập theo tỷ lệ 70% dành cho huấn luyện (35.000 mẫu) và 30% dành cho kiểm thử đánh giá (15.000 mẫu).

Lý do lựa chọn phương pháp phân tích dựa trên mạng nơ-ron truyền thẳng 1 lớp ẩn xuất phát từ định lý xấp xỉ phổ quát, cho phép mô hình học được các mặt phân chia phi tuyến phức tạp trong không gian mẫu mà vẫn duy trì tốc độ tính toán thời gian thực. Phương pháp trích chọn đặc trưng tiến hành chuẩn hóa tọa độ cực tiểu về gốc (0,0), chia không gian hiển thị thành m phần theo trục hoành và n phần theo trục tung, sau đó đếm số điểm ảnh trên từng vùng và kết hợp số nét bút (thuộc tính SEGMENT) để hình thành vector đặc trưng đầu vào chuẩn hóa trong đoạn [0, 1]. Toàn bộ quy trình tiền xử lý, huấn luyện và kiểm thử được triển khai xuyên suốt trong 12 tháng năm 2019.

Kết quả nghiên cứu và thảo luận

Những phát hiện chính

Quá trình thực nghiệm đã mang lại 4 phát hiện khoa học quan trọng liên quan đến việc tối ưu hóa cấu trúc dữ liệu đầu vào và tham số mô hình:

  1. Kích thước vector đặc trưng quyết định trực tiếp đến hiệu năng phân loại: Thử nghiệm trên 12 cấu hình vector khác nhau với số chiều dao động từ 8 đến 17 phần tử cho thấy cấu hình 11 chiều (với phép chia lưới m = 5, n = 2 và tích hợp thuộc tính SEGMENT) đạt tỷ lệ nhận dạng cao nhất là 82%. Kết quả này vượt trội hơn 42% so với vector 8 chiều (đạt 40%) và cao hơn từ 28% đến 33% so với các vector kích thước 16-17 chiều (chỉ đạt 45% đến 54%).
  2. Thuộc tính số nét bút (SEGMENT) tạo ra bước nhảy vọt về độ chính xác: Khi so sánh giữa vector 10 chiều (m = 5, n = 2 không có SEGMENT) và vector 11 chiều (có bổ sung SEGMENT), độ chính xác nhận dạng tăng vọt từ 58% lên 82%, tương đương mức cải thiện thực nghiệm 24% chỉ nhờ 1 chiều dữ liệu đại diện cho hành vi nhấc/đặt bút.
  3. Tác động điều tiết của hệ số học và bước đà: Việc kết hợp hệ số học (beta) trong khoảng 0 đến 1 với hệ số bước đà (alpha) trong khoảng 0 đến 1 giúp đẩy nhanh tốc độ hội tụ của thuật toán lan truyền ngược, giảm khoảng 40% số lượng vòng lặp huấn luyện cần thiết và triệt tiêu nguy cơ rơi vào các điểm cực tiểu cục bộ.
  4. Tối ưu hóa thời gian thực thi: Chương trình cài đặt bằng ngôn ngữ C# trên môi trường máy tính cấu hình phổ thông (CPU Intel Core i3-3120M 2.50GHz, RAM 6GB) đạt thời gian nhận dạng trung bình dưới 15 mili-giây cho mỗi ký tự, đáp ứng hoàn hảo yêu cầu tương tác trực tuyến tức thì.

Thảo luận kết quả

Nguyên nhân vector 11 chiều đạt hiệu năng tối ưu nằm ở việc phân chia 5 phần theo chiều ngang và 2 phần theo chiều dọc mô phỏng chính xác tỷ lệ phân bố hình học của các ký tự chữ cái la-tinh, đồng thời thuộc tính SEGMENT cung cấp thông tin ngữ nghĩa then chốt để phân biệt các ký tự đồng dạng. Các số liệu thực nghiệm này được tổng hợp chi tiết trong bảng so sánh kích thước vector và minh họa trực quan qua biểu đồ biến thiên độ chính xác theo số chiều dữ liệu.

So với công trình nghiên cứu của Li và Yeung đạt độ chính xác 97,4% trên 9.300 mẫu chữ thường tiếng Anh bằng phương pháp so sánh mẫu đàn hồi (Elastic Matching), mô hình mạng nơ-ron trong luận văn đạt 82% trên tập dữ liệu lớn hơn gấp 5 lần (50.000 mẫu) với tính đa dạng phong cách cao hơn. Mặc dù độ chính xác thô thấp hơn các giải pháp đối sánh mẫu phức tạp, kiến trúc mạng nơ-ron truyền thẳng 1 lớp ẩn lại vượt trội về tốc độ xử lý và khả năng nén tri thức vào ma trận trọng số, không đòi hỏi lưu trữ toàn bộ tập mẫu mẫu ban đầu trong bộ nhớ.

Đề xuất và khuyến nghị

Nhằm nâng cao hiệu quả ứng dụng của mô hình nhận dạng chữ viết tay trực tuyến trong thực tiễn, nghiên cứu đề xuất 4 nhóm giải pháp cụ thể:

  1. Nâng cấp kiến trúc mô hình học sâu: Tiến hành chuyển đổi từ mạng nơ-ron truyền thẳng 1 lớp ẩn sang kiến trúc kết hợp giữa Mạng nơ-ron tích chập (CNN) và Mạng bộ nhớ dài-ngắn hạn (LSTM) nhằm nâng mục tiêu nhận dạng ký tự từ 82% lên trên 96% và mở rộng nhận dạng cả từ/câu hoàn chỉnh; lộ trình triển khai trong 18 tháng do các nhóm nghiên cứu trí tuệ nhân tạo tại các trường đại học công nghệ đảm nhiệm.
  2. Xây dựng bộ cơ sở dữ liệu chữ viết tay trực tuyến tiếng Việt chuẩn hóa: Thiết lập tập dữ liệu mở với quy mô trên 100.000 mẫu bao gồm 89 ký tự chữ cái có dấu thanh và dấu phụ đặc trưng của tiếng Việt (như ă, â, đ, ê, ô, ơ, ư); thời gian thực hiện trong 12 tháng dưới sự chủ trì của các viện nghiên cứu công nghệ thông tin.
  3. Tối ưu hóa thuật toán phát hiện và bù trừ nét trễ: Tích hợp kỹ thuật lập trình động và trích chọn đặc trưng mũ (Hat feature) vào khâu tiền xử lý để xử lý tự động các nét gạch ngang và dấu phụ viết sau, giảm tỷ lệ lỗi phân đoạn dòng xuống dưới 2,5% trong vòng 6 tháng do các kỹ sư phần mềm thực hiện.
  4. Phát triển bộ công cụ SDK nhận dạng đa nền tảng: Đóng gói mô hình thành thư viện phần mềm gọn nhẹ hỗ trợ hệ điều hành Android, iOS và Windows, hướng tới thời gian phản hồi dưới 10 mili-giây trên thiết bị di động trong thời gian 9 tháng do các doanh nghiệp công nghệ số triển khai.

Đối tượng nên tham khảo luận văn

Luận văn là tài liệu tham khảo giá trị cho 4 nhóm đối tượng chuyên môn:

  1. Học viên cao học và sinh viên ngành Khoa học máy tính, Kỹ thuật phần mềm: Nắm vững phương pháp trích chọn đặc trưng không gian từ dữ liệu tọa độ chuỗi thời gian, cách thức cấu hình mạng nơ-ron truyền thẳng và triển khai thuật toán lan truyền ngược trên tập dữ liệu thực tế.
  2. Kỹ sư phát triển ứng dụng di động và thiết bị cảm ứng: Ứng dụng kiến trúc mô hình gọn nhẹ và giải thuật C# vào việc phát triển tính năng bàn phím chữ viết tay thông minh cho smartphone, máy tính bảng và bảng tương tác giáo dục.
  3. Các nhà nghiên cứu về Thị giác máy tính và Nhận dạng mẫu: Khai thác phương pháp chuẩn hóa đường cơ sở, khử độ xiên và xử lý nét trễ làm tiền đề phát triển các thuật toán nhận dạng chữ viết tay trực tuyến cho các ngôn ngữ phức tạp.
  4. Chuyên viên công nghệ tại các doanh nghiệp EdTech và hành chính số: Ứng dụng giải pháp nhận dạng chữ viết tay để tự động hóa quy trình nhập liệu tài liệu, chấm bài thi trực tuyến và ký số văn bản điện tử.

Câu hỏi thường gặp

  1. Sự khác biệt căn bản giữa nhận dạng chữ viết tay online và offline là gì? Nhận dạng offline xử lý dữ liệu ảnh tĩnh sau khi quét, trong khi nhận dạng online tiếp nhận chuỗi tọa độ (x, y) thời gian thực cùng thông tin về thứ tự nét bút, tốc độ di chuyển và trạng thái nhấc/đặt bút từ màn hình cảm ứng, giúp việc phân đoạn ký tự thuận lợi hơn.

  2. Tại sao kích thước vector đặc trưng 11 phần tử lại cho kết quả nhận dạng tốt nhất? Thực nghiệm chứng minh việc chia lưới 5 phần theo trục x và 2 phần theo trục y nắm bắt hoàn hảo cấu trúc chữ cái la-tinh, đồng thời việc kết hợp thêm thuộc tính số nét bút giúp mạng phân loại chính xác mà không bị quá khớp (overfitting) như các vector 16-17 chiều.

  3. Thuật toán lan truyền ngược giải quyết sai số huấn luyện như thế nào? Thuật toán tính toán sai số đầu ra thông qua hàm sai số toàn phương trung bình (MSE), sau đó lan truyền ngược sai số qua các lớp để hiệu chỉnh ma trận trọng số liên kết và ngưỡng phân cực, lặp lại liên tục cho đến khi sai số đạt mức tối thiểu hoặc đạt giới hạn số vòng lặp.

  4. Nét trễ gây khó khăn gì cho bài toán nhận dạng chữ viết tay trực tuyến? Nét trễ (như nét ngang chữ "t" hay dấu chấm chữ "i" được viết sau cùng) phá vỡ tính tuần tự thời gian từ trái sang phải của chuỗi nét bút, làm sai lệch thứ tự lấy mẫu và đòi hỏi thuật toán tiền xử lý phải nhận diện để tách riêng hoặc khử nhiễu.

  5. Cấu hình phần cứng tối thiểu để triển khai mô hình nơ-ron thực nghiệm là gì? Mô hình có độ phức tạp thấp, chạy mượt mà trên phần cứng phổ thông sử dụng CPU Intel Core i3 2.50GHz, 6GB RAM và hệ điều hành Windows 7/10, cho thời gian phản hồi nhận dạng dưới 15 mili-giây mỗi ký tự.

Kết luận

  • Luận văn đã hệ thống hóa toàn diện cơ sở lý thuyết về nhận dạng chữ viết tay trực tuyến và cấu trúc mạng nơ-ron nhân tạo truyền thẳng 1 lớp ẩn.
  • Xây dựng thành công quy trình trích chọn đặc trưng không gian từ tập dữ liệu UNIPEN với 50.000 mẫu, tối ưu hóa vector đầu vào đạt kích thước 11 chiều với độ chính xác 82%.
  • Chứng minh vai trò then chốt của thuộc tính số nét bút (SEGMENT) khi giúp nâng hiệu suất nhận dạng thêm 24% so với mô hình chỉ dùng tọa độ thuần túy.
  • Cài đặt hoàn chỉnh chương trình thử nghiệm bằng ngôn ngữ C# trên Visual Studio 2013, đạt tốc độ xử lý thời gian thực dưới 15 mili-giây.
  • Đặt nền móng cho lộ trình 12-18 tháng phát triển các mô hình học sâu kết hợp (CNN-LSTM) mở rộng cho chữ viết tay tiếng Việt có dấu.

Để tiếp cận toàn diện mô hình toán học và mã nguồn thực nghiệm, quý độc giả và các nhà nghiên cứu có thể tham khảo chi tiết toàn văn Luận văn Thạc sĩ Kỹ thuật của tác giả Cao Xuân Trường tại thư viện Học viện Công nghệ Bưu chính Viễn thông.