Bối cảnh và vấn đề nghiên cứu
Trong hoạt động giao tiếp và thiết lập quan hệ công việc, thẻ danh thiếp là phương tiện cung cấp thông tin cá nhân và tổ chức ngắn gọn, phổ biến ở nhiều ngành nghề. Nhu cầu số hóa dữ liệu từ thẻ danh thiếp nhằm phục vụ công tác quản lý, lưu trữ và tự động hóa quy trình nhập liệu trong doanh nghiệp ngày càng gia tăng. Tuy nhiên, việc nhận diện và trích xuất tự động thông tin từ danh thiếp gặp nhiều rào cản kỹ thuật xuất phát từ tính đa dạng về mẫu mã, bố cục tự do, phông chữ cách điệu, màu sắc nền phức tạp và điều kiện chụp thực tế (bị xoay góc, sai lệch hướng, ánh sáng không đồng đều hoặc bị che khuất).
Hiện nay, các giải pháp thương mại như ABBYY Business Card Reader, CamCard hoặc xContact chủ yếu hoạt động trên mã nguồn đóng, chưa công bố chi tiết phương pháp xử lý nội bộ và được thiết kế tối ưu cho các ngôn ngữ quốc tế, dẫn đến hiệu quả trích xuất chưa cao khi áp dụng vào danh thiếp tiếng Việt có hệ thống dấu thanh phức tạp. Bên cạnh đó, các nghiên cứu gần đây thường tập trung xây dựng ứng dụng di động đơn lẻ mà chưa tiến hành đánh giá thực nghiệm toàn diện các mô hình thị giác máy tính và học sâu tiên tiến, đồng thời còn thiếu hụt các bộ dữ liệu danh thiếp tiếng Việt được gán nhãn chuẩn hóa.
Khóa luận tốt nghiệp của tác giả Tô Viết Anh và Phạm Duy Giác Nguyên (ngành Khoa học Máy tính, Trường Đại học Công nghệ Thông tin – ĐHQG-HCM, năm 2022) hướng tới giải quyết bài toán nhận diện và bóc tách thông tin văn bản tiếng Việt từ ảnh chụp thẻ danh thiếp. Tác giả xác định 4 mục tiêu nghiên cứu cụ thể:
- Tìm hiểu tổng quan bài toán rút trích thông tin từ danh thiếp và khảo sát các phương pháp phù hợp cho từng bài toán con thành phần.
- Thu thập, gán nhãn và xây dựng tập dữ liệu danh thiếp tiếng Việt phục vụ việc huấn luyện và đánh giá thực nghiệm các mô hình học sâu.
- Cài đặt và đánh giá định lượng các phương pháp tiên tiến nhất tương ứng cho từng giai đoạn xử lý trên bộ dữ liệu đã xây dựng.
- Xây dựng ứng dụng web minh họa bóc tách thông tin dựa trên chuỗi mô hình đạt hiệu quả cao nhất qua thực nghiệm.
Đối tượng nghiên cứu của khóa luận là các kỹ thuật xử lý hình ảnh số, các kiến trúc học sâu dùng trong bài toán phát hiện, định vị và nhận diện chữ quang học (OCR). Phạm vi nghiên cứu giới hạn trên tập dữ liệu thẻ danh thiếp sử dụng bảng chữ cái Latinh thu thập tại Việt Nam, với điều kiện ảnh chụp đầu vào chứa một thẻ danh thiếp duy nhất và nội dung văn bản thể hiện rõ ràng.
Cơ sở lý thuyết và phương pháp
Khóa luận tiếp cận bài toán theo quy trình phân tách từng bước (Step-wise pipeline) thay vì mô hình tích hợp nguyên khối (Integrated end-to-end), xuất phát từ ưu điểm cho phép kiểm soát, tinh chỉnh và tối ưu hóa độc lập từng mô-đun chức năng. Quy trình tổng thể bao gồm 3 bài toán con:
- Xác định vị trí thẻ danh thiếp (Card localization): Khảo sát hai hướng tiếp cận chính:
- Xử lý ảnh truyền thống: Phương pháp Advanced Hough-based method (Tropin và cộng sự), dựa trên chuỗi thao tác: lọc hình thái học (Morphology Opening/Closing biên 1 pixel), tính đạo hàm theo trục Y, triệt tiêu không cực đại (Non-maximum suppression), lọc miền liên thông, làm mờ Gaussian, biến đổi Fast Hough Transform (FHT) tìm 15 cực đại địa phương trên 3 phân vùng ảnh để xác định các đường thẳng ngang và dọc; kết hợp mô hình camera (dựa trên tiêu cự $f$ và tỷ lệ cạnh $r$) để khôi phục cạnh bị khuyết và hệ thống xếp hạng hai bước dựa trên điểm số đồng mức (contour score) và điểm số tương phản (Chi-square contrast score).
- Học sâu: Mô hình phân đoạn ngữ nghĩa U-Net (Ronneberger và cộng sự) gồm 23 lớp tích chập với cấu trúc đối xứng hình chữ U kết hợp nhánh co (contracting path) và nhánh mở rộng (expanding path) thông qua các kết nối tắt (skip connections).
- Phát hiện vùng văn bản (Text detection): Khảo sát 6 kiến trúc học sâu thuộc hai trường phái:
- Hướng tiếp cận từ trên xuống (Top-down): TextFuseNet (mở rộng từ Mask R-CNN, sử dụng backbone ResNet kết hợp FPN và RPN, đồng thời dung hợp đặc trưng ở 3 cấp độ: toàn cục, cấp từ và cấp ký tự); PMTD (Pyramid Mask Text Detector, đề xuất gán nhãn mềm dạng kim tự tháp cho điểm ảnh và sử dụng thuật toán gom cụm 4 mặt phẳng trong không gian 3 chiều để tạo hình tứ giác bao quanh chữ, hạn chế lan truyền lỗi từ nhánh đề xuất vùng).
- Hướng tiếp cận từ dưới lên (Bottom-up): CRAFT (Character Region Awareness for Text Detection, sử dụng backbone VGG-16 dự đoán điểm số vùng và điểm số quan hệ qua bản đồ phân bố Gaussian 2 chiều, áp dụng cơ chế học giám sát yếu); DB (Differentiable Binarization, tích hợp hàm nhị phân hóa khả vi trực tiếp vào mạng nơ-ron phân đoạn để tối ưu hóa đồng thời bản đồ xác suất và bản đồ ngưỡng thích ứng); PAN (Pixel Aggregation Network, sử dụng cấu trúc nhẹ với mô-đun tăng cường kim tự tháp đặc trưng FPEM và mô-đun dung hợp đặc trưng FFM); PSENet (Progressive Scale Expansion Network, mở rộng vùng nhân chữ theo tỷ lệ lũy tiến).
- Nhận diện văn bản (Text recognition): Đánh giá thư viện VietOCR dành riêng cho tiếng Việt với hai kiến trúc giải mã chuỗi là AttentionOCR (kết hợp mạng tích chập trích xuất đặc trưng với mạng hồi quy LSTM và cơ chế chú ý Attention) và TransformerOCR, đối chiếu với công cụ mã nguồn mở TesseractOCR.
Phương pháp nghiên cứu thực nghiệm được thực hiện trên cơ sở xây dựng bộ dữ liệu danh thiếp thực tế, triển khai huấn luyện và kiểm thử các mô hình bằng các độ đo học thuật chuẩn: IoU (Intersection over Union) đối với định vị thẻ; độ chính xác (Precision), độ thu hồi (Recall) và điểm F-measure theo giao thức TedEval đối với phát hiện văn bản; độ chính xác cấp độ từ và ký tự đối với nhận diện chữ. Nguồn dữ liệu thực nghiệm chính là bộ dữ liệu VBC-583 do nhóm tác giả tự thu thập và gán nhãn tại Việt Nam, cùng bộ dữ liệu chuẩn ICDAR2015 dùng trong huấn luyện tiền kỳ.
Thiết kế và triển khai hệ thống
Khóa luận xây dựng một hệ thống phần mềm minh họa dưới dạng ứng dụng web, tích hợp chuỗi 3 mô hình đạt kết quả thực nghiệm tối ưu cho từng bài toán con:
| Thành phần chức năng |
Phương pháp / Mô hình tích hợp |
Nhiệm vụ kỹ thuật |
| Mô-đun 1: Định vị thẻ |
Advanced Hough-based method |
Xác định 4 đỉnh của thẻ danh thiếp từ ảnh chụp có phông nền; áp dụng phép biến đổi phối cảnh (Projective Transform) để căn chỉnh góc nghiêng và cắt vùng thẻ chuẩn hóa. |
| Mô-đun 2: Phát hiện văn bản |
PAN (Pixel Aggregation Network) |
Định vị chính xác tọa độ các hộp bao (bounding boxes) chứa các dòng chữ/từ trên thẻ danh thiếp đã được cắt. |
| Mô-đun 3: Nhận diện ký tự |
VietOCR (kiến trúc AttentionOCR) |
Chuyển đổi các đoạn ảnh văn bản cắt từ hộp bao thành văn bản số tiếng Việt có dấu hoàn chỉnh. |
Hệ thống được thiết kế với giao diện web gồm hai màn hình chức năng: giao diện khởi tạo cho phép người dùng tải lên tệp ảnh danh thiếp từ máy tính cá nhân hoặc thiết bị chụp, và giao diện hiển thị kết quả trực quan gồm hình ảnh thẻ đã qua xử lý cắt nền kèm danh sách các trường thông tin văn bản được trích xuất tự động.
Nội dung chính theo từng chương
Chương 1: Tổng quan
Chương 1 trình bày lý do lựa chọn đề tài xuất phát từ nhu cầu quản lý thông tin danh thiếp và việc thiếu hụt giải pháp OCR tối ưu cho tiếng Việt. Tác giả xác định rõ mục tiêu nghiên cứu, phạm vi dữ liệu giới hạn trên các thẻ danh thiếp chữ Latinh thu thập tại Việt Nam, nêu bật 3 đóng góp chính của khóa luận (bộ dữ liệu VBC-583, tài liệu khảo sát - đánh giá thực nghiệm đa mô hình, ứng dụng web minh họa) và phác thảo cấu trúc khóa luận gồm 6 chương.
Chương 2: Các nghiên cứu liên quan
Chương này đi sâu phân tích bài toán trích xuất dữ liệu danh thiếp trong thực tế doanh nghiệp và các ưu điểm của phương pháp số hóa tự động (tốc độ xử lý tính bằng giây, hạn chế sai sót nhập liệu thủ công, thuận tiện tích hợp hệ thống quản lý). Tác giả phân tích các thách thức kỹ thuật:
- Mẫu mã, kiểu dáng đa dạng và sự phối hợp nhiều phông chữ (chữ có chân, không chân, chữ nghệ thuật).
- Bố cục tự do, phi cấu trúc, không tuân theo quy chuẩn cố định như căn cước công dân.
- Hiện tượng ảnh chụp bị xoay góc, sai lệch hướng chiếu ống kính.
- Nhiễu nền phức tạp do ánh sáng không đồng đều, bóng đổ hoặc viền trang trí nội bộ thẻ gây nhầm lẫn đường bao.
Chương 2 cũng so sánh hai hướng tiếp cận nhận diện văn bản (Step-wise và Integrated), lập luận căn cứ chọn lựa phương pháp Step-wise, đồng thời khảo sát các kỹ thuật trích xuất đặc trưng thủ công (Canny, MSER, SWT, HOG) đối chiếu với các mô hình học sâu hiện đại (CTPN, EAST, SSD, Faster R-CNN, RNN, LSTM, Attention).
Chương 3: Nghiên cứu và đánh giá một số phương pháp cho bài toán rút trích thông tin từ danh thiếp
Chương 3 trình bày chi tiết cơ sở toán học và kiến trúc mạng của các mô hình được lựa chọn thử nghiệm:
- Xác định vị trí thẻ: Mô tả chi tiết thuật toán Advanced Hough-based method (tiền xử lý giảm kích thước về 240px, các phép toán Opening/Closing, đạo hàm theo trục Y, Non-maximum suppression, lọc miền liên thông, biến đổi Fast Hough Transform tìm 15 cực đại địa phương, kỹ thuật khôi phục cạnh khuyết qua mô hình camera, xếp hạng tứ giác dựa trên contour score và khoảng cách Chi-square của histogram màu) và mạng U-Net 23 lớp tích chập.
- Phát hiện văn bản: Trình bày nguyên lý của 6 mô hình: TextFuseNet (dung hợp đặc trưng 3 cấp độ trên khung Mask R-CNN), PMTD (mặt nạ kim tự tháp mềm và gom cụm mặt phẳng 3D), CRAFT (bản đồ nhiệt Gaussian cho điểm số vùng/quan hệ, học giám sát yếu), DB (hàm nhị phân hóa khả vi Differentiable Binarization), PAN (kiến trúc nhẹ với FPEM và FFM) và PSENet (mở rộng tỷ lệ lũy tiến).
- Nhận diện văn bản: Phân tích nguyên lý trích xuất đặc trưng kết hợp giải mã chuỗi của thư viện VietOCR (AttentionOCR, TransformerOCR) và TesseractOCR.
+-----------------------------------------------------------------------------------------+
| CÁC PHƯƠNG PHÁP PHÁT HIỆN VĂN BẢN ĐƯỢC KHẢO SÁT VÀ ĐÁNH GIÁ |
+------------------------------------+----------------------------------------------------+
| Hướng tiếp cận | Phương pháp cụ thể |
+------------------------------------+----------------------------------------------------+
| Từ trên xuống (Top-down) | TextFuseNet, PMTD |
| Từ dưới lên (Bottom-up) | Dựa theo thành phần: CRAFT |
| | Dựa theo điểm ảnh: DB, PAN, PSENet |
+------------------------------------+----------------------------------------------------+
Chương 4: Thực nghiệm và đánh giá
Chương 4 mô tả quy trình xây dựng bộ dữ liệu VBC-583 gồm 583 ảnh danh thiếp tiếng Việt được chụp trong các điều kiện môi trường thực tế khác nhau. Quy trình gán nhãn thực hiện cho 3 bài toán: gán nhãn 4 đỉnh tứ giác vị trí thẻ, gán nhãn hộp bao văn bản theo chuẩn ICDAR và gán nhãn chuỗi ký tự tiếng Việt tương ứng. Tác giả thiết lập môi trường thực nghiệm, phân tích kết quả định lượng:
- Ở bài toán định vị thẻ, Advanced Hough-based method cho độ chính xác cao và vận hành ổn định trong việc phát hiện cạnh biên thẻ danh thiếp thực tế.
- Ở bài toán phát hiện văn bản, các mô hình tiếp cận từ dưới lên, đặc biệt là PAN và DB, thể hiện ưu thế vượt trội về tốc độ xử lý và sự cân bằng giữa Precision và Recall.
- Ở bài toán nhận diện văn bản, kiến trúc VietOCR-AttentionOCR đạt độ chính xác nhận diện từ và ký tự tiếng Việt vượt trội hoàn toàn so với công cụ TesseractOCR.
Chương 5: Xây dựng hệ thống minh họa
Chương 5 trình bày thiết kế kiến trúc và quy trình triển khai phần mềm thử nghiệm. Hệ thống liên kết ba mô-đun độc lập thành luồng dữ liệu khép kín: tiếp nhận ảnh tải lên -> Advanced Hough-based method cắt và nắn chỉnh thẻ -> mô hình PAN phát hiện các vùng văn bản -> VietOCR-AttentionOCR nhận diện ký tự tiếng Việt -> hiển thị kết quả trích xuất trên giao diện web.
Chương 6: Kết luận và hướng phát triển
Chương 6 tổng kết các kết quả đạt được đối với từng mục tiêu nghiên cứu đã đề ra, đồng thời chỉ ra các hạn chế kỹ thuật hiện tại và đề xuất các phương hướng nghiên cứu hoàn thiện trong tương lai.
Kết quả và đóng góp
Khóa luận đã hoàn thành các mục tiêu nghiên cứu với các kết quả cụ thể:
- Xây dựng bộ dữ liệu VBC-583: Bộ dữ liệu gồm 583 hình ảnh danh thiếp tiếng Việt được thu thập thực tế và gán nhãn đa tầng phục vụ trực tiếp cho cả 3 bài toán con: định vị thẻ, phát hiện hộp bao văn bản và nhận diện nội dung ký tự tiếng Việt.
- Báo cáo đánh giá thực nghiệm toàn diện: Cung cấp số liệu phân tích định lượng, đối sánh ưu - nhược điểm của các giải pháp xử lý ảnh truyền thống và học sâu trên dữ liệu thực tế tại Việt Nam:
- Phương pháp Advanced Hough-based method chứng minh tính hiệu quả cao trong việc trích xuất khung thẻ danh thiếp, xử lý được các tình huống mất cạnh nhờ mô hình camera khôi phục hình học.
- Mô hình PAN được xác định là phương án cân bằng tối ưu giữa độ chính xác nhận diện văn bản và tốc độ tính toán, phù hợp để tích hợp trên hệ thống thực tế.
- Kiến trúc VietOCR-AttentionOCR thể hiện khả năng xử lý chính xác hệ thống dấu thanh tiếng Việt trên danh thiếp so với TesseractOCR.
- Xây dựng hệ thống web minh họa: Triển khai thành công ứng dụng web trích xuất dữ liệu danh thiếp hoàn chỉnh dựa trên chuỗi liên kết: Advanced Hough-based method $\rightarrow$ PAN $\rightarrow$ VietOCR-AttentionOCR.
Hạn chế và hướng nghiên cứu tiếp
Khóa luận tự chỉ ra các hạn chế và đề xuất hướng mở rộng nghiên cứu:
- Hạn chế:
- Quy mô bộ dữ liệu VBC-583 dừng lại ở 583 ảnh, chưa bao quát được toàn bộ các trường hợp danh thiếp trong thực tế như ảnh bị mờ nhòe nặng do chuyển động, điều kiện thiếu sáng nghiêm trọng hoặc ảnh chứa nhiều thẻ danh thiếp cùng lúc.
- Phạm vi chỉ tập trung vào danh thiếp sử dụng chữ cái Latinh, chưa mở rộng cho các loại danh thiếp đa ngôn ngữ phức tạp (chữ tượng hình).
- Hệ thống mới dừng lại ở việc bóc tách các dòng văn bản độc lập, chưa tích hợp mô hình phân loại thực thể (Named Entity Recognition) để tự động gán nhãn ngữ nghĩa vào các trường có cấu trúc cụ thể (họ tên, chức danh, số điện thoại, tên công ty, địa chỉ).
- Hướng phát triển:
- Mở rộng số lượng và độ đa dạng của bộ dữ liệu danh thiếp tiếng Việt (bổ sung các mẫu danh thiếp đa dạng về chất liệu, độ phản quang và góc chụp phức tạp).
- Nghiên cứu tối ưu hóa trọng số mô hình nhằm nâng cao tốc độ suy diễn và giảm tiêu thụ bộ nhớ, hướng tới triển khai trực tiếp trên các thiết bị di động.
- Tích hợp thêm mô-đun xử lý ngôn ngữ tự nhiên (NLP) nhằm phân loại tự động thông tin sau khi nhận diện thành các trường dữ liệu có cấu trúc phục vụ lưu trữ vào hệ quản trị cơ sở dữ liệu.
Giá trị tham khảo
Khóa luận là tài liệu tham khảo có giá trị chuyên môn đối với:
- Sinh viên và nghiên cứu viên ngành Khoa học Máy tính, Trí tuệ Nhân tạo, Công nghệ Thông tin: Cung cấp cái nhìn toàn diện về bài toán Document AI và quy trình triển khai hệ thống OCR đa thành phần (Step-wise OCR Pipeline).
- Người làm đề tài về OCR và xử lý ảnh tài liệu tiếng Việt: Cung cấp phương pháp luận chuẩn xác trong việc thu thập và gán nhãn dữ liệu ảnh tài liệu; phương pháp kết hợp giữa thuật toán xử lý ảnh hình học truyền thống (Fast Hough Transform, phép chiếu phối cảnh) và các mạng nơ-ron học sâu hiện đại (PAN, DB, CRAFT, VietOCR).
- Kỹ sư phát triển phần mềm: Tham khảo kiến trúc tích hợp chuỗi mô hình thị giác máy tính vào một ứng dụng web thực tế.
Câu hỏi thường gặp
1. Khóa luận lựa chọn hướng tiếp cận phân tách (Step-wise) hay tích hợp (Integrated) cho bài toán OCR, và vì sao?
Khóa luận lựa chọn hướng tiếp cận phân tách từng bước (Step-wise), chia quy trình thành 3 giai đoạn: xác định vị trí thẻ, phát hiện văn bản và nhận diện văn bản. Lý do là hướng tiếp cận này cho phép đánh giá, can thiệp và tối ưu hóa độc lập chất lượng của từng mô-đun chức năng, điều mà mô hình tích hợp nguyên khối (Integrated) khó kiểm soát được khi gặp lỗi cục bộ ở một giai đoạn.
2. Thuật toán Advanced Hough-based method xử lý tình huống thẻ danh thiếp bị che khuất hoặc nằm ngoài khung hình như thế nào?
Phương pháp kế thừa mô hình camera dựa trên nghiên cứu trước đó, sử dụng các tham số đã biết gồm tỷ lệ giữa các cạnh của tài liệu ($r$), tiêu cự camera ($f$) và tọa độ điểm trung tâm ảnh để tính toán khôi phục cạnh bị mất từ 3 cạnh còn lại. Nhờ đó, thuật toán vẫn có thể hình thành tứ giác biểu diễn thẻ từ 3 đường thẳng đã phát hiện kết hợp 1 đường thẳng được khôi phục.
3. Khóa luận đã khảo sát những phương pháp phát hiện văn bản nào và phân nhóm chúng ra sao?
Khóa luận khảo sát 6 phương pháp học sâu và phân chia thành hai nhóm tiếp cận:
- Hướng tiếp cận từ trên xuống (Top-down): TextFuseNet và PMTD.
- Hướng tiếp cận từ dưới lên (Bottom-up): CRAFT (dựa trên thành phần ký tự); DB, PAN và PSENet (dựa trên phân đoạn điểm ảnh).
4. Bộ dữ liệu VBC-583 có đặc điểm gì và được gán nhãn cho những bài toán nào?
VBC-583 là bộ dữ liệu gồm 583 ảnh thẻ danh thiếp tiếng Việt do nhóm tác giả tự thu thập thực tế tại Việt Nam với nhiều điều kiện phông nền và góc chụp khác nhau. Dữ liệu được gán nhãn cho cả 3 bài toán con: gán nhãn tọa độ 4 đỉnh thẻ danh thiếp, gán nhãn hộp bao văn bản theo chuẩn dữ liệu ICDAR, và gán nhãn chuỗi ký tự tiếng Việt có dấu tương ứng.
5. Chuỗi mô hình nào được lựa chọn để xây dựng hệ thống web minh họa và dựa trên tiêu chí gì?
Hệ thống web minh họa tích hợp chuỗi mô hình gồm: Advanced Hough-based method (xác định vị trí thẻ), PAN (phát hiện văn bản) và VietOCR-AttentionOCR (nhận diện văn bản tiếng Việt). Bộ ba mô hình này được lựa chọn do đạt sự cân bằng tối ưu giữa độ chính xác trích xuất văn bản tiếng Việt và tốc độ tính toán trong các thử nghiệm đánh giá định lượng của khóa luận.
Kết luận
Khóa luận tốt nghiệp của tác giả Tô Viết Anh và Phạm Duy Giác Nguyên đã giải quyết bài toán trích xuất dữ liệu từ thẻ danh thiếp tiếng Việt thông qua quy trình phân tách ba giai đoạn khoa học và chặt chẽ. Nghiên cứu đóng góp thiết thực cho cộng đồng học thuật thông qua việc xây dựng bộ dữ liệu VBC-583, cung cấp báo cáo đánh giá thực nghiệm đa mô hình chi tiết và hiện thực hóa thành công một hệ thống web minh họa có tính ứng dụng thực tế. Đây là công trình nghiên cứu nghiêm túc, cung cấp tài liệu tham khảo giá trị cho các nghiên cứu tiếp theo về nhận dạng ký tự quang học và xử lý tài liệu số tiếng Việt.