Luận Văn: Nghiên Cứu Phát Triển Công Nghệ Nhận Dạng Và Xử Lý Ngôn Ngữ Tiếng Việt

Luận văn nghiên cứu phát triển công nghệ nhận dạng tổng hợp và xử lý ngôn ngữ tiếng Việt, ứng dụng trong lĩnh vực AI và xử lý ngôn ngữ tự nhiên.

• Tác giả: Bạch Hưng Khang
• Trường học: Viện Khoa học và Công nghệ Việt Nam - Viện Công nghệ Thông tin
• Chuyên ngành: Công nghệ thông tin
• Đề tài: Nghiên cứu phát triển công nghệ nhận dạng, tổng hợp và xử lý ngôn ngữ tiếng Việt
• Loại tài liệu: báo cáo tổng kết khoa học và kỹ thuật
• Năm xuất bản: 2004
• Địa điểm: Hà Nội

Mục lục chi tiết

• Lời mở đầu
• 1. Tổng quan tình hình nghiên cứu trong và ngoài nước
• 2. Những nội dung đã thực hiện
• 2.1. Kết quả nghiên cứu về Tổng hợp và Nhận dạng tiếng Việt
• 2.1.1. Các kết quả nghiên cứu
• 2.1.1.1. Khảo sát về ngữ âm tiếng Việt
• 2.1.1.2. Tổng hợp tiếng Việt
• 2.1.1.3. Nhận dạng tiếng Việt
• 2.1.2. Sản phẩm phần mềm
• 2.1.2.1. Hệ thống Tổng hợp tiếng nói VnVoice 2.0
• 2.1.2.2. Chương trình nhận dạng lệnh VnCommand
• 2.1.2.3. Chương trình đọc chính tả VnDictator
• 2.1.2.4. Chương trình xây dựng công nghệ coding ngữ nghĩa của âm thanh
• 2.1.3. Về triển khai ứng dụng
• 2.1.3.1. Ứng dụng của tổng hợp tiếng nói
• 2.2. Nghiên cứu phát triển kỹ thuật nhận dạng chữ in và viết tay tiếng Việt
• 2.2.1. Nhận dạng chữ Việt in VnDOCR 3.0
• 2.2.2. Nhận dạng chữ viết tay có hạn chế
• 2.3. Nghiên cứu phát triển các kỹ thuật xử lý ngôn ngữ tự nhiên tiếng Việt
• 2.3.1. Dịch tự động Việt – Anh
• 2.3.2. Dóng hàng văn bản song ngữ Pháp-Việt
• 2.3.3. Mô hình từ điển điện tử
• 3. Tổng quát hoá và đánh giá kết quả thu được
• 4. Kết luận và kiến nghị
• Tài liệu tham khảo

Tóm tắt

I. Tổng quan tình hình nghiên cứu trong và ngoài nước

Nghiên cứu về nhận dạng và xử lý ngôn ngữ tiếng Việt đã được thực hiện từ sớm, với nhiều chương trình trọng điểm quốc gia. Ba lĩnh vực chính bao gồm nhận dạng tiếng nói, nhận dạng chữ, và xử lý ngôn ngữ tự nhiên. Các nghiên cứu này không chỉ giúp phát triển công nghệ thông tin mà còn đáp ứng nhu cầu giao tiếp bằng tiếng Việt. Mặc dù có nhiều thành tựu trong lĩnh vực này, nhưng việc phát triển các sản phẩm thương mại cho tiếng Việt vẫn còn hạn chế. Các phần mềm thương mại cho tiếng Anh đã đạt được chất lượng cao, trong khi tiếng Việt vẫn cần nhiều nghiên cứu hơn để đạt được kết quả tương tự. Đặc biệt, việc xử lý ngôn ngữ tự nhiên và dịch tự động vẫn là những thách thức lớn, với nhu cầu cấp thiết trong việc phát triển các công cụ hỗ trợ cho người dùng. Những nghiên cứu này không chỉ mang lại giá trị lý thuyết mà còn có ứng dụng thực tiễn trong đời sống hàng ngày.

II. Những nội dung đã thực hiện

Đề tài đã thực hiện ba nội dung chính: nhận dạng và tổng hợp tiếng Việt, nhận dạng chữ Việt in và viết tay, và xử lý ngôn ngữ tự nhiên tiếng Việt. Mỗi nội dung đều có những sản phẩm phần mềm cụ thể như VnVoice 2.0 cho tổng hợp tiếng nói, VnCommand cho nhận dạng lệnh, và VnDOCR 3.0 cho nhận dạng chữ in. Các sản phẩm này không chỉ phục vụ cho nghiên cứu mà còn có thể ứng dụng trong thực tiễn. Đặc biệt, việc phát triển phần mềm dịch tự động EVTRAN 2.0 đã góp phần quan trọng trong việc hỗ trợ người dùng trong việc dịch văn bản. Tuy nhiên, việc nhận dạng chữ viết tay vẫn còn nhiều hạn chế và cần được nghiên cứu thêm. Các kết quả nghiên cứu đã được công bố trên nhiều tạp chí và hội nghị, làm phong phú thêm lý thuyết về tổng hợp và nhận dạng ngôn ngữ đơn âm đa thanh điệu.

III. Kết quả nghiên cứu về Tổng hợp và Nhận dạng tiếng Việt

Đề tài đã tiến hành khảo sát về ngữ âm tiếng Việt, một yếu tố quan trọng trong việc phát triển công nghệ nhận dạng và tổng hợp tiếng nói. Tiếng Việt có cấu trúc âm tiết đặc trưng với các thanh điệu khác nhau, điều này đòi hỏi các phương pháp nghiên cứu phù hợp. Đã có ba phương pháp tổng hợp tiếng Việt được nghiên cứu, trong đó phương pháp kết nối các đơn vị âm cơ bản (PSOLA) được lựa chọn là giải pháp tối ưu. Phương pháp này cho phép tạo ra âm thanh cho bất kỳ âm tiết nào, mở ra khả năng ứng dụng rộng rãi trong các sản phẩm công nghệ. Việc phân tích âm tiết và thanh điệu đã giúp xây dựng cơ sở dữ liệu âm cho tiếng Việt, từ đó nâng cao chất lượng nhận dạng và tổng hợp tiếng nói.

IV. Nghiên cứu phát triển kỹ thuật nhận dạng chữ in và viết tay tiếng Việt

Nghiên cứu về nhận dạng chữ đã đạt được những thành tựu nhất định, đặc biệt là trong lĩnh vực nhận dạng chữ in. Phần mềm VnDOCR 2.0 đã được phát triển và thương mại hóa, tuy nhiên vẫn cần cải thiện để đáp ứng yêu cầu cao hơn về chất lượng nhận dạng. Nhận dạng chữ viết tay vẫn là một thách thức lớn, với nhiều phương pháp hiện tại chỉ có thể nhận dạng chữ viết tay có hạn chế. Việc phát triển các công nghệ mới và cải tiến các phương pháp hiện có là cần thiết để nâng cao khả năng nhận dạng chữ viết tay tiếng Việt. Các nghiên cứu này không chỉ có giá trị lý thuyết mà còn có ứng dụng thực tiễn trong việc số hóa tài liệu và hỗ trợ người dùng trong việc tương tác với máy tính.

V. Nghiên cứu phát triển các kỹ thuật xử lý ngôn ngữ tự nhiên tiếng Việt

Xử lý ngôn ngữ tự nhiên là một lĩnh vực quan trọng trong nghiên cứu công nghệ thông tin. Đề tài đã tập trung vào việc phát triển các phương pháp dịch tự động và xây dựng từ điển điện tử cho tiếng Việt. Sản phẩm EVTRAN 2.0 đã được phát triển để hỗ trợ dịch văn bản từ tiếng Anh sang tiếng Việt, tuy nhiên, việc dịch ngược lại vẫn chưa được thực hiện. Các nghiên cứu về xử lý ngôn ngữ tự nhiên cần được mở rộng để bao quát nhiều khía cạnh hơn, từ phân tích ngữ nghĩa đến xây dựng các công cụ hỗ trợ cho người dùng. Việc phát triển các công nghệ này không chỉ giúp nâng cao khả năng giao tiếp giữa người và máy mà còn góp phần vào việc bảo tồn và phát triển ngôn ngữ Việt Nam trong thời đại số.

Nội dung chính

Báo Cáo Khoa Học Đề Tài KC01-03: Nghiên Cứu Phát Triển Công Nghệ Nhận Dạng, Tổng Hợp Và Xử Lý Ngôn Ngữ Tiếng Việt

Thông tin đề tài:

• Tên đề tài: Nghiên cứu phát triển công nghệ nhận dạng, tổng hợp và xử lý ngôn ngữ tiếng Việt
• Mã số đề tài: KC01-03 (Chương trình Khoa học & Công nghệ trọng điểm cấp Nhà nước)
• Cơ quan chủ trì: Viện Công nghệ Thông tin – Viện Khoa học và Công nghệ Việt Nam
• Chủ nhiệm đề tài: GS. TSKH. Bạch Hưng Khang
• Thời gian thực hiện: 2001 – 06/2004

---

Tóm tắt nghiên cứu (Research Summary)

Đề tài cấp Nhà nước mã số KC01-03 do GS. TSKH. Bạch Hưng Khang cùng tập thể các nhà khoa học hàng đầu tại Viện Công nghệ Thông tin chủ trì là công trình nghiên cứu toàn diện, tiên phong giải quyết bài toán giao tiếp người – máy bằng tiếng Việt. Câu hỏi nghiên cứu trọng tâm đặt ra: Làm thế nào để xây dựng các giải pháp toán học, mô hình tính toán và thuật toán tối ưu hóa nhằm nhận dạng, tổng hợp tiếng nói, nhận dạng văn bản và xử lý ngôn ngữ tự nhiên (NLP) tương thích với đặc thù đơn âm, đa thanh điệu của tiếng Việt?

flowchart TD
    KC01["Đề tài KC01-03: Xử lý Ngôn ngữ Tiếng Việt"] --> Speech["1. Nhận dạng & Tổng hợp Tiếng nói"]
    KC01 --> OCR["2. Nhận dạng Chữ in & Chữ viết tay"]
    KC01 --> NLP["3. Xử lý Ngôn ngữ Tự nhiên & Dịch máy"]
    
    Speech --> VnVoice["Tổng hợp: VnVoice 2.0 (PSOLA)"]
    Speech --> VnCommand["Lệnh: VnCommand (GMM, 99.7%)"]
    Speech --> VnPhone["10 Chữ số điện thoại (HMM/ANN, 97.5%)"]
    Speech --> VnDictator["Chính tả: VnDictator (HTK/PLP)"]
    
    OCR --> VnDOCR["Chữ in: VnDOCR 3.0 (Omnifont)"]
    OCR --> MarkRead["Phiếu & Chữ viết tay: MarkRead 2.0"]
    
    NLP --> EVTRAN["Dịch máy: EVTRAN 2.5 (Việt-Anh/Anh-Việt)"]
    NLP --> Align["Dóng hàng song ngữ Pháp-Việt (98-99%)"]
    NLP --> Dict["Mô hình Từ điển điện tử (VMTD)"]

Phương pháp nghiên cứu tích hợp liên ngành giữa Ngôn ngữ học thực nghiệm, Xử lý tín hiệu số, Học máy (Machine Learning) và Trí tuệ nhân tạo (AI). Cụ thể, đề tài kết hợp phương pháp tổng hợp ghép nối PSOLA (Pitch Synchronize Overlap-Add), mô hình Markov ẩn lai mạng nơ-ron (HMM/ANN), mô hình GMM/MFCC, phương pháp nhận dạng chữ tổ hợp ma trận cấu trúc – thống kê, cùng mô hình văn phạm cảm ngữ đoạn và cây phân cấp ngữ nghĩa trung gian.

Kết quả nổi bật của đề tài là việc làm chủ công nghệ nền tảng và ra mắt chuỗi sản phẩm ứng dụng:

• Phần mềm tổng hợp tiếng nói VnVoice 2.0 (độ tự nhiên đạt 75–80%, độ hiểu đạt 92%);
• Phần mềm nhận dạng lệnh thoại VnCommand (độ chính xác 99.7%) và nhận dạng chuỗi số qua điện thoại (độ chính xác 97.46–97.58%);
• Phần mềm nhận dạng chữ in VnDOCR 3.0 và nhận dạng phiếu điều tra/chữ viết tay MarkRead 2.0;
• Hệ thống dịch tự động hai chiều Việt – Anh EVTRAN 2.5 cùng bộ công cụ chuẩn hóa tài nguyên ngữ liệu song ngữ Pháp – Việt.

Công trình tạo nền tảng lý thuyết và ứng dụng vững chắc, mở đường cho ngành công nghệ giọng nói, thị giác máy tính và dịch thuật tự động tại Việt Nam.

---

Bối cảnh và tầm quan trọng (Context & Significance)

1. Hiện trạng tri thức và công nghệ toàn cầu

Bước vào đầu thế kỷ 21, cuộc cách mạng công nghệ thông tin toàn cầu đã dịch chuyển mạnh mẽ từ giao diện đồ họa truyền thống (GUI) sang giao diện người dùng bằng giọng nói (VUI - Voice User Interface). Các tập đoàn công nghệ lớn đã thương mại hóa thành công nhiều phần mềm nhận dạng và tổng hợp giọng nói cho tiếng Anh (như IBM ViaVoice, Dragon Naturally Speaking, L&H Voice Xpress), hệ thống nhận dạng ký tự quang học đỉnh cao (OmniPage, ABBYY FineReader), cũng như các hệ thống dịch máy thương phẩm (SYSTRAN, Globalink).

2. Khoảng trống nghiên cứu đối với tiếng Việt

Trái ngược với hệ thống ngôn ngữ biến tố Latinh hay Slavơ, tiếng Việt thuộc loại hình ngôn ngữ đơn âm lập mã và đa thanh điệu (tonal monosyllable):

• Hệ thống ngữ âm gồm 6 thanh điệu truyền thống (8 thanh theo ngữ âm học thực nghiệm);
• Hơn 6.700 âm tiết có nghĩa trong tổng số hơn 19.000 tổ hợp âm thanh có thể tạo thành;
• Thanh điệu đóng vai trò siêu đoạn tính khu biệt ngữ nghĩa sâu sắc;
• Ranh giới từ không được phân tách bằng dấu cách trắng như ngôn ngữ phương Tây.

Những đặc tính riêng biệt này khiến toàn bộ các giải pháp phần mềm thương phẩm quốc tế hoàn toàn bất lực khi xử lý tiếng Việt. Các nghiên cứu trong nước trước năm 2000 còn phân tán, chủ yếu dừng lại ở mức mô phỏng nhỏ lẻ hoặc nhận dạng tập từ vựng rời rạc, chưa tận dụng bản chất âm vị học thực nghiệm.

+-----------------------------------------------------------------------------+
|                          THÁCH THỨC TIẾNG VIỆT                             |
|                                                                             |
|  [Đơn âm & Đa thanh điệu] ---> Thanh điệu siêu đoạn tính phức tạp           |
|  [Âm tiết C1-w-V-C2]       ---> Hiện tượng dính âm, biến thanh khi ghép từ  |
|  [Ngữ pháp phi hình thái]  ---> Nhập nhằng cú pháp, thiếu kho ngữ liệu số   |
|                                                                             |
|  ==> KHÔNG THỂ NHẬP KHẨU CÔNG NGHỆ, BẮT BUỘC PHẢI TỰ CHỦ NGHIÊN CỨU       |
+-----------------------------------------------------------------------------+

3. Tính cấp thiết và tác động tiềm năng

Công nghệ nhận dạng, tổng hợp giọng nói và xử lý văn bản tiếng Việt là tài sản tri thức mang tính chủ quyền quốc gia. Chúng ta không thể mua từ nước ngoài mà bắt buộc phải do chính các nhà khoa học Việt Nam xây dựng. Đề tài KC01-03 ra đời nhằm giải quyết bài toán cấp bách:

• Xây dựng hạ tầng ngôn ngữ số cho người Việt;
• Đặt nền móng phát triển viễn thông thế hệ mới (3G, Voice Portal, hệ thống tin nhắn hợp nhất UMS);
• Thúc đẩy số hóa hành chính, tự động hóa văn phòng;
• Tạo công cụ nhân văn hỗ trợ người khuyết tật, đặc biệt là người khiếm thị tiếp cận tri thức số.

---

Phương pháp luận và cách tiếp cận (Methodology & Approach)

Đề tài được thiết kế theo hướng nghiên cứu thực nghiệm kết hợp phát triển thuật toán mô hình hóa toán học, chia thành 3 trụ cột kỹ thuật chính:

classDiagram
    class SpeechProcessing {
        +Phân tích Formant & Pitch (Sonagraph/PRAAT)
        +Tổng hợp PSOLA (900 đơn vị âm)
        +Mô hình Fujisaki cho ngữ điệu
        +Nhận dạng GMM/MFCC (VnCommand)
        +Nhận dạng lai HMM/ANN & PLP (VnDictator/Phone)
    }
    class DocumentRecognition {
        +Tiếp cận tổ hợp cấu trúc - thống kê
        +Chuẩn hóa ma trận nhị phân m x n
        +Thuật toán Omnifont không phụ thuộc kích cỡ
        +Hậu xử lý tự động kiểm tra chính tả
    }
    class NaturalLanguageProcessing {
        +Văn phạm cảm ngữ đoạn (Context-sensitive)
        +Cây phân cấp ngữ nghĩa trung gian
        +Dóng hàng song ngữ theo chuẩn ISO TC 37 SC4
        +Mô hình từ điển điện tử VMTD
    }

1. Phân hệ Tổng hợp và Nhận dạng tiếng nói

• Khảo sát ngữ âm học thực nghiệm: Đề tài nghiên cứu chi tiết cấu trúc tổng quát âm tiết tiếng Việt (C1)(w)V(C2) (trong đó $C1$ là 22 phụ âm đầu thuộc 4 nhóm ngữ âm, $w$ là âm đệm, $V$ là 20 phần nguyên âm chính, và $C2$ là 155 phần vần). Nhóm nghiên cứu tiến hành thu mẫu âm thanh của 21 cộng tác viên giọng chuẩn Hà Nội, đo đạc thông số Pitch và trích xuất hệ phổ Phooc-măng (Formant) bằng máy Sonagraph và phần mềm PRAAT.
• Kỹ thuật tổng hợp tiếng nói: Sử dụng kỹ thuật PSOLA trên miền thời gian, tối ưu hóa bộ nhớ chỉ với 6MB RAM và tập dữ liệu gồm hơn 900 đơn vị âm cơ bản. Kỹ thuật này giải quyết trọn vẹn 8 thanh điệu tiếng Việt, hỗ trợ đọc các định dạng phi từ (ngày tháng, số tiền, ký hiệu viết tắt) và văn bản song ngữ Việt – Anh.
• Kỹ thuật nhận dạng giọng nói:
  • Nhận dạng lệnh (VnCommand): Ứng dụng mô hình hỗn hợp Gauss GMM kết hợp trích chọn đặc trưng MFCC và năng lượng trên từng khung tín hiệu 20ms, xử lý thời gian thực.
  • Nhận dạng chuỗi số điện thoại: Sử dụng kiến trúc lai ghép HMM/ANN (mạng Perceptron đa tầng MLP làm bộ ước lượng xác suất phát xạ của mô hình Markov), huấn luyện bằng thuật toán Forward-Backward nhúng và giải mã Viterbi.
  • Nhận dạng chính tả (VnDictator): Khai thác công cụ HTK, trích chọn 39 đặc trưng PLP (Perceptual Linear Predictive), sử dụng mô hình ngôn ngữ Bigram cùng kỹ thuật làm trơn xác suất.

2. Phân hệ Nhận dạng Chữ in (OCR) và Chữ viết tay (ICR)

• Tiếp cận tổ hợp Cấu trúc – Thống kê: Rút gọn ảnh ký tự về ma trận nhị phân kích thước $m \times n$ (khung $8 \times 8$ và $16 \times 16$).
• Không phụ thuộc Font chữ (Omnifont): Áp dụng độ đo khoảng cách sai biệt giữa các lớp ma trận ký tự, kết hợp khối phân tích cấu trúc hình thái để nhận diện chính xác các dấu thanh và ký tự đặc thù tiếng Việt (â, ă, đ, ê, ô, ơ, ư).
• Hệ thống hậu xử lý thông minh: Tích hợp khối từ điển hình thái học tiếng Việt để kiểm tra và tự động sửa lỗi chính tả theo ngữ cảnh.

3. Phân hệ Xử lý Ngôn ngữ tự nhiên & Dịch máy

• Dịch tự động hai chiều Việt – Anh (EVTRAN 2.5): Khác biệt với phương pháp dịch chuyển đổi cú pháp trực tiếp, đề tài phát triển giải thuật phân tích văn phạm cảm ngữ đoạn (Context-Sensitive Grammar) theo sơ đồ từ dưới lên và từ phải sang trái (bottom-up right-most). Giải thuật xây dựng cây phân cấp ngữ nghĩa trung gian độc lập ngôn ngữ, cho phép khâu sinh văn bản đích đạt độ tự nhiên cao.
• Dóng hàng ngữ liệu song ngữ & Từ điển điện tử: Kết hợp phương pháp vector khoảng cách với cấu trúc văn bản, mã hóa ngữ liệu theo chuẩn quốc tế XML (ISO TC 37 SC4); xây dựng mô hình từ điển điện tử tiếng Việt (VMTD) hỗ trợ mạng ngữ nghĩa tương thích WordNet, Cyc và EDR.

---

Phát hiện và Kết quả thực nghiệm chính (Major Findings)

Đề tài đã hoàn thành xuất sắc các chỉ tiêu đăng ký, đạt được những kết quả định lượng ấn tượng:

Bảng tổng hợp hiệu năng các phân hệ phần mềm KC01-03

Phân hệ / Sản phẩm	Công nghệ lõi	Quy mô tập dữ liệu / Từ điển	Độ chính xác / Hiệu năng thực nghiệm
VnVoice 2.0 (Tổng hợp tiếng nói)	PSOLA + Phân tích âm vị học	>900 đơn vị âm, 6MB RAM	92% người nghe hiểu đúng nội dung; Đạt 75–80% độ tự nhiên
VnCommand (Nhận dạng lệnh)	GMM + MFCC (Real-time)	40–100 khẩu lệnh điều khiển	Đạt 99.7% (chỉ sai 2/695 mẫu kiểm tra, độc lập người nói)
Nhận dạng chuỗi số thoại	Mô hình lai ghép HMM/ANN	442 câu thoại CSLU, 243 người	Đạt 97.46% – 97.58% độ chính xác mức từ qua kênh thoại
VnDictator (Nhận dạng chính tả)	HMM + 39 vector PLP + HTK	23.434 câu VOV, 4.400 âm tiết	Thanh điệu: 95.75%; Phụ âm đầu: 94.2%; Nguyên âm: 95.6%
VnDOCR 3.0 (OCR chữ Việt in)	Tổ hợp Cấu trúc & Thống kê	Đa dạng font chữ, bảng mã TCVN3, VNI, Unicode	Nhận dạng chữ in chuẩn xác cao trên tài liệu thực tế
MarkRead 2.0 (ICR & Phiếu)	Ma trận nhị phân + Form OMR	Phiếu điều tra, bài thi trắc nghiệm	Nhận dạng chính xác ô đánh dấu và số/chữ viết tay hạn chế
EVTRAN 2.5 (Dịch máy hai chiều)	Văn phạm cảm ngữ đoạn + Liên ngữ	>260.000 mục từ Việt-Anh; >7.600 quy tắc	Tự động đoán nhận ngôn ngữ, biên dịch văn bản đa lĩnh vực
Dóng hàng Pháp – Việt	Vector khoảng cách + XML ISO	Kho ngữ liệu song ngữ Pháp-Việt	Đạt độ chính xác 98% – 99% ở mức câu

                              HIỆU NĂNG CÁC PHÂN HỆ
  100% +--------------------------------------------------------------------+
       |                                                                    |
   90% |   99.7%            97.5%            95.8%            98.5%         |
       |  [VnCommand]    [ASR Thoại]     [Thanh điệu]     [Dóng hàng]       |
   80% |                                                                    |
       |                                                    77.5%           |
   70% |                                                 [VnVoice Tự nhiên] |
       |                                                                    |
   60% +--------------------------------------------------------------------+

1. Đột phá trong tổng hợp tiếng nói (VnVoice 2.0)

Khảo sát thực nghiệm mù trên 100 đối tượng thuộc các nhóm xã hội khác nhau cho thấy:

• Khả năng hiểu: Nhóm người dùng công chức đạt 92%, nhóm người khiếm thị đạt mức độ tiếp nhận tốt thông tin văn bản.
• Chất lượng âm thanh: Khắc phục căn bản lỗi phát âm các thanh điệu phức tạp (thanh ngã ~, thanh nặng .). Tốc độ xử lý nhanh, tối ưu hóa bộ nhớ cho phép nhúng vào các thiết bị hạn chế tài nguyên.

2. Độ chính xác vượt trội của hệ thống ASR

• VnCommand khẳng định tính bất biến đối với tốc độ phát âm (đọc nhanh/chậm) và độc lập người nói, sai số chỉ chiếm $0.3%$.
• Hệ thống nhận dạng 10 chữ số tiếng Việt liên tục qua mạng điện thoại đạt độ chính xác 97.58%, tiệm cận kết quả công bố quốc tế cao nhất cùng thời điểm đối với tiếng Anh, tiếng Tây Ban Nha ($98.01%$).

3. Phân tích ngữ âm và nhận dạng âm tiết chuyên sâu

Kết quả thử nghiệm nhận dạng chi tiết từng thành phần âm tiết trên hệ thống VnDictator:

• Thanh điệu: Đạt độ chính xác trung bình 95.75% (trong đó thanh huyền đạt 99.0%, thanh nặng kết thúc bằng âm tắc đạt 98.9%);
• 19 phụ âm đầu: Đạt 94.2% (1-best) và tăng lên 96.9% (2-best);
• 12 nguyên âm chính: Đạt 95.6% (3-best);
• 7 phụ âm cuối: Đạt 91.7% (3-best).

---

Đóng góp khoa học và giá trị ứng dụng (Scientific & Practical Contributions)

mindmap
  root((Đóng góp của KC01-03))
    Lý thuyết
      Mô hình hóa thanh điệu siêu đoạn tính
      Văn phạm cảm ngữ đoạn & Cây phân cấp ngữ nghĩa
      Lý thuyết dàn Lattice cho từ loại tiếng Việt
    Phương pháp luận
      Kiến trúc lai ghép HMM/ANN cho ASR tiếng Việt
      Kỹ thuật OCR tổ hợp Cấu trúc - Thống kê
      Chuẩn hóa ngữ liệu XML theo ISO TC 37 SC4
    Thực tiễn & Ứng dụng
      Hỗ trợ người khiếm thị (JAWS/SAPI)
      Hệ thống UMS NetNam & School Voice Portal
      Thương mại hóa VnDOCR 3.0 & MarkRead 2.0
      EVTRAN 2.5 dịch thuật tự động

1. Đóng góp về mặt lý thuyết và học thuật

• Lý thuyết ngôn ngữ học tính toán: Làm phong phú kho tàng lý thuyết thế giới về xử lý ngôn ngữ đơn âm – đa thanh điệu, một lĩnh vực vốn có rất ít công bố khoa học trước đó.
• Công bố khoa học: Đề tài đã công bố 19 công trình khoa học, bao gồm 3 bài báo quốc tế và 16 báo cáo tại các hội nghị chuyên ngành uy tín.
• Đào tạo nhân lực chất lượng cao: Đào tạo thành công 03 Tiến sĩ (trong đó có 01 luận án bảo vệ tại Cộng hòa Pháp) và 03 Thạc sĩ, xây dựng đội ngũ chuyên gia nòng cốt cho ngành Trí tuệ nhân tạo Việt Nam.

2. Đổi mới phương pháp luận và công nghệ

• Tiên phong ứng dụng mô hình lai ghép HMM/ANN trong xử lý tín hiệu thoại qua mạng viễn thông tại Việt Nam;
• Đề xuất mô hình biểu diễn trung gian độc lập ngôn ngữ (Cây phân cấp ngữ nghĩa), giải quyết bài toán nhập nhằng ngữ nghĩa trong dịch tự động;
• Tiên phong khởi xướng nghiên cứu "Phổ Sensor" mô phỏng cơ quan thính giác người phục vụ coding ngữ nghĩa âm thanh.

3. Giá trị ứng dụng thực tiễn sâu rộng

• Hỗ trợ cộng đồng yếu thế: Tích hợp VnVoice với phần mềm đọc màn hình JAWS qua giao tiếp Microsoft SAPI, cung cấp miễn phí cho Hội Người mù Việt Nam và các cơ sở y tế.
• Viễn thông và Giáo dục: Tích hợp thành công vào hệ thống Tin nhắn hợp nhất (UMS) của công ty NetNam và cổng thông tin trường học 3i School Voice Portal (cho phép phụ huynh tra cứu điểm số, học phí qua điện thoại).
• Thương mại hóa phần mềm: VnDOCR 3.0 trở thành giải pháp OCR tiếng Việt số 1 trên thị trường; MarkRead 2.0 phục vụ đắc lực cho các kỳ thi trắc nghiệm và điều tra thống kê dân số quy mô lớn.

---

Đối tượng quan tâm và Giá trị mang lại (Target Audience & Benefits)

+----------------------------------------------------------------------------------------------------+
|                                      ĐỐI TƯỢNG HƯỞNG LỢI                                           |
+------------------------------------+---------------------------------------------------------------+
| Nhóm đối tượng                     | Lợi ích & Giá trị thực tiễn mang lại                          |
+------------------------------------+---------------------------------------------------------------+
| Nhà nghiên cứu AI, NLP & Ngữ âm    | Tham chiếu kiến trúc mô hình âm học, bộ từ điển ngữ âm chuẩn, |
|                                    | phương pháp giải quyết hiện tượng biến thanh và dính âm.      |
+------------------------------------+---------------------------------------------------------------+
| Doanh nghiệp Viễn thông & CNTT     | Nền tảng xây dựng tổng đài tự động (Voicebot/IVR), giải pháp  |
|                                    | số hóa tài liệu hành chính, hệ thống CRM điều khiển giọng nói.|
+------------------------------------+---------------------------------------------------------------+
| Nhà hoạch định chính sách KH&CN    | Căn cứ khoa học để xây dựng chiến lược CSDL Ngữ âm Quốc gia   |
|                                    | và tiêu chuẩn hóa trao đổi tài nguyên số tiếng Việt.          |
+------------------------------------+---------------------------------------------------------------+
| Cộng đồng người khiếm thị & Xã hội | Cung cấp công cụ tiếp cận thông tin bình đẳng, chuyển đổi     |
|                                    | văn bản số thành giọng nói tự nhiên, mở rộng cơ hội học tập.  |
+------------------------------------+---------------------------------------------------------------+

---

Câu hỏi thường gặp (Frequently Asked Questions - FAQ)

1. Phát hiện quan trọng nhất của đề tài KC01-03 là gì?

[!IMPORTANT] Phát hiện then chốt là tính khả thi của việc mô hình hóa toán học cấu trúc âm vị và thanh điệu tiếng Việt. Đề tài chứng minh việc tích hợp sâu các đặc trưng ngữ âm học thực nghiệm vào mô hình học máy (PSOLA, HMM/ANN, GMM) giúp giải quyết triệt để bài toán đơn âm đa thanh điệu, đạt độ chính xác tương đương các ngôn ngữ biến tố phương Tây mà không đòi hỏi tài nguyên tính toán quá lớn.

2. Phương pháp luận của đề tài có điểm gì đặc biệt so với nghiên cứu quốc tế?

Đề tài kết hợp phương pháp tổ hợp: thay vì sao chép nguyên bản các mô hình dành cho ngôn ngữ không dấu, nhóm nghiên cứu đã cải tiến mô hình HMM/ANN để xử lý 8 thanh điệu tiếng Việt, phân tách âm tiết thành bộ ba C1-V-C2, và đề xuất mô hình dịch máy dựa trên cây phân cấp ngữ nghĩa trung gian độc lập ngôn ngữ gốc.

3. Kết quả nghiên cứu có khả năng tổng quát hóa (generalize) không?

Có. Các mô hình nhận dạng lệnh (VnCommand), nhận dạng chuỗi số qua điện thoại và công nghệ OCR (VnDOCR) có khả năng tổng quát hóa rất cao trên nhiều môi trường thực tế. Tuy nhiên, module nhận dạng chính tả liên tục (VnDictator) ở giai đoạn này vẫn cần mở rộng tập dữ liệu huấn luyện để hoạt động hoàn hảo trên nhiều vùng miền khác nhau.

4. Đâu là những hạn chế và bước đi tiếp theo của nghiên cứu?

Hạn chế lớn nhất tại thời điểm 2004 là dung lượng kho dữ liệu ngữ âm và văn bản gán nhãn bằng tay còn khiêm tốn. Nhóm nghiên cứu kiến nghị tách thành 2 đề tài độc lập cấp Nhà nước:

1. Dự án xây dựng Cơ sở dữ liệu Tiếng nói Quốc gia (tương tự chuẩn TIMIT của Mỹ);
2. Hệ thống Dịch tự động đa ngữ nâng cao.

5. Những ứng dụng thực tiễn điển hình nhất đã được triển khai là gì?

Các ứng dụng tiêu biểu gồm: phần mềm trợ thính đọc màn hình cho người khiếm thị kết hợp SAPI/JAWS, hệ thống thông điệp hợp nhất viễn thông UMS NetNam, phần mềm chấm thi và nhập liệu tự động MarkRead 2.0, và phần mềm số hóa tài liệu VnDOCR 3.0.

---

Kết luận (Conclusion)

Đề tài khoa học cấp Nhà nước KC01-03 do GS. TSKH. Bạch Hưng Khang làm chủ nhiệm là một mốc son lịch sử của ngành Công nghệ thông tin Việt Nam. Công trình đã xuất sắc hiện thực hóa mục tiêu làm chủ công nghệ xử lý tiếng nói, chữ viết và dịch tự động tiếng Việt, tạo tiền đề cho hệ sinh thái trí tuệ nhân tạo nước nhà phát triển rực rỡ trong các thập kỷ tiếp theo.

Những thành tựu từ VnVoice, VnCommand, VnDOCR đến EVTRAN không chỉ mang lại giá trị kinh tế, công nghệ to lớn mà còn mang ý nghĩa xã hội và nhân văn sâu sắc. Đây là minh chứng khẳng định trí tuệ và năng lực tự chủ công nghệ cao của các nhà khoa học Việt Nam trên bản đồ học thuật thế giới.

---

Tài liệu được biên soạn và tổng hợp dựa trên Báo cáo tổng kết Khoa học và Kỹ thuật Đề tài cấp Nhà nước KC01-03 (Viện Công nghệ Thông tin, 12/2004).

Trích đoạn nội dung tài liệu

LỜI MỞ ĐẦU Nhận dạng và xử lý ngôn ngữ nói và viết tiếng Việt là nhu cầu thiết yếu của phát triển và ứng dụng công nghệ thông tin ở Việt nam. Giới nghiên cứu và công nghiệp trên thế giới do theo đuổi các nghiên cứu cơ bản và công nghệ này từ hàng chục năm qua, gần đây đã thu được nhiều thành tựu quan trọng. Khác với các sản phẩm khác của công nghệ thông tin, sản phẩm về tiếng nói, chữ viết và ngôn ngữ Việt không thể mua được từ nước ngoài, chỉ có thể do người Việt làm ra trên cơ sở tiếp thu được các thành tựu khoa học công nghệ trên thế giới và theo đuổi thực hiện lâu dài. Những năm qua trong khuôn khổ chương trình trọng điểm nhà nước, một số kết quả nghiên cứu và sản phẩm về nhận dạng và xử lý tiếng Việt - tập trung cho nhận dạng chữ Việt in - đã thành công và bắt đầu được sử dụng rộng rãi.

Đề tài này nhằm theo đuổi những nghiên cứu và phát triển phải thực hiện lâu dài về tiếng Việt trên máy tính với sự triển khai một số phương hướng mới. Mục tiêu của đề tài là nghiên cứu làm chủ các phương pháp, kỹ thuật tiên tiến trong một số lĩnh vực của trí tuệ nhân tạo và lý thuyết nhận dạng trên thế giới để xây dựng các phương pháp hiệu quả cho nhận dạng tiếng nói, chữ viết, và xử lý ngôn ngữ tự nhiên tiếng Việt. Đề tài vừa tiếp tục xây dựng các phương pháp và công cụ cơ bản vừa từng bước tạo ra một số sản phẩm thiết thực nhằm giải quyết một số bài toán cấp bách trong phát triển và ứng dụng công nghệ thông tin ở Việt nam. Ba nội dung chính quan hệ chặt chẽ với nhau được nghiên cứu trong đề tài là: 1.

Nhận dạng và tổng hợp tiếng Việt 2. Nhận dạng chữ Việt in và viết tay 3. Xử lý ngôn ngữ tự nhiên tiếng Việt 2. NỘI DUNG CHÍNH CỦA BÁO CÁO 2.

Tổng quan tình hình nghiên cứu trong và ngoài nước Ba lĩnh vực (1) nhận dạng và tổng hợp tiếng nói, (2) nhận dạng chữ, và (3) xử lý ngôn ngữ tự nhiên có liên quan mật thiết với nhau, và là nền tảng cho sự phát triển và ứng dụng công nghệ thông tin của mọi quốc gia Nhận dạng tiếng nói nhằm chuyển thông tin từ tiếng nói con người vào máy tính, và tổng hợp tiếng nói nhằm tự động tạo ra tiếng người nói bằng máy tính. Cùng với sự phát triển nhanh chóng của công nghệ thông tin nói chung và mạng Internet nói riêng, nhận dạng và tổng hợp tiếng nói càng ngày càng trở nên là một xu hướng tất yếu cho những máy tính thế kỉ 21. Trong vòng 50 năm qua, rất nhiều thuật toán được đề xuất và triển khai trên các hệ tự động nhận dạng và tổng hợp tiếng nói. Trên thế giới đã có nhiều bộ phần mềm thương mại dành cho tiếng Anh như IBM ViaVoice, Dragon Naturally Speaking, L&H Voice Xpress.

Những phần mềm này cung cấp các chức năng chủ yếu như: nhập văn bản vào máy, đọc văn bản thành lời, duyệt Web bằng giọng nói. Gần đây nhất hãng Microsoft đã công bố việc tích hợp VUI (Voice User Interface) thay cho GUI (Graphic User Interface) truyền thống vào phiên bản hệ điều hành Windows thế hệ mới với mật danh 7 Whistler. Kết quả này có ý nghĩa rất lớn trong giao tiếp người-máy: thay vì giao tiếp với máy tính qua những biểu tượng và cửa sổ, các máy tính trong tương lai chỉ giao tiếp với con người bằng những mệnh lệnh đơn giản. Nhận dạng và tổng hợp tiếng nói có vai trò quan trọng đối với việc phát triển các hệ thông tin di động thế hệ thứ 3 (3G), với các tính năng ưu việt tập trung trong chiếc máy điện thoại di động mà một trong các dịch vụ điển hình là hệ thống thông điệp hợp nhất (Unified Messaging System - UMS).

Sản phẩm về các bo mạch của Dialogic đã tích hợp các công nghệ tổng hợp và nhận dạng tiếng nói qua điện thoại cho nhiều ngôn ngữ hệ Latinh. Ngoài ra, một trong những ứng dụng điển hình và mang tính chất kinh điển từ trước tới nay của nhận dạng tiếng phục vụ cho điều khiển bằng giọng nói và bảo mật, cho tự động hoá văn phòng, những ứng dụng rộng rãi trong viễn thông, bảo tồn văn hoá, hỗ trợ người khuyết tật. Về lĩnh vực nhận dạng chữ, các phần mềm thương phẩm nhận dạng chữ in cho các ngôn ngữ hệ Latinh và Slavơ đã đạt được chất lượng nhận dạng rất cao, ví dụ như OMNIPAGE 11.0 của Caere (Mỹ), Fine Reader 7. Để đạt tới các phiên bản với chất lượng cao như vậy, từ hơn 10 năm nay, các hãng phần mềm này vẫn phải liên tục cho phát triển hoàn thiện các chức năng nhận dạng cũng như tiền và hậu xử lý.

Nhưng đối với chữ viết tay trực tuyến hoặc gián tiếp, chất lượng nhận dạng thấp hơn nhiều và các phương pháp hiện nay mới chỉ nhận dạng được chữ viết tay có hạn chế. Vì vậy trên các tạp chí chuyên ngành về nhận dạng, các chủ đề này vẫn còn đang được đề cập đến nhiều với các cách tiếp cận khác nhau, đề cập tới các phương pháp cải tiến để tăng chất lượng nhận dạng, tách và cắt chữ, và kết hợp với ngữ nghĩa của từng ngôn ngữ cụ thể. Xử lý ngôn ngữ tự nhiên là lĩnh vực nhằm làm cho máy tính có thể hiểu và sử dụng được ngôn ngữ tự nhiên của con người (cả ngôn ngữ nói và ngôn ngữ viết), bao gồm các hệ dịch tự động, tìm kiếm thông tin, tổng hợp văn bản tự động, tính toán ngôn ngữ, v. Dịch văn bản từ một ngôn ngữ qua ngôn ngữ khác bằng máy tính là mơ ước từ buổi đầu của công nghệ thông tin.

Với thành tựu nghiên cứu về xử lý ngôn ngữ tự nhiên bắt đầu từ những năm 60, cùng với sự tiến bộ nhanh chóng của kỹ thuật tính toán, việc dịch tự động ngôn ngữ tự nhiên đang được từng bước ứng dụng. Hiện nay trên thế giới đã có nhiều hệ dịch máy thương phẩm với chất lượng chấp nhận được (SYSTRAN, GLOBALINK, STYLUS, IBM,. Các cặp ngôn ngữ đã được thực hiện chủ yếu là những ngôn ngữ Âu châu (bao gồm Anh-Pháp, Pháp- Anh, Anh-Đức, Anh-Tây ban nha, Anh-Nga, Anh-Nhật, Nhật-Anh, v. và một số sản phẩm dịch một chiều khác).

Các sản phẩm dịch tự động được sử dụng phổ biến từ những phần mềm cho các hệ máy lớn, trạm làm việc và máy tính cá nhân đến những thiết bị dịch tự động chuyên dụng cầm tay. Trên thế giới chưa có thương phẩm nào biên dịch Anh-Việt hay Việt-Anh. Tình hình nghiên cứu trong nước: Nghiên cứu về nhận dạng và ứng dụng đã được tiến hành ở nước ta từ khá sớm. Các chương trình trọng điểm quốc gia về tin học, CNTT từ năm 1981 đến nay đều có nội dung nghiên cứu về nhận dạng.

Đặc biệt từ năm 1991 đến nay, trong 8 chương trình khoa học và công nghệ KC-01 (giai đoạn 1991-1995, 1996-2000), các vấn đề về Nhận dạng và xử lý thông tin hình ảnh đã được quan tâm và là nội dung nghiên cứu chính của đề tài KC-01-10, KC-01-07. Các đề tài đều được nghiệm thu đánh giá xuất sắc. Tuy nhiên trong giai đoạn này mới chỉ tập trung nỗ lực vào vấn đề nhận dạng chữ (sản phẩm VnDOCR 1.0) và một phần về dịch tự động (sản phẩm EVETRAN 1.0), nhận dạng và tổng hợp tiếng nói mới là những nghiên cứu thử nghiệm. Mặc dù trên thế giới đã có những bước tiến khá dài trong lĩnh vực nhận dạng-tổng hợp tiếng nói, và xử lý ngôn ngữ tự nhiên, ở Việt nam vấn đề này chỉ mới được quan tâm và chưa nhiều người nghiên cứu.

Trong khi đó nhu cầu giao tiếp với máy tính bằng tiếng Việt đang ngày càng cấp thiết bởi chúng ta không thể lúc nào cũng sử dụng các phần mềm nhận dạng và tổng hợp tiếng nói với ngôn ngữ là tiếng Anh. Nhận dạng, tổng hợp tiếng nói Việt, nhận dạng chữ viết Việt, máy hiểu ngôn ngữ Việt không chỉ cần những nghiên cứu cơ bản và kỹ thuật chung, mà còn phải dựa trên các đặc trưng ngôn ngữ tiếng Việt. Đã có những bước đi ban đầu của một số cơ sở có tiến hành nghiên cứu về lĩnh vực này: - Phòng Nhận dạng và Công nghệ Tri thức, Viện Công nghệ Thông tin, - Trung tâm MICA, Đại học Bách khoa, Hà nội - Nhóm nghiên cứu của Bộ môn Khoa học Máy tính, Khoa CNTT, ĐHBK Hà Nội, - Nhóm nghiên cứu của Khoa Công nghệ Thông tin, Trường Đại học Khoa học Tự nhiên, TP. Hồ Chí Minh, - Công ty CDIT, Tổng Công ty Bưu chính Viễn thông Việt nam - Softext, Viện ứng dụng công nghệ và còn một số công trình của các cá nhân làm đề tài thạc sĩ và tiến sĩ.

Về nhận dạng và tổng hợp tiếng Việt: Trước hết đây là vấn đề khó, đòi hỏi phải có tập trung nghiên cứu trong thời gian dài. Trong thời gian qua, các nghiên cứu còn tản mạn, các kết quả tập trung chủ yếu vào thử nghiệm bước đầu tổng hợp tiếng Việt dựa trên một số kỹ thuật cơ bản, và giải quyết các ứng dụng điều khiển bằng giọng nói với lượng từ vựng nhỏ để có thể triển khai nhanh, để minh họa và thực tế là chưa khai thác đặc điểm riêng của ngữ âm tiếng Việt. Trong đề tài KC- 01-10, các nội dung về tổng hợp và nhận dạng tiếng Việt mới được tiến hành nghiên cứu ở hai năm cuối (1999-2000). Vì thế chưa có sản phẩm có khả năng ứng dụng rộng rãi chẳng hạn cho các ứng dụng văn phòng hay các ứng dụng trong viễn thông.

Về nhận dạng chữ Việt: Phòng Nhận dạng và Công nghệ tri thức Viện CNTT đã bước đầu thành công trong lĩnh vực nhận dạng chữ Việt in, đã và đang phát triển phần mềm Nhận dạng VnDOCR 2.0 hiện đang thương mại hoá rộng rãi trên thị trường. Cũng như bất kỳ một sản phẩm phần mềm nào, VnDOCR cần được hoàn thiện để giải quyết các yêu cầu cao hơn về chất lượng nhận dạng trên các văn bản đầu vào xấu hơn, các tài liệu cũ, v. Ngoài ra, các khoa Công nghệ Thông tin của các trường đại học như Bách khoa Hà nội, Đại học Quốc gia, Đại học KHTN TP 9 Hồ Chí Minh cho sinh viên làm luận văn cao học hoặc cử nhân về nhận dạng chữ, nhưng đều ở dạng tiếp cận kiến thức, chưa thành dạng thương phẩm. Sản phẩm Image Scan của Công ty CadPro cũng có giới thiệu bước đầu trên thị trường.

Ngoài ra vấn đề nhận dạng chữ viết tay tiếng Việt cũng cần được đặt ra để giải quyết cho từng bài toán cụ thể.