Chương 1: Tổng quan về mã kết hợp nguồn – kênh 1. Quan điểm mã tách biệt theo định lý Shannon 1. Mô hình mã tách biệt Lý thuyết mã hóa Shannon cho rằng: có thể xây dựng một hệ thống thông tin tối ưu với mã nguồn và mã kênh riêng biệt. Sơ đồ khối của một hệ thống truyền tin truyền thống: Thông tin Mã Mã kênh Điều chế nguồn nguồn Source Encoder Thiết kế Kênh tách nhiễu Channel Thông tin Giải điều Giải điều Giải điều chế nhân chế nguồn chế kênh Destlation Decoder Mã hóa kênh Mã hóa nguôn Thiết kế kết hợp Hình 1.1: Sơ đồ khối hệ thống thông tin truyền thống.
TIEU LUAN MOI download : skknchat@gmail.com 2 Hệ thống trên bao gồm các khối mã hóa nguồn và mã hóa kênh. Mã hóa nguồn gồm: bộ mã hóa và giải mã (bên thu). Tương tự mã hóa kênh gồm: bộ mã hóa và giải mã kênh, bộ điều chế và giải điều chế. Thiết kế hệ thông tin tách biệt mã nguồn và mã kênh được chứng minh bởi định lý tách Shannon trong nhiều thập kỷ qua.
Sau đây là tóm tắt cơ sở lý thuyết hoạt động của các khối này. Khái niệm Entropi 1. Đối với nguồn không nhớ rời rạc Entropi H được định nghĩa là giá trị trung bình thống kê của lượng tin, đó là lượng tin trung bình chứa trong một ký tự bất kỳ của nguồn tin. Xét nguồn tin X sinh ra N ký tự độc lập thống kê.
Nguồn tin này được gọi là nguồn tin rời rạc không nhớ. Entropi của nguồn tin này là: 1 H ( X ) ( P x ( x) log ) nx P x ( x) (1.1) E[log P x ( X )] Px(x) là xác suất chọn ký tự thứ x Với E[ ( x)] là kỳ vọng của hàm f(x) Lý thuyết thông tin đã chứng minh giá trị lớn nhất của Entropy là: Hmax= log2 X, đạt được khi độc lập và đồng xác suất. Đối với nguồn có nhớ rời rạc Đối với các nguồn tin, việc sinh ra ký tự sau không độc lập thống kê với các ký tự sinh ra trước đó (gọi là nguồn có nhớ) thì công thức entropy trên không đủ tổng quát để tính được entropy chính xác. Trong trường hợp này phải xét đến Entropy có điều kiện.
Ví dụ với nguồn có nhớ một ký tự, nghĩa là ký tự sau được chọn phụ thuộc vào một ký tự trước đó. Entropi được tính như sau: TIEU LUAN MOI download : skknchat@gmail.2) E[log P X |Y ( X | Y )] Trong đó: Pxy(x,y) xác suất nguồn chọn X và Y, Px/y(x,y) là xác suất nguồn chọn X nếu trươc đó đã chọn Y có điều kiện của X theo Y. Định lý mã nguồn Shanon Cho X là tập hợp các ký tự từ nguồn rời rạc không nhớ, với entropi H(x) hữu hạn. Một ký tự J từ nguồn được mã hóa thành từ mã có chiều dài N.
Cho xác suất lỗi Pe của một khối giải mã có thể nhỏ tùy ý nếu: N R H (x) (1. Ngược lại: R H (X ) (1.4) Khi đó Pe tiến tới 1 khi J đủ lớn Định lý mã nguồn chỉ ra rằng: số bít trung bình để mã hóa một ký tự từ nguồn rời rạc không nhớ ít nhất phải bằng entropi của nguồn thì tín hiệu ở phía thu không bị biến dạng.1 Thông tin tương hỗ Thông tin tương hỗ là lượng bất định ở lối vào, được phân giải bởi quan sát ở lối ra. Thông tin tương hỗ của hai biến ngẫu nhiên X và Y là: I ( X ;Y ) H ( X ) H ( X | Y ) (1. Định lý Mã kênh Cho 1 kênh không nhớ rời rạc và không có thông tin phản hồi có dung năng kênh C.
TIEU LUAN MOI download : skknchat@gmail.com 4 Với ,tỷ lệ thông tin R<C thì tồn tại một mã với tỷ lệ R mà xác suất lỗi xuất hiện lớn nhất sẽ nhỏ hơn . Ngược lại với mã có tỷ lệ R> C thì tồn tại 1 mà xác suất của lỗi lớn hơn rất nhiều Định lý mã kênh cho thấy chỉ có thể truyền tin cậy nếu tốc độ truyền nhỏ hơn dung năng của kênh. Yêu cầu phát triển mã kết hợp nguồn kênh Hạn chế của kỹ thuật mã tách biệt là chỉ đúng với khối mã dài và trễ không bị hạn chế. Điều này không đúng với thực tế, nhất là đối với các dịch vụ thời gian thực.
Do đó nếu thiết kế kết hợp và phân phát tài nguyên hệ thống tối ưu cho các phần mã nguồn, mã kênh đến tận điều chế có thể cung cấp hiệu quả tốt hơn từ đầu đến cuối. Điều này mở ra một lĩnh vực nghiên cứu mới là: mã và giải mã kết hợp nguồn-kênh (JSCC/D) cho truyền tin vô tuyến được nghiên cứu và phát triển trong những năm gần đây. Sơ đồ khối của kỹ thuật này có thể trình bày như sau: TIEU LUAN MOI download : skknchat@gmail.com 5 SSI Điều Mã hóa khiển Mã hóa Điều chế nguồn JSCC kênh Coding Coding CSI CSI CSI Kênh truyền CSI DRI JSCD Giải mã Giải mã Giải điều nguồn Điều khiển kênh chế Coding SAI Decoding Hình 1.2: Sơ đồ khối liên kết mã nguồn và mã kênh Trong sơ đồ này, thông tin về mức độ quan trọng của những bit nguồn (SSI) được truyền từ bộ mã hóa nguồn sang bộ mã hóa kênh, dựa vào thông tin này, bộ mã kênh sẽ kích hoạt cấp độ mã kênh bảo vệ thích hợp (mà không làm đồng đều như kỹ thuật mã tách biệt) cho các bít nguồn này. Tương tự thông tin tình trạng kênh truyền (CSI) có thể được đưa ngược từ bộ mã hóa kênh hoặc bộ điều chế về bộ mã hóa nguồn để kích hoạt tỷ lệ mã hóa nguồn cho phù hợp với điều kiện kênh.
Ở phía thu, thông tin tiên nghiệm của nguồn (SAI) cùng với thông tin về độ tin cậy giải mã (DIR) được truyền giữa bộ giải mã nguồn và bộ giải mã kênh, để có thể giải mã kênh điều khiển giải mã nguồn và lặp đi lặp lại giải mã nguồn kênh. TIEU LUAN MOI download : skknchat@gmail. Một số kỹ thuật mã kết hợp 1. Ứng dụng UEP để truyền hình ảnh sử dụng mã kênh Turbo UEP là kỹ thuật chống lỗi không đồng đều.
Như đã nói ở trên, trong nhiều ứng dụng nén đa phương tiện (mã nguồn), các bít đầu ra của bộ mã có tác động khác nhau về chất lượng của nguồn tái tạo, một số chuỗi bít đóng góp nhiều hơn cho độ trung thực của hình ảnh và nhạy cảm hơn với các lỗi bít, một số bít thì ngược lại. Do đó một kỹ thuật trực quan là áp dụng chống lỗi mạnh mẽ hơn cho các bít có tác động mạnh hơn tới chất lượng của tín hiệu. Khái niệm này tương ứng với việc thay đổi mức bảo vệ của những bít này. Thực hiện UEP với mã hóa nguồn thường liên quan đến phân vùng dữ liệu: phân vùng một chuỗi bít mã hóa thành các nhóm bít với độ nhạy khác nhau.
Với mã hóa kênh, sử dụng mã sửa lỗi như mã RCPC và mã CRPT có thể cung cấp mức độ chống lỗi khác nhau cho các nhóm bít nhạy cảm khác nhau. Các mã này cung cấp tốc độ khác nhau thông qua kỹ thuật đục lỗ. UEP là khái niệm đơn giản nhưng là kỹ thuật hiệu quả của JSCC. Các hệ số DC và hệ số biến đổi cosin rời rạc của AC của hình ảnh mã hóa JPEG có tác động khác nhau đến tái tạo hính ảnh, vì thế có thể áp dụng UEP để mã hóa hình ảnh JPEG.
Kỹ thuật UEP sử dụng mã hóa Turbo đa tốc với hai tỷ lệ mã khác nhau cho thành phần AC và DC của ảnh JPEG. Phân bố tốc độ tối ưu mã nguồn kênh Đối với tốc độ truyền cố định, điều quan trọng là phân phối tốc độ cho mã nguồn và mã kênh. Tốc độ mã nguồn cao, méo do nén nguồn sẽ ít còn tốc độ mã kênh thấp cho khả năng hiệu chỉnh lỗi mạnh. Ưu điểm của phân phối tốc độ tối ưu cải thiện toàn thể chất lượng tín hiệu mà không mở rộng băng tần.
Thực tế cho thấy nên phân tốc độ mã kênh cao khi SNR thấp, còn nên phân tốc độ mã nguồn cao khi SNR cao. Tuy nhiên chiến lược phân tối ưu tùy thuộc các tham số khác nhau: loại nén nguồn, loại mã kênh, mô hình kênh, SNR và độ rộng băng. Hochwald and Zeger thiết lập các giới hạn để tối ưu tốc độ của mã kênh để giảm thiểu sự biến dạng trung bình của hệ thống truyền tin. Nghiên cứu này được mở rộng để tìm được giới hạn trên và giới hạn dưới của tốc độ mã hóa kênh cho kênh truyền có nhiễu Gaussian.
Nghiên cứu cân bằng tốc độ mã nguồn và mã kênh để truyền hình ảnh sử dụng nén mã nguồn VQ và mã kênh Turbo. Ruf và Modestino trình bày phương pháp đánh giá tỷ lệ biến dạng khi kết hợp mã hóa nguồn kênh sử dụng mã hóa hình ảnh Wavelet và mã hóa nhị phân TIEU LUAN MOI download : skknchat@gmail.com 7 RCPC cho truyền tin trên kênh nhiễu và phát triển lý thuyết thông tin cho hệ thống này. Một lớp con của JSCC là phân phối tốc độ nguồn - kênh cho truyền ảnh lũy tiến. Dòng bít cho tốc độ đích R1 có thể nhận được như là tiền tố của dòng bit cho tốc độ đích R2.
Sherwood đề nghị phương pháp mới cho truyền ảnh lũy tiến. Bằng cách đóng gói mã CRC trong để phát hiện lỗi và mã ngoài RCPC để hiệu chỉnh lỗi nhằm bảo vệ dòng bit nhúng mã SPIHT qua kênh ồn. Giải mã dựa trên dò tìm dây lưới. Nếu một nhánh được chọn theo giải mã Viterbi không thỏa mãn kiểm tra CRC, bộ giải mã sẽ chọn nhánh tiếp theo tiếp tục cho đến khi CRC thỏa mãn hoặc đạt một số nhánh nhất định được xem xét.
Vấn đề phân phối tốc độ cho truyền ảnh lũy tiến dùng hệ thống tương tự như sau: Các bít ra từ mã nguồn nhúng được đóng gói với độ dài L bit. Mỗi gói được bảo vệ bằng mã kênh Cn để tạo nên gói kênh Kn bit. Ký hiệu Pn là xác suất có ít nhất 1 bit lỗi trong gói thứ n của bộ giải mã. Gọi dn là méo còn lại sau khi giải mã thành công n gói đầu tiên.
Méo tổng cộng cho kênh không nhớ là: N 1 n N D d0 p d n p (1 p ) d (1 P) N (1.6) 1 n 1 i n 1 i 1 i 1 Ở đó N là số gói truyền tổng cộng. Một chiến lược phân tốc độ tối ưu trong đó mô tả số gói nguồn được truyền N và dãy mã kênh C1, C2,…,CN được phân cho mỗi gói.