NGUYỄN VĂN HẬU - NGUYỄN HIẾU MINH

cơ sở LÝ THUYẾT
TRUYỀN TIN

NHÀ XUẤT BẢN KHOA HỌC VÀ KỸ THUẬT

HÀ NỘI
 MỤC LỤC

LỜI NÓI ĐẦU 7

NHỮNG VẤN ĐỀ CHUNG CỦA HỆ THỐNG TRUYỀN 9

TIN VÀ NỘI DUNG MÔN HỌC
1. Mở đầu 9
2. Mô hình của hệ thống truyền tin điện tử 10
3. Các yêu cầu cơ bản của hệ thống truyền tin 15
4. Nội dung môn học 16
5. Bổ túc toán: Xác suất, đại lượng ngẫu nhiên, quá trình ngẫu nhiên 16

LÝ THUYẾT THÔNG TIN 17

1. Độ đo lượng thông tin của tin tức rời rạc 17
2. Entropy của nguồn rời rạc với các tin được chọn không phụ thuộc 18
vào nhau
3. Entropy của nguồn rời rạc với các tin phụ thuộc lẫn nhau 19
4. Độ dư thừa của nguồn tin 21
5. Năng suất của nguồn tin 22
6. Entropy đồng thời của hai nguồn tin tức 23
7. Lượng thông tin tương hỗ của hai nguổn tin 24
8.TỐC độ truyền và khả năng thông qua của kênh 25
9. Khả năng thông qua của kênh truyển đối xứng đồng nhất 27
10. Entropy của các đại lượng ngẫu nhiên liên tục và đặc tính của nó 30
11. Entropy và năng suất của nguồn tín hiệu liên tục ergodic 32
12. Khả năng thông qua của kênh liên tục 33
13. Entropy- epxilon của nguồn tin tức liên tục 36
14. Mối quan hệ giữa công suất của tín hiệu và bề rộng phổ của nó 39
15. So sánh khả năng thông qua của các kênh tương tự và rời rạc 40
16. Hiệu quả của hệ thống truyền tin 42

CÁC MÃ KINH T Ế (CÁC MÃ HÓA N G U Ồ N ) 47

1. Các khái niệm chung về mã 47
2. Các phương pháp biểu diễn mã 48
3. Mã thống kê tối ưu (hay tiết kiệm) của các tin tức rời rạc 49
4. Các mã có nhớ 55
 CHƯƠNG 5. Các mã số học 57

6. Mục đích nén số liệu và các dạng của hệ thống nén 60

2
7. Các phương pháp nén số liệu không tiêu hao. Phương pháp 65
Lempel-Ziv
7.1. Giới thiệu nén số liệu nhờ ZIP 65
7.2. Thuật toán nén (3Ộ
8. Mã hoá (nén) theo chiều dài lặp lại 59
9. Các mã vi sai 71

10. Các phương pháp nén có tiêu hao thông tin 72

11. Thuật toán nén ảnh tĩnh JPEG 73

12. Thuật toán hồi quy (sóng) 88

13. Các phương pháp nén ảnh động (video) 90
14. Các phương pháp mã hóa (nén) tín hiệu tiếng nói 96
14.1. Các đặc điểm của tín hiệu tiếng nói 96
14.2. Các mã dựa theo hình dạng tín hiệu 100
14.3. Các mã dựa trên mô hình nguồn 103
14.4. Các phương pháp lai ghép mã hoá tín hiệu tiếng nói 108

CHƯƠNG CÁC MÃ C H Ố N G NHIỄU (CÁC MÃ KÊNH) 117

1. Khái niệm chung 117
3
2. Các nguyên lý cơ bản xây dựng mã chống nhiễu. Phân loại mã 117
chống nhiễu
3. Các mã khối tuyến tính 120
3.1. Mã dựa trên kiểm tra chẵn (hoặc lẻ) 121
3.2. Các mã khối tuyến tính dạng M(n,k) 124
4. Các mã Cyclic 132
4.1. Mô tả mã Cyclic 132
4.2. Đa thức sinh g(x) 135
4.3. Thuật toán của hoá 137
4.4. Đa thức kiểm tra 139
4.5. Tính Syndrome và sửa lỗi trong mã Cyclic 140
4.6. M ạch điện giải mã theo thuật toán chia dịch vòng 142
4.7. Các phương pháp không đại số giải mã Cyclic 146
5. Các mã BCH 148
6. Các mã Reed-Solomon 151
6.1. Quá trình mã hoá 152
6.2. Quá trình giải hoá 155
7. Các mã xoắn 159

A
 7.1. Mã hoá mã xoắn 159
7.2. Các phương pháp phân tích hoạt động của mạch mã hoá mã xoắn 160
7.3. Giải mã xoắn theo thuật toán Viterbi 166
8 . Mã TCM (Trellis Coded Modulation) 173
9. Mã Turbo 174
9.1. Nguyên lý chung mã Turbo 174
9.2. Cấu trục bộ mã hoá Turbo 175
9.3. Kết cuối mã hoá Turbo 176
9.4. Các bộ cài xen Turbo 177
10. Xâu chuỗi các bộ mã, cùng các bộ cài xen 180

CHƯƠNG MỘT S Ố THUẬT TOÁN MẬT MÃ 185

l.V ấn đề an toàn thông tin trong quá trình truyền 185
4
2. Chuẩn mật mã dữ liệu tiên tiến (AES) 188
2.1. Sự phát triển 188
2.2. Mô tả sơ bộ của thuật toán 189
2.3. Sơ đồ khối AES 195
2.4. Cơ sở toán học trong AES 195
3. Thuật toán RSA 199
3.1. Miêu tả thuật toán. 200

3.2. Xem xét khía cạnh tính toán 202

3.3. Độ an toàn của thuật toán RSA 206

4. Mật mã với việc sử dụng các đường cong elliptic 211

4. 1. Các đường cong elliptic 211

4.2. Các đường cong elliptic trong trường hữu hạn 213
4.3. Các đường cong elliptic và mật mã 216
4.4. Sự an toàn mật mã với sử dụng đường cong elliptic 219
5. Thuật toán MD5 tính profil tin tức 220
5.1. Logic của MD5 220
5.2. Hàm nén MD5 224
5.3. MD4 227
5.4. Độ bền của MD5 228

CHƯƠNG TÍN HIỆU VÀ PHỔ 231

1. Phân loại tín hiệu 231
5
2. Phân tích tín hiệu thành chuỗi Fourier 235
2.1. Các hàm trực giao 235
2.2. Các chuỗi trực giao 237
2.3. Phân tích tín hiệu tuần hoàn thành chuỗi Fourier 238
 3. Biến đổi Fourier 245
3.1. Biến đổi Fourier 245
3.2. Các tính chất của biến đổi Fourier 246
3.3. Các thí dụ đơn giản 247
3.4. Một số định lý của biến đổi Fourier 251
3.5. Các thí dụ khác 252
4. Biến đổi Fourier rời rạc 255
5. Biến đổi cosine rời rạc 258
5.1. DCT một chiều 258
5.2. DCT hai chiểu 260
6. Biến đổi W iem er - Khintchine 262

CHƯƠNG CÁC TÍN HIỆU ĐIỀU C H Ế 267

0 1. Khái niệm chung về điều chế 267
2. Tín hiệu điều chế biên độ 268
2.1. Điểu biên bằng tín hiệu tương tự (AM) 269
2.2. Phổ biên độ-tần số của tín hiệu AM 275
2.3. Điều chế biên độ với sóng mang bị triệt 278
2.4. Điều chế biên độ-đơn biên 279
2.5. Điều chế biên độ, với dải biên rớt 280
2.6. Điều chế biên độ bằng tín hiệu số (ASK) 281
2.7. Điều chế biên độ xung (PAM) 282
3. Các tín hiệu điểu chế tần số 284
3.1. Điều tần bằng tín hiệu tương tự (FM) 284
3.2. Điều tần bằng tín hiệu số (FSK) 287
4. Các tín hiệu điểu chế pha 289
4.1. Điều chế pha bằng tín hiệu tương tự (PM) 289
4.2. Điều chế pha bằng tín hiệu số (PSK) 290
5. Tín hiệu điều chế biên độ cầu phương (MQAM) 292
6 . Khóa dịch cực tiểu có lọc Gauss trước điều chê (GMSK) 296
7. Điều chế OFDM 299
8. Các tín hiệu trải phổ 304
8.1. Khái niệm chung về điều chế trải phổ 304
8.2. Bộ tạo chuỗi tín hiệu giả ngẫu nhiên (PN) 305
Cáu hỏi và bài tập 311
P hụ lục 317

Tài liệu th a m khảo 323

6
 LỜI NÓI ĐẦU

Quyển sách này được viết trên cơ sở hoàn chỉnh, m ở rộng các bài giảng của môn học “Cơ sở
lý thuyết truyền tin” trong nhiều năm của nhóm tác giả. Quyển sách gồm hai phần: lý thuyết
m ã và lý thuyết tín hiệu được trình bày trong bảy chương.
Trong quyển sách này, lần đầu tiên, một số vấn đề được đề cập trong chương trình môn học,
như vấn đề kỹ thuật nén số liệu, nén tín hiệu hình ảnh và tín hiệu tiếng nói; vấn đề dải thông của
đường dây đôi; cụ thể hóa thuật toán mã Reed-Solomon; vấn đề điều chế OFDM, v.v... Đối
tượng chính của quyển sách này là sinh viên đại học, cao đẳng của các trường kỹ thuật, thuộc
chuyên ngành điện tử - viễn thông và công nghệ thông tin; cũng có thể làm tài liệu tham khảo
cho các giáo viên thuộc các chuyên ngành trên.
Vì đối tượng chính là các sinh viên, cho nên quyển sách này rất chú trọng đến phần diễn giải
các thí dụ. Mọi thuật toán đều có các thí dụ minh họa. Phần cuối của quyển sách có soạn thảo
sẵn các câu hỏi và bài tập, sẽ rất lợi cho sinh viên và giáo viên. Quyển sách này không quá khó
để đọc, nhưng ngay cả các nghiên cứu sinh cũng có thể tìm thấy các gợi ý bổ ích.
Đối với các giáo viên trẻ, chúng tôi có một lời khuyên nên bắt đầu giảng dạy từ phần lý thuyết
tín hiệu, rồi sau đó đến phần lý thuyết mã, như vậy sẽ thuận lợi hơn, hợp logic hơn. Bởi vì, sinh
viên cần làm quen với các khái niệm lấy mẫu, phổ tần số của tín hiệu trước khi nghiên cứu phần
lý thuyết mã.
Chúng tôi mong rằng quyển sách sẽ đáp ứng được các nhu cầu của sinh viên và giáo viên và
nhất định không làm độc giả thất vọng.
Tuy nhiên, do tài liệu tham khảo hạn hẹp và trình độ có hạn, nên nội dung quyển sách còn có
chỗ thiếu sót, không vừa ý, chính bản thân nhóm tác giả cũng đã nhận thấy các vấn đề đó. Mong
rằng độc giả, đồng nghiệp đóng góp ý kiến, để nội dung quyển sách được tốt hơn. Tác giả xin
chân thành cảm ơn.
Các tác giả

7
 CHƯƠNG MỞ ĐẦU

NHỮNG VẤN Đ Ề CHUNG CỦA HỆ THỐNG TRUYỀN TIN

VÀ NỘI DUNG MÔN HỌC

1. MỞ ĐẦU
Tiếp nhận, lưu giữ, xử lý, truyền thông tin- đó là một trong các lĩnh vực phát triển sôi động
nhất trong những năm gần đây và là lĩnh vực đầy triển vọng trong hoạt động của con người.
Hàng chục nghìn công ty lớn, nhỏ khác nhau trên toàn thế giới với doanh thu hàng năm hàng
trăm tỷ đôla từ dịch vụ tham gia vào nghiên cứu- phát triển, chế tạo- sản xuất, chuyển giao, khai
thác-sừ dụng và buôn bán các thiết bị truyền tin.
Môn học "Cơ sở lý thuyết truyền tin" nhằm cung cấp các hiểu biết về các phương pháp
(thuật toán), các mô hình (sơ dồ) khác nhau, cũng nliư lĩguyên lý chung x ử lý thông tin; đồng
thời từ đó biết được nguyên tắc chung đ ể xây dựng và hoạt động của các hệ thống truyền till,
cũng Iihư nghiên cứu các xu hướng hiện đại phát triển các hệ tliống này.
Đối tượng nghiên cứu của môn học là hệ thống truyền tin điện tử, là hệ thống được sử dụng để
truyền thông tin, chứ không phải để truyền bất kỳ một đối tượng, hoặc năng lượng, hoặc tín hiệu
nào khác. Tín hiệu trong các hệ thống truyền tin được thể hiện dưới dạng sóng điện từ (hoặc
dòng điện) là đại lượng vật lý mang thông tin từ nguồn tin đến người sử dụng. Trong thực tiễn
các hệ thống truyền tin rất đa dạng, chẳng hạn, hệ thống điện thoại cô' định, di động, hệ thống
internet, hệ thống phát thanh, truyền hình, v.v...Trong thực tiễn cũng tồn tại các hệ thống kỹ
thuật điện tử khác, chúng được sử dụng làm hệ thống đo lường, chẳng hạn, hệ thống vô tuyến
định vị (rađa), hệ thống dẫn đường, hệ thống đo tham số của môi trường, v.v...Trong các hệ
thống này, thông tin có ích được tích luỹ vào tín hiệu (hay phát sinh trong tín hiệu) khi tương tác
với môi trường xung quanh, hoặc đối tượng và phản ánh các tham số và đặc tính của các đối
tượng này, hoặc của môi trường tín hiệu truyền lan. Tại điểm thu thông tin có ích được tách ra từ
tín hiệu bằng cách đo các tham số phù hợp của sóng điện từ.
Vấn đề thứ hai mà chúng ta quan tâm trong mục này là khái niệm thông tin (information):
thông tin là gì và đâu là bản cliất của quá trình truyền thông till? Khái niệm thông tin là một
khái niệm trừu tượng và tồn tại nhiều cách diễn giải khác nhau, tuy nhiên, định nghĩa thông tin
của C.Shannon là hàm ý nhất: thông tin lìliư là s ố đo của độ bất địnli (mức độ chưa biết chứa
trong nội dung của tin tức). Mục đích của truyền thông tin- đó là quá trình làm mất đi (hoặc nói
chung làm giảm bớt) độ bất định đối với người nhận tin. Nghiên cứu định lượng thông tin được
trình bày trong chương 1.
9
Cơ sở lý thuyết truyền tin _________

2. MÔ HÌNH CỦA HỆ THỐNG TRUYỀN TIN ĐIỆN TỬ

Đê nghiên cứu hệ thống truyền tin điện tử, chúng ta hãy bắt đầu bằng việc nghiên cứu một mô
hình chung nhất của mọi hệ thống truyền tin, như trình bày trên h ìn h l. Hơn nữa, từ việc nghiêm
cứu mô hình hệ thống truyền tin, chúng ta sẽ nhận thức rõ hơn về nội dung môn hoc.

n(t)

Hình 1. Mỏ hình chung của hệ thống truyền tin.

Mô hình này chứa đựng các phần tử cơ bản của mọi hệ thống truyền tin. Tuy nhiên, mô hình
này không phản ánh được mọi hoạt động cần thực hiện (hay có thể thực hiện) vào thông tin
trong quá trình truyền từ nguồn đến người sử dụng. Vì thế, chúng ta cần xây dựng mô hình chi
tiết hơn, phản ánh những m ối quan tám của môn học, theo nghĩa là mô hình của hệ thống truyền
(cũng như lưu giữ) thông tin, như được trình bày trên hình 2 .
Chúng ta hãy xem xét các đặc trưng, các chức năng chính của các khối trong mô hình 2.
1) Nguồn thông tin (hay tin tức), nói ngắn gọn là nguồn tin
Nguồn tin là nơi sản sinh ra hay chứa đựng thông tin cần truyền đi.

Hình 2. Mô hình chi tiết hơn của hệ thông truyền tin.

Khi nói nguồn tin ỉà nơi sản sinh ra thông tin, chúng ta ngụ ý chỉ đó là đối tượng, hệ thống,
hoặc hiện tượng vật lý hình thành nên tin tức để truyền. Còn chính tin tức là giá trị hoặc số đo
theo một đại lượng vật lý nào đó phản ánh trạng thái của đối tượng (của hệ thống, hoặc của hiện
tượng). Như chúng đã biết tin tức nguyên thuỷ như tiếng nói, âm nhạc, hình ảnh, sô' đo các tham
số môi trường, v.v... là hàm của thời gian, không phải là đại lượng điện. Với mục đích để truyền
theo kênh liên lạc của hệ thống truyền tin điện tử, thì các tin tức này cần được biến đổi thành tín
hiệu điện thay đổi theo thời gian, chúng ta ký hiệu là s(t) (hoặc x(t), w(t), ... tùy hoàn cảnh), tất
nhiên phải phản ánh tin tức ban đầu. Quá trình biến đổi này nhờ các thiết bị đầu cuối (còn gọi là
thiết bị định dạng) như micro, camera, v.v... Còn khi nói nguồn tin là nơi chứa đựng (hay lưu
giữ) thông tin để truyền, chúng ta muốn nói tới các bản ghi, các trang viết, hay bức ảnh, v.v...,
nhờ phép định dạng, chúng được biểu diễn là chuỗi của các phần tử nhị phân, chúng ta gọi là
véctơ s , có dạng S(s,, S2,...,SN).
2). M ã hoá nguồn
Các tin tức ban đầu như tiếng nói, âm nhạc, hình ảnh, v.v...sau khi được chuyển đổi thành tín
hiệu điện, ký hiệu là s(t), chúng không chỉ là hàm liên tục của thời gian, mà còn là hàm của một
vài biến không gian. Chẳng hạn, tín hiệu video màu là hàm của 2 biến không gian chi độ sáng,
màu sắc và biến thời gian t. Khi mã hoá nguồn, các tín hiệu liên tục theo thời gian (tín hiệu
tương tự) cần liên quan đến thủ tục lấy mẫu (rời rạc theo thời gian), có nghĩa là biến đổi thành
các phần tử rời rạc (Si}. Vì vậy, chúng cũng có thể trình bày dưới dạng véctơ s.
M ã h o á trong trường hợp chung là phép biến đổi tin tức S(S|, S2,...,SN) thành dạng mã được chọn

trước nào đấy C ( a |; a 2,..., a K). Thông thường (chứ không nhất thiết) phép mã hoá nguồn là phép
m ã hoá kinh tế, hay tiết kiệm, hay là phép nén sô'liệu, nhằm tìén chặt sô'liệu đ ể nâng cao tốc độ
truyền tin, hoặc đ ể giảm dải thông yêu cầu đối với kênh truyền. Vì vậy, kích cỡ của tập mã - dim

C ( a lt a 2....... a K) nhỏ hơn, hoặc nhỏ hơn nhiểu kích cỡ của tập tin - dim S (s|t S 2 , . . . , S N) .

Nếu phép nén số liệu với mục đích để khi giải nén khôi phục chính xác tin tức ban đầu, thì
được gọi là phép nén không tiêu hao thông tin. Phép nén số liệu không gây tiêu hao thông tin
được sử dụng để nén văn bản, các file chương trình, bản vẽ, v.v...Trong trường hợp này cần khôi
phục lại chính xác tin tức ban đầu.
Trong trường hợp khác không cần (hoặc chính xác là không thể) khôi phục chính xác tin tức
ban đầu, vì nhiều lý do khác nhau. Trong trường hợp như thê' sẽ sử dụng phép nén có tiêu hao
thông tin, khi giải nén không có khả năng klìôi plìục chính xác tin tức ban đầu. Tuy nhiên, phép
nén có tiêu hao cho mức độ nén chặt (giảm dung lượng số liệu nén) cao hem nhiều so với phép
nén không gây tiêu hao. Các tin tức có nguồn gốc từ tiếng nói, âm nhạc, hình ảnh, v.v..., khi thực
hiện phép mã hoá nguồn, thông thường là phép mã nén sô' liệu có tiêu hao.
Các phép mã hoá nguồn, hay các mã kinh tế (mã nén) chúng ta sẽ nghiên cứu kỹ hơn ở
chương 2 .
3). Mật mã
Các thông tin quan trọng và nhạy cảm khi truyền theo kênh liên lạc, hay lưu giữ cần phải được
an toàn. Để bảo đảm chức năng an toàn và các chức năng khác như xấc thực, toàn vẹn nội dung
tin tức, người ta sử dụng mật mã.

Mật mã thực hiện biến đổi tin tức từ dạng đọc (hoặc lìghe, hoặc nhìn) hiểu được thành ra dạng
mà khi đọc (hoặc nghe, hoặc nhìn) không hiểu được.

11