nh lut Shannon (Shannon's Law). Vo nm 1948 nh ton hc Shannon, ngi c xem l cha ca k ng!

!"#n th$ng tin, % t&'nh (" c$ng th)c *+ th$ng lng k#nh ,channel ca-acit"., c gi l /0nh l!1t Shannon2 /3" l m4t 0nh l!1t c5 (6n m mi k7 8 *i9n th$ng +! -h6i (i:t2 /0nh l!1t Shannon 0nh ngh;a th$ng lng k#nh ,k< hi=! >. nh t?c 4 (it , @ . lAn nhBt m chCng ta cD thE th$ng tin F!a k#nh D m th$ng tin kh$ng (0 mGo2 Hh$ng lng k#nh c xc 0nhI > J K logL ,1 M SNO. ,1. *Ai K l (ng th$ng ca k#nh th$ng tin, cD 5n *0 o l PQRS, S l c$ng 8!Bt ca tTn hi=! c t&!"+n i, cD 5n *0 PKS, O l c$ng 8!Bt ca nhi9!, cUng cD 5n *0 o PKS2 > * @ cD th) ng!"#n P(itNgi3"S ha" P(N8S2 /E hiE! m4t cch t&Vc gic c$ng th)c t&#n ta gi6 8W S X O, * lng tW hDa S (Yng n (it, cD ngh;a l chia S thnh Ln m)c2 /Zng thi gi6 8W O cD (1c ca (i#n 4 m4t m)c lng tW ca S, cD ngh;a l OJ1, [o *1" SNO J Ln2 \hi D ta cD gi t&0 g]n CngI > J n K ,L. /i+! n" cD ngh;a &Yng th$ng lng (Yng 8? (it t&ong m4t 8"m(ol nh3n *Ai (ng th$ng k#nh2 \hi nhi9! O lAn h5n, ta -h6i tV h^n ch: cD ngh;a l lng tW hDa th$ h5n 8ao cho m4t m)c lng tW hDa tTn hi=! (Yng *Ai m)c nhi9!, cD ngh;a l gi6m n, ha" gi6m 8? (it t^o thnh m4t 8"m(ol2 /0nh l!1t Shannon nDi cho ta (i:t &Yng t?c 4 (it lAn nhBt m k#nh cD thE ^t c, ha" i+! t?t nhBt ta cD thE lm, l @J> ,_.2 H!" nhi#n cc h= th?ng c thVc hi=n t&ong thVc t: l!$n cD @ \hi tha" ,_. *o ,1. * (i:n `i ta cD thE *i:t l^i c$ng th)c ,1. nh 8a!I ,KN@. logL P1M ,a(NOb. ,@NK.S J 1 ,4. *Ai a( l nng lng ca 1 (it tTn hi=!, cD 5n *0 Pco!leN(itS ha" PdN(S, cen Ob l c$ng 8!Bt nhi9! t&#n m4t 5n *0 (ng th$ng, cD 5n *0 PKNQRS2 fi6i thTch (i:n `i nh 8a!I a( g @ cD th) ng!"#n PdN(S gP(N8S J PdN8S J Katt * (iE! [i9n c$ng 8!Bt tTn hi=!, k< hi=! (hi S nh h t&#ni ObgK l c$ng 8!Bt nhi9! ch)a t&ong (ng th$ng K, k< hi=! O2 jo *1" ,a(NOb. ,@NK. t&ong ,4. chTnh l SNO t&ong ,1.2 >D thE o chk ti#! k7 th!1t ca k#nh th$ng tin nh t?c 4 (it cD thE ^t c t&#n m4t 5n *0 (ng th$ng ,@NK. theo t 8? gila nng lng t&ong 1 (it * c$ng 8!Bt nhi9! theo t]n 8? ,a(NOb.2 \hi ch!mn hDa ,4. (Yng *i=c 0nh ngh;a hi=! 8!Bt (ng th$ng " J ,@NK. P(N8NQRS * k< hi=! x J a(NOb ta cDI ,1N". logL ,1 M x". J 1 ,n. hooc ,1 M x".1N" J L ,p.

/?i *Ai "qb, khi lB" giAi h^n ton hcI ,1M x".1N" r ex, h 3" e J L2s18, [o *1" x J ln,L. J b2p9_, hooc t12p [u2 /i+! n" cD ngh;a &Yng khi ta cD (ng th$ng *$ h^n, c$ng 8!Bt tTn hi=! t&ong m4t (it cD thE chk (Yng p9v c$ng 8!Bt nhi9! ,hooc thBh5n nhi9! 12p [u. t&ong m4t 5n *0 (ng th$ng m th$ng tin t&!"+n F!a k#nh *wn kh$ng (0 mGo2 Q'nh 1 l Z th0 m$ t6 c$ng th)c ,p.2 Ogoi &a cD thE mi#! t6 F!an h= @NK theo ,SNO., cD ngh;a l " theo RJx" t&ong c$ng th)c ,n. (Yng (i:n `i 8a!I logL ,1 M R. J " ,s.

Q'nh L m$ t6 F!an h= t&ong c$ng th)c ,s.2 >c ng (iE! [i9n giAi h^n ton hc ca cc c$ng th)c ,p. * ,s. khi cho " r b ,cD ngh;a K r x . c gi l giAi h^n Shannon, l hi=! 8!Bt (ng th$ng l< thng ca k#nh th$ng tin2\hi (i:t giAi h^n Shannon, cc thVc thE nghi#n c)! ,t` ch)c, c nh3n. hooc cc nh c$ng nghi=- +! c? gyng t'm ki:m -h5ng -h- m% hDa t?t h5n 8ao cng g]n giAi h^n n" cng t?t2 HBt nhi#n cc ng m$ t6 h= th?ng thVc t: +! nYm -hTa [Ai -hTa (#n -h6i ca ng giAi h^n Shannon2

HDm l^i, 0nh l!1t Shannon cho ta (i:t t?c 4 (it lAn nhBt m k#nh th$ng tin, *Ai (ng th$ng xc 0nh, cD thE c!ng cB-, 8ao cho th$ng tin t&!"+n F!a nD kh$ng (0 mGo, )ng *Ai cc t 8? tTn hi=!Nnhi9! khc nha!2 H 8? t?c 4 (itN(ng th$ng c gi l hi=! 8!Bt (ng th$ng, * Z th0 m$ t6 m?i F!an h= ca nD theo cc t 8? SNO khc nha! )ng *Ai t&ng h- l< thng ,K r x. c gi l giAi h^n Shannon2 1.2. B lc cosin tng (Raised cosine !ilte"). \i:n th)c k7 th!1t th) hai m chCng ta c]n hiE! l khi ni=m u4 lc co8in tng nh t&'nh (" [Ai 3"2 H&ong cc h= th?ng t&!"+n [wn, tTn hi=! [6i n+n c5 (6n ,(a8e(an[. c i+! ch: l#n 8Dng mang E t&!"+n i2 Vi=c lc tTn hi=! x6" &a h m4t 8? giai o^n t&ong F! t&'nh t&!"+n [wn2 u6n th3n tTn hi=! (a8e(an[ (0 h^n ch: (ng th$ng (hi *i=c lc E ngn *i=c t^o &a cc tTn hi=! [6i (#n ,8i[e(an[. *t F! t&ong F! t&'nh i+! ch:2 HTn hi=! % i+! ch: c lc (ng th$ng ti:- theo t&ong F! t&'nh kh!:ch ^i ca m" -ht2 z n5i m cc t!":n t&!"+n ,hl! t!":n, *$ t!":n. t^o thnh k#nh t&!"+n th' - t!":n t]n 8? ca k#nh t&!"+n cUng -h6i c tTnh tAi2 z -hTa th!, *i=c lc (ng th$ng tTn hi=! tAi l c]n thi:t E lo^i ({ nhi9! ,noi8e. c a *o h giai

o^n n"2 Oh *1" tTn hi=! i F!a m4t 8? giai o^n lc * 6nh hhng ca chCng tAi [^ng 8Dng 8? -h6i c tTnh tAi2 H&#n ton (4 t!":n t&!"+n [wn t| m" -ht tAi m" th! -h` ca x!ng ]! &a h m" th! V,}. c xc 0nh (hi -h` ca x!ng ]! *o Vi,}., - t!":n (4 lc ca m" -ht QH,}., - t!":n t]n 8? ca k#nh Q>Q,}., * - t!":n (4 lc m" th! Q@,}.2 Q'nh _ minh ha i+! n", * ta cD -h5ng t&'nhI V,}. J Vi,}. QH,}. Q>Q,}. Q@,}. ,8.

>c thnh -h]n i=n c6m * i=n [!ng l cc thnh -h]n *?n cD ca F! t&'nh lc2 >hCng kh$ng ti#! hao nng lng tTn hi=!, nhng nng lng c t!]n hean theo ch! k~ gila i=n t&ng, t| t&ng * tTn hi=!2 Hhi gian c]n thi:t cho F! t&'nh t&ao `i nng lng n" lm cho m4t -h]n ca tTn hi=! (0 t&9, [o *1" cc x!ng h'nh *!$ng i *o h -hTa m" -ht cD thE cD [^ng h'nh ch!$ng * [ao 4ng khi nD i &a h -hTa m" th!2 Q'nh 42a minh ha i+! % n#!2V' th$ng tin c m% hDa 8? [Ai [^ng 8Dng n#n mGo x!Bt hi=n t&ong [^ng x!ng l kh$ng F!an t&ng cho tAi khi m" th! cen -h3n (i=t c cc x!ng nh0 -h3n 1 *Ai cc x!ng nh0 -h3n b2 Vi=c n" ei h{i [^ng 8Dng -h6i c lB" mw! h cc kho6ng cch Cng E xc 0nh Cng cVc tTnh ca nD2 VAi [^ng 8Dng li#n tc, cc !$i t^o thnh t| h'nh ch!$ng t| tBt c6 cc x!ng t&Ac D cD thE k:t h- E can nhi9! *Ai x!ng &i#ng c]n lB" mw!2 Qi=n tng D c gi l can nhi9! gila cc 8"m(ol ,nte&8"m(ol nte&}e&ence t S., * nD cD thE g3" li t&ong xc 0nh cVc tTnh ca tTn hi=!2\h$ng thE lo^i ({ cc h'nh ch!$ng nhng cD thE t^o [^ng cc x!ng 8ao cho *i=c lB" mw! x!ng % cho xm" &a khi cc !$i h cc iEm cyt chGo (Yng kh$ng nh minh ha h h'nh 42(2 /D cUng l n4i [!ng ca cc 0nh l!1t O"F!i8t *+ lo^i ({ 6nh hhng ca can nhi9! gila cc 8"m(ol2 H&ong thVc t: kh$ng thE t^o [^ng x!ng hon thi=n, [o *1" 8 cD S, nhng nD cD thE c gi6m :n m)c nh{ cD thE ({ F!a2Vi=c t^o [^ng x!ng c thVc hi=n (Yng cch kiEm 8ot -h` ca x!ng th! c F!a i+! chknh cc thnh -h]n cD li#n F!an nh t&'nh (" t&ong c$ng th)c ,8.2 4t m$ h'nh l< th!":t ca -h` thTch )ng *Ai *i=c D l - t!":n ,hooc (4 lc. co8in tng nh t&'nh (" ti:theo [Ai 3"2u4 lc co8in tng l m4t (4 lc i=n tW oc th, thng c 8W [ng E t^o [^ng x!ng t&ong i+! ch: 8? [o kh6 nng t?i thiE! hDa S ca nD2 H#n ca (4 lc (yt ng!Zn t| m4t thVc t: l -h]n khc kh$ng ca -h` t]n 8? t&ong [^ng 5n gi6n nhBt ca nD ,J1. l hm co8in, tng l#n h -hTa t&#n ca t&c ngang }2

#$ t% to&n hc' PdSHSu4 lc co8in tng l m4t thVc hi=n ca (4 lc O"F!i8t th$ng thB-, cD tTnh chBt ?i x)ng theo t&c )ng2 h` ca nD (iE! hi=n ?i x)ng l x!ng F!anh gi t&0 ,1NLH., *Ai H l ch! k~ 8"m(ol ca h= th?ng th$ng tin2 H&ong mi+n t]n 8? (4 lc c m$ t6 (hi c$ng th)c ,9., l hm h'nh ch!$ng ,h'nh n.2 OD c oc t&ng (hi hai gi t&0I h= 8? &ollto}} , * ch! k~ lo- ca 8"m(ol H ,HJ1N@8 *Ai @8 l t]n 8? 8"m(ol.2

PNdSHS /- )ng x!ng ,- t!":n thi gian. ca (4 lc c cho (hi c$ng th)c ,1b., l hm 8in ch!mn hDa ,h'nh p.2

() s* "oll o!!'Q= 8? &ollto}}, , l -hG- o (ng th$ng *t F! ca (4 lc, cD ngh;a l (ng th$ng (0 chi:m ngoi (ng th$ng O"F!i8t ,1NLH.2 O:! k< hi=! (ng th$ng O"F!i8t l } th'I

*Ai @8 J 1NH l t]n 8? 8"m(ol2 >c Z th0 chk &a 8V tha" `i ca - t!":n (i#n 4 khi tha" `i gila b * 1, * 8V tha" `i t5ng )ng *Ai - t!":n x!ng2 Ha thB" m)c gn 8Dng mi+n thi gian tng khi gi6m2 H| cc Z th0 ta cUng thB" cD thE gi6m (ng th$ng *t F! ca (4 lc khi gi6m ,h'nh n. nhng h gi yt ca *i=c kGo [i - t!":n x!ng, cD ngh;a l kGo [i kho6ng thi gian g3" can nhi9! gila cc 8"m(ol k+ nha! ,h'nh p.2+ , -\hi ti:n tAi kh$ng mi+n &ollto}} t&h n#n *$ cng h-, *' *1" khi rb lim Q,}. J &ect ,}H., *Ai &ect,2. l hm chl nh1t, - )ng x!ng cD [^ng 8inc,tNH.2 /i+! n" cD ngh;a l nD h4i t tAi (4 lc l< thng cD cc *ch [Vng )ng2+ , 1 PdSHS\hi J1 -h]n khc kh$ng ca -h` l co8in tng th!]n tC", [wn :n c$ng th)c 5n gi6n ,1L.2 P>aOHa@S

PN>aOHa@SBng th$ng'ung th$ng ca (4 lc co8in tng c 0nh ngh;a nh -h]n khc kh$ng ca -h` ca nD, cD ngh;a lI uK J ,1NL. @8 ,1 M . ,1_.

.ng d/ng'Q'nh s (iE! [i9n [%" cc x!ng co8in tng li#n ti:- *Ai S J b2 \hi c 8W [ng E lc 8"m(ol 8t&eam, (4 lc O"F!i8t cD tTnh chBt lo^i ({ S *' t!":n x!ng ca nD (Yng kh$ng h tBt c6 cc gi t&0 nH ,*Ai n l 8? ng!"#n., t&| gi t&0 nJb2 jo *1" n:! [^ng 8Dng -ht c lB" mw! chTnh xc h m" th! th' cc gi t&0 8"m(ol g?c c kh$i -hc hon ton2 H!" nhi#n h]! h:t cc h= th?ng th$ng tin thVc t: -h6i 8W [ng (4 lc -h?i h- E lo^i ({ 6nh hhng ca nhi9! t&yng2 >D ngh;a l -h6i t!3n theo i+! ki=nI PNdSHS /E th{a m%n i+! ki=n ,14. t&ong khi *wn 6m (6o S (Yng kh$ng, (4 lc cn (1c hai co8in tng thng c 8W [ng h hai -hTa -ht * th! ca h= th?ng th$ng tin2 \hi D - t!":n ton (4 ca h= th?ng 8 l co8in tng2

Tm li, b lc cosin tng l mt dng b lc in t c th, c thit k kh c !h"c c#n nhi$% gi&# c'c s(mbol )*+*,, gi-! cho h th.ng s. t/'nh nh0m l1n khi 2'c 3nh s(mbol4 Th5ng s. 6%#n t/ng nh7t c8# b lc l h s. /oll9o:: , ;, < ch% k= s(mbol, T4 >hi ; th#( ?i th@ bng th5ng <t 6%' c8# b lc cAng th#( ?iB CD E nghF# <Gt lE c th hi% nh s#%H khi miDn /ol9o:: cng hI! ); J K, th@ bng th5ng <t 6%' giLm, bng th5ng thMc t c8# ton t%(n t/%(Dn giLm, nhiD% thnh !h0n !h? c8# 2%ng <%5ng i 6%# t%(n sN b3 c t d1n n dng 2%ng b3 mOo tPng Qng <Ri d#o ng nhiD% ch% k= t/ong '! t%(n 2%ng, d$ gS( c#n nhi$% gi&# c'c 2%ng liDn kD4 >hi miDn /oll9o:: tng th@ 6%' t/@nh 2L( /# ngc li, '! t%(n 2%ng gn hPn, khL nng *+* Tt hPn nhng bng th5ng b3 chim l lRn hPn, hi% s%7t s d"ng bng th5ng <D mt t?ng th sN kOm hPn4 T( thUo !hPng thQc t/%(Dn d1n )< tinh, c'!, mt 7tB, cAng nh sM t/Vng thnh c8# c5ng ngh m ; sN c c'c gi' t/3 kh'c nh#%, khi hi% s%7t s d"ng bng th5ng cAng kh'c nh#%4