Professional Documents
Culture Documents
Cviii
Cviii
0 existe un cédigo de longitud m (para n suficientemente grande) cuya probabilidad
ide error es menor que ¢. Si R > C, la probabilidad de error de cualquier e6digo con cualquier
longitud de bloque no puede hacerse arbitrariamente pequetia.
Este tearema es uno de los limites esenciales de teoria de informacién e introduce un limite fundamental
sobre la posibilidad de comunicaciones confiables sobre un canal con ruido. De acuerdo a este teorema,
independientemente de las otras propiedades, cualquier canal de comunicaciones esté earacterizado por un
niimero, denominado capacidad, que determina cuanta informacién puede transmitirse sobre él. De esta
forma, para comparar dos canales, desde el punto de vista de transmisién de Ia informacién, es suficiente
comparar sus capacidades,
Bjemplo: Se determinaré la capacidad del canal ilustrado en la figura 88.
Bs necesario hallar Ia distribucién que maximiza I(X;Y). Se tiene queDepartamento de Ingenieria Bléetrica ~ UNS 25
Figura 8.8: Canal discreto sin memoria,
TNGY) = HOY) — HX)
pero
HIN) = p(X = a)H(Y|X =a) + p(X = BH(YIN = 6) 4+ P(X = H(YIX = 0)
De la relacién entrada - salida del canal puede obtenerse que en caso que X =a, X =b6 X =e, entonces,
Y es una variable aleatéria ternria con probabilidades 0.25, 0.25 y 0.5. En consecuencia
H(YIX =a) = HX
SAY|X =e) =15
entonees H(Y|X) = 1.5, de donde I(X;¥) = H(Y)~ 1.5. Para maximizar I(X;Y) basta maximizar HY),
lo cual se consigue cuando ¥ es una variable aleatéria equiprobable, No esta claro si existe una variable
aleatéria que resulte en una distribucién uniforme a la salida. Sin embargo, en este caso especial una
distribucisn uniforme de entrada resulta en una disteibucién uniforme de salida (ver Apéndice del Capitulo
4} y para esta distribucién
H(Y) = log3 = 1.585
Esto significa que la eapacidad del canal esta dada por
1.585 — 1.
0.085 bits/uso del canal
8.2.1 Capacidad de un canal Gaussiano
Un canal Gaussiano discreto con restriecién en Ia potencia de entrada esté caracterizado por la relacién
entrada - salida dada por
YoX+Z
donde % es una variable aleatéria con varianza Py, y para n sulicientemente grande, la restriecién de potencia
de entrada tiene la forma
lo cual se aplica para cualquier secuencia de longitud n. ‘Teniendo en cuenta bloques de longitud n de la
entrada, la salida y el ruido, se tiene que26 Departamento de Ingenieria Bléetrica - UNS
yerts
Para n grande, y por la ley de los grandes niimeros se tiene que
2 lua