Professional Documents
Culture Documents
Notas de
Probabilidad y
Estadstica
1.1.3
Contenido
1. Probabilidad condicional ............................................................................................................. 1
1.1. Independencia de eventos .......................................................................................................................... 1
1.2. Independencia de VAs .............................................................................................................................. 1
1.3. Ley de Probabilidad Total......................................................................................................................... 1
1.3.1. Distribuciones mixtas ...................................................................................................................... 1
1.4. Teorema de Bayes ..................................................................................................................................... 1
2. Distribuciones discretas............................................................................................................... 2
2.1. Bernoulli .................................................................................................................................................... 2
2.2. Binomial .................................................................................................................................................... 2
2.3. Geomtrica ................................................................................................................................................ 2
2.4. Binomial Negativa ..................................................................................................................................... 2
2.5. Poisson ...................................................................................................................................................... 2
2.6. Hipergeomtrica......................................................................................................................................... 2
3. Distribuciones continuas ............................................................................................................. 3
3.1. Normal ...................................................................................................................................................... 3
3.2. Cauchy ...................................................................................................................................................... 3
3.3. Exponencial ............................................................................................................................................... 3
3.4. Chi-Cuadrado ............................................................................................................................................ 3
3.5. Uniforme.................................................................................................................................................... 3
3.6. Gamma ...................................................................................................................................................... 3
4. Funcin de distribucin ............................................................................................................... 4
4.1. Propiedades de la funcin de distribucin ................................................................................................. 4
4.2. Distribucin del mximo y mnimo de varias VAs ................................................................................... 4
4.3. Convolucin (distribucin de la suma de dos VAs) .................................................................................. 4
4.4. Distribucin conjunta ................................................................................................................................ 4
5. Esperanza, varianza y cuantiles................................................................................................. 5
5.1. Valor esperado ............................................................................................................................ 6
5.2. Varianza .................................................................................................................................................... 6
5.3. Cuantil y mediana..................................................................................................................................... 6
5.3.1. Cuantil ............................................................................................................................................ 6
5.3.2. Cuantil emprico .............................................................................................................................. 6
5.3.3. Mediana y mediana emprica ........................................................................................................... 6
5.4. Covarianza ................................................................................................................................................ 6
5.5. Coeficiente de correlacin .......................................................................................................................... 6
6. Ley Fuerte de los Grandes Nmeros........................................................................................ 7
7. Montecarlo ..................................................................................................................................... 7
7.1. Clculo de integrales ................................................................................................................................. 7
7.2. Clculo de reas ........................................................................................................................................ 7
8. Estimacin ...................................................................................................................................... 7
8.1. Estimadores consistentes ........................................................................................................................... 7
8.2. Estimadores consistentes para la esperanza y varianza ............................................................................. 7
8.3. Sesgo de un estimador ............................................................................................................................... 8
8.4. Error cuadrtico medio .............................................................................................................................. 8
8.5. Mtodo de los momentos ........................................................................................................................... 8
8.6. Mtodo de mxima verosimilitud .............................................................................................................. 8
8.7. Estimadores por mxima verosimilitud de algunos parmetros ................................................................. 9
9. Teorema Central del Lmite ....................................................................................................... 9
10. Intervalos de Confianza para un estimador ............................................................................ 9
10.1. Caso 1 (intervalo para la media con varianza conocida distribucin normal) ....................................... 10
10.2. Caso 2 (intervalo para la media con varianza desconocida distribucin normal) .................................. 10
10.3. Caso 3 (intervalo para la media con varianza conocida cualquier distribucin) .................................... 10
10.4. Caso 4 (intervalo para la media con varianza desconocida cualquier distribucin) ............................... 10
10.5. Caso 5 (intervalo para la varianza distribucin normal) ....................................................................... 10
10.6. Esperanza y varianza ligadas (intervalo para la media)........................................................................... 10
11. Pruebas de hiptesis paramtricas ........................................................................................... 11
11.1. Test sobre la media (varianza conocida) distribucin normal ............................................................... 11
11.2. Test sobre la media (varianza desconocida) distribucin normal .......................................................... 12
11.3. Test sobre la media (varianza desconocida) madia y varianza ligadas.................................................. 12
11.4. Lema de Neyman-Pearson ....................................................................................................................... 12
12. Pruebas de aleatoriedad .............................................................................................................. 13
12.1. Test de rachas de subidas y bajadas ........................................................................................................ 13
12.2. Test de correlacin de rangos de Spearman ............................................................................................. 13
13. Pruebas de independencia .......................................................................................................... 13
14. Funcin de distribucin emprica .............................................................................................. 14
14.1. Teorema de Glivenko-Cantelli ................................................................................................................. 14
15. Pruebas de ajuste ......................................................................................................................... 14
15.1. Test de ajuste de Kolmogorov-Smirnov ................................................................................................... 14
15.2. Clculo del estadstico del test de ajuste de Kolmogorov-Smirnov .......................................................... 15
15.3. Test de Lilliefors de ajuste a normales..................................................................................................... 15
15.4. Test de Lilliefors de ajuste a exponenciales ............................................................................................. 15
15.5. Test de DAgostino .................................................................................................................................. 16
16. Pruebas de comparacin ............................................................................................................. 16
16.1. Test de comparacin de Kolmogorov-Smirnov......................................................................................... 16
17. Tablas .............................................................................................................................................. 17
17.1. Distribucin normal ................................................................................................................................. 17
17.2. Distribucin t-Student ............................................................................................................................. 17
17.3. Distribucin Chi-Cuadrado ...................................................................................................................... 18
17.4. Test de rachas de subidas y bajadas ........................................................................................................ 18
17.5. Test de correlacin de rangos de Spearman ............................................................................................. 20
17.6. Test de ajuste de Kolmogorov-Smirnov ................................................................................................... 22
17.7. Test de Lilliefors de ajuste a Normales .................................................................................................... 23
17.8. Test de Lilliefors de ajuste a Exponenciales............................................................................................. 23
17.9. Test de DAgostino .................................................................................................................................. 24
17.10. Test de comparacin de Kolmogorov-Smirnov ....................................................................................... 24
Probabilidad condicional
Pr A B
Definicin: Pr A | B
Pr B
Independencia de eventos
Los eventos A y B son independientes Pr A B Pr A Pr B
Independencia de VAs
Dos VAs X, Y son independientes si para cada par de conjuntos A,B se tiene:
Pr X A, Y B Pr X A Pr Y B
Pr X x, Y y Pr X x Pr Y y FXY x, y FX x FY y
f XY x, y f X x fY y
Pr A Pr B j Pr A | B j
k
j 1
Distribuciones Mixtas
k
p1 , p2 ,..., pk nmeros reales positivos tales que i 1
pi 1 (o sea que estos valores forman una
distribucin de probabilidad). Entonces podemos definir una nueva funcin G por:
G x p1 F1 x p2 F2 x ... pk Fk x
Teorema de Bayes
Sean B1 ,..., Bk eventos que forman una particin de S (espacio muestral) y Pr B j 0 j=1,...,k .
Y sea A un evento tal que Pr A 0 . Entonces para cada i =1,...,k se tiene:
Pr Bi Pr A | B j
Pr Bi | A
Pr B Pr A | B
k
j j
j 1
Hernn Esteves 1
Binomial Bin n, p
Hipergeomtrica H n, N , D
Tengo N bolas en total. Hay D rojas.
Cuenta la cantidad de xitos en una muestra de n
H cuenta la cantidad de bolas rojas que saco sin
(o en una secuencia de intentos de Bernoulli),
reponer de las n que saqu en total.
donde p es la probabilidad de xito.
D N D
n x
p 1 p
n x
x n x
con x=0,...,n
Pr X x x con x=0,...,n
0 Pr X x N
en otro caso
n
Media Varianza Mediana 0 en otro caso
np np 1 p np o np
Media Varianza Mediana
*Cuando n es grande y p es cercano a 0, la
distribucin binomial con parmetros n y p se
nD D N D N n Indefinida
n
puede aproximar por una Poisson de parmetro
N N N N 1
np. Binomial Negativa BN r , p
*Si X ~ Bin n, p entonces: X X1 ... X n BN cuenta la cantidad total de intentos que
donde X i ~ Ber p fueron requeridos hasta obtener el r-simo xito
incluido, donde p es la probabilidad de xito.
*Si X ~ Bin n1 , p y Y ~ Bin n2 , p
x 1 r
p 1 p con x=r,r+1,...
x r
independientes entonces: Z ~ Bin n1 n2 , p
Pr X x r 1
donde Z X Y 0
en otro caso
*Si X ~ BN n1 , p y Y ~ BN n2 , p
independientes entonces: Z ~ BN n1 n2 , p
donde Z X Y
Hernn Esteves 2
Normal N , 2 Chi-Cuadrado 2 k
1 x
2
k son los grados de libertad.
1
f x e 2
2 Definicin: Si X ~ 2 n entonces:
Media Varianza Mediana
*Si X ~ N 1 , 1
2
y Y ~ N , 2 2
2
n 2n n 1 2 / 9n
3
2 12 2
Media Varianza Mediana
Indefinida Indefinida x0 Gamma ,
Exponencial exp x 1 x
e x0
f x
0 x<0 0
f x x si no
e x0
0
con x e dx
x<0
1
F x
x
, >0
x
1 e x0 0
Hernn Esteves 3
Pr X a 1 F a
Pr a X b F b lim F x
Pr X a 1 lim F x
xa
xa
Pr a X b Pr a X b Pr a X b Pr a X b F b F a
X 1* ~ min X 1 ,..., X n FX * x Pr X 1* x 1 1 FX1 x 1 FX 2 x ... 1 FX n x
1
X n* ~ max X1 ,..., Xn FX * x FX1 x FX 2 x ... FX n x
n
Convolucin
Sean X e Y VAs independientes y sea Z X Y . Entonces:
f X Y z f X z x f Y x
x f X Y z f X z x fY x dx
Hernn Esteves 4
Distribucin conjunta
Definicin:
Discreta: Continua:
f XY x, y Pr X x, Y y Pr X , Y C f XY x, y dxdy
C
Y debe cumplirse: f x, y 1
f x, y dxdy 1
XY
2 Y debe cumplirse: XY
2
Propiedades y teoremas:
x
FX x lim FXY x, y f X t dt
y
y
FY y lim FXY x, y f t dt
Y
x
y x
FXY x, y Pr X x, Y y f r, s drds
Hernn Esteves 5
X n*/ 2 si n es par
Varianza mn *
X n /21 si no
Definicin: X 2 Var X E X
X
2
Var X 0 Covarianza
Var aX b a Var X
2
Definicin: Cov X , Y E X Y
Var X E X 2 E X
2 X Y
Var X E X 2 Propiedades:
Hernn Esteves 6
X ... X n
Pr lim 1 1
n n
X 1 ... X n
Donde X n es el promedio de la muestra.
n
Montecarlo
Clculo de Integrales
b
1 n 1
n i 1
f U i
c.s.
n
b a a
f x dx
Clculo de reas
Pr U A rea A a , b c, d .
# i :1 i n y U i D
Si an b a d c entonces:
n
an
c.s.
n
rea D
Estimacin
Estimadores Consistentes
X n
c. s.
n
n2
c.s.
n
2 n
c. s .
n
sn2
c.s .
n
2 sn
c. s.
n
1 n
Xi Xn 1 n
Xi Xn
2 2
Donde: n2 sn2
n i 1 n 1 i 1
Hernn Esteves 7
Sesgo de un Estimador
E Tn
E Tn
lim E Tn 0
n
Definicin: ECM Tn E Tn
2
Si el estimador tiene sesgo an entonces:
ECM Tn Var Tn an 2
Xn
c.s .
EX
n
n
1 EX2
n
X i2
c.s .
n
i 1
1 n
X ik
c.s .
EXk
n i 1
n
l | x1 ,..., xn ln L | x1 ,..., xn
Hernn Esteves 8
Ber
X n X
N , 2
n
Pois
X n 2 1 n
X i X n
2
nm n i 1
BN m, p
p
x1 ... xn
1 a min x1 ,..., xn
exp
U a, b
Xn b max x1 ,..., xn
*Todos o algunos estimadores pueden coincidir con los estimadores por el mtodo de los momentos
Si Z n
X n Z N 0,1
d
2
Adems se observa: X n
d
N ,
n
Pr Tn I 1
1 FN 0,1 z p p
Si T ~ t n entonces FT x 1 FT x .
1 FT t p n 1 p
Hernn Esteves 9
Caso 1
z /2 z
Xn , X n /2
n n
Caso 2
t / 2 n 1 sn t n 1 sn
Xn , X n /2
n n
Caso 3
X1 ,..., X n ~ Cualquiera iid . Donde 2 es conocido y n es muy grande. El IdC para la esperanza es:
z /2 z
Xn , X n /2
n n
Caso 4
X1 ,..., X n ~ Cualquiera iid . Donde 2 es desconocido y n es muy grande. El IdC para la esperanza es:
t / 2 n 1 sn t n 1 sn z /2 sn z s
Xn , X n /2 Xn , X n /2 n
n n n n
Caso 5
n 1 sn 2 n 1 sn 2
2 , 2
/ 2 n 1 1 / 2 n 1
Si f es continua entonces f X n
n
c. s. 2
y se tiene que el intervalo para el estimador es:
z
X /2
f Xn
, X
z /2 f X n
n n
n
n
Hernn Esteves 10
Definicin: el estadstico del test es el valor que vamos a usar para chequear si cumple o no con la regin
critica.
Definicin: Si nuestra muestra X 1 ,..., X n iid hace que el estadstico cumpla con la regin crtica
decidimos H1 , si no H 0 .
Los siguientes tests son para una muestra X 1 ,..., X n ~N , 2 iid o para una muestra X1 ,..., X n iid donde
n es muy grande (para poder aplicar el TCL).
H 0 : 0
H 0 : 0 H 0 : 0
n X n 0
H1 : 1 R z
H1 : 0 H1 : 0
1 0
H 0 : 0
H 0 : 0 H 0 : 0
n X n 0
H1 : 1 R za
H1 : 0 H1 : 0
1 0
H 0 : 0
R
n X
n 0
z /2
H1 : 0
Hernn Esteves 11
H 0 : 0
H 0 : 0 H 0 : 0
n X n 0
t n 1
H1 : 1 R
H1 : 0 H1 : 0
sn
1 0
H 0 : 0
H 0 : 0 H 0 : 0
n X n 0
t n 1
H1 : 1 R
H1 : 0 H1 : 0
sn
1 0
H 0 : 0
R
n X
n 0
t /2 n 1
H1 : 0 sn
En el caso de la media y varianza ligadas puede testearse de forma anloga al anterior reemplazando
t n 1 por za y sn por f X n
Test sobre ( desconocido)
H0 : 0
H0 : 0 H0 : 0 s2
H1 : 1 R n 1 n2 2 n 1
H1 : 0 H1 : 0 0
1 0
H0 : 0
H0 : 0 H0 : 0 s2
H1 : 1 R n 1 n2 12 n 1
H1 : 0 H1 : 0 0
1 0
H0 : 0 s2
R n 1 n2 12 /2 n 1 , 2 / 2 n 1
H1 : 0 0
Lema de Neyman-Pearson
H 0 : 0
Sean X1 ,..., X n iid con densidad f y el test: .
H1 : 1
RNP L 1 | x1 ,..., xn k L 0 | x1 ,..., xn
Donde k debe ser hallado y debe ser tal que se cumpla la igualdad:
Hernn Esteves 12
Pruebas de aleatoriedad
Tenemos X1 ,..., X n con distribucin continua sin saber si son iid o no. Nuestro objetivo es decidir:
H 0 : X 1 ,..., X n es iid
H1 : X 1 ,..., X n no es iid
Teniendo la muestra X1 ,..., X n lo que hacemos (sin ordenarla) es escribir un 1 si el siguiente es mayor o
igual, si no un 0. Luego contamos la cantidad de rachas de ceros y unos y ste nmero es R .
Tenemos una muestra X1 ,..., X n . Lo que se hace es escribir la posicin R X i (rango) en la que estara
cada X i si la muestra estuviera ordenada. El estadstico del test es:
n
6 R Xi i
2
rs 1 i 1
n n2 1
r s P
*Se deben realizar ambos tests y si al menos uno de ellos falla entonces no podremos concluir que la
muestra sea iid.
Pruebas de independencia
Tenemos las muestras X 1 ,..., X n ~ F1 y Y1 ,..., Yn ~ F2 del mismo tamao n . Nuestro objetivo es decidir:
H 0 : X e Y son independientes
H1 : X e Y no son independientes
Usamos el test de correlacin de rangos de Spearman como se describe anteriormente a diferencia que ahora
lo que hacemos es obtener los rangos para cada muestra y nuestro estadstico es:
n
6 R X i R Yi
2
rs 1 i 1
n n2 1
Hernn Esteves 13
Teorema de Glivenko-Cantelli
sup Fn t F t
c.s .
n
0
t
Pruebas de ajuste
Test de ajuste de Kolmogorov-Smirnov
Sea la muestra X 1 ,..., X n iid y F0 funcin de distribucin conocida y determinada (se conocen todos los
parmetros). Nuestro objetivo es decidir:
H 0 : X ~ F0
H1 : no H 0
Lo que se hace es hallar la funcin de distribucin emprica segn la muestra y calculamos el estadstico del
test:
Dn sup Fn t F0 t
t
Dn valor de la tabla
*La descripcin para calcular Dn est en la prxima pgina.
Hernn Esteves 14
Clculo de Dn
Para hallar el estadstico del test Dn primero ordenamos la muestra de forma creciente y denotamos como
X i* al valor de la muestra que qued en la posicin i luego de ordenar. Nos definimos:
k F0 X k Fn X k
k F0 X k Fn X k
F0 Fn X i
F0 X1* F0 X 1* F0 X 1* 0
1 1
X 1*
n n
k 1
F0 X k* F0 X k* F0 X k*
k k
X k*
n n n
n 1
X n* F0 X n* 1 F0 X n* 1 F0 X n*
n
Sea la muestra X 1 ,..., X n iid y F la funcin de distribucin normal aproximada a partir de esa muestra con
los estimadores sn2 para la varianza y X n para la media. Nuestro objetivo es decidir:
Es otra aplicacin del test de Kolmogorov-Smirnov (anlogo al anterior) donde queremos decidir si la
1 . Esta aplicacin tambin tiene
muestra viene de una exponencial con su parmetro aproximado
Xn
una tabla particular.
Hernn Esteves 15
Test de DAgostino
Donde sn es el estimador descrito anteriormente para la desviacin estndar y X i* indica el valor que
qued en la posicin i luego de ordenar la muestra de forma creciente.
La tabla nos da intervalos; si el estadstico cae dentro del intervalo entonces se acepta la hiptesis nula.
Pruebas de comparacin
Test de comparacin de Kolmogorov-Smirnov
Tengo las muestras X 1 ,..., X n ~ FX iid y Y1 ,..., Ym ~ FY iid donde tambin cada Yi es independiente de cada
X i . Nuestro objetivo es decidir:
H 0 : FX FY
H1 : no H 0
Lo que hacemos es hallar las funciones de distribucin empricas FnX y FmY para cada muestra. Nuestro
estadstico es:
Para calcular el estadstico, tomamos todos los datos de ambas muestras y los ordenamos. De esta forma
Z i* indica el dato que qued en la posicin i luego de haber juntado ambas muestras en una sola lista y
ordenarla. Nuestra tabla ahora tiene la forma:
correspondiente y del
lado de Y no sumamos
*
nada (repetimos el Z nm 1 1 0
valor anterior). En
este caso al ser la
En esta columna restamos los valores
primera fila ponemos
de las dos columnas anteriores y
0.
tomamos el valor absoluto. El
mximo de esta columna es el
Hernn Esteves 16
estadstico
Tablas
Distribucin Normal Distribucin t-Student
Hernn Esteves 17
p es el rea a la derecha.
Hernn Esteves 18
2n 1
el p-valor de la prueba es Pr Z zL con
*
Si R
3
2n 1
R 0.5
Z ~ N 0,1 y zL 3
16n 29
90
2n 1
el p-valor de la prueba es Pr Z zL con
*
Si R
3
2n 1
R 0.5
Z ~ N 0,1 y zL 3
16n 29
90
Hernn Esteves 19
Hernn Esteves 20
Hernn Esteves 21
Hernn Esteves 22
Hernn Esteves 23
Hernn Esteves 24
Hernn Esteves 25