REGRESION LINEAL

Y CORRELACION

 PALACION PALACIOS, Daniel

 SANCHEZ HUAMAN, Henry
 OSORIO TELLO , Jonathan

 CUBA ATENCIO, Misael

 MINAYA ALAYA ,Luis
Diagramas de dispersión y
curvas de regresión

 El diagrama de dispersión se obtiene representando cada
observación
 (xi, yi) como un punto en el plano cartesiano XY.

El diagrama de dispersión puede presentar

formas diversas:
 Ejemplo de las alturas y los
pesos

Consideremos las
observaciones de los pesos
y alturas de un conjunto de
10 personas: el
individuo 1 tiene 161 cm de
altura y 63 kg de peso, el
individuo 2 tiene 152 cm de
altura
y 56 kg de peso, etc., tal
como se ve en la tabla
siguiente:
Regresión Lineal
 La regresión es un método de análisis de los datos de la realidad
económica que sirve para poner en evidencia las relaciones que
existen entre diversas variables.

 Una línea recta denominado regresión lineal, que se usa en el
laboratorio en varias situaciones:
 Para calcular la velocidad en una experiencia de movimiento
rectilíneo .
 Para calcular la constante elástica de un muelle, colocando pesas
en un platillo que cuelga de su extremo libre y midiendo la
deformación del muelle .
 ETC.




Regresión Lineal
 En estadística la regresión lineal o ajuste lineal es un método
matemático que modeliza la relación entre una variable
dependiente Y, las variables independientes Xi y un término
aleatorio ε. Este modelo puede ser expresado como:



 Donde :
 β0 es la intersección o término "constante",

 Las βi son los parámetros respectivos a cada variable

independiente.
 P es el número de parámetros independientes a tener en cuenta
en la regresión. La regresión lineal puede ser contrastada con la
regresión no lineal.

Formulas Empleadas
Regresión Lineal Simple
Ahora asum irem os que si hay una relación de causalidad de la
variable X (causa) hacia la variable Y (efect o). Adem ás, se sabe
que esa relación es de t ipo lineal, dent ro del rango de los dat os.
Est ablecerem os un m odelo para explicar la caiisa (Y) en t érm inos
el efect o (X), del t ipo siguient e:

Donde:
para t = 1,2,..., n
En que B1 y B2 son dos cantidades fijas (parámetros del modelo) y los Ut son
cantidades aleatorias que representan las diferencias entre lo que postula el
modelo a y lo que realmente se observa,

Por esa razón a los e los llamaremos "errores" o "errores aleatorios". Se

asume que tienen valor esperado 0 y desviación standard común σ
 Ejemplo 1
Continuemos con el anterior ejemplo de las alturas y pesos de un grupo de diez
personas.
Para determinar la recta de regresión, calculamos la covarianza maestral Sxy, la
varianza maestral y las medias y
Diagrama de
Dispersión
Ejercicio 2:
 Para hacer un modelo de regresión necesitamos lápiz (o bolígrafo),
folios y una calculadora
 elemental. Nada mas.
 En las pr¶acticas era su¯ciente con introducir los datos relativos a x
y a y. Sin embargo, para
 hacer las cosas sin ordenador hay que trabajar un poquito
m¶as. Por ese motivo vamos a hacer
 ejercicios con pocos datos.
 X =Media de x
Solución: Y =Media de y
Sxy = Sumatoria de XY =Sxy/n – X*Y
2 2
Sx2= Sumatoria de X =Sx /n-x
Ejercicio 3:
El departamento de personal de una empresa informática dedicada a la introducción de
datos ha llevado a cabo un programa de formación inicial del personal. La tabla siguiente
indica el progreso en pulsaciones por minuto (p.p.m.)
obtenido en mecanografía de ocho estudiantes que siguieron el programa y el
número de semanas que hace que lo siguen:
Diagrama de dispersión:

El diagrama de dispersión nos muestra que la relación entre las dos

variables es lineal con pendiente positiva, de manera que cuantas más
semanas pasan, mayor es la ganancia de velocidad. Por tanto, tiene
sentido buscar la recta de regresión.
A partir de la tabla de cálculos siguiente:
 ANALISIS DE
REGRESIóN Y DE
CORRELACIóN
Regresión y Correlación
 Análisis de regresión y correlación
 Relación entre variables
 Ajuste de curvas
 El método de los mínimos cuadrados:
 Relaciones lineales y no lineales
 Error típico de estimación
 Coeficiente de Correlación
Regresión y Correlación
 Recta de regresión y el coeficiente de
correlación lineal
DIAGRAMA DE DISPERSIÓN

CURVA DE APROXIMACIÓN
RELACIÓN LINEAL

RELACIÓN NO LINEAL
Ajuste de curvas
 Diagrama de dispersión
 Curva de aproximación
 Relación lineal
 Relación no lineal
 Curva de ajuste


Ecuaciones de curvas de
aproximación
 Linea recta
 Parábola
 Curva cúbica
 Curva cuártica
 Curva de grado n
 Hipérbola
 Exponencial
 Geométrica

El método de los mínimos cuadrados:
Y=mX+b
COEFICIENTE DE
CORRELACIóN
Medidas de Correlación
 Cualitativa ( observación directa sobre el
diagrama de dispersión)
 Cuantitativa ( dispersión de los datos
alrededor de las curvas o rectas)

¿Qué relación hay entre LxA
de una hoja con su area?
Relación entre LxA y el área de las hojas
del árbol A

16
14
Area de la hoja

12
10
8
6
4
2
0
4 6 8 10 12 14 16 18 20 22 24 26
Largo x Ancho de la hoja
Examina la relación

Relacion entre LxA y el area de las

hojas del arbol A

16
14
xi − x
- +
12 yi − y
Area de la hoja

++
10
8 y
6
4 - - + -
2
0
x
4 6 8 10 12 14 16 18 20 22 24 26

Largo x Ancho de la hoja

Coeficiente de correlación
Si la p e n d ie n t e d e la n
re ct a e s p osit iva
e sp e r a m os q u e : ∑ (x
i =1
i − x )( y i − y ) > 0
n

∑( x i − x ) ( yi − y )
ya que m= i =1
n >0
∑ i
( x − x
i =1
) 2

Coe f icie n t e d e
∑ (x i − x )( y i − y )
s xy
corr e la ción r= i =1
=
n n sx s y
∑ (x
i =1
i − x) 2
∑ (y
i =1
i − y) 2
Significado de la
correlación
n n

∑ (x i − x )( y i − y ) ∑ (x
i =1
i − x) 2

r= i =1
=m
n n n

∑ i
( x
i =1
− x ) 2
∑ i
( y − y ) 2

i =1
∑ i
( y
i =1
− y ) 2

El coeficient e de correlación y la
pendient e t ienen el m ism o signo.
r es una m edida de la dependencia
est adíst ica (num érica) lineal de la
variables x, y.
Ejemplos de correlación
r> 0
r cerca de 0

r< 0

No hay relación lineal

Propiedades de r
r > 0 si y solo si m > 0
-1 = < r <= 1
r cerca de 1 indica dependencia lineal
crecient e fuert e
r cerca de 0 indica no hay dependencia
est adíst ica lineal
r cerca de -1 indica dependencia lineal
decrecient e fuert e
Propiedades de r
 x, y pueden estar correlacionadas, pero no
quiere decir que x causa y o que y causa
a x.
 x, y pueden ser dependientes, pero su
coeficiente de correlación puede ser 0:
 Ejemplo:
◦ x = -1, 0, 1 y = x2 r=0
◦ (la dependencia entre x , y NO es lineal)
Dependientes pero no
correlacionadas
Y

-1 0 1 X

n u m e r a d or d e r = ( -1 ) . 3 3 + ( 0 ) 0 + ( 1 ) . 3 3 = 0
Coeficiente de correlación
 Es la raíz cuadrada del coeficiente de
determinación:

SSR SST − SSE

r= R = 2
=
SST SST
Referencias
 Mann: Sec. 13. 6, 13.7
◦ probs: 59-67, 75-77, 80, 81,


 Weiss: Sec. 13.4

◦ probs: 75, 77, 79, 82, 85
◦
 Datos en hoja de Excel
Correlacion formula
r=1 (ó 0,99<r<=1) Dependencia funcional directa Exacta

0< r< 1 Dependencia aleatoria directa Muy fuerte r de 0,9 a 0,99

Fuerte r de 0,7 a 0,9
Moderada r de 0,4 a 0,7
Débil r de 0,2 a 0,4
Muy Débil r de 0 a 0,2

r=0 X,Y aleatoriamente Nula

independientes
-1 < r < 0 Dependencia aleatoria inversa Muy Débil r de -0,2 a 0
entre X, Y Débil r de -0,4 a -0,2
Moderada r de -0,7 a -0,4
Fuerte r de -0,9 a -0,7
Muy Fuerte r de -0,99 a -0,9

r=-1 (ó -1<=r < -0,99) Dependencia funcional Inversa Exacta

Ejercicio
Matemáticas 2 3 4 4 5 6 6 7 7 8 10 10

Física 1 3 2 4 4 4 6 4 6 7 9 10

xi yi x i ·y i x i 2 yi2

2 1 2 4 1
3 3 9 9 9
4 2 8 16 4
4 4 16 16 16
5 4 20 25 16
6 4 24 36 16
6 6 36 36 36
7 4 28 49 16
7 6 42 49 36
8 7 56 64 49
10 9 90 100 81
10 10 100 100 100
72 60 431 504 380
ANáLISIS DE DATOS
EN SPSS
Datos Iniciales
Notas C.Int
Horas
Partimos de la información obtenida de una
muestra de 10 elementos de una 8 120 4
determinada distribución. Las variables
7 125 3
sometidas a observación son:
6 100 3
• Notas Obtenidas
8 115 4
• Coeficiente de Inteligencia
7 120 4
• Horas de Estudio
4 95 2
3 80 2
1 80 1
6 100 3
5 90 3
 Objetivos Iniciales:

¿ Entendemos que las notas que saca un estudiante

depende de las horas de estudio de dedicación a la
asignatura o del Coeficiente de Inteligencia que tenga ? Ó
¿ de Ambas variables ?
A partir de aquí nos
planteamos, en primer
lugar, realizar un
análisis de regresión.

r el análisis por el método introducir las dos variables simultáneamente

Matriz de Correlación

Correlaciones
 Planteamiento de que
NOTAS CI HORAS
existe o no asociación
Correlación NOTAS 1,000 ,900 ,959 lineal entre las
de Pearson CI ,900 1,000 ,819 variables
HORAS ,959 ,819 1,000
Sig. NOTAS , ,000 ,000  Ho : el coeficiente de
(unilateral) CI ,000 , ,002
HORAS ,000 ,002 , correlación lineal es
N NOTAS 10 10 10 cero.
CI 10 10 10
HORAS 10 10 10
 Si el p-valor asociado es
menor que α σ ε
ρ ε χ ηαζ α λ α
η ι π . Νυ λ α

b
Variables introducidas/eliminadas

Variables Variables
Nos indica las variables Modelo introducidas eliminadas Método
1 HORAS, CIa , Introducir
introducidas y el método utilizado a. Todas las variables solicitadas introducidas
b. Variable dependiente: NOTAS
Análisis de la Varianza
Resumen del modelo
R Error típ.
R cuadrado
Modelo R cuadrado corregida
1 ,979a ,959 ,947
a. Variables predictoras: (Constante), HORAS, CI
K-1
Raíz cuadrada de la
varianza residual
de la
estimación
,5244
Coeficiente de determinación
corregido. Depende del numero
de variables y numero de
SCR= Suma de los cuadrados de la regresión elementos.
n-k

ANOVAb

Suma de Media
Modelo cuadrados gl cuadrática F Sig. SCR /(k − 1)
1 Regresión 44,575 2 22,287 81,036 ,000a F=
Residual 1,925 7 ,275 SCE /( n − k )
Total 46,500 9
La Hipótesis nula: La ecuación de
a. Variables predictoras: (Constante), HORAS, CI regresión muestral no explica un
b. Variable dependiente: NOTAS porcentaje significativo de la varianza de
la variable

Cuanto mayor sea F mas se

n-1 SCE= Suma de los cuadrados de los errores explica que se queda por
explicar
Coeficientes Notas = −3,81 + 1,53horas + 0,047C.I

Coeficientesa

Coeficient
es
Coeficientes no estandari
estandarizados zados
Modelo
1 (Constante)
B
-3,815
Error típ.
1,261
Beta t
-3,025
Sig.
,019
Al igual que
CI 4,731E-02 ,018 ,348 2,594 ,036 en otros
HORAS 1,540
a. Variable dependiente: NOTAS
,307 ,674 5,023 ,002
contrastes se
rechazara la
Coeficientes de regresión estandarizado variable si se
Coeficientes Valor t acepta que el
B/error típico coeficiente es
β = β1
Sx Cuanto mayor sea igual a cero.
Sy mas se explica de la
variable dependiente
Ganancias
R2 = 96 %
4%

COEF. INTEL
15% 4%
81%
77%

HORAS
92%

¿Que aporta cada una de los regresores a

la explicación de la variable dependiente?
Ganancias

Mét odo Int roducir por bloques 1º horas, 2º C.Int .

 Resumen del modelo

R Error típ.
R cuadrado de la
Modelo R cuadrado corregida estimación
1 ,959a ,919 ,909 ,6870
2 ,979b ,959 ,947 ,5244
a. Variables predictoras: (Constante), HORAS
b. Variables predictoras: (Constante), HORAS, CI

ANOVAc

Suma de Media
Modelo cuadrados gl cuadrática F Sig.
1 Regresión 42,725 1 42,725 90,536 ,000a
Residual 3,775 8 ,472
Total 46,500 9
2 Regresión 44,575 2 22,287 81,036 ,000b
Residual 1,925 7 ,275
Total 46,500 9
a. Variables predictoras: (Constante), HORAS
b. Variables predictoras: (Constante), HORAS, CI
c. Variable dependiente: NOTAS

Coeficientesa

Coeficient
es
Coeficientes no estandari
estandarizados zados
Modelo B Error típ. Beta t Sig.
1 (Constante) -,854 ,702 -1,216 ,259
HORAS 2,191 ,230 ,959 9,515 ,000
2 (Constante) -3,815 1,261 -3,025 ,019
HORAS 1,540 ,307 ,674 5,023 ,002
CI 4,731E-02 ,018 ,348 2,594 ,036
a. Variable dependiente: NOTAS
Mét odo Int roducir por bloques 1º C.Int , 2º Horas.
 Resumen del modelo

R Error típ.
R cuadrado de la
Modelo R cuadrado corregida estimación
1 ,900a ,809 ,786 1,0527
2 ,979b ,959 ,947 ,5244
a. Variables predictoras: (Constante), CI
b. Variables predictoras: (Constante), CI, HORAS

ANOVAc

Suma de Media
Modelo cuadrados gl cuadrática F Sig.
1 Regresión 37,634 1 37,634 33,960 ,000a
Residual 8,866 8 1,108
Total 46,500 9
2 Regresión 44,575 2 22,287 81,036 ,000b
Residual 1,925 7 ,275
Total 46,500 9
a. Variables predictoras: (Constante), CI
b. Variables predictoras: (Constante), CI, HORAS
c. Variable dependiente: NOTAS

Coeficientesa

Coeficient
es
Coeficientes no estandari
estandarizados zados
Modelo B Error típ. Beta t Sig.
1 (Constante) -7,045 2,178 -3,234 ,012
CI ,122 ,021 ,900 5,827 ,000
2 (Constante) -3,815 1,261 -3,025 ,019
CI 4,731E-02 ,018 ,348 2,594 ,036
HORAS 1,540 ,307 ,674 5,023 ,002
a. Variable dependiente: NOTAS
Método por Pasos
• Método que se utiliza para la obtención semiautomatica del
modelo de regresión. A través de la selección de cada una de
las variables
• Se irán introduciendo las variables a partir de aquella que
tenga mayor correlación.
• Se establece criterios de entrada y salida
• PIN probabilidad de entrada
• POUT probabilidad de salida (siempre es mayor que la
probabilidad de entrada
• El criterio de aceptación de la variable es que se rechace la
hipótesis nula de que el coeficiente sea igual a cero
 e s u m e n d e lm o

R c E u ro a rtíp d .d a
r ed
R c c u e M oR a s o re d tim d g a
r a e id d c lo a o ió
,
9 ,
9 5 ,6 ,9 1 19 8 0 9 a 7 9 0

Método por Pasos ,9 ,9 7 ,5 ,9 5 29 2 4 9 b 4 7 4

a V . a ria b le
b V . a ria b le

d u c id a a s /e lim in a d a s

ria a b ria le b s le s C o e fic ie a n te s

uM in co a iddM d aeé a slo
t s d o
1 P o rp a C s o o e s ic
f ( e
c i r n
ite r t
io
H O R, A S
< = ,
0 5 0 ,P e ro s b a b
2 CP ob o e rp fic a e ie s s n o ta t s n
e s (c d n rite a o rio ri
le C s I e , x c l
u id a s
e < s = t
a ,0 n 5 d z 0 a a ,P riz d ro a o b d s a o b s
a VE . as riata bd leís Mdtic oeo EB dps Bro eed e rtíp lone ta. St d ig ie . n
C c o o re lin la e -,8 c 1 a,75 ió (C -1 lid0 4n o ,2 a 2 n ,21 d s 56 ta 9 n te
taM do edT pS t neo aig 2 trolole rc. ,1 ra ia ,29 Hn 9l ,931 Oc ,5 5 0 Ria ,01 9 A 05 S 0
5 41 C
,0
9 8 I3
47, a 60 ,3 -3 0 2 1,8 9 2 ,2 1 (C -3 65 o ,0 1 n ,02 s 15 ta 9 n te
a V . a ria b 1 le 5
, s 3
, 4 H p 5 6
, 00 O re,0 7 7 R ,d 02 4 A 0ic3 S 2
to ra s
b V 4 . a 7 , ria 3 b 1 le E d ,0-0 C e2 ,312 I p,5 4 8 e ,09 8 3n4 d6 ie n
a V . a ria b le d e

Indicador de la colinealidad Tolerancia = ( 1-R2)

existente
entre las variables. Si el valor de la tolerancia
es próximo a 0, la variable
será casi una combinación
lineal de las restantes.