Professional Documents
Culture Documents
INVESTIGACIONES
RESUMEN
La presente investigacin busc caracterizar los errores y aciertos de estudiantes chilenos en su desempeo en
la Prueba PISA 2009. Se trabaj con datos secundarios disponibles en la base de datos de la Prueba PISA 2009.
La muestra estuvo compuesta por tems de lectura, matemticas y ciencias, aplicados a 5.600 estudiantes. La
estrategia de seleccin fue no-probabilstica y de tipo intencional, analizndose tems de alto y bajo acierto.
Empleando una estrategia metodolgica cuantitativa se concluy que los estudiantes chilenos presentaron
mayores dificultades en tems con problemas extensos, contextualizados, con ms de una variable y que presentan
informacin en distintos formatos. Respecto al tipo de tem, los ms complejos fueron los del tipo respuesta
abierta y alternativas complejas mltiples, menos comunes en nuestro sistema escolar. Los resultados de este
estudio pueden ser utilizados para perfeccionar los instrumentos de evaluacin empleados en el aula.
Palabras clave: prueba PISA, evaluacin, aprendizaje.
ABSTRACT
The present study sought to characterize the successes and failures of Chilean students in their performance in
2009 PISA Test. We worked with secondary data available in the database of the 2009 PISA test. The sample
consisted of items in reading, mathematics and science, applied to 5,600 students. The selection strategy was
non-probabilistic and intentional analyzing items with the higher and lower levels of success. Using a quantitative
methodological approach we concluded that the Chilean students have greater difficulties answering items with
large problems that have a context, involving more than one variable and presenting information in different
formats. Regarding the type of item, the most complex type were open response and complex multiple choice,
which are less common in our school system. The results of this study can be used to refine the assessment
instruments used in the classroom.
Keywords: PISA test, evaluation, learning.
*
Proyecto N11128-2011 titulado: Errores y aciertos comunes de estudiantes chilenos en la Prueba PISA 2009, financiado
por el MINEDUC a travs del Fondo Concursable FONIDE-PISA.
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
Resumo
O presente estudo buscou caracterizar erros e acertos de estudantes chilenos em seus desempenhos na prova do
PISA 2009. Trabalhou-se com dados secundrios disponveis no banco de dados da referida prova. A amostra
foi composta por itens de leitura, matemtica e cincias aplicados a 5.600 estudantes. A estratgia de seleo
foi no probabilstica intencional, analisando-se itens de altos e baixos acertos. Empregando-se uma estratgia
metodolgica quantitativa, concluiu-se que os estudantes chilenos apresentaram maiores dificuldades em itens
com problemas extensos, contextualizados, com mais de uma varivel e que apresentam informaes em diferentes
formatos. Quanto ao tipo de item, os mais complexos foram aqueles com respostas abertas e alternativas complexas
de mltipla escolha, menos comum em nosso sistema escolar. Resultados do estudo podem ser utilizados para
aperfeioar os instrumentos de avaliao utilizados em sala de aula.
Palavras chave: teste PISA, avaliao, aprendizagem.
1. INTRODUCCIN
294
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
Lectura
Competencia Procesos Contenidos Contextos
Comprender, uti- 1. Recuperar informacin a 1. Textos continuos, organiza- 1. Privado.
lizar y analizar travs de la revisin, bsque- dos en oraciones y prrafos, y 2. Pblico.
textos escritos da, localizacin y seleccin prosas como descripcin, narra- 3. Laboral.
para desarrollar el de datos. cin, exposicin, argumentacin 4. Educativo.
conocimiento y 2. Interpretar textos para pro- y prescripcin.
participar en la cesar la informacin a travs 2. Textos discontinuos que pre-
sociedad. de la comparacin y el con- sentan informacin en formato
traste de ella. diferente en funcin de su es-
3. Reflexionar y evaluar tex- tructura (avisos, anuncios, listas,
tos, relacionando la nueva in- grficos, formularios, diagramas
formacin con conocimientos o tablas).
procedentes de otras fuentes.
Fuente: elaboracin propia.
Matemticas
Competencia Procesos Contenidos Contextos
Identificar y com- 1. Reproduccin, que corres- 1. Cantidad. 1. Personal.
prender el papel ponde a la ejecucin de clcu- 2. Espacio y forma. 2. Educativa o laboral.
que juegan las los simples que requieren del 3. Cambio y relaciones. 3. Pblica.
matemticas en el conocimiento y la definicin 4. Probabilidad. 4. Cientfica.
mundo, emitir jui- de hechos, la representacin y
cios bien funda- la solucin de problemas ruti-
dos y utilizarlas narios.
eficazmente para 2. Conexin, que requiere la
dar respuesta a las reunin de ideas y procedi-
necesidades de mientos matemticos no ruti-
una persona como narios y que involucran la
ciudadano. construccin de modelos, la
interpretacin y la solucin de
problemas.
3. Reflexin, que implica enla-
zar conocimientos de distintas
procedencias, la formulacin
y la solucin de problemas
complejos, la comprensin y
la reflexin profunda, el desa-
rrollo de una aproximacin
matemtica original y la capa-
cidad de generalizacin.
295
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
Ciencias
A partir de sus resultados, PISA establece tres posibles reas de influencia en los
procesos educativos de un pas. La primera es la influencia en las mismas polticas y
prcticas evaluativas en educacin, la segunda se refiere a los estndares del currculo
y, por ltimo, la influencia en los indicadores de desempeo. De acuerdo a un estudio
realizado en 37 pases adscritos a la evaluacin, el 54% de ellos reconoci que el slo
hecho de saber la posicin de su pas en el ranking global influy en el cambio de polticas
o prcticas educativas. Ms del 80% de los pases reconoce haber realizado cambios
mayores o parciales en sus polticas o prcticas educativas (Breakspear, 2012).
En Chile, los resultados de PISA 2009 fueron muy relevantes para realizar cambios,
por ejemplo, en el currculo de la instruccin del lenguaje. A partir esto, hubo un giro
en el programa, cambiando el nfasis tradicional en la literatura y la gramtica, hacia
la comprensin lectora y el desarrollo de habilidades de comunicacin, competencias
evaluadas en la Prueba PISA (OCDE, 2010b).
El resultado obtenido por los estudiantes de un pas permite contar con informacin
de gran valor para la orientacin y el mejoramiento de sus prcticas educativas. Para ello,
es relevante avanzar desde una mirada centrada en los rankings que comparan pases
o escuelas segn el puntaje o la calificacin obtenida, hacia un anlisis que permita la
comprensin profunda del tipo de aprendizaje logrado y no logrado por los estudiantes
(Hargreaves, 2005; Dann, 2002). Dado que cada da es mayor el esfuerzo que se pide
a los centros escolares para que participen en evaluaciones educativas, podra resultar
motivador y til proporcionarles informacin especfica acerca de los puntos fuertes
y dbiles de los alumnos, lo que permitira mantener o corregir el rumbo del proceso
educativo (Navas y Urdaneta, 2011).
296
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
En este sentido, la presente investigacin consider de inters para los colegios conocer,
por ejemplo, el tipo de preguntas y habilidades medidas en la prueba PISA y compararlas
con las que realizan en aula, o analizar las dificultades que presentan los estudiantes en
los distintos tems y reas evaluadas, de modo de poder incorporar en sus evaluaciones la
estructura de este tipo de tems, intencionando la medicin de competencias.
Distintas investigaciones han mostrado que las prcticas del docente son un factor crtico
en la mejora del aprendizaje de los estudiantes (por ejemplo, Bellei, 2001; Cardemil,
2001). Esta relacin entre prcticas docentes y aprendizaje de los alumnos ha sido
probada a nivel bsico (Goldhaber & Anthony, 2007) y en enseanza media (Muoz
& Chang, 2007; McCaffrey, Lockwood, Koretz, Louis & Hamilton, 2004). Para Daz
y Poblete (2009), resulta evidente que los profesores requieren manejar estrategias de
resolucin de problemas para ensear las matemticas. Lo paradjico es que las mayores
resistencias de los docentes estn asociadas a aprender esta metodologa. Esto concuerda
con lo encontrado por Espinoza, Barb y Glvez (2011), quienes observaron que la forma
de ensear matemticas impide que los estudiantes exploren autnticamente posibles
caminos de abordaje y solucin de los problemas.
Se puede suponer que los docentes competentes en el diseo de evaluaciones de aula
son capaces de distinguir los tipos de preguntas que deben conformar una prueba y las
distintas habilidades de pensamiento que el alumno requiere desplegar para resolverlos
(Wiliam, Lee, Harrison & Black, 2004). Por lo tanto, un profesor hbil en construir
una prueba, tambin debera ser competente para responderla, como lo plantean las
investigaciones de Bayrakdar, Deniz, Akgn & Isleyen (2011).
Bayrakdar et al. (2011) estudiaron la relacin entre la capacidad de resolver problemas
y el xito en tems de la prueba PISA de estudiantes de pedagoga en matemticas. Los
estudiantes mostraron un mejor rendimiento en tems en que se peda encontrar un patrn
o frmula, y un desempeo ms bajo cuando deban utilizar pensamiento divergente. Un
estudio similar realiz Senz (2009), encontrando que los profesores obtenan un buen
resultado cuando las tareas evaluaban reproduccin del saber. No obstante, las dificultades
aparecan cuando implicaba habilidades de relacin o reflexin porque carecan de redes
cognitivas que caracterizan un aprendizaje profundo.
En Chile, el rea ms deficitaria de la prctica pedaggica es la aplicacin de pruebas
en aula. La calidad de los instrumentos de evaluacin construidos por los docentes,
las habilidades evaluadas y el uso de la informacin entregada por ellos, han resultado
ser las dimensiones peor evaluadas (Manzi y Flotts, 2007). Pellegrino, Chudowsky &
Glaser (2001) observaron grandes discrepancias entre los aprendizajes valorados por las
mediciones de gran escala y los aprendizajes que son evaluados por los docentes a travs
de pruebas en sala de clases, siendo las primeras significativamente ms complejas que
las ltimas.
Un ejemplo de ello se observa en el estudio que analiz las habilidades matemticas
medidas en octavo bsico por la prueba internacional TIMSS, la prueba nacional SIMCE,
y ejercicios de pruebas aplicadas en la sala de clases, encontrndose que el 15% de las
297
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
298
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
3. MTODO
3.1. MUESTRA
La muestra del estudio estuvo compuesta por 66 tems de Lectura, Matemticas y Ciencias,
aplicados a 5.600 estudiantes de 84 colegios municipales, 97 particulares subvencionados
y 20 particulares pagados, lo que corresponde al 35% del total de tems aplicados en
Chile. Estos datos estn disponibles en la base de datos PISA 2009.
El criterio de seleccin de los tems fue el porcentaje de acierto y error que mostraron
los estudiantes en ellos. Es as como el alto acierto involucraba tems contestados
correctamente por un porcentaje de alumnos igual o mayor al 70%, mientras que los tems
de bajo acierto eran contestados correctamente por un porcentaje de estudiantes igual o
inferior al 30%. De esta forma, la muestra estuvo compuesta por 20 tems que mostraron
alto acierto y 46 tems en que los estudiantes presentaron bajo acierto.
3.2. PROCEDIMIENTO
299
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
3.3. INSTRUMENTO
Estas preguntas corresponden Una cuchara de metal, una cuchara de madera y una cuchara de
a tems de seleccin mltiple plstico se ponen en agua caliente.
con 4 opciones de respuesta. Cul de las tres cucharas se sentir ms caliente despus de 15
Los estudiantes deben selec- segundos?
cionar la mejor respuesta.
A. La cuchara de metal.
B. La cuchara de madera.
C. La cuchara de plstico.
D. Las tres cucharas se sentirn igualmente calientes.
300
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
301
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
En estas preguntas de respuesta abier- Mara tiene 120 metros de cerca. Ella quiere hacer tres re-
ta se requiere que el estudiante genere cintos cuadrados para encerrar a sus chanchos, como se
una respuesta breve con un rango li- muestra en el diagrama.
mitado de respuestas posibles para
tener xito. A diferencia del tem Clo- Cul es el rea de cada uno de los recintos?
sed Constructed Response, la respues-
ta no se encuentra literalmente en el
contexto de la pregunta, sino que debe
ser resuelta a partir del conocimiento
previo del alumno. rea:............................................................m2.
302
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
Los tipos de tems que se presentan ms frecuentemente, en las tres reas evaluadas,
son los de Multiple Choice y Open Response. Sin embargo, en la prueba de Ciencias
toman fuerza los tems de Complex Multiple Choice, y en Matemticas se observan menos
preguntas del tipo Closed Constructed Response.
4. PLAN DE ANLISIS
Los anlisis hicieron uso de la variable de ponderacin (peso final de cada estudiante), as
como de los 80 pesos replicados (BRR con ajuste de Fay). Se utiliz el Programa STATA
11.2. Complementariamente, en los tems de respuesta abierta se incorpor el anlisis de
contenido, donde tres investigadores analizaron, de forma independiente, las respuestas
considerando los siguientes criterios: errores en la respuesta y elementos faltantes en
la respuesta. Luego las tres evaluaciones se sistematizaron y sintetizaron, buscando los
aspectos comunes que explicaban el error de los alumnos en esas preguntas.
5. RESULTADOS
5.1. DATOS DESCRIPTIVOS DE LOS TEMS DE ALTO Y BAJO ACIERTO SELECCIONADOS EN CADA
REA
303
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
Respecto al acierto, en las tres reas, el tipo de tem donde los estudiantes muestran
mayor acierto es el Multiple Choice. Esto ocurre en el 61% de los tems de mayor acierto de
Lectura, el 100% de los tems de mayor acierto en Matemticas y el 60% de las preguntas
de mayor acierto en Ciencias. La Tabla N 10 resume los resultados encontrados en tems
de alto acierto en las tres pruebas antes mencionadas.
5.2. RELACIN ENTRE TIPO DE TEM Y DESEMPEO EN ESTUDIANTES CHILENOS EN CADA UNA
DE LAS REAS EVALUADAS
Para determinar si las diferencias en los porcentajes de acierto de los tems en cada una
de las tres pruebas se asociaban al tipo de tem, se llev a cabo un ANOVA de un factor.
Los supuestos de ANOVA fueron testeados y se verific el cumplimiento de cada uno de
ellos. Se analiz el supuesto de la independencia de los residuos a travs de la Prueba
X2 para independencia, el supuesto de la normalidad de los residuos a travs del Test de
Kolmogorov-Smirnov y el de la homocedasticidad a travs del Test de Levene.
En Lectura el anlisis muestra que existen diferencias estadsticamente significativas
entre el tipo de tem y el desempeo de los alumnos (F(4, 89)=8,20, p< 0,001). La prueba
post hoc HSD de Tukey indic tres diferencias estadsticamente significativas, las cuales se
presentaron entre los tipos Multiple Choice y Complex Multiple Choice, Complex Multiple
Choice y Short Response, as como entre Complex Multiple Choice y Closed Constructed
Response. Esto significa que en Lectura, los estudiantes chilenos muestran un desempeo
304
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
N M DE N M DE N M DE
Multiple Choice 35 69 0,17 9 49 0,19 18 51 0,19
Complex Multiple Choice 9 31 0,22 7 31 0,07 17 42 0,16
Short Response 9 62 0,27 8 24 0,18 - - -
Closed Constructed Response 11 69 0,27 - - - - - -
Open Response 38 50 0,19 8 16 0,17 17 34 0,13
Se llev a cabo un ANOVA de un factor para determinar si las diferencias en los porcentajes
de acierto se asociaban al tipo de proceso cognitivo evaluado, no encontrndose diferencias
estadsticamente significativas. Es as como en Lectura, los resultados de la prueba ANOVA
correspondieron a F(2, 90)=2,15, p=0,12. En Matemticas, al analizar las diferencias en los
promedios de los tres tipos de habilidad, se obtuvo como resultado F(2, 32)=0,58, p=0,57.
305
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
Finalmente, en Ciencias, al analizar las diferencias en los promedios de los tres tipos de
tems, se obtuvo como resultado F(2, 50)=0,45, p=0,64.
6. DISCUSIN Y CONCLUSIONES
Analizar el error que cometen los estudiantes chilenos en la Prueba PISA permite poner el
foco en las habilidades cognitivas que los alumnos no logran poner en juego para resolver
problemas, como tambin en el desafo que implica para los docentes construir pruebas de
aula que evalen tales competencias. Conocer el tipo de tem que genera mayor dificultad
para los estudiantes, permite que los docentes se familiaricen con ellos y los comiencen a
utilizar con mayor frecuencia, modificando y complejizando las pruebas con las cuales se
evala a los estudiantes en las salas de clases.
306
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
Habilidad
Extensin Variables Formato Contexto
requerida
Contextos largos Ms de un clculo Datos en distinto Problemas rela- Pregunta que re-
(entre y 1 pgi- o frmula para re- formato (noticias, cionados con el quiere interpretar
na). solver el proble- narraciones, opi- diario vivir. e inferir datos no
ma. niones, entrevis- explicitados en el
tas). Contexto con da- contexto entrega-
Presentar ms de tos imaginarios o do.
una variable en Datos en distintos hipotticos.
una tabla o grfi- formatos, por Se requiere abs-
co. ejemplo: grficos, Problema con in- traer la lgica o el
tablas, problema, formacin que procedimiento de
Presentacin de frmulas. puede parecer ab- una situacin y
ms de una hip- surda o no lgica. transferirla a otra.
tesis, experimen- Problemas con da-
tos, argumentos. tos cuantitativos y Solicita integrar
cualitativos en un informacin desde
mismo contexto. distintos forma-
tos.
Integracin de co-
nocimiento y ex-
periencias.
Requiere reflexin
sobre informacin
entregada en el
problema.
Requiere evaluar
datos del contexto
para decidir.
Este estudio mostr que los estudiantes chilenos presentan dificultades para resolver
problemas complejos que requieren de un pensamiento analtico, integrativo y abstracto.
Ellos se equivocan ms frente a preguntas con problemas de larga extensin, con ms de
una variable, con informacin en distintos formatos no continuos, y con contextos de la
vida diaria.
Al parecer, los estudiantes no estn acostumbrados a resolver problemas largos
donde deben analizar informacin extensa. El error aumenta cuando, adems, se trata de
problemas con ms de una variable. Se observa que el razonamiento es adecuado para
una variable, pero no logran integrar datos de las otras variables en su respuesta. Los
alumnos consideran slo algunos de los aspectos, pero no todos los que son necesarios.
307
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
308
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
es un tem de bajo desempeo en Lectura, es decir, es un tem familiar para Lectura pero no
para las otras dos reas. Asimismo, en las tres reas los alumnos obtienen mal rendimiento
en el tem Complex Multiple Choice, el que efectivamente no es utilizado en nuestro
sistema escolar. Esto podra perjudicar el desempeo de los alumnos chilenos, por lo que
es importante comenzar a ocupar este tipo de tems en las pruebas de aula. Por otro lado,
los alumnos presentan mayor xito en tems Multiple Choice, donde la habilidad cognitiva
solicitada implica reconocer informacin y no promueve la construccin de respuestas, lo
que, al parecer, es ms comn en nuestro sistema escolar.
El anlisis de las respuestas correctas e incorrectas de los estudiantes informa sobre las
habilidades cognitivas menos utilizadas y nos lleva a reflexionar sobre el tipo de preguntas
que se deben incorporar en las pruebas de aula para poder desarrollarlas. Estos resultados
permitirn orientar las prcticas docentes y avanzar hacia una educacin de calidad.
REFERENCIAS BILIOGRFICAS
309
Estudios Pedaggicos XLI, N 1: 293-310, 2015
Aprender del error es un acierto. Las dificultades que enfrentan los estudiantes chilenos
en la Prueba PISA
310