Professional Documents
Culture Documents
SUMARIO
I. INTRODUCCIN
199
Revista de Estudios Polticos (Nueva poca)
Nm. 80. Abril-Junio 1993
XAVIER BA1.LART
1. Concepto de evaluacin
El desarrollo de la evaluacin, tanto por lo que se refiere a sus mtodos
como por lo que se refiere al tipo de cuestiones a las que se dirige, ha resultado
en una clara expansin de su campo de aplicacin.
La primera y principal idea en relacin con la evaluacin la identifica con
un medio para determinar los resultados y efectos de las polticas y programas
a travs de rigurosos instrumentos metodolgicos (preferiblemente, diseos
de tipo experimental). El pensamiento ms reciente, sin embargo, sugiere
que la evaluacin puede abarcar todas las esferas del ciclo vital de una poltica
o programa, desde su concepcin hasta su impacto pasando por su ejecucin.
Una definicin bastante aceptada de evaluacin es, pues, aquella que entiende
que la evaluacin consiste en la aplicacin de mtodos de investigacin
sistemticos con el objeto de examinar el diseo, la implementacin y la
utilidad de las polticas y programas pblicos.
Generalmente, la evaluacin tendr un carcter retrospectivo, o como
mnimo, concomitante. A diferencia de otras formas de anlisis prospectivo
que pretenden informar decisiones que todava no se han tomado, la evaluacin
retrospectiva busca producir informacin sobre lo que ha ocurrido o est
ocurriendo.
La adopcin de una perspectiva cclica en relacin con las polticas o
programas de la Administracin supone que la evaluacin puede examinar
como mnimo tres fases diferentes que se corresponden con las de creacin
o formulacin, implementacin, y produccin de resultados o impactos de
una poltica o programa. En cada una de estas fases se pueden plantear
cuestiones, que si bien variarn en funcin de las necesidades de informacin
200
EVALUACIN DE POLTICAS
201
XAVIER BALLART
organizados para obtener ciertos objetivos. Son programas los planes de ex-
pansin de la educacin preescolar, de ayuda a los alquileres, de reforma
integral de barrios degradados, o de formacin e insercin de jvenes limpia-
cristales, por poner algunos ejemplos.
Muchas actuaciones pblicas no adoptan la forma de un programa en el
sentido convencional del trmino. Se trata de iniciativas polticas que no
implican necesariamente la creacin de nueva burocracia o la distribucin de
servicios especficos. Cambios en las leyes impositivas, una nueva regulacin
de la caza, la prohibicin de circular sin el cinturn de seguridad..., son
ejemplos de polticas pblicas que la Administracin podra llevar a trmino
cambiando simplemente las rdenes o los procedimientos ordinarios. Tambin
estas polticas tienen, sin embargo, consecuencias que polticos y directivos
pblicos querran conocer. Quiz cabra, pues, afirmar que la evaluacin de
las polticas tiene de forma general mayor relevancia a nivel de instancias de
decisin poltica que no de gestin operacional e intenta responder a cuestiones
relacionadas con la generalizacin de una determinada aproximacin a un
problema.
A todo ello an cabra aadir los servicios de transporte urbano o interur-
bano, de polica, bomberos, ambulancias, recogida de basuras, limpieza via-
ria, bibliotecas, museos..., actuaciones pblicas que no se articulan formal-
mente como un conjunto de programas dada la estructura administrativa exis-
tente y la forma en que se toman las decisiones que conciernen al presupuesto.
La evaluacin de este tipo de servicios intentara identificar y especificar
objetivos y establecer medidas de los servicios prestados, con el propsito de
construir las bases de datos necesarias para ir ajustando mejor los mismos
objetivos operacionales, e ir obteniendo resultados respecto a aquellas dimen-
siones que se consideren crticas, para una misma Administracin o para
distintas Administraciones que sean susceptibles de comparacin.
202
EVALUACIN DE POLTICAS
III.
203
XAVIER BALLART
a) Tipos de medidas
Generalmente, se entiende por medidas de eficacia aquellas categoras de
indicadores que aportan informacin sobre el grado en que los objetivos de
una poltica o programa se han conseguido. A nuestro entender, sin embargo,
las medidas de eficacia tambin deberan aportar informacin sobre los si-
guientes aspectos:
1) El grado en que se producen efectos no esperados en la poblacin a
la que van dirigidos los servicios, ya sean estos efectos positivos o negativos
(Shortell y Richardson, 1978).
2) El grado en que la cantidad de servicios producidos se adeca a las
necesidades y expectativas de la poblacin destinataria (Scriven, 1973).
3) La forma en que se produce la respuesta por parte de los servicios
pblicos a las demandas de servicio, lo que nos acerca a la idea de servicios
implcitos o de servicio como paquete de servicios.
4) El grado de satisfaccin de los ciudadanos con los servicios prestados,
independientemente de que las percepciones subjetivas sean dispares de las
medidas objetivas de la Administracin (Fitzsimmons y Sullivan, 1982;
16-28).
Desde esta perspectiva, que combina indicadores objetivos y subjetivos,
la evaluacin conecta con la preocupacin por determinar la medida en que
las Administraciones pblicas responden a las demandas de los ciudadanos y
adopta, por tanto, la ptica del cliente-destinatario de los servicios y de la
utilidad concreta que obtienen stos de la intervencin pblica.
En sustitucin de indicadores de eficacia a menudo se utilizan meras
medidas de actividad o de carga de trabajo, dado que son ms fciles de
construir a partir de contabilizar los recursos utilizados y/o los output o
productos que resultan de la transformacin de aqullos en servicios espec-
ficos. Si bien el cmputo de las horas de trabajo invertidas, de los clientes
atendidos, de las visitas, entrevistas o salidas realizadas, por poner algunos
ejemplos, pueden ser de utilidad para propsitos operacionales o para justificar
gastos, no nos parece que este tipo de medidas aporten excesiva informacin
sobre los servicios en trminos de calidad.
Como complemento de los indicadores de eficacia s tiene mayor inters
aportar informacin en trminos de eficiencia, esto es, sobre la relacin entre
la cantidad de servicios producidos y la cantidad de input o recursos utilizados
en su elaboracin y distribucin, puesto que un servicio eficaz se puede
producir de forma intolerablemente ineficiente. Ahora bien, concentrar todos
los esfuerzos en el anlisis de la eficiencia y, por tanto, en la determinacin
del coste unitario de los servicios pblicos no tiene demasiado sentido en un
204
EVALUACIN DE POLTICAS
contexto en que la mayor parte de los recursos tienden a ser bastante rgidos
y en el que esta informacin podra, en ltimo trmino, interesar nicamente
a aquellos que precisan argumentos para denunciar la situacin de ineficacia
en la que se presupone operan las Administraciones pblicas.
205
XAVI1R BA1.LART
2. Segundo paso:
la evaluacin de las polticas y programas
Los datos producidos por las Administraciones en su actividad de medida
peridica y continuada constituyen una buena base de partida para la evalua-
cin de la eficacia de las polticas y programas que, como se ha indicado
ms arriba, en puridad, implica la idea de aislar el impacto de la intervencin
pblica de otros factores externos que puedan encontrarse en la causa de los
efectos observados. Cmo se consigue esto?
(2) Sobre seleccin de variables y fuentes de datos, vid. la literatura sobre mtodos de
investigacin emprica. En general, para ciencias polticas, Buttolph Johnson y Joslyn (1986).
206
EVALUACIN DE POLTICAS
a) La evaluacin de resultados
Siguiendo con el procedimiento hasta aqu explicado y partiendo de que
existen unos objetivos especficos y unos indicadores de estos objetivos sus-
ceptibles de medicin, todo lo que tendra que hacerse es recoger datos sobre
los indicadores para aquellos individuos que se beneficiaron del programa y
para un grupo de control equivalente que no hubiera obtenido estos beneficios,
y analizar los datos sobre los participantes y los no participantes, en funcin
de los objetivos de partida (Weiss, 1972: 24).
Concretamente, en los diseos experimentales la asignacin aleatoria de
los individuos a grupos experimentales y de control distribuye los posibles
efectos externos a la intervencin de forma aleatoria entre los dos grupos;
mientras que en los diseos cuasi-experimentales es el investigador quien
procura identificar las caractersticas del grupo que recibe el programa, para
despus intentar formar un grupo de comparacin no equivalente, pero s
similar en todas las caractersticas relevantes al grupo tratado. Los diseos
no experimentales, en cambio, analizan los resultados para un nico grupo
de sujetos que pueden presentar variaciones tanto respecto a su participacin
en el programa como a otros factores, para, a travs de mtodos estadsticos,
eliminar las posibles diferencias entre los sujetos que no sean debidas a la
intervencin (3).
En la prctica, sin embargo, lo que parece fcil puede complicarse enor-
memente. Esta aproximacin, que hemos llamado en otro lugar cientfico-ra-
cional, es adecuada cuando se trata de programas bien definidos, donde una
serie de individuos reciben una misma intervencin, cuyos efectos pueden
ser anticipados y medidos. No lo es tanto, en cambio, cuando los programas
no renen estas condiciones, tanto por los problemas que presentan la identi-
ficacin y operacionalizacin de los objetivos como por la complejidad intrn-
seca de los mismos programas o la dificultad tcnica de aplicar los diseos
que permiten aislar el impacto neto de la intervencin pblica.
b) La evaluacin de proceso
Ciertamente, los objetivos de las polticas y programas ms innovadores
acostumbran a ser generales, abstractos y confusos. Esto es as porque el
proceso de decisin pblica se fundamenta en acuerdos sobre aspectos gene-
rales. Se podra afirmar que en la negociacin poltica se hace sobre programas
y no sobre objetivos. Una vez existe un acuerdo de principio sobre la necesidad
de hacer algo en relacin con los problemas que se hacen un hueco en la
(3) Para una introduccin en castellano a los diseos de tipo experimental, desde una
perspectiva de polticas pblicas, vid. Alvira Martin (1991) o Bailan (1992).
207
XAVIER BALLART
208
EVALUACIN DE POLTICAS
209
XAVIER BALLART
1. Estados Unidos:
el caso del mercado ms abierto y plural
La evaluacin de los programas pblicos emerge en los EEUU sobre la
base de una tradicin consolidada de aplicacin de las ciencias sociales al
anlisis de las polticas de las instituciones de gobierno. Esta tradicin tiene
su origen en las polticas federales del New Deal, y se desarrolla de forma
intensiva durante la dcada de los sesenta para dar respuesta a la preocupacin
creciente sobre la utilidad de los programas de la Great Society y de la
Guerra contra la pobreza del presidente Johnson. Desde entonces ha produ-
cido numerosos estudios empricos sobre todo tipo de programas sociales,
que se caracterizan por incorporar las tcnicas de investigacin y los mtodos
estadsticos propios de las ciencias sociales, lo que hace de la misma evalua-
cin un rea de conocimiento interdisciplinar.
La dcada de los sesenta se corresponde asimismo con la extensin de la
reforma presupuestaria conocida como Planning, Programming and Budget-
ing System (en adelante PPBS) a toda la Administracin federal norteame-
ricana. El PPBS propona organizar el gasto en funcin del producto final,
y de su contribucin por tanto a los objetivos de las diversas unidades y
servicios pblicos, lo que permitira agrupara aquellos programas que tuvieran
una forma similar de tratar un determinado problema y establecer comparacio-
nes entre programas alternativos. Si bien esta aproximacin racionalizadora
no pudo superar las dificultades encontradas para llevar a cabo estimaciones
vlidas y fiables de los resultados de la intervencin pblica a priori, s puso
de manifiesto las posibilidades del anlisis retrospectivo, sobre la base de
mejorar las bases de datos y el conocimiento sobre la forma de operar la
intervencin pblica sobre la realidad.
Estas dos corrientes, que segn todos los autores (Rossi y Freeman, 1985:
28; Chelimsky, 1985: 2; Nioche, 1988: 136) se encuentran en el origen de
la evaluacin de programas en los EEUU, tienen sin embargo un peso desigual.
Efectivamente, como ha sealado Nioche:
El lento y progresivo desarrollo de la evaluacin emprica de las polticas
sobre la base de la investigacin aplicada y de la acumulacin de conocimien-
tos y know-how demostr ser ms eficiente y til para los decisores pblicos
que no la aproximacin tecnocrtica del PPBS (1988: 59).
nistrativas de Bruselas para las experiencias europeas. El autor quiere expresar su agradecimien-
to a los profesores J. Leca, presidente del Conseil Scientifiquc de l'Evaluation de Francia; J. P.
Nioche, profesor de Hautes Etudes Commerciales en Pars, y E. Monnier, director del Labora-
toirc d'Evaluation pour les Organismes et les Politiques Publiques de Lyon, por los materiales
facilitados y por sus explicaciones sobre el caso francs.
210
EVALUACIN DE POLTICAS
(5) Vid. Ballart (1992), para una descripcin ms detallada de estas experiencias.
211
XAVIER BALLART
2. Reino Unido:
de la preocupacin por el impacto final
a las iniciativas centradas en la productividad
A finales de los aos sesenta y principios de los setenta el inters por el
anlisis de las polticas y la evaluacin retrospectiva de sus resultados encontr
dos puntos de apoyo, segn Jenkins y Grey (1990: 56), en las iniciativas del
Tesoro con el propsito de poner en funcionamiento sistemas efectivos de
control del gasto, y en el movimiento de reforma que reclamaba ms gestin
en el sector pblico y ms racionalidad en los procesos de decisin a nivel
central.
Ambas preocupaciones quedaron reflejadas en el libro blanco sobre La
Reorganizacin del Gobierno central de 1970 y se traduciran en la creacin
del Central Policy Review Stqff (CPRS), a nivel de gabinete y del Program
Analysis and Review (PAR), a nivel de departamentos ministeriales. El CPRS
adopt la forma de un think tank integrado por altos funcionarios de la Admi-
nistracin, expertos acadmicos y dirigentes de empresas privadas, que tenan
por misin generar propuestas de evaluacin a nivel de gabinete. Mientras
que el PAR se estructur como un programa que tena por objetivo forzar a
los departamentos ministeriales a entrar en el anlisis y en la evaluacin de
sus servicios.
Ambas iniciativas acabaran por desaparecer sin haber conseguido sus
propsitos. Entre las razones del fracaso del PAR, Jenkins y Grey (1990: 57)
han sealado, primero, dificultades tcnicas derivadas de la pobreza de los
datos existentes y de la falta de personal con la preparacin adecuada; segundo,
dificultades a nivel de organizacin, en la medida que los departamentos no
contaban con unidades especializadas, y tercero, dificultades polticas, dado
que la evaluacin presentaba algunos riesgos.
La llegada al poder de M. Thatcher en 1979 supuso un cambio de orien-
tacin: la preocupacin por el control de los recursos utilizados sustituira la
preocupacin por cuantificar el output pblico o por delimitar los efectos
netos de la intervencin. En lugar del CPRS y del PAR aparecieron, primero,
212
EVALUACIN DE POLTICAS
213
XAVIER BALLART
214
EVALUACIN DE POLTICAS
4. Suecia:
fragmentacin y descentralizacin de la evaluacin
Suecia ha sido uno de los primeros pases en desarrollar estudios de
evaluacin de las polticas pblicas, y son muchos los estudios realizados
desde mediados de los aos sesenta en relacin con polticas de asistencia
social y sanitaria, educacin, trabajo y conservacin de la energa (Vedung,
1990: 3). Ello no debera soprender tratndose de un pas en el que, segn
Ysander (1984: 53), ms del 70 por 1000 del montante total del producto
interior pasa por los presupuestos pblicos.
Otros autores (Deleau, et al., 1986: 146) han sealado, sin embargo, otros
factores que podran explicar una menor presin poltica en el caso sueco
215
XAVI1R BALLART
para realizar anlisis ex post de los programas pblicos. Primero, hasta hace
relativamente pocos aos, Suecia ha mantenido un fuerte consenso sobre la
justificacin de los programas pblicos de intervencin, sobre todo en el rea
de bienestar social. Segundo, existe una percepcin generalizada de que la
Administracin funciona bien. Tercero, la implementacin de un sistema de
planificacin y presupuestacin similar al PPBBS norteamericano sirvi en
Suecia para descentralizar de forma significativa la Administracin central,
hasta el punto que dos tercios del presupuesto son administrados por munici-
pios y corporaciones de carcter supramunicipal.
Hasta las reducidas dimensiones del pas y la proximidad de la Adminis-
tracin a los usuarios finales de los servicios podran haber funcionado como
un elemento sustitutorio de la evaluacin. Sin embargo, Suecia ha desarrollado
su propio sistema, que como demuestra Vedung (1990: 16), no se adapta a
ninguno de los modelos de organizacin de la evaluacin discutidos por la
literatura.
El modelo sueco se caracteriza por la fragmentacin de la evaluacin que
se desarrolla de forma independiente bajo el control de las mltiples comisio-
nes creadas ad-hoc para la formulacin o enmienda de las polticas de cada
uno de los distintos niveles de gobierno.
A nivel central, las leyes ms importantes son elaboradas y discutidas por
una comisin que nombra el gobierno y que incluye a altos funcionarios, a
representantes de los partidos polticos y de los grupos de inters, y a expertos
especialistas del mundo acadmico. Corresponde a estas comisiones el poder
de decisin sobre los estudios previos que deban realizarse, y sobre la infor-
macin que sea preciso recoger sobre los resultados de polticas pasadas.
Adems, los Ministerios centrales suecos generalmente cuentan con una co-
misin de investigacin y desarrollo, de composicin igualmente plural, en-
cargada de desarrollar la investigacin de aquellos aspectos que precise la
poltica del Ministerio. Esta constituye una segunda fuente importante de
evaluaciones a nivel central.
A nivel local, dada la importancia de este nivel de gobierno en la prestacin
de los servicios, tanto las asociaciones nacionales de municipios como las
mismas instituciones centrales de gobierno han impulsado el desarrollo de
medidas comparativas y de evaluaciones de polticas sectoriales.
Una tercera fuente de evaluaciones ha sido en el caso de Suecia la Oficina
Nacional de Control o Tribunal de Cuentas que, por imperativo legal desde
1967 se ocupa de evaluar la actividad y la eficiencia con la que actan las
agencias nacionales en las que se organizan los ministerios centrales en Suecia.
A diferencia de otros casos estudiados, la Oficina Nacional de Control sueca
ha ido ampliando progresivamente su papel desde una actividad de control
216
EVALUACIN DE POLTICAS
217
XAVIKR BAl.l.ART
polticas en las mismas leyes que las aprobaron, ha sido importante para la
institucionalizacin de la evaluacin en Holanda.
Al mismo tiempo, la recesin econmica de principios de los ochenta y
la necesidad de encontrar formas de reducir el gasto pblico crearon las
condiciones necesarias para que esta tcnica legislativa y, en general, la idea
de evaluar retrospectivamente las polticas y programas encontraran un apoyo
que antes no tenan de la parte de polticos y altos funcionarios. Segn
Bemelmans-Videc et al. (1990:112), la Administracin central holandesa ha
dado un fuerte empuje a la demanda de evaluaciones en esta ltima dcada,
en todas las materias relacionadas con las polticas de bienestar social (ocu-
pacin, seguridad social, participacin ciudadana a nivel local), lo que ha
contribuido de forma notable a crear un mercado plural en el que participan,
adems de las administraciones pblicas, instituciones relacionadas con el
mundo acadmico y empresas de consultora privadas.
De forma general se considera, sin embargo, que el ejemplo ms impor-
tante de evaluacin sistemtica de las polticas es, sin embargo, el llamado
Procedimiento de Reconsideracin de las Polticas (PRP). Este procedimiento
sigue el ao fiscal y consiste en la reconsideracin de los programas y servicios
estudiados, con el propsito de proponer alternativas a su modo de operar
que redunden en un menor gasto pblico.
La seleccin de los programas que son objeto de reconsideracin cada
ejercicio fiscal corresponde al Consejo de Ministros y los resultados de las
investigaciones son igualmente discutidos por el Consejo en pleno. Los traba-
jos son realizados por equipos mixtos, dirigidos por un representante del
ministerio ms directamente afectado, que adems suele contar con la asisten-
cia de un comit de altos funcionarios y representantes del Ministerio de
Hacienda.
El procedimiento de reconsideracin implica tres tareas: primero, describir
la poltica o programa; segundo, evaluar el desarrollo del proceso de imple-
mentacin, eficacia y eficiencia, y tercero, proponer un mnimo de cuatro
alternativas que requieran menos esfuerzo presupuestario, adems de explorar
las posibilidades de privatizacin, descentralizacin y o aplicacin del princi-
pio de maximizacin de los beneficios.
Esta iniciativa ha sido juzgada con un xito relativo debido, sobre todo,
al carcter obligatorio del procedimiento, a la especificidad de las directrices
y a los estrechos mrgenes temporales en que deben completarse las investi-
gaciones. El principal resultado ha sido, sin embargo, los recortes presupues-
tarios y las operaciones de reorganizacin administrativa, descentralizacin
o hasta privatizacin (Bemelmans-Videc, et al., 1990: 115).
218
EVALUACIN DE POLTICAS
6. Francia:
creacin de un dispositivo central de evaluacin
dependiente del primer ministro
El gobierno socialista francs sancion en enero de 1990 la evaluacin
como procedimiento institucional de revisin de las polticas pblicas dentro
de la Administracin francesa. La reforma fue el resultado final de un largo
debate que empez con una conferencia internacional en 1983 y con la presen-
tacin de dos informes: el primero en 1986 (Informe Deleau) y el segundo
en 1989 (Informe Viveret).
Los esfuerzos para desarrollar una cierta capacidad de evaluacin se re-
montan a los aos sesenta, en que se adopt el programa de la Rationalisation
des Choix Budgtaires (RCB). Si bien la RCB se centraba en el anlisis ex
ante ms que en la evaluacin expost de las polticas, la creacin de unidades
dentro de la Administracin francesa especializadas en las nuevas tcnicas de
programacin y presupuestacin, gener una importante demanda de estudios
que contribuira a producir un cierto desarrollo de la evaluacin en Francia.
En 1987, escribira Nioche, la evaluacin de las polticas en Francia es
una actividad que avanza muy lentamente y que no est organizada ni insti-
tucionalizada en el sistema poltico-administrativo (1988: 16).
A su vez, este autor sealaba en el mismo texto cmo la preocupacin
por la evaluacin se extiende en Francia a las instituciones de control tradicio-
nal Tribunal de Cuentas e inspecciones ministeriales, si bien este inters
podra, sin embargo, redundar en un menor desarrollo de evaluaciones cien-
tficas y completas, en la medida que se confunde evaluacin y control y
se intenta mantener la primera como una funcin estrictamente interna de la
Administracin.
La organizacin e institucionalizacin de la evaluacin en Francia se
produce con la reforma Rocard de 1990 (Decreto 90-82, de 22 de enero de
1990). Para ello se crea una estructura administrativa nueva con la que se
intenta ampliar a nivel interministerial las iniciativas de evaluacin adoptadas
por los ministerios individualmente considerados y dotar al conjunto de las
administraciones de una poltica de evaluacin coordinada.
Concretamente, el nuevo dispositivo de evaluacin francs est constituido
por: el Comit Interministerial de la Evaluacin (CIME), el Fondo Nacional
para el Desarrollo de la Evaluacin (FNE) y por el Consejo Cientfico de la
Evaluacin (CSE).
El CIME est presidido por el primer ministro y rene a los principales
ministerios del gobierno. Acta como instancia de coordinacin de las eva-
luaciones del ejecutivo, y en este sentido recibe las proposiciones de evalua-
cin de los ministerios. Tambin pueden presentarle propuestas de evaluacin
219
XAVIER BALLART
220
EVALUACIN DE POLTICAS
221
XAVIER BA1.I.ART
222
EVALUACIN DE POLTICAS
REFERENCIAS BIBLIOGRFICAS
223
XAVIER BAI.LART
224