You are on page 1of 144

La

Experimentación
en las
políticas
públicas
Estado del arte y
elementos para su impulso
en España
La
Experimentación
en las
políticas
públicas
septiembre 2022

EQUIPO RED2RED EQUIPO COTEC

José Moisés Martín Carreter Aleix Pons


Director R2R y experto de Los 100 de Director del departamento de Economía
Cotec y Financiación de la Innovación

Lucía Alonso Blasco Josep Bosch


Consultora Área internacional R2R Analista

Luis Miguel Morales Caballero


Consultor Área Innovación de Políticas
Públicas R2R

Anabel Suso Araico


Directora del Área de Innovación de Polí-
ticas Públicas R2R
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Ín 00. Resumen ejecutivo 7

DI
01. presentación 11

02. INTRODUCCIÓN A LA EXPERIMEN-


TACIÓN EN POLÍTICAS PÚBLICa 13

CE 2.1. Qué es un experimento en


política pública y por qué
experimentar 14

2.1.1. Orígenes históricos de la experimentación


pública16

2.1.2. La experimentación pública y las políticas


públicas conductuales17

2.2. Modalidades de experimentación


pública 17

2.2.1. Experimentos aleatorizados18

2.2.2. Diseños cuasiexperimentales19

2.3. La escala de las evidencias 21

2.4. Fases de un modelo de


experimentación pública 22

2.4.1. Selección y diseño del experimento22

2.4.2. Ejecución24

2.4.3. Análisis de resultados25

2.5. La aplicación de resultados de


la experimentación pública 26

2.6. La experimentación en la
práctica 25

4
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

6.2. Experimentos autonómicos 76

6.3. Experimentos locales 79


03. EXPERIMENTACIÓN PÚBLICA A
NIVEL INTERNACIONAL 28 6.4. La colaboración con el
sector privado como motor de la
3.1. Quién lo hace 29 innovación 85

3.2. Cuándo y dónde se está haciendo 6.5. Dificultades para el desarrollo


experimentación pública 33 de la experimentación en la
Administración pública 96
3.3. A qué nivel territorial se hace 36
07. ESTUDIOS DE CASO EN ESPAÑA 99
3.4. Qué es lo que se está haciendo 41
7.1. Evaluación del programa Habitat –
3.5. Cuánto duran 49 modelo Housing First 100

3.6. En qué sectores 49 7.2. Proyecto piloto B-MINCOME 104

3.7. Elementos facilitadores de la 7.3. Proyecto piloto Menttores 107


experimentación 52
08. CONCLUSIONES Y RECOMEN-
04. ESTUDIOS DE CASO INTERNACIO- DACIONES PARA EL IMPULSO DE LA
NALES 54 EXPERIMENTACIÓN EN ESPAÑA 111

4.1. Mejorar la factura de la luz 55 8.1. Conclusiones 112

4.2. La ampliación de servicios de 8.2. Recomendaciones para el impulso


guarderías infantiles y sus efectos de la experimentación 113
en la participación laboral 57
09. ANEXOS 118
05. MARCO PARA LA EXPERIMENTA-
CIÓN EN LAS POLÍTICAS PÚBLICAS Anexo 1 Casos por sectores (experiencias interna-
EN ESPAÑA 61 cionales)119

5.1. Marco normativo e institucional 62 Anexo 2 Tabla resumen de casos (experiencias inter-
nacionales)138
5.1.1. Selección y diseño del experimento62
Anexo 3 Bibliografía141
5.1.2. Ejecución66
Anexo 4 Listado de instituciones y personas entre-
5.2. Marco estratégico 69 vistadas142

06. EXPERIENCIAS DE EXPERIMENTA- Gráficos e ilustraciones


CIÓN PÚBLICA EN ESPAÑA 73
Gráfico 1 Factores que afectan el rendimiento esco-
6.1. Experimentos de la Administración lar15
General del Estado 74

5
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Gráfico 2 Distribución aleatoria del programa de


apoyo al rendimiento escolar15

Gráfico 3 Evolución de evaluaciones de impacto de


desarrollo internacional34

Ilustración 1 Países con un mayor número de instancias


que incorporan las ciencias del comportamiento35

Ilustración 2 Marco normativo en evaluación de


políticas públicas64

Ilustración 3 Marco normativo e institucional en


evaluación de políticas públicas67

6
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

resu
men
eje
cuti
vo

00.
7
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

La experimentación pública es un método de Aun así, existen diferencias relevantes entre


investigación que permite conocer, basándo- países, siendo mayor su evolución en los paí-
se en la evidencia, los previsibles resultados ses anglosajones. El desarrollo de la experi-
de una política pública en un contexto social, mentación pública varía según la cultura de la
económico y cultural determinado; constituye, evaluación de cada país y las experiencias en
por tanto, una herramienta fundamental para experimentación desarrolladas en la Adminis-
la evaluación y generación de políticas públi- tración pública, así como según la integración
cas. Su objetivo es establecer una relación de este tipo de actuaciones en diferentes
causal entre una intervención y sus resulta- fases del ciclo de las políticas públicas. En
dos, controlando las condiciones externas, el caso de España, el desarrollo de la expe-
para lo que se debe contar con un escenario rimentación se ha producido fundamental-
contrafactual, donde se compara la evolución mente en la última década, donde destacan
del «grupo de tratamiento» —al que se aplica algunos ejemplos recientes, aislados, que se
la intervención— con el «grupo de control» —al circunscriben principalmente al ámbito de la
que no se aplica la intervención—. Para que evaluación, y donde el avance de iniciativas
se pueda realizar esta comparación es esen- que incluyan enfoques de economía del com-
cial desarrollar una adecuada selección de portamiento es una excepción.
ambos grupos, que, en condiciones ideales,
debería ser desarrollada de manera aleatoria. Este menor desarrollo de la experimentación
La mayor parte de los experimentos aleatori- en España está relacionado con una esca-
zados que se realizan son RCT o Randomized sa cultura del dato y de la evaluación en la
Control Trials. Administración, que se ha implantado más
recientemente y que aún es incipiente. En ese
El recurso a la experimentación pública no sentido, tanto el desarrollo normativo como
es nuevo; los programas de experimenta- el institucional y estratégico en materia de
ción lograron un notable impulso en los evaluación de las políticas públicas han evo-
años noventa, particularmente en el ámbito lucionado en los últimos años, dando cabida
de la evaluación en la cooperación inter- a un mayor uso de la experimentación, sobre
nacional para el desarrollo, y han crecido todo por parte de determinados organismos
de manera exponencial potenciados por públicos. Entre ellos, destaca la labor de
Gobiernos a diferente escala (desde el nivel Ivàlua en Cataluña, el impulso para fomentar
nacional al local) y organizaciones interna- estas prácticas por parte de la Unión Europea
cionales e instituciones, como el Labora- y, más recientemente, las iniciativas de expe-
torio de Acción contra la Pobreza (J-PAL), rimentación vinculadas con el ingreso mínimo
empleándose en una amplia variedad de vital desarrolladas por el Ministerio de Inclu-
ámbitos y en diferentes momentos del ciclo sión, aprovechando la financiación de los fon-
de las políticas públicas, desde su diseño dos europeos Next Generation. No obstante,
hasta su evaluación. Asimismo, el auge de es importante señalar que algunas entidades
la experimentación pública debe entenderse del tercer sector, así como algunos organis-
siempre en paralelo con la construcción de mos privados de investigación, han jugado un
las políticas públicas conductuales, que papel relevante en el desarrollo reciente de
han sido frecuentemente consideradas a la este tipo de experimentos en diversos ámbi-
hora de diseñar las políticas con las que se tos de las políticas públicas.
experimenta.
8
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

La mejora del conocimiento respecto a este


tipo de metodologías por parte de los de- 3. Fomentar la generación y establecimien-
cisores públicos y el precedente o efecto to de «fondos de experimentación», en los
demostrativo de los resultados de «hacer» que el requisito para su financiación sea
experimentación son dos elementos funda- que las intervenciones financiadas necesa-
mentales que contribuyen al desarrollo y a la riamente incluyan un enfoque experimental.
institucionalización de la experimentación en Un ejemplo de ello son las evaluaciones
las políticas públicas. experimentales realizadas en el programa
Horizonte 2020 de la Comisión Europea,
El uso extendido de la experimentación, que ha financiado mediante la subvención
aunque a priori es un gasto adicional en las INNOSUP-06 a agencias de innovación para
políticas, a largo plazo supone un ahorro para que realicen proyectos experimentales eva-
la Administración, que puede identificar qué luados por RCT (dos de ellos en España).
políticas son una inversión eficaz y cuáles son
ineficaces para lograr el resultado deseado. 4. Facilitar por parte de la Administración el
acceso a datos masivos para el desarrollo
Por lo tanto, este estudio muestra que aún de actuaciones de experimentación, para
queda mucho margen para incrementar el lo cual se requiere una mayor apertura y
desarrollo de la experimentación en políticas voluntad política en esta dirección por parte
públicas en España, siguiendo la estela de de la Administración pública.
lo que sucede en los países de nuestro en-
torno. En este sentido, es fundamental que 5. Flexibilizar determinados procedimien-
los organismos o instituciones públicas con tos administrativos que pueden suponer un
responsabilidad en materia de evaluación de obstáculo para el desarrollo de este tipo de
las políticas públicas, es decir, la AIReF o la metodologías, así como los plazos para el
nueva AEVAL, impulsen el desarrollo e im- diseño de las políticas públicas, dado que
plantación de la experimentación como una los tiempos requeridos para visualizar el im-
herramienta más que considerar en el ciclo de pacto de una intervención son más amplios.
las políticas públicas, estableciendo objetivos
en esta dirección y asumiendo responsabili- 6. Fortalecer una mayor conexión entre las
dades directas. entidades que desarrollan habitualmente
este tipo de metodologías (como son las
Para lograr este desarrollo de la experimenta- universidades, los centros de investigación
ción, las principales recomendaciones son: y las empresas especializadas) y la Admi-
nistración pública.
1. Comenzar por fomentar la experimentación
pública en el diseño de pequeñas interven- 7. Desarrollar actuaciones de formación,
ciones, como una forma de generar referen- sensibilización y concienciación entre el
tes demostrativos de la eficacia de introducir personal técnico de las Administraciones
estas metodologías en las políticas públicas. públicas acerca de este tipo de metodo-
logías, las oportunidades que ofrecen y
2. Incluir metodologías experimentales sus implicaciones. Ejemplos de ello son el
innovadoras en el diseño de las intervencio- trabajo de Ivàlua en Cataluña o el IGL de
nes que atraigan fuentes de financiación Nesta en Europa.
especializadas, por ejemplo, en intervencio-
nes financiadas por la UE, con el objetivo de 8. Generar una base de evidencias deri-
que este tipo de experimentos no se den de vada de experimentos que se realicen en
manera aislada y sin acompañamiento. el país, que fomenten el intercambio de
9
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

conocimientos y la transparencia de los


resultados.

9. Favorecer el desarrollo de actuaciones


relacionadas con la economía del com-
portamiento, comenzando por incluir
enfoques conductuales en las intervencio-
nes públicas que sean pertinentes, con el
asesoramiento de instituciones privadas
y académicas en España o creando una
unidad dentro de la AGE que asesore en la
materia.

10. Desarrollar desde la Administración,


como ha hecho el Gobierno finlandés, có-
digos éticos para el desarrollo de la experi-
mentación pública.

11. Tras la aprobación de la reforma de la


Ley de la Ciencia en septiembre de 2022,
en cuyo artículo 2.f se incluye el compromi-
so de “promover la innovación pública, en-
tendida como aquella innovación protago-
nizada por el sector público y, en particular,
la capacidad de experimentar en política
pública, diseñar intervenciones basadas en
evidencias – especialmente científicas-, re-
gular atendiendo al impacto normativo en
innovación, desarrollar bancos de pruebas
y desplegar una contratación pública com-
prometida con la incorporación de solucio-
nes innovadoras y de I+D”, el Ministerio de
Ciencia e Innovación (Micinn) debe definir
su rol en el impulso de la experimentación
de las políticas públicas: contribuyendo
a difundir y divulgar estas metodologías,
facilitando el contacto de grupos de inves-
tigación de ciencias sociales con capaci-
dades de experimentación y las diferentes
administraciones (transferencia de conoci-
miento entre ámbitos del sector público) y,
eventualmente, financiando un programa
de RTCs dentro del Plan nacional de I+D+I,
entre otras posibles funciones.

10
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Pre
senta
ción
del es
tudio

01.
11
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Tal y como versa el título del informe, los analizan los elementos que han facilitado la
principales objetivos a los que responde su experimentación en los diferentes contextos.
desarrollo consisten en ofrecer una panorá- Todo el capítulo está trufado de breves fichas
mica global del marco público para la experi- de ejemplos de los casos de experimentación
mentación en la Administración General del que se consideran referentes; en el cuarto
Estado, las comunidades autónomas y los capítulo se realizan una descripción y un
municipios, así como recomendaciones para análisis más exhaustivos de dos de los casos
su impulso en nuestro país. Es por ello por lo seleccionados.
que en él se desarrolla un exhaustivo análisis
del estado de situación y evolución de la expe- El quinto capítulo recoge el marco normativo,
rimentación en las políticas públicas, tanto en institucional y estratégico de España en el que
el marco internacional como en el nacional, y se produce el desarrollo de la evaluación y la
se apuntan una serie de pistas o recomenda- experimentación pública. A continuación, se
ciones para impulsar su desarrollo en España. recogen las experiencias de experimentación
pública detectadas en España en los diferen-
El segundo capítulo está centrado en la tes niveles de la Administración pública (es-
conceptualización de la experimentación tatal, autonómica y local), así como aquellas
pública. Para ello, en primer lugar, se define la desarrolladas en colaboración con iniciativas
experimentación en las políticas públicas y se de carácter privado, destacadas a través de
expone en qué consiste, tanto en el ámbito de múltiples fichas de ejemplos. Todo el análisis
la evaluación como en el de las políticas públi- de fuentes secundarias, junto a la información
cas conductuales. A continuación, se analizan recabada a través de diversas entrevistas a
sus orígenes y desarrollo en el entorno inter- personas expertas del ámbito de la evalua-
nacional. Este capítulo explica, además, de ción, ha permitido detectar las principales
manera detallada, las diferentes modalidades dificultades para el desarrollo de la experi-
de experimentación pública, analizando sus mentación en la Administración pública en
ventajas e inconvenientes; a ello se suma España, que se exponen en el sexto capítulo.
una muestra de las principales escalas que En el séptimo capítulo se reflejan los resulta-
miden la calidad de la evidencia experimental. dos de tres estudios de caso de experimenta-
Por último, se incorpora un recorrido por las ción de políticas públicas que se consideran
diversas fases de necesario desarrollo en la un referente en nuestro país.
puesta en marcha y aplicación de un modelo
de experimentación pública, incorporando de En el último capítulo se establecen las prin-
manera constante ejemplos para ilustrar y cipales conclusiones del estudio, junto con
comprender mejor sus contenidos. las recomendaciones para el impulso de la
experimentación en las políticas públicas de
El tercer capítulo realiza un detallado análisis nuestro país.
histórico de la evolución de la experimen-
tación en políticas públicas en el marco Los anexos recogen una batería más amplia
internacional. En él se mapean las institu- de experiencias internacionales organiza-
ciones que realizan y apoyan este tipo de das por ámbitos de intervención y un listado
intervenciones y se realiza una clasificación global de estas, así como una relación de
de la experimentación atendiendo al ámbito todas las personas que han participado en
territorial de implementación, el momento en las entrevistas desarrolladas, sin las que este
el ciclo de políticas en que se desarrolla, los estudio no hubiera sido posible y a las que
objetivos de la experimentación, los colecti- agradecemos encarecidamente su colabora-
vos destinatarios y los ámbitos temáticos. ción.
Derivado del análisis de estas experiencias, se
12
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

INTRO
DUC
CIÓN A
LA EX
PERI
MEN
TACIÓN
EN PO
LÍTICAS
PÚBLI
CAS

02.
13
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

2.1. Qué es un experi-


mento en política pú- El recurso a los experimentos en política pública
blica y por qué experi- parte de varias fuentes, entre las cuales la prin-
mentar cipal es el avance en las metodologías y técni-
De acuerdo con la Real Academia Española, cas de recogida, tratamiento e interpretación de
experimentar tiene diferentes acepciones; la datos en el contexto social, haciendo de esta
primera de ellas es «probar y examinar práctica- manera posible realizar en condiciones reales
mente las virtudes y propiedades de algo», y la pruebas que con anterioridad solo se podían de-
última, relacionada únicamente con las ciencias sarrollar en condiciones de laboratorio. De esta
naturales, «hacer operaciones destinadas a manera, un experimento de «laboratorio» conse-
descubrir, comprobar o demostrar determina- guía aislar una relación causal controlando las
dos fenómenos o principios científicos». En el condiciones externas ajenas a la propia relación
ámbito de las políticas públicas, experimentar causal. Estas condiciones de experimentación
puede relacionarse con ambas acepciones, son imposibles de replicar en el mundo real. Sin
ya que permite testar en la realidad fenóme- embargo, el avance en los métodos de recogida
nos o principios científicos que consideramos y tratamiento de datos nos permite establecer,
que deben ser probados, y, más directamente, en el mundo real, unas condiciones similares,
examinar prácticamente las propiedades de una a través de la aproximación estadística a las
política pública. De acuerdo con el Diccionario relaciones causales y a los efectos externos.
abierto de sociología, un experimento es un
«procedimiento que suele utilizarse para con- La forma de lograr aislar la relación causal de
firmar la validez de una hipótesis comparando los efectos externos consiste sencillamente
los resultados de uno o más grupos con un en calcular los efectos externos en un grupo
grupo de control en una medida determinada». de control —al que no se aplica la relación
En otras palabras, se trata de un procedimien- causal— y descontar dichos efectos del efecto
to de investigación destinado, a través de una total. Pondremos un ejemplo: supongamos
determinada metodología lo suficientemente que queremos saber si un programa de apoyo
robusta, a contrastar con la realidad una o va- a estudiantes en desventaja es adecuado para
rias hipótesis relevantes para el estudio. En este ellos. Podríamos calcular la mejora en las califi-
caso, para la política pública. Los experimentos caciones pasado un tiempo, pero con ese mero
nos permiten, por lo tanto, contestar a pregun- ejercicio no sabríamos si la causa de la mejoría
tas como las siguientes: es, efectivamente, el programa. También podría
ocurrir que, pese al programa de apoyo, las
• ¿Es efectiva la puesta en marcha de clases calificaciones siguieran siendo bajas. En condi-
de apoyo para estudiantes en desventaja? ciones reales, es difícil precisar si el programa
tuvo un efecto en los estudiantes, pues puede
• ¿Puede una renta mínima garantizada que una mejora en las instalaciones del colegio,
desincentivar la búsqueda de empleo? una renovación del programa pedagógico o
cualquier otra circunstancia ajena a la relación
• ¿Cuál es la mejor manera de evitar embara- causal que queremos probar hubiera afectado
zos no deseados en niñas y adolescentes? notablemente a su rendimiento. La experimen-
tación pública resuelve este problema al plan-
En definitiva, en materia de política pública, un tear una situación «contrafactual», en la que se
experimento es un método de investigación que aísla el efecto del programa de apoyo de otros
permite conocer, basándose en la evidencia, los factores que afectan a su rendimiento escolar.
previsibles resultados de una política pública en En el gráfico 1 se muestra esta idea: nuestro
un contexto social, económico y cultural deter- objetivo sería ser capaces de aislar el efecto del
minado. programa de apoyo en el rendimiento escolar.
14
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

gráfico 1. factores que afectan el rendimiento escolar

Fuente: Elaboración propia

La mejor manera de aislar este efecto es a condiciones. Para ello, es esencial desarrollar
través de la realización de un experimento de una adecuada selección de ambos grupos,
política pública, en el que, dado que no tene- que, en condiciones ideales, debería ser alea-
mos la posibilidad de mantener a los estu- toria. A este tipo de experimentación social
diantes aislados del resto de las condiciones se le denomina Prueba de Control Aleatorio,
educativas y sociales, realizamos un contrafac- más comúnmente conocida por sus siglas
tual, esto es, evaluamos el rendimiento escolar en inglés, RCT o Randomized Control Trials.
de quienes lo reciben comparado con el de Siguiendo nuestro ejemplo, descrito esquemá-
aquel alumnado que, partiendo de las mismas ticamente en el gráfico 2, y partiendo de una
condiciones educativas y sociales, no recibe el población de estudiantes con similares condi-
apoyo. Al grupo que recibe el apoyo se le deno- ciones educativas y sociales, desarrollaríamos
mina «grupo de tratamiento», y al grupo que una distribución aleatoria entre los dos grupos
no recibe el apoyo se le denomina «grupo de (tratamiento y control) y evaluaríamos los
control». Cuanto más se parezcan los grupos, resultados académicos de ambos grupos. Se
en términos de condiciones sociales y educati- podría, en este caso, atribuir estadísticamente
vas, más robusta será la estimación del efecto la diferencia de rendimiento a aquello que dife-
del programa de apoyo, y cuanto más grandes rencia a ambos grupos, que es la participación
sean ambos grupos, más fácil será eliminar el en un programa de apoyo educativo específico.
ruido procedente de otras variaciones de sus

gráfico 2. Distribución aleatoria del programa de apoyo al


rendimiento escolar

Fuente: Elaboración propia


15
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Este modelo de investigación ha sido amplia- sis de la evolución en la experimentación en


mente utilizado en los ensayos clínicos de el mundo, el primer ámbito donde se desarro-
tratamientos, utilizando un grupo de trata- llaron experimentos de manera sistemática
miento y otro grupo de control al que se le fue la agricultura, con la prueba de diferentes
suministra un placebo, y forma parte de las métodos y variedades de cultivo. A través
prácticas habituales de prueba de nuevos me- de centros de estudio y análisis, se ha ido
dicamentos, vacunas y tratamientos médicos. generando la metodología específica para la
La realización de los RCT ha sido calificada puesta en marcha de experimentos en otras
como el «estándar de oro» de la experimen- áreas. De esta manera, en los años sesenta
tación social, y, como veremos a lo largo de y setenta del siglo XX, en Estados Unidos se
este informe, suponen una importante innova- desarrollaron algunos de los experimentos
ción en el diseño y la realización de políticas más notables, en áreas como el impuesto
públicas. Sin embargo, no siempre es posible negativo sobre la renta, los seguros de salud
alcanzar las condiciones necesarias para su y los programas de vivienda (Gueron, 2017).
correcto desarrollo, de manera que una parte Así, en 1975, el Gobierno federal desarrolló un
importante de los experimentos tienden a su- RCT de grandes proporciones para evaluar el
plir o a mitigar las numerosas dificultades que rendimiento y la efectividad del programa de
ofrece el mundo real para aislar los efectos de apoyo a las personas con problemas de in-
las políticas públicas. serción laboral, que supuso el programa más
amplio desarrollado hasta el momento.
El recurso a la experimentación en políticas
públicas es un mecanismo idóneo para averi- Los programas de experimentación lograron
guar, basándose en la evidencia, la efectividad un notable impulso en los años noventa, par-
de estas, aisladas de otros efectos. Permite, de ticularmente en el ámbito de la cooperación
esta manera, mejorar su impacto y también su internacional para el desarrollo, con el Banco
diseño, aprender de las políticas públicas de- Mundial como principal impulsor. En 2003, los
sarrolladas en otros contextos —aunque, como economistas Abhijit Vinayak Banerjee y Esther
veremos, con limitaciones— y proporcionar a Duflo pusieron en marcha el Laboratorio de
la ciudadanía un marco de acción público más Acción contra la Pobreza (J-PAL) en el Ins-
eficaz, transparente y con mayor generación tituto Tecnológico de Massachusetts (MIT),
de valor a medio y largo plazo. También permi- que desde ese momento se consolidó como
te modificar o corregir programas y evaluar su un espacio de referencia en la elaboración de
continuidad y eficacia. metodologías y técnicas de puesta en marcha
de programas de experimentación social. En
2.1.1. Orígenes históricos de 2004, el Banco Mundial estableció el progra-
la experimentación pública ma de evaluación de impacto en desarrollo.
A partir de ese momento, la experimentación
El recurso a la experimentación pública no es en políticas públicas se extendió, particular-
nuevo. Desde la conformación de los Estados mente en el mundo anglosajón, a través de la
modernos y la puesta en marcha de las políti- puesta en marcha de la Unidad de Estudios
cas públicas, los Gobiernos han desarrollado Conductuales del Gobierno británico en 2010,
sus políticas a través de ensayos y modelos la creación en 2011 de la red What Works
de prueba y error, pero no siempre apren- Network y el lanzamiento en 2014 del Innova-
diendo de ellos y con resultados no siempre tion Growth Lab (Laboratorio de innovación
positivos. para el crecimiento). En 2016, los Gobiernos
de Canadá y Finlandia establecieron la expe-
Como se desarrollará de manera más detalla- rimentación pública como un objetivo políti-
da en el siguiente capítulo, dedicado al análi- co, y en 2017, la Comisión Europea lanzó un
16
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

programa de cuatro millones de euros para modificar conductas en una dirección social-
promover la utilización de RCT en las agen- mente deseable (Sunstein y Thaler, 2010). Un
cias de innovación. Para ese momento, la ejemplo claro de este tipo de nudges es el
agencia británica Nesta ya había desarrollado establecimiento del permiso de conducir por
metodologías específicas de experimenta- puntos.
ción pública basándose en RCT y el J-PAL
había desarrollado no solo publicaciones, sino El desarrollo de esta disciplina también ha
numerosos programas de formación acadé- significado grandes avances en la elaboración
mica y ejecutiva, que se habrían replicado en de políticas públicas, al permitir evaluar la
otras universidades a lo largo del planeta. En reacción de la ciudadanía ante determinadas
2019, los dos fundadores del J-PAL recibirían decisiones públicas y medir sus efectos en
el Premio Nobel de Economía, de manera condiciones experimentales. De esta manera,
compartida con Michael Kremer, otro de los han proliferado los laboratorios de economía
pioneros en el ámbito de la experimentación conductual, donde, a través de experimentos
pública. En 2021, el Nobel volvería a recaer controlados, se han evaluado diferentes op-
sobre expertos en experimentación, como ciones de política pública en ámbitos como la
David Card, Joshua Angrist y Guido Imbens, salud pública, la política fiscal o el medio am-
consolidando de esta manera la disciplina de biente, en muchos casos a través del apoyo
la economía experimental y los experimentos de las instituciones multilaterales de desarro-
como método válido de conocimiento de la llo. La extensión de este tipo de prácticas ha
realidad social. generado la aparición de unidades conductua-
les en numerosos Gobiernos, así como una
2.1.2. La experimentación extensa literatura académica sobre la econo-
pública y las políticas mía y las políticas públicas conductuales.
públicas conductuales

El auge de la experimentación pública debe 2.2. Modalidades de ex-


entenderse siempre en paralelo con la cons- perimentación pública
trucción de las políticas públicas conduc-
tuales. Entendemos las políticas públicas Como hemos señalado con anterioridad,
conductuales como aquellas que tienen en los RCT o controles de prueba aleatoria son
cuenta la reacción de la ciudadanía ante considerados el «estándar de oro» en materia
determinados estímulos —nudges, en in- de experimentación pública. Sin embargo, y
glés— que pueden influir en la conducta de como veremos, son costosos y complejos
las personas en una determinada dirección. de desarrollar, y no siempre se cumplen las
La aparición de las políticas públicas conduc- condiciones necesarias para su correcta eje-
tuales tiene su origen tanto en la psicología cución. De esta manera, se han desarrollado
como en la economía conductual, entendien- otras modalidades que, sin cumplir todos los
do esta como la rama de la economía que requisitos, ofrecen también evidencia sufi-
tiene en cuenta los sesgos y condicionantes cientemente robusta. Así, clasificaremos los
de las personas en la toma de decisiones. Los experimentos de la siguiente manera:
descubrimientos recientes sobre el compor-
tamiento económico y social de las personas • Experimentos aleatorizados:
nos llevan a pensar que su toma de decisio-
nes no siempre sigue los criterios de estricta o RCT.
racionalidad, y que estos criterios pueden ser
influenciados a través de pequeños estímu- o Pruebas múltiples.
los —los ya señalados nudges—, que permiten
17
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

o RCT ligeros. Al evitar el sesgo de selección y decidir alea-


toriamente quién forma parte del grupo de
o Test A/B. tratamiento y quién del grupo de control, se
mitigan los efectos de condiciones sociales
o Pruebas aleatorias de clústeres. ajenas al experimento. Como veremos, la con-
formación aleatoria de los grupos de trata-
• Pruebas cuasiexperimentales: miento y control no siempre es posible, lo cual
nos llevaría a otro tipo de metodologías.
o Diseño de regresiones en discontinui- Dentro de las pruebas aleatorizadas, pode-
dad. mos distinguir las siguientes:

o Propensity Score Matching. RCT o controles de prueba aleatoria

o Diferencias en diferencias. Como ya hemos señalado, los RCT son el


estándar más alto en materia de experimen-
o Controles sintéticos. tación social. Se basan en la determinación
aleatoria de un grupo sobre el que se aplica
2.2.1. Experimentos una serie de programas o políticas públicas
aleatorizados cuya eficacia se quiere comprobar. Los resul-
tados, pasado el tiempo, se comparan con los
Los experimentos aleatorizados son aquellos resultados obtenidos en un grupo de control,
en los que intentamos determinar cuál es el también elegido aleatoriamente en la pobla-
efecto causal de una medida o política pú- ción, atribuyendo las diferencias entre ambos
blica en la realidad social. Para ello, como ya a la política pública aplicada. Es el modelo
hemos señalado, utilizamos, preferiblemente básico de experimentación y, también, uno
de la misma población objetivo, un grupo de de los más complejos de desarrollar por sus
tratamiento y un grupo de control, con las numerosas implicaciones.
mismas características socioeconómicas y
poblacionales, examinando cuál es el efec- Controles de pruebas múltiples
to de la medida en un plazo determinado, al
comparar la evolución de ambos grupos. Los controles de pruebas múltiples siguen
los mismos principios que en el caso de los
La fortaleza de estos experimentos recae RCT básicos, pero en este caso la población
específicamente en la aleatoriedad en la se divide en varios grupos de tratamiento,
elección del grupo de control y del grupo de aplicando sobre cada uno de ellos una política
tratamiento, evitando de esta manera lo que pública diferente, de manera que se puedan
se reconoce como el sesgo de selección; un comparar los resultados entre estos grupos
sesgo de selección sería, por ejemplo, que y con el grupo de control. Los controles de
un grupo estuviera formado por quienes han pruebas múltiples son eficaces para compa-
solicitado una ayuda, y otro, por quienes no rar diferentes opciones de política pública,
la han solicitado. El hecho de haber solicita- pero su desarrollo es más complejo que el de
do la ayuda rompe la aleatoriedad de ambos los RCT básicos.
grupos y dificulta la atribución de causalidad,
ya que puede ser que quienes la han solicita- RCT ligeros
do muestren más iniciativa que quienes no lo
han hecho, y que sea precisamente esa inicia- Los RCT ligeros son test que prueban solo
tiva la que contamine los resultados. algunos aspectos operacionales de un pro-
grama más amplio, sin entrar a valorar los
18
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

impactos últimos de este. Dado su alcance, de los resultados se asemejan al desarrollo de


son más sencillos de desarrollar y permiten pruebas aleatorizadas.
obtener información más rápida sobre deter-
minados aspectos operativos. La extensión de los laboratorios de compor-
tamiento y la relación entre la validez de sus
Test A/B resultados y su coste hacen que sean uno de
los modelos experimentales más utilizados
Muy utilizados como experimentos en el en el presente, al igual que las pruebas A/B,
mundo del emprendimiento digital, los test particularmente en el sector privado y en el
A/B prueban dos o más alternativas de un emprendimiento digital, por su bajo coste
servicio, diseño o mensaje. Normalmente, se relativo. Sin embargo, comparado con el
desarrollan a través de medios digitales; por desarrollo de RCT completos, la robustez de
ejemplo, aleatorizando la entrada del públi- sus resultados es menor, y su alcance, más
co en un diseño de página web o en otro y limitado.
estudiando las reacciones de las personas
usuarias. 2.2.2. Diseños
cuasiexperimentales
RCT de clústeres
En muchas ocasiones, los diseños de experi-
Los RCT de clústeres permiten desarrollar mentos son difíciles de desarrollar, por condi-
pruebas aleatorizadas en grupos de población cionantes económicos, sociales o políticos. En
a los que no es posible llegar a través de un esos casos, se puede recurrir a diseños cuasiex-
tratamiento individualizado, por ejemplo, en perimentales, o diseños que, sin ser experimen-
programas de fortalecimiento institucional tos, pueden proporcionar resultados con niveles
o en el establecimiento de políticas públicas de robustez adecuados para la generación de
urbanas o territoriales. En estos casos, la evidencias.
determinación aleatoria de los clústeres es la
que determina los grupos de control y trata- Los diseños cuasiexperimentales no incluyen la
miento. Normalmente, requieren muestras selección aleatorizada de los grupos de tra-
más amplias que los RCT individualizados. tamiento y control, de manera que se aplican
técnicas a posteriori para mitigar los sesgos de
Laboratorios de comportamiento selección. Como tales, son también ampliamen-
te utilizados y tienen una larga trayectoria en el
Sin ser estrictamente una modalidad de ex- ámbito de las ciencias sociales, particularmen-
perimentación aleatorizada, los laboratorios te a través de la econometría. Estos métodos
de comportamiento —o unidades conduc- econométricos tienen su pilar básico en los
tuales— se están convirtiendo en un espacio modelos de regresión, donde la selección de las
muy utilizado para la elaboración de políticas variables dependientes e independientes supo-
públicas experimentales. Los laboratorios ne una de las tareas más relevantes, incluyendo
de comportamiento intentan reproducir, en el uso de variables instrumentales. Avanzando
entornos controlados y aislados, las condicio- desde los modelos de regresión, veremos algu-
nes de respuesta conductual de personas que nas de las metodologías más utilizadas:
actúan como consumidoras o usuarias de
un determinado bien o servicio, evaluando su Regresiones en discontinuidad
reacción a pequeños «incentivos» (nudges) di-
señados para modificar las conductas de las Una regresión en discontinuidad es una técnica
personas. Los criterios de selección de parti- econométrica que permite identificar el efecto
cipantes, desarrollo del experimento y análisis de una determinada política pública a partir de
19
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

un punto de «corte» en una población. De esta variable antes y después del tratamiento
manera, se evalúa el impacto de la medida entre —política pública— respecto del grupo de
quienes caen a un lado del punto de corte (que control. Siguiendo con nuestro ejemplo, si
reciben la política pública) y quienes caen al los estudiantes becados mejoraron un 20 %
otro lado (que no la reciben). Como ejemplo, se su rendimiento académico y los no becados
puede proponer evaluar el impacto en el rendi- mejoraron un 5 %, la diferencia puede ser atri-
miento académico de una beca, examinando el buible a la beca. En este caso, es esencial que
desempeño académico de quienes están cerca el grupo de control y el de tratamiento hayan
del límite de elegibilidad económica, tanto a un seguido una tendencia similar antes de poner
lado como a otro. Las regresiones en disconti- en marcha la política pública (supuesto de la
nuidad parten de la idea de que los grupos que tendencia paralela).
están próximos a la «línea de corte» comparten
características similares y que, antes de existir Control sintético
la política pública, tendrían resultados pareci-
dos. Una vez implementada la política, cuanto El control sintético tiene como objetivo estable-
mayor sea la diferencia (discontinuidad) de re- cer sintéticamente dos grupos —uno de trata-
sultados entre ambos grupos, más significativo miento y otro de control—, donde el grupo de
será el impacto de la política pública. control se construye a partir de la ponderación
de las características del grupo de tratamiento.
Propensity Score Matching El promedio ponderado de esas características
se considera el «grupo de control sintético».
El PSM es una técnica econométrica que con- Supongamos que, en nuestro ejemplo, los
siste en identificar un grupo de control partien- estudiantes becados tienen un promedio de
do de las características del grupo de trata- 12.000 € de renta al año. Construiremos un
miento. La selección no es aleatoria, sino que «control sintético» a partir de la ponderación
se basa en construir sintéticamente, partiendo de las rentas de los estudiantes no beca-
de las características del grupo de tratamiento, dos, de manera que un grupo tiene una renta
un grupo de control que comparta cuantas más de 10.000 € y otro grupo tiene una renta de
características mejor. Esta metodología es útil 25.000 €. El grupo de control sintético estará
cuando no se pueden aleatorizar los grupos. En formado por la ponderación entre ambas ren-
ese caso, el investigador selecciona a un grupo tas (en el ejemplo, el grupo que tiene una renta
que comparta el mayor número de característi- de 10.000 € ponderará un 86 %, y el que tiene
cas con el grupo de tratamiento, construyendo una renta de 25.000 €, un 14 %). La diferencia
así el contrafactual. El impacto de la política de resultados académicos entre el grupo de
pública será el que genere las diferencias entre tratamiento —los estudiantes becados— y el
el grupo de tratamiento y el grupo de control. control sintético —los resultados académicos
Siguiendo con nuestro ejemplo anterior, en este de los demás estudiantes ponderados por su
caso elegiríamos al alumnado que, sin tener la renta— nos dará el efecto de la política pública.
beca académica, tiene las mismas condiciones
socioeconómicas, edad y formación previa que Las metodologías tanto aleatorizadas como
el grupo de personas becadas, comparando su no aleatorizadas ofrecen, por lo tanto, di-
rendimiento académico. ferentes grados de robustez en materia de
medición del impacto de la política pública
Diferencias en diferencias prevista, y la evidencia que ofrecen no merece
la misma confianza. Para ello, es necesario
La metodología de diferencias en diferencias evaluar la calidad de dichas evidencias.
es una técnica econométrica que permite
identificar las diferentes evoluciones de una
20
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

2.3. La escala de las


evidencias • En el nivel 5, el más desarrollado, los de-
cisores públicos tienen además manuales,
Como señalábamos, el uso de diferentes sistemas y procedimientos que aseguran
métodos de recogida de información supone la capacidad de replicar el experimento y
evidencia de diferentes niveles de calidad. su capacidad de generar impactos.
Por ello, es necesario establecer algún tipo de
gradación en la consistencia y la calidad de la En estos cinco niveles, el nivel mínimo acepta-
evidencia recogida, de manera que, cuanto ma- ble para emprender una política pública se sitúa
yor sea su calidad, más consistentes serán las en el primer peldaño de la escalera, mientras
expectativas de efecto que genere la política que la mayoría de las evidencias recogidas, en
pública experimentada. la práctica, se situarían en el nivel 2, todavía en
los escalones más bajos. Los métodos expe-
Para facilitar la interpretación de la robustez de rimentales y cuasiexperimentales comienzan
la evidencia empírica, la agencia británica Nesta en el nivel 3, y el nivel 4, donde son una o más
ha elaborado una «escala» de la evidencia, de evaluaciones independientes las que otorgan
manera que podamos hacernos una idea de la la fortaleza de la evidencia, supone el máximo
calidad de nuestra experimentación. Así, Nesta nivel de experimentación. En el nivel 5, esas eva-
divide las categorías de la evidencia experimen- luaciones independientes son complementadas
tal en cinco niveles, donde el nivel 1 es el más con herramientas y mecanismos de control que
básico, y el 5, el más completo (Nesta, 2013): aseguran la replicabilidad y escalabilidad de los
experimentos desarrollados.
• En el nivel 1, los decisores públicos tienen
la capacidad de describir la política pública, El estándar de evidencia de Nesta no es la
explicar por qué es importante y hacerlo de única escala de calidad de la evidencia, sino
una manera lógica y convincente, a través que podemos identificar otros métodos de
de una serie de razones. valoración de la evidencia. En la siguiente tabla
aparecen otros métodos similares.
• En el nivel 2, quienes deciden las políticas
públicas son capaces de mostrar datos que
señalan un cambio en la población objetivo,
pero no son capaces de confirmar que ese
cambio está producido por las políticas
públicas aplicadas.

• En el nivel 3, los decisores públicos pue-


den demostrar la causalidad de los efectos
entre el grupo de tratamiento y el grupo de
control, aplicando diferentes metodologías.

• En el nivel 4, quienes determinan las


políticas públicas cuentan con una o más
evaluaciones independientes que replican y
confirman las conclusiones sobre los efec-
tos de una política pública. En este nivel de
evidencia, se puede explicar cuál es el grado
de efecto y cómo se produce dicho efecto
sobre la población.
21
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

niveles de evidencia experimental

BASGSAW PETTICREW Y ROBERTS

Nivel 5: Estudios de caso sin


Informes de casos
control

Nivel 4: Estudios sin aleatori-


Estudios transversales
zar, con controles históricos

Nivel 3: Estudios observacio-


Estudios de caso con control
nales sin aleatorizar

Nivel 2: Controles aleatoriza-


Estudios de cohorte
dos de pequeño tamaño

Nivel 1: Controles aleato-


rizados de gran tamaño y RCT con resultados no definitivos
robustez estadística

RCT con resultados definitivos

Análisis sistemáticos y metaanálisis


Fuente: Breckon (2020)

Podemos por lo tanto señalar que cuanto 2.4.1. Selección y diseño del
mayor sea el grado de análisis, de aleatorie- experimento
dad y el número de experimentos analizados,
mayor será la robustez de la evidencia em- La primera fase de un experimento es su selec-
pírica recogida. De manera que, cuando esto ción y diseño. En ella deben establecerse los
sea posible, es preferible una política pública objetivos y propósitos del experimento, inclu-
que esté soportada por evidencia recogida en yendo qué es exactamente lo que se quiere
experimentos con réplicas múltiples, antes comprobar, a través de la determinación de
que en un único experimento o estudio. una teoría del cambio y la selección de unas
hipótesis para contrastar.
2.4. Fases de un modelo
de experimentación pú- Entendemos por teoría del cambio el modelo
blica causal que presupone cómo una determinada
política pública va a generar cambios en la
Tras haber descrito algunos de los principales realidad. En nuestro ejemplo de las clases de
modelos de experimentación pública, así como apoyo, la teoría del cambio asociada nos lleva-
las escalas sobre la calidad de la evidencia ría a establecer que un apoyo más específico
recogida, pasaremos a describir brevemente y personalizado permite aprovechar mejor las
cuáles son las fases para la generación de capacidades individuales de las personas parti-
experimentación pública. Para ello, establece- cipantes, apoyar sus lagunas educativas de un
remos las siguientes fases: modo más personalizado y mejorar sus com-
petencias y habilidades para el aprendizaje, de
• Selección y diseño del experimento. manera que estos elementos llevan asociados
una mejoría en los resultados académicos.
• Ejecución. En otras palabras, la teoría del cambio intenta
explicitar ex ante cómo funciona la política
• Análisis de resultados. pública.

22
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Esta teoría del cambio está sujeta a diferentes escolar ayuda a tener mejores estudiantes» es
hipótesis, que son aquellas que queremos demasiado genérico y puede ser interpretado
contrastar con la realidad. Una hipótesis es de múltiples maneras. Deberíamos entonces
una suposición sobre la que se basa el funcio- refinar la hipótesis hasta, por ejemplo, llegar
namiento de nuestra teoría del cambio. Como a una como la siguiente: «El establecimiento
tales, las hipótesis deben ser contrastables, de un programa de apoyo individualizado de
medibles y discretas. El carácter de contrastabi- dos horas semanales por parte de un profesor
lidad —o falsabilidad, en filosofía de la ciencia— particular mejora el rendimiento académico de
supone que una hipótesis puede ser confirmada los niños participantes».
o desmentida por la evidencia recogida. Si no lo
es, no puede ser considerada científica y llevará Una vez establecida la teoría del cambio y sus
a un diseño deficiente del experimento. hipótesis, se deben determinar los objetivos
del experimento, esto es, qué hipótesis de las
Supongamos que queremos comprobar nues- contenidas en la teoría del cambio se deben
tra teoría del cambio y llegamos a la hipótesis contrastar empíricamente. Para ello, es esen-
de que aquel alumnado que se compromete cial establecer adecuadamente las preguntas
con un programa de mejora educativa será que se quieren responder con el experimento.
bendecido por la diosa Fortuna y que esta
diosa hará que sus calificaciones académicas Una vez determinados los objetivos —qué
sean mejores. En este caso, la hipótesis no se preguntas se quieren contestar—, ha llegado
puede contrastar —no sabemos cómo con- el momento de proceder a los diferentes ele-
firmar o rechazar la hipótesis de una deidad mentos de diseño del experimento. En primer
favorecedora de los estudiantes que se lo lugar, se debe comprobar que se dispone de los
merezcan— y, por lo tanto, no sería válida para recursos financieros y técnicos necesarios para
la experimentación. su desarrollo. Se debe elegir cuál es el mejor
momento para el desarrollo del experimento
En segundo lugar, las hipótesis deben ser —durante la intervención, dos meses después
medibles. De no ser así, será imposible analizar de la intervención, un año después— y proceder
el impacto de la política pública en términos a la identificación y selección de los grupos de
comparativos. Los avances en el tratamiento tratamiento y control.
de datos y en las métricas hacen que podamos
encontrar aproximaciones a prácticamente Los grupos de tratamiento y control, en el
cualquier variable, incluyendo autopercepcio- escenario ideal de desarrollo de un RCT, deben
nes personales. En nuestro caso, una hipótesis ser elegidos sobre una población que compar-
que señale que el apoyo escolar hará que los ta las mismas características y contexto, de
niños sean mejores estudiantes, en sí misma, manera que se eviten en lo posible los sesgos
no es medible, pero utilizando las califica- de selección. Existen diferentes estrategias de
ciones académicas podemos establecer un selección de los grupos (Glennerster y Takava-
marco de medición. De la misma manera, no rasha, 2013):
podemos conocer el nivel de felicidad de una
población, pero las encuestas de autopercep- • Aleatorización sencilla o «lotería básica»:
ción nos darán resultados aproximados que sí Se sortea la participación en el programa
son medibles y comparables. entre todas las personas que son elegibles
para este, y se conforma el grupo de control
En tercer lugar, las hipótesis deben ser dis- con quienes no participan. Esta modalidad
cretas, en el sentido de que deben estar aco- es solo asumible cuando no participar en
tadas para ser correctamente interpretables. el programa es aceptable para quienes se
Establecer como hipótesis que «el apoyo quedan en el grupo de control.
23
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

2.4.2. Ejecución
• Aleatorización en el punto de corte: Se
eligen los grupos de tratamiento y control Una vez diseñado el experimento, se avanza a
entre quienes se encuentran alrededor del la fase de ejecución. Si se trata de una política
punto de corte —por ejemplo, un criterio de pública nueva, el momento de la ejecución
elegibilidad—, de manera que ambos grupos incluye la puesta en marcha del programa o
compartan el resto de las características. política pública dirigida al grupo de tratamien-
La dificultad de este método es que solo to, mientras que se mantienen los elementos
mide los impactos del programa social básicos en el grupo de control.
entre aquellas personas que están cerca del
punto de elegibilidad. Llegado el momento, tal y como se ha estable-
cido en el diseño del experimento, se recoge
• Aleatorización en el proceso de entrada: la información prevista para desarrollar la
Se «sortea» el momento de entrada en el comparación, de acuerdo con los indicadores
programa y se utiliza como grupo de control programados. Esto se puede hacer acudiendo
a aquellas personas que todavía no habrían a los registros correspondientes, realizando
accedido a él. Este tipo de selecciones de entrevistas y encuestas a ambos grupos y
los grupos solo es factible cuando existe procediendo a las mediciones pertinentes.
tiempo suficiente para medir los impactos Durante esta fase de ejecución nos podemos
del programa, ya que los sucesivos grupos encontrar con diferentes problemas que deben
de control terminarían entrando a lo largo ser tenidos en cuenta, como, por ejemplo:
del tiempo.
• Abandonos en el grupo de tratamiento:
Cada una de estas estrategias tiene sus Puede que algunos miembros del grupo de
ventajas e inconvenientes, pero en cualquier tratamiento hayan abandonado el experi-
caso deben estar sujetas a algunas condicio- mento, por múltiples motivos. Estos aban-
nes esenciales. Tanto el grupo de tratamiento donos deberían tenerse en cuenta.
como el de control deben compartir las mis-
mas características y condicionantes. En la • Grupo de control que ha iniciado un pro-
medida en que ambos grupos compartan esas grama alternativo: Supongamos que quere-
características y contexto, el experimento será mos hacer un experimento sobre el ingreso
lo suficientemente robusto en términos esta- mínimo vital y parte del grupo de control ha
dísticos. comenzado a percibir una renta autonómica
o una ayuda municipal. Se debe tener en
Por último, se deben analizar el tipo de infor- cuenta este efecto a la hora de desarrollar la
mación que se desea conseguir y los métodos comparativa entre ambos grupos.
de recolección. Estos pueden ser una encues-
ta, datos administrativos, resultados de test, • Contaminación del experimento: Las
etcétera, dependiendo de las hipótesis que personas que forman parte de los grupos
queramos testar y de los indicadores que se de control y de tratamiento comparten sus
hayan elegido para el desarrollo del experimen- sensaciones y percepciones sobre las polí-
to. En nuestro ejemplo sobre los programas de ticas públicas desarrolladas, de manera que
apoyo escolar, el tipo de información que se «contaminan» sus comportamientos. Un es-
requiere son las calificaciones de los estudian- tudiante que no forma parte del experimen-
tes, pero también se podrían medir efectos a to de apoyo escolar puede verse impelido a
través de encuestas y entrevistas individuales. esforzarse más al ver que sus compañeros
de clase tienen clases de apoyo.

24
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

• Deseabilidad social: Los participantes


esconden comportamientos socialmente • Es necesario involucrar a todas las partes
indeseados y vulneran la integridad del ex- interesadas para garantizar la relevancia del
perimento. Un porcentaje de los estudiantes experimento.
con apoyo escolar copian en los exámenes
y no lo declaran a la persona investigadora. • Es conveniente proporcionar la evidencia de
En este caso, el experimento sobredimen- manera integrada.
sionará el efecto del programa de apoyo
escolar, pero la razón es que el alumnado • Se debe insistir en el contexto social, político
está desarrollando una práctica que no es y cultural en el que se ha desarrollado el expe-
deseable y la oculta en el proceso de inves- rimento, para evitar extrapolaciones inadecua-
tigación. das.

Todos estos elementos deben ser tenidos en • Se debe tener particular cuidado en empa-
cuenta a la hora de ejecutar el experimento, de tizar con la audiencia a la que está dirigida la
manera que tanto el diseño como su ejecución comunicación.
deben ser muy cuidadosos para evitar que
estos problemas comprometan su validez. • Se deben comunicar los resultados de una
manera sencilla, atractiva y transmisible.
2.4.3. Análisis de resultados
En definitiva, la generación de evidencia, máxi-
Finalmente, una vez concluido el experimento, me si va a estar dirigida a mejorar las políticas
se debe llegar a la fase de análisis de resulta- públicas, debe ser adecuadamente comunica-
dos y su comunicación. da para evitar malas interpretaciones y conclu-
siones que no se correspondan con el experi-
Para el análisis de resultados, se suelen utilizar mento. Un buen ejemplo que se puede citar es
herramientas de estimación estadística y eco- el del experimento desarrollado en Finlandia
nométrica que permitan determinar los efectos con la renta básica. El objetivo era determinar
de las políticas públicas testadas, incluyendo si una renta universal implicaba una mejoría en
la comparación entre diferentes alternativas, la búsqueda de empleo frente a otros meca-
en función de los resultados obtenidos. Las nismos de apoyo. El resultado del experimento
herramientas de contraste de hipótesis llevan fue que los perceptores de la renta básica
asociadas un nivel de significatividad y un tenían las mismas probabilidades de encontrar
margen de confianza, de manera que, a mayor un empleo que los perceptores de otros meca-
poder estadístico, mayor confianza podemos nismos de apoyo, y que, de manera adicional,
mantener en el experimento. mejoraban en gran medida su calidad de vida.
Los medios de comunicación se hicieron eco
Una vez analizados los resultados, estos de- del experimento señalando que la renta bási-
ben comunicarse para conformar la base de ca había fracasado, sin matizar cuáles eran
toma de decisiones en el diseño de las políticas la pregunta del experimento, sus objetivos, el
públicas. Como veremos más adelante, y como contexto en el que se había desarrollado y sus
ya hemos visto en la escala de las evidencias, resultados completos.
la existencia de un único experimento puede
ser insuficiente para confirmar la validez de
una política pública. De esta manera, se puede
desarrollar una serie de buenas prácticas en el
momento de proceder a la comunicación de los
resultados (Medical Research Council, 2013):
25
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Por esta misma razón, la escala de las eviden-


2.5. La aplicación de re- cias propone fortalecer su validez favorecien-
sultados de la experi- do la replicabilidad de los experimentos, de
mentación pública manera que las políticas públicas que estén
basadas en múltiples experimentos, en dife-
La realización de experimentos mejora la ca- rentes contextos y con revisiones sistemáticas
lidad de las políticas públicas al proporcionar y metaevaluaciones tendrán una base más
robustez empírica a la teoría del cambio aso- sólida que aquellas que están basadas en una
ciada a ellas. Cuanto mayor sea esta robustez, única prueba. Por ello, es necesario completar
mayor será la fortaleza con la que se pueden las conclusiones de los experimentos con in-
confirmar las hipótesis que acompañan a una formación proveniente de otros experimentos
política pública, mitigando el riesgo de poner similares, y realizar una valoración en conjunto
en marcha políticas públicas no basadas en la sobre la viabilidad y factibilidad de poner en
evidencia, con escasos efectos o mal diseña- marcha una determinada política pública.
das.
2.6. La experimentación
Sin embargo, el uso de esta evidencia en el de- en la práctica
sarrollo de políticas públicas no es automático,
pues hay aspectos que deben ser adecuada- Con todo lo que se ha señalado, los experi-
mente considerados. En primer lugar, se debe mentos en políticas públicas suponen una
tener en cuenta la validez externa de los experi- poderosa herramienta para el diseño, puesta
mentos: una política pública desarrollada en un en marcha y promoción de políticas públicas
determinado contexto puede no tener validez innovadoras basadas en la evidencia. Subsis-
fuera de ese contexto, por múltiples motivos. ten, sin embargo, algunos elementos que, en
Puede que el entorno regulatorio, sociocultural términos prácticos, son de importancia a la
o económico sea lo suficientemente diferente hora de poner en marcha este tipo de iniciati-
como para invalidar la eficacia de una extrapo- vas.
lación automática de los resultados. El progra-
ma de apoyo escolar que ha funcionado en En primer lugar, la necesidad de establecer los
un país del norte de Europa puede no hacerlo adecuados marcos de referencia y colabora-
en un país del sur, de manera que, a la hora de ción para la puesta en marcha de experimen-
aplicar los resultados, estos condicionantes se tos públicos. Los experimentos públicos se
deben tener en cuenta. desarrollan en el mundo real y, por lo tanto, son
muchos los condicionantes que afectan a su
Según Cartwright y Hardie (2012), hay tres viabilidad. En muchos casos, la puesta en mar-
elementos que nos pueden hacer pensar que cha de experimentos puede verse facilitada por
un experimento desarrollado en un contexto el establecimiento de sandboxes, que permiten
pueda ser válido en un contexto diferente: entornos controlados para la experimentación
y la evaluación de los resultados.
• La política pública juega el mismo papel
en un sitio y en otro.

• Existen los mismos procesos de apoyo.

• Los resultados del RCT son robustos.

26
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

El 'sandbox' regulatorio relevantes como para tenerlos en cuenta en el


como marco para la diseño de las intervenciones. Algunas Admi-
experimentación nistraciones, como el Gobierno finlandés, han
establecido códigos éticos para el desarrollo
En muchas ocasiones, los experimentos no se de la experimentación pública (Hopkins et al.,
pueden desarrollar en condiciones regulatorias 2020).
y legales reales. Para ello, puede ser de utilidad
el establecimiento de un sandbox regulatorio Otro de los aspectos que se deben tener en
como marco en el que desarrollar los experi- cuenta es el coste y el consumo de recursos
mentos. necesario para el desarrollo de un experimen-
to público. Los RCT suelen ser metodologías
De acuerdo con el informe «Regular el futuro» caras de implementar, y vienen asociadas a
de la Fundación COTEC: importantes inversiones en materia de ase-
soría, recursos humanos, capacidades de
El sistema sandbox permite conocer en recolección y tratamiento de datos, entre otros
mayor profundidad los beneficios y riesgos conceptos. De esta manera, se debe dimensio-
de un nuevo producto o modelo de negocio, nar adecuadamente el experimento que se va
dando la posibilidad de afinar y ajustar las a desarrollar en función de los recursos de los
innovaciones en un entorno de mercado. que se dispone, siempre teniendo en cuenta
De esta forma, se minimiza la inseguridad que el coste más alto es, en definitiva, el coste
jurídica y se ayuda a mejorar el acceso a de una política pública que no ha sido testada
la inversión al ofrecer un marco seguro y y de la que no se conocen sus resultados ni su
predecible a los proyectos de innovación. Al impacto.
mismo tiempo, facilita la colaboración entre
Administraciones, empresas y ciudadanos, Finalmente, los experimentos como los RCT
contribuyendo a modernizar el contexto nos explican si una política pública funciona o
regulatorio de las actividades productivas y, no, y en qué grado, pero nos dicen poco sobre
por encima de todo, asegurando la protec- por qué o cómo funciona en la realidad. Por
ción de los derechos de los ciudadanos. esta limitación, los experimentos basados en
la aleatorización suelen complementarse con
De esta manera, los sandboxes pueden su- otros análisis cualitativos o de otro tipo, que
poner entornos adecuados para el estableci- permiten conocer, con mayor amplitud, todos
miento de experimentos públicos, evitando las los aspectos relacionados con dichas políticas
dificultades regulatorias existentes. (es el caso de los análisis coste-beneficio, que
permiten medir la eficiencia de las intervencio-
Más allá de los problemas legales, existen nes de una política pública).
otros problemas que afectan al desarrollo de
los experimentos públicos, como por ejemplo
los problemas éticos. La ética de los experi-
mentos ha sido muy debatida, partiendo de la
idea de que se está experimentando con seres
humanos, y, por ejemplo, se está negando al
grupo de control una política o tratamiento al
que tendría derecho, o se desarrollan políticas
experimentales que terminan empeorando las
condiciones o calidad de vida de las personas
que forman parte del grupo de tratamiento.
Estos aspectos éticos son lo suficientemente
27
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

expe
rimen
tación
públi
ca a ni
vel
interna
cional

03.
28
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Este apartado presenta de manera general la Canadá, Dinamarca, Francia, Alemania, Países
evolución de la experimentación en el mundo, Bajos, Singapur y Estados Unidos, comenzaron
mapea las instituciones que realizan y apo- a conformar sus propias unidades. Según la
yan este tipo de intervenciones y clasifica la OCDE en 2018 existían ya más de doscientas
experimentación por diferentes tipos de uso; instituciones en el mundo que incorporaban
en concreto, según el ámbito territorial en el enfoques de las ciencias del comportamiento
que se hayan implementado, el momento en en sus políticas públicas1.
el ciclo de políticas, los objetivos de la experi-
mentación, los destinatarios y, por último, los Sin embargo, la integración de la experimen-
sectores temáticos. También se incluye una tación pública en los Gobiernos presenta una
sección sobre los elementos facilitadores de la configuración institucional variada. En algu-
experimentación a partir del análisis anterior. A nos casos es centralizada, lo que significa que
lo largo de esta sección, la información pro- se crea una unidad dentro del Gobierno que
porcionada se ilustra con ejemplos y al final se promueve el uso de la evidencia (por ejemplo,
realiza una descripción en detalle de dos de los en Australia). En otros, es distribuida, de forma
casos. que diferentes departamentos del Gobierno
desarrollan sus propios proyectos basados en
3.1. Quién lo hace estos enfoques (por ejemplo, el MineduLAB de
Perú). Y el último caso es un modelo en red,
Existen numerosos Gobiernos, organizaciones en el que cada ministerio tiene un equipo de
internacionales, organizaciones no guberna- experimentación pública que trabaja de forma
mentales, universidades y empresas privadas coordinada (por ejemplo, en los Países Bajos).
en todo el mundo que realizan investigaciones
con métodos experimentales con el objetivo de
que las políticas públicas se basen en eviden-
cias. En otras palabras, a nivel internacional
hay un alto grado de institucionalización de
este tipo de prácticas, pero, al mismo tiempo,
una inmensa pluralidad en el tipo de institucio-
nes que las realizan.

A continuación, se realiza una breve descrip-


ción del tipo de instituciones que incorporan o
fomentan la experimentación en sus interven-
ciones, resaltado algunas de ellas.

Gobiernos

Al inicio de la década de 2010 un grupo reduci-


do de Gobiernos comenzó a aplicar las cien-
cias del comportamiento y al mismo tiempo
los ensayos controlados aleatorizados (RCT,
por sus siglas en inglés) en el diseño, imple-
mentación y evaluación de sus políticas. El
Reino Unido, con la creación del Behavioural In-
sights Team (BIT), lideró este movimiento, y no
mucho más tarde otros países, como Australia,
1. https://www.oecd.org/gov/regulatory-policy/behavioural-insights.html.

29
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

BETA2
BETA es la unidad del Gobierno central australiano que trabaja para aplicar la ciencia del com-
portamiento a las políticas públicas, vinculando investigaciones económicas, psicológicas y de la
ciencia del comportamiento para diseñar y realizar experimentos en su aplicación a las políticas
públicas.

minedulab

El Minedu en Perú impulsa la generación de evidencia oportuna y rigurosa que guíe la toma de
decisiones de política y apuesta por el MineduLAB desde el 2014. Este es el primer organismo
público en Latinoamérica que institucionaliza el uso de evidencia para el desarrollo de su sector.

behavioural insights network netherlands (bin nl)

El BIN NL es una colaboración entre los ministerios holandeses para la aplicación de aprendizajes
basados en la ciencia del comportamiento en el Gobierno de los Países Bajos.

Organizaciones
internacionales Asimismo, estas organizaciones cuentan con
un importante volumen de iniciativas de experi-
A nivel de organismos internacionales se mentación, y se enfocan en la diseminación de
emplea, promueve y financia la experimenta- conocimiento y aprendizajes mediante reposi-
ción pública desde el inicio de siglo. Algunas torios de publicaciones y otros recursos.
organizaciones han sido pioneras en fomentar
el uso de ensayos controlados aleatorizados
en países en vías de desarrollo. Por ejemplo,
desde 2010 aproximadamente dos tercios
de las evaluaciones del Banco Mundial son
experimentales (Bédécarrats, Guérin y Rou-
baud, 2015). También se está fomentando por
parte de organizaciones internacionales, como
la OCDE y la Comisión Europea, el uso de RCT
entre los países con menos experiencias en
este ámbito.

En cuanto a la aplicación de las ciencias del


comportamiento, también existen varias unida-
des dentro de organizaciones internacionales
dedicadas a su promoción, entendida como la
construcción de capacidades o el asesora-
miento y apoyo a Administraciones públicas.

2. En los títulos de las instituciones se encuentran los enlaces de sus páginas web.

30
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

unión europea
El Centro Común de Investigación más conocido, el JRC, es una Dirección General de la Comisión
Europea que se encarga de proporcionar asesoramiento científico y técnico a la Comisión y a los
Estados miembros de la UE en apoyo a sus políticas. Por ejemplo, en la unidad de behavioural in-
sights analizan y diseñan las políticas de la UE empleando el enfoque de las ciencias del compor-
tamiento. Asimismo, esta y otras instancias de la UE también apoyan el uso de las evaluaciones
de impacto experimentales y cuasiexperimentales, por ejemplo, en las subvenciones de Fondos
Europeos3.

banco mundial
El Banco Mundial es otro organismo internacional que ha sido pionero en fomentar y financiar la
experimentación pública, sobre todo las evaluaciones de impacto; por ejemplo, mediante la Deve-
lopment Impact Evaluation (DIME) y el Strategic Impact Evaluation Fund (SIEF). También tiene una
unidad especializada (la eMBeD, por sus siglas en inglés), que emplea la investigación basada en
el comportamiento para formular políticas de desarrollo más eficaces.

ocde
Desde 2013 la OCDE apoya a diversas instituciones públicas que están aplicando la experimenta-
ción para mejorar las políticas públicas. Cuentan con diversas publicaciones para fomentar este
tipo de procesos y también recogen las experiencias de los países en este ámbito. Dentro de la
OCDE, el Observatorio de Innovación del Sector Público (OPSI) también trabaja temas de experi-
mentación pública.

banco interamericano de desarrollo


Durante casi una década, el BID ha incorporado conocimientos sobre el comportamiento en
sus proyectos, en el diálogo con los países y en el diseño de políticas. El grupo de economía del
comportamiento es la unidad que se encarga de hacer estas investigaciones, capacitaciones y
asesoramientos.

Otras instituciones

Además de las instancias públicas, existen


numerosas ONG, fundaciones, entidades o em-
presas privadas que se dedican a realizar este
tipo de experimentos o a asesorar sobre cómo
desarrollarlos, acompañando a organismos
públicos. Este tipo de organizaciones están
siendo fundamentales a la hora de impulsar el
uso de este tipo de metodologías, proporcio-
nando información y conocimiento especializa-
do sobre ellas.

3. En este documento, cuando se habla de evaluaciones de impacto se hace referencia a aquellas con carácter cuasiexperimental o experimental, sin perjuicio
de que se pueda evaluar el impacto con otras técnicas.

31
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Abdul Latif Jameel Poverty Action Lab (J-PAL)


Es una red de 262 profesores provenientes de 91 universidades alrededor del mundo. Su misión
es reducir la pobreza, garantizando que las políticas públicas estén informadas por evidencia
científica mediante la realización de experimentos aleatorizados para probar y mejorar la eficacia
de programas y políticas sociales, realizar incidencia política y capacitaciones.

Nesta
Nesta es la agencia del Reino Unido para innovación social. La organización actúa a través de
una combinación de programas, inversiones, políticas e investigación, y mediante la formación
de asociaciones para promover la innovación en una amplia gama de sectores. En particular, el
Innovation Growth Lab (IGL) tiene un papel destacado fomentando el uso de RCT. En 2021 Nesta
adquirió el Behavioural Insights Team, también conocido como Nudge Unit.

Ideas 42
Ideas 42 es una ONG internacional que emplea las ciencias del comportamiento para resolver los
problemas sociales más complejos en educación, salud, participación ciudadana, salud financiera,
justicia económica, seguridad y justicia, medios de subsistencia, gobernanza global y sostenibili-
dad medioambiental.

Innovations for Poverty Action


Innovations for Poverty Action (IPA) es una organización estadounidense de investigación y polí-
ticas sin ánimo de lucro que desarrolla y comparte los resultados de RCT con el objetivo de que
las políticas de reducción de la pobreza estén basadas en evidencia. Desde su fundación en 2002,
IPA ha trabajado con más de cuatrocientos académicos líderes para realizar más de seiscientas
evaluaciones en 51 países.

Mathematica

Desde hace más de cincuenta años Mathematica ha evaluado la efectividad de las políticas y los
programas en Estados Unidos (desde 2018 también internacionalmente) con el objetivo de mejo-
rar el bienestar social. Mathematica dirigió el primer experimento social en EE. UU.

Taftie
La Asociación Europea de las Principales Agencias Nacionales de Innovación (Taftie, por sus
siglas en inglés), apoyada por el Innovation Growth Lab de Nesta, ha creado un grupo de trabajo
sobre experimentación pública (Experiment!) conformado por veinte agencias de innovación, con
el objetivo de formarlas sobre cómo fomentar y realizar sus propios experimentos.

32
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

En la misma línea, muchas universidades del En este sentido, cabe destacar que la realiza-
mundo tienen centros en los que se investiga ción de evaluaciones de impacto en países
sobre la experimentación pública y se promue- en vías de desarrollo se ha incrementado
ve su utilización. Destaca el trabajo realizado notablemente en los últimos años (Cordunea-
por el Center for Behavioral Science and Public nu-Huci, Dorsch y Maarek, 2021). El repositorio
Policy (Princeton University), Behavioural Eco- Development Evidence Portal4 de la Internatio-
nomics in Action at Rotman (BEAR) o Institute nal Initiative for Impact Evaluation indica que
for Data, Systems and Society (MIT), entre desde 1990 hasta 2022 se han identificado
otros muchos centros. 10.004 evaluaciones de impacto5, y su uso se
ha incrementado notablemente a lo largo de
Uno de los aspectos que se han desarrollado los últimos años (gráfico 3). Los diez países en
tanto desde instituciones públicas como pri- los que se ha desarrollado un mayor número
vadas ha sido la puesta en marcha de fondos de evaluaciones de este tipo, por orden, son
que financian el desarrollo de iniciativas China, India, Brasil, Kenia, Irán, Bangladesh,
experimentales, fomentando y visibilizando Uganda, México, Sudáfrica y Etiopía. Entre
este tipo de prácticas. Por ejemplo, desde el estos, China destaca de manera considerable
Gobierno francés con el FEJ (Fonds d’Expéri- como país pionero en la realización de expe-
mentation pour la Jeunesse) y el FID (Fund for rimentos, ya que, desde los ochenta, es una
Innovation in Development), desde el Gobierno práctica institucionalizada del Gobierno chino
británico con el Business Basics Fund, desde realizar experimentos de políticas a nivel regio-
la Comisión Europea con los proyectos de nal antes de implementarlas nacionalmente
Horizonte 2020 mediante el programa INNO- (Wang y Yang, 2021). Los temas en los que se
SUP-06, o desde organizaciones como Nesta han realizado experimentos6 son sobre desa-
con el IGL Grants Programme, e incluso funda- rrollo humano y desarrollo rural principalmente.
ciones como Education Endowment Founda-
tion, que ha financiado alrededor de 130 RCT
para mejorar los resultados educativos.

3.2. Cuándo y dónde se


está haciendo experi-
mentación pública

Aunque muchos países en vías de desarrollo


no fomenten la experimentación pública desde
sus instituciones gubernamentales, organiza-
ciones de otros países, sobre todo en Estados
Unidos, realizan un importante esfuerzo por
realizar experimentos en estos lugares. Un
ejemplo de ello es el J-PAL, que, como se ha
mencionado en capítulos anteriores, es una
unidad de investigación con sede en el MIT
que tiene como objetivo principal contribuir a
la mejora de la situación y el desarrollo de los
países con mayores tasas de pobreza.

4. https://developmentevidence.3ieimpact.org/.
5. No se cuenta con un dato relativo sobre el total de evaluaciones realizadas en este ámbito.
6. Analizando el repositorio de Impact Evaluation: https://developmentevidence.3ieimpact.org/.

33
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

gráfico 3. Evolución de evaluaciones de impacto de


desarrollo internacional

Fuente: Elaboración propia a partir de Development Evidence Portal

La expansión de este fenómeno a países tamiento7 destacan los países anglosajones


más desarrollados ha sido desigual, en parte, como Australia (con 22 unidades), Estados
porque ya existían unas dinámicas preestable- Unidos (20), Reino Unido (15) y Canadá (11), y
cidas a la hora de planificar políticas públicas también otros como Países Bajos (15), Francia
e incluso de evaluar intervenciones. Estos (7) y Brasil (5).
procedimientos son especialmente difíciles de
establecer en países que no están tan cen-
trados en analizar los resultados y el uso de
evidencia para informar las políticas públicas, a
diferencia de los países de cultura anglosajona,
en los que sí está muy consolidado. Sin embar-
go, en los últimos años se está evidenciando
un cambio de mentalidad significativo y la
experimentación pública cada vez se ve como
una alternativa más atractiva.

Por ejemplo, según la base de datos del Obser-


vatorio de Innovación del Sector Público de la
OCDE (OPSI, por sus siglas en inglés), existen
en la actualidad 176 unidades con capaci-
dad de influir en las políticas públicas en 44
países del mundo, y algunas organizaciones
internacionales que trabajan o incorporan a
su trabajo las ciencias del comportamiento.
Estas instancias forman parte del Gobierno de
los países, regiones o municipalidades en su
mayoría, pero también existen instituciones
privadas y de la academia. Entre los países con
un mayor número de unidades del compor-

7. Todos los países sombreados en el mapa tienen al menos tres unidades del comportamiento.

34
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

ilustración 1. Países con un mayor número de instancias que


incorporan las ciencias del comportamiento

Fuente: Elaboración propia a partir de Behavioural Insights Units (OPSI) y Mapchart

Esta aproximación nos ofrece una idea de de diseñar una unidad de estas característi-
qué países trabajan en mayor medida em- cas qua apoyara en el diseño de servicios al
pleando la perspectiva conductual, si bien la conjunto de los ministerios y organismos de la
información debería ser tomada con cautela AGE8, pero esta propuesta no llegó a prospe-
por diversos motivos. En primer lugar, esta rar, y tampoco en la base de datos de OPSI se
base de datos solo considera las unidades que identifica un número considerable de unidades
trabajan con las ciencias del comportamiento, privadas que presten servicios en el diseño de
y por tanto no incluye organizaciones que, por políticas conductuales9.
ejemplo, emplean técnicas experimentales
mediante el uso de RCT sin enfoques conduc- Por último, el auge de la experimentación pú-
tuales. En segundo lugar, esta es una base de blica no ha sido lineal. Hay ejemplos de países
datos reciente, en la que las propias unidades que, dependiendo del Gobierno del momento,
deben proporcionar la información a la OCDE, fomentan o no este tipo de iniciativas. Uno de
y es posible que algunas unidades no estén los casos más claros fue la creación del equi-
recogidas en ella. Por último, este mapa no po de ciencias humanas y del comportamiento
refleja dónde se realizan estos experimentos, (SBST por sus siglas en inglés) por parte del
puesto que, como se ha dicho anteriormente, Gobierno del presidente Obama, que se disol-
puede que ciertas organizaciones (nacionales vió en 2017 con el cambio de gobierno.
y sobre todo internacionales) tengan sede en
un país, pero el desarrollo de los trabajos se
realice en otros.

Cabe destacar que España no se encuentra


entre los países que cuentan con un número
significativo de unidades del comportamiento.
En 2018, la Fundación Felipe González puso
de manifiesto en su documento de 37 ideas
o pequeñas reformas de la AGE la necesidad
8. https://s1.fundacionfelipegonzalez.org/wp-content/uploads/2019/02/unidad-administrativa-de-vanguardia.pdf.
9. Únicamente se reportan Open Evidence (https://open-evidence.com/) y el Behaviour Design Lab de la Universitat Oberta de Catalunya (https://psinet.uoc.
edu/behavior-design/). Si bien se conocen otras universidades españolas y centros de investigación privados que trabajan en este campo (como se recoge en el
apartado 6.4), es frecuente que no exista el vínculo con la AGE.

35
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

3.3. A qué nivel territo- Supranacional


rial se hace

Tras realizar un repaso sobre qué organismos Este nivel se refiere a organismos internacio-
están trabajando en el ámbito de la experi- nales, como la Unión Europea, que utilizan este
mentación a nivel internacional, así como su tipo de prácticas para diseñar, implementar o
evolución en los últimos años, a continuación evaluar sus políticas, y también a las organiza-
se va a analizar el tipo de proyectos que se ciones que realizan un experimento en varios
desarrollan en función del nivel territorial. países a la vez, generalmente para poder
extrapolar los resultados a nivel supranacional.
Desde este apartado en adelante, cada uno
de los niveles va acompañado de unas fichas Los dos tipos de aplicación son similares, por-
donde se exponen algunas de las experiencias que en el primero, generalmente, la experimen-
en ese ámbito. tación también se realiza en un número deter-
minado de casos, aunque luego su aplicación
transcienda a los países en los que se hayan
hecho los experimentos.

Diseño del etiquetado energético de la UE10

Unión Europea (Eslovenia, Francia, Italia, Noruega, Polonia, Portugal, Reino Unido, República Checa
Ámbito territorial
y Rumanía)

Entidad gestora Comisión Europea

Entidad evaluadora London Economics e Ipsos

Periodo de análisis 2014

Problema El uso de productos energéticamente ineficientes se deriva, en parte, de su etiquetado poco claro.

El estudio explora la comprensión de la etiqueta energética por parte de los consumidores y cómo
Solución/es
influye su diseño en la elección de las personas.

Metodología Dos experimentos conductuales online mostrando diferentes etiquetados.

Las escalas de eficiencia energética que incluyen letras en lugar de números suelen ser mejor
comprendidas por los consumidores. Hay evidencia de que las etiquetas con letras (y no con
Resultados números), y en mayor medida las que tienen una escala de la A a la G en comparación con las
escalas de A+++ a D, hacen que más consumidores elijan productos energéticamente eficientes.
El estudio informó el etiquetado promovido por la Comisión Europea en 2015.

Como en el ejemplo a continuación, muchas


veces este tipo de experimentos tienen resul-
tados diferentes dependiendo del país en el
que se apliquen, recalcando la importancia
del contexto e ilustrando los problemas de
validez externa que pueden tener este tipo de
estudios. Por ello, se deben tomar las debidas
precauciones a la hora de escalar intervencio-
nes de un lugar a otro, porque frecuentemente
los resultados pueden variar entre territorios,
como se ilustra a continuación.
10. La fuente de información se encuentra en forma de vínculo en los títulos de las experiencias.

36
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Mejoramiento de la infraestructura habitacional en los asen-


tamientos de Latinoamérica
Ámbito territorial El Salvador, México y Uruguay

Entidad gestora TECHO Latam

Entidad evaluadora J-PAL

Periodo de análisis 2007-2012

La ONU calcula que casi mil millones de personas, principalmente en países de renta baja y me-
Problema
dia, viven en barrios marginales urbanos y carecen de una vivienda adecuada.

TECHO es una organización no gubernamental dirigida por jóvenes, que trabaja en diecinueve
Solución/es países de América Latina con el objetivo de proporcionar casas básicas prefabricadas a personas
que viven en barrios marginales.

Este estudio mide el efecto de un programa de mejora de las viviendas de TECHO mediante un
Metodología RCT en tres países latinoamericanos, evaluando la calidad de vida, la seguridad y la salud de los
niños.

Las familias que recibieron el programa de viviendas por parte de TECHO estaban más satisfe-
chas con sus casas y su calidad de vida. Los hogares de El Salvador que recibieron una mejora de
la vivienda informaron de cambios sustanciales en su sensación de seguridad (no se reportaron
diferencias significativas en los otros dos países). En El Salvador y México, la salud infantil mejoró
Resultados
gracias al programa TECHO (no se reportaron diferencias significativas en Uruguay).

TECHO Latam considera que los resultados son una manera de demostrar lo que se ha intuido
desde las experiencias en los asentamientos y el contacto constante con sus pobladores11.

País

Como se menciona en apartados anteriores,


muchos Gobiernos nacionales de todo el
mundo han incorporado o están empezando a
incorporar este tipo de prácticas en su ciclo de
políticas públicas. No obstante, independien-
temente de quién realice la experimentación
pública, aunque sea una organización inter-
nacional, la unidad de análisis suele darse a
nivel país o en varios lugares de un único país
con el objetivo de escalar la experiencia a otros
territorios dentro de este.

11. https://techo.org/jpal/.

37
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Apoyar a los hombres para que tomen un permiso parental más


largo y trabajen con flexibilidad
Ámbito territorial Reino Unido

Entidad ejecutora Behavioural Insights Team

Entidad colaboradora Banco de Santander UK

Periodo de análisis 2021

Los hombres tienden a ausentarse menos del trabajo para cuidar de sus hijos que las mujeres.
Una de las muchas explicaciones podría ser que, aunque los hombres desean la baja y apoyan
Problema
a otros que lo hacen, se subestima el apoyo que sus compañeros y compañeras tendrían hacia
ellos.

Solución/es Incentivar/motivar a los hombres para que cojan la baja paternal.

Se desarrollaron dos encuestas como línea de base y dos RCT para los que se diseñaron mensa-
Metodología jes en los que se recalcaba el apoyo de sus compañeros y compañeras de trabajo. En uno de los
RCT se recalcaba el apoyo a la baja paternal, y en el otro, al trabajo flexible.

Aumentó significativamente la intención de los participantes de tomar entre cinco y ocho sema-
nas de permiso parental en comparación con el grupo de control en RCT, pero disminuyó signi-
ficativamente la intención de los participantes de tomar más de dieciséis semanas de permiso.
Resultados
En otras palabras, aunque en general los padres eran más propensos a cogerse la baja de menor
duración, la intervención también hizo que se redujera el número de aquellos que optaban por las
bajas más largas.

Fomentar la asistencia preescolar

Ámbito territorial Uruguay

Entidad gestora Ministerio de Educación

Entidad ejecutora Grupo de Economía del Comportamiento – Banco Interamericano de Desarrollo (BID)

Periodo de análisis 2020

Uruguay ha aumentado sus niveles de cobertura preescolar hasta alcanzar casi la educación
universal para las edades de cuatro y cinco años. Sin embargo, más de una tercera parte de los
Problema niños matriculados en los programas preescolares públicos no asisten regularmente. El absentis-
mo tiende a ser mayor en las escuelas de zonas con un menor nivel socioeconómico, así como en
escolares con peores calificaciones.

Los programas que cambian la mentalidad de los padres, destacando los beneficios de la asisten-
Solución/es
cia preescolar de sus hijos, podrían disminuir el absentismo.

Este estudio evaluó el impacto mediante un RCT de una intervención en Uruguay que usó mensa-
Metodología
jes basados en las ciencias del comportamiento.

Se observó un incremento en la asistencia de entre 0,31 y 0,67 días durante trece semanas de
Resultados
intervención, y en mayor medida en el noreste de Uruguay (1,48 días).

38
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Regional En esta materia, destaca la asociación pionera


entre J-PAL y el Gobierno regional de Tamil
Cada vez más, diferentes regiones en el mun- Nadu en India, aún en vigor, que tiene como
do están formando sus propios equipos dentro objetivo realizar políticas basadas en eviden-
de los Gobiernos subnacionales para realizar cia mediante la evaluación de programas, el
experimentaciones públicas, o están recibien- fortalecimiento de los sistemas de monitoreo
do apoyos de organizaciones especializadas y la mejora de la capacidad de los funcionarios
para incorporarlas en sus prácticas. para generar y utilizar datos.

Aumentar las contribuciones voluntarias en los centros del


Programa de Comidas Colectivas
Ámbito territorial Maryland (Estados Unidos)

Entidad gestora y ejecutora Office of Evaluation Science (Gobierno federal de EE. UU.)

Periodo de análisis 2021

El Programa de Comidas Colectivas ofrece comidas saludables servidas en grupos, con el objeti-
vo de fomentar la salud y el bienestar social de las personas mayores. Las comidas colectivas se
Problema ofrecen sin coste alguno para las personas participantes, pero se ofrece la oportunidad de hacer
una contribución voluntaria al coste del servicio de la comida. Esto se debe realizar de una forma
que no comprometa su participación.

Se diseñó una intervención en la que se colocaban en las mesas tarjetas con distintos mensajes:
una en la que la imagen y el mensaje enfatizaban la naturaleza relacional del programa («Sus
Solución/es contribuciones ayudan a mantener el club de comidas como una parte estable de nuestra comu-
nidad»), y otra en la que las imágenes y el texto enfatizaban la naturaleza recíproca del programa
(«Todas las donaciones se suman al presupuesto del programa de nutrición»).

Metodología Se desarrolló un RCT con dos grupos de tratamiento y un control.

No se observaron resultados positivos ni negativos en el promedio de donaciones, y tampoco


Resultados
ningún impacto en la participación.

Aumentar las contribuciones voluntarias en los centros del


Programa de Comidas Colectivas
Ámbito territorial Alberta (Canadá)

Entidad gestora y ejecutora British Columbia – BC Behavioural Insights Group

Periodo de análisis 2017-2018

Cada año, se pide a los productores de marisco de Columbia Británica que informen de los tipos y
Problema la cantidad de mariscos que procesaron el año anterior. Muchas de estas personas no presentan
su censo o no lo hacen a tiempo.

Se diseñaron recordatorios basados en las ciencias del comportamiento y se observaron los


Solución/es
cambios de un año a otro.

En 2017 se envió un correo electrónico estándar, y en 2018, un correo electrónico con mensajes
Metodología
basados en la ciencia del comportamiento a las mismas personas.

En 2017, el 68 % de los productores de marisco presentaron su reporte, y en 2018, esta cifra fue
Resultados
del 93 %, un aumento de 25 puntos porcentuales.

39
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Local
Asimismo, en Estados Unidos tenemos el caso
Después del nivel nacional, el nivel local es el de Ideas 42 con el desarrollo del «Citynudge
que más experiencias acumula en experimen- Accelerator»13, que pretende asociarse con
tación pública. Existen varias iniciativas en Gobiernos municipales para diseñar de manera
marcha que fomentan este tipo de interven- conjunta nudges que reduzcan el consumo
ciones en ciudades. Por ejemplo, «What Works de agua o de electricidad o que aumenten la
Centre for Local Economic Growth»12, dirigido recaudación de los impuestos; y también la ofi-
por la London School of Economics and Politi- cina americana del Behavioural Insights Team
cal Science (LSE) y el Centre for Cities, y finan- y Bloomberg Philanthropies, que han creado
ciado por el Gobierno británico, se encarga de «What Works Cities»14 con el objetivo de aliarse
analizar qué políticas son más efectivas a la con varias ciudades de Estados Unidos para
hora de incrementar el desarrollo económico testar intervenciones que emplean técnicas de
local apoyando la realización de evaluaciones economía del comportamiento.
de impacto. El centro ayuda a sus socios loca-
les a planificar y desarrollar evaluaciones.

Aumentar el número de residentes que solicitan revisiones


médicas
Ámbito territorial Nueva Orleans (Estados Unidos)

Entidad gestora BIT y Bloomberg Philanthropies

Entidad ejecutora Office of Performance and Accountability (OPA)

Periodo de análisis 2016

Problema Hay muchas personas que no acuden a las revisiones médicas con la frecuencia que deberían.

Solución/es Se mandaron tres tipos de mensajes invitando a la gente a pedir una cita con su doctor.

Metodología Se desarrolló un experimento con tres grupos tratamiento.

Indicar a las personas usuarias que habían sido seleccionadas para una cita con el médico au-
Resultados
mentó un 40 % el número de personas que accedían a programar dicha cita.

Además de estas iniciativas, existen Gobier-


nos locales que también han sido pioneros a
la hora de introducir estas prácticas en sus
ciudades.

12. https://whatworksgrowth.org/.
13. https://www.ideas42.org/cities-project-landing-page/.
14. https://whatworkscities.bloomberg.org/.

40
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Reducir el vertido de basura y objetos voluminosos en las


calles de Westminster
Ámbito territorial Londres (Reino Unido)

Entidad gestora City of Westminster

Entidad ejecutora Ogilvy Consulting’s Behavioural Science Practice

Entidad financiadora London Government Association

Periodo de análisis 2020-2021

En las calles de la ciudad de Westminster se puede ver basura en el suelo, sobre todo, próxima a
Problema
contenedores de basura.

Se crearon dos diseños de contenedores considerando la teoría del comportamiento. Uno de los
diseños utilizó la biofilia, que consiste en exponer a las personas a imágenes de la naturaleza para
Solución/es
que sean más prosociales. El otro añadió «afecto» a las papeleras mediante el uso de personajes
de diseño lúdico.

Metodología Se desarrolló un RCT en doce zonas (cuatro zonas de control y ocho de intervención).

Los contenedores de biofilia no fueron eficaces para reducir el comportamiento de vertido e in-
cluso pudieron haber aumentado ligeramente los residuos en la calle. Sin embargo, esto también
puede indicar que la gente los utilizaba más, pero simplemente los utilizaba de forma incorrecta.
Resultados Las papeleras-afecto redujeron todos los tipos de residuos en términos absolutos, pero este efec-
to no fue estadísticamente significativo. Ninguna de las dos condiciones tuvo un efecto estadísti-
camente significativo sobre los objetos voluminosos, pero de nuevo la condición de afecto fue la
que mejor funcionó en términos absolutos.

3.4. Qué es lo que se último de escalarlo, o al final de la intervención


está haciendo (mediante evaluaciones) con el objetivo de me-
dir el impacto de la intervención. En el caso de
La experimentación puede tener diferentes la implementación, el objetivo suele ser similar
aplicaciones dentro de las políticas públicas. al del diseño, pero en este caso se pretende
Esta se puede aplicar en diferentes momen- realizar un ajuste o mejora de una intervención
tos del ciclo de políticas públicas, aunque ya existente.
es recomendable preverlo siempre desde el
inicio. Por otra parte, puede tener diferentes Mientras que en el pasado la experimentación
objetivos, siempre buscando la eficacia de la se relacionaba sobre todo con la última etapa
intervención, y, por último, el público objetivo de las intervenciones (evaluaciones aleatori-
varía, pretendiendo ejercer un cambio sobre las zadas), cada vez se utiliza más para el diseño
personas, sociedades u organizaciones. de prototipos de intervenciones y políticas
públicas, antes de su implementación real.
Ciclo de políticas En este tipo de intervenciones, la escala del
prototipo suele ser pequeña, y es frecuente que
Aunque el objetivo de la experimentación se complemente con una evaluación de la in-
pública esté muy vinculado a testar (o evaluar) tervención final. Asimismo, también se realizan
una intervención, esto no impide que se pueda estudios empleando métodos experimentales
emplear en diferentes momentos del ciclo de por parte de instituciones privadas con el obje-
políticas, desde el diseño hasta su implemen- tivo de hacer incidencia en el diseño de cierta
tación, o incluso su evaluación. intervención o política pública.
La aplicación de este tipo de experimentos se
puede hacer previo a la implementación de la
intervención (mediante prototipos) con el fin
41
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Piloto de Créditos Creativos

Ámbito territorial Manchester City Region (MCR)

Economic and Social Research Council, Arts & Humanities Research Council and Manchester City
Entidades colaboradoras
Council

Entidad evaluadora Nesta

Periodo de análisis 2009-2011

Existe evidencia contradictoria sobre el impacto en el crecimiento de las pymes de programas que
Problema
fomentan la innovación.

Realizar un programa piloto de Créditos Creativos (apoyar a las pymes a aliarse con empresas
Solución/es
creativas) en la región de Mánchester y evaluar su impacto.

Entre octubre de 2009 y noviembre de 2010, se concedieron 150 créditos creativos —vales con un
valor nominal de 4000 libras esterlinas— a las pymes que cumplían los requisitos para desarrollar
proyectos de innovación en colaboración con una empresa creativa. Esto se realizó mediante una
Metodología
metodología RCT con un grupo control y tratamiento (150 tratamiento y 301 control), entre otras
técnicas. Se realizaron cuatro encuestas, dos de ellas a los seis y a los doce meses de implemen-
tación.

• Las empresas que recibieron créditos creativos disfrutaron de un impulso a corto plazo en su
innovación y un crecimiento de las ventas en los seis meses siguientes a la finalización de sus
proyectos creativos.
Resultados

• Sin embargo, los efectos positivos no se mantuvieron, y al cabo de doce meses ya no había una
diferencia estadísticamente significativa entre los grupos que recibieron los créditos y los que no.

También existen numerosos ejemplos de


experimentos que tienen lugar en el proceso
de implementación. Es decir, se aplican a una
intervención que ya está en marcha para ob-
servar el efecto que puede tener en la mejora
de su eficacia, puesto que lo que se está imple-
mentando o se ha implementado no ha tenido
el efecto esperado.

Este tipo de experimentación no puede ser


muy elaborada, puesto que pretende mejorar
una intervención que ya está en marcha y, por
tanto, normalmente se requiere mayor agilidad
en la toma de decisiones. Gran parte de los
experimentos que incorporan las ciencias del
comportamiento se emplean para aumentar la
demanda o aceptación (take-up) de una inter-
vención ya existente, por lo que se encuentran
dentro de esta tipología.

42
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Incrementar la finalización de prácticas de trabajo

Ámbito territorial Nueva Gales del Sur (Australia)

Entidad gestora y ejecutora Behavioural Insights Unit (NSW Government)

Periodo de análisis 2019-2021

Las tasas de finalización de prácticas de trabajo son bajas en esta región. En 2015, el primer
Problema ministro de Nueva Gales del Sur (NSW, por sus siglas en inglés) estableció como prioridad estatal
aumentar la finalización de las prácticas del 50 al 65 %.

Ayudar a los alumnos a obtener el apoyo oportuno para completar sus prácticas enviándoles dos
Solución/es tipos de mensajes de texto, diseñados para animar a los estudiantes en prácticas a buscar ayuda
cuando la necesiten y a completarlas.

Metodología Se desarrolló un RCT (dos grupos de tratamiento y uno de control).

Los resultados del ensayo fueron muy positivos. El mensaje que recalcaba que se les estaba brin-
Resultados
dando una oportunidad fue el más eficaz para reducir las tasas de abandono a los doce meses.

Por último, la experimentación pública tam- nes de impacto realizadas una vez finalizada
bién se puede incorporar en la manera de una intervención, estas tienen que ser previs-
evaluar una intervención, empleando en este tas desde el inicio para poder establecer los
caso ensayos controlados aleatorizados para grupos de tratamiento y control y realizar una
cuantificar el impacto. Aunque sean evaluacio- línea de base.

Apoyar el futuro laboral de alumnado con discapacidad

Ámbito territorial Maryland (Estados Unidos)

Entidad gestora Universidad de Maryland en colaboración con el Maryland State Department of Education

Entidad evaluadora Mathematica

Periodo de análisis 2017-2021

El alumnado de secundaria que presenta algún tipo de discapacidad se enfrenta a diversos obstá-
Problema culos en su transición a la edad adulta, y suelen tener un rendimiento inferior al de sus compañe-
ros sin discapacidades en lo que respecta a la educación postsecundaria y el empleo.

Way2Work Maryland es una iniciativa promovida por la Universidad de Maryland junto con el
Gobierno estatal, con el objetivo de mejorar la preparación universitaria y profesional de los estu-
Solución/es
diantes de secundaria con discapacidades mediante su participación en los servicios adicionales
para ayudarlos a hacer la transición a la edad adulta con éxito.

Metodología Se desarrolló un RCT durante dos años con cuatrocientos estudiantes de secundaria.

Aunque el programa se desarrolló conforme a lo previsto, Way2Work no generó el impacto desea-


Resultados
do a corto plazo (tras dos años de implementación).

43
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Objetivos de relacionada con las evaluaciones de interven-


experimentación ciones. También puede servir para realizar una
modificación a una intervención ya en marcha
La experimentación se puede emplear para y ver si funciona mejor con el cambio. Asimis-
evaluar qué funciona dentro de una amplia mo, y vinculado sobre todo con el diseño de las
gama de potenciales intervenciones, qué intervenciones, otro uso de la experimentación
estrategia podría tener mejores resultados en sería entender las causas subyacentes de un
una intervención concreta, o para decir cómo problema para poder plantear una intervención
hacerlo dentro de una estrategia ya definida. que tenga más posibilidades de funcionar.
Estas opciones de uso no tendrían por qué ser
excluyentes y a veces se utilizan de manera
combinada.

El primer objetivo de ver si una intervención


«funciona», simplemente plantea una alternati-
va y se evalúa. Esta aplicación está sobre todo

Incrementar la finalización de prácticas de trabajo

Ámbito territorial Reino Unido

Entidad gestora y ejecutora Behavioural Insights Team (BIT)

Periodo de análisis 2017-2021

Problema Las personas jóvenes participan menos en la política que cualquier otro grupo de edad.

El aprendizaje-servicio (un tipo de educación cívica) es una política que ha recibido una cantidad
sustancial de inversión pública en un intento de resolver este problema. Sin embargo, hasta la
Solución/es
fecha no se han encontrado pruebas de su efecto, ni de cómo se produce, ni de cómo se puede
maximizar.

Metodología Se realizó un cuasiexperimento (N = 5486), entrevistas (N = 27) y un RCT (N = 227.372).

Esta investigación ofrece la primera evidencia robusta de los efectos causales del
aprendizaje-servicio sobre participación política de los jóvenes, resolviendo una disputa en la lite-
Resultados
ratura entre los que han encontrado (o predijeron) efectos positivos, negativos y nulos. También
proporciona una teoría detallada sobre cómo se producen estos efectos.

El segundo objetivo de «qué hacer» plantea di-


ferentes estrategias para una intervención con
el fin de ver cuáles funcionan mejor. Es una
experimentación menos detallada, en la que no
se tiene en cuenta que, dentro de las posibles
opciones, podría haber características concre-
tas que hicieran que variara el resultado.

44
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

fomentar la vacunación infantil

Ámbito territorial Haryana (India)

Entidad gestora J-PAL

Gobierno de Haryana, Sana, USAID, International Initiative for Impact Evaluation (3ie), Bill and
Entidades colaboradoras
Melinda Gates Foundation y GiveWell

Periodo de análisis 2016-2018

A pesar del esfuerzo de muchos Gobiernos por incrementar la vacunación infantil, el porcentaje
Problema de niños totalmente inmunizados en países como India es solo del 62 % (dato de 2016). Una gran
parte de ellos reciben la primera vacuna, pero no tienen la pauta completa.

Se seleccionaron siete distritos en los que la tasa de vacunación era especialmente baja y se
concentraron en los niños con menos de doce meses, que deberían recibir cinco inmunizacio-
Solución/es nes. De 2016 a 2018 los investigadores evaluaron el efecto de tres herramientas de políticas en
el incremento de la demanda de vacunación: pequeños incentivos, recordatorios específicos y
embajadores locales de inmunización con diferentes variaciones en cada grupo.

Combinación de un RCT y machine learning en 140 centros de asistencia primaria y 755 subcen-
Metodología
tros.

El paquete más efectivo fue la combinación de los embajadores locales de inmunización selec-
cionados por la comunidad, los incentivos, que se iban incrementando a lo largo del proceso de
inmunización, y los mensajes de recordatorio que se mandaban a los progenitores acerca de la
siguiente fecha de vacunación. La combinación incrementó la tasa de vacunación un 55 % con
Resultados respecto al grupo control.

A partir de este experimento, el Gobierno de Haryana está trabajando con investigadores y con
J-PAL para escalar el paquete más efectivo en todo el país con el apoyo de la Iniciativa de Innova-
ción en el Gobierno del J-PAL.

Se podría plantear, aunque guarde relación con


el objetivo anterior, que hay un tercer uso de
la experimentación pública, muy vinculada a
la economía del comportamiento, en la que lo
que se pretende es buscar que una interven-
ción sea «más efectiva» teniendo en conside-
ración los sesgos cognitivos. Un ejemplo claro
de ello son las experimentaciones en las que
se incluyen diferentes mensajes para ver cuál
es el que tiene un mayor efecto para cambiar
el comportamiento de las personas.

45
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Piloto de Créditos Creativos

Ámbito territorial Washington D. C. (Estados Unidos)

Entidad ejecutora The LAB DC (Gobierno de Washington D. C.)

Periodo de análisis 2017-2019

El Departamento de Servicios Humanos de Washington D. C. puso en marcha un programa para


Problema ayudar a las familias con bajos ingresos a cubrir el alquiler (DC Flex), sabiendo que gran parte de
las personas elegibles para estos programas no las solicitan.

Se quiso encontrar la mejor manera de notificar a los residentes y animarlos a pedir la ayuda DC
Solución/es
Flex.

Se realizaron tres experimentos para comprobar cómo afectaban los distintos métodos y materia-
les de divulgación a la probabilidad de que una familia solicitara el programa. A partir de la infor-
Metodología mación sobre las familias que habían solicitado servicios para personas sin hogar y que podrían
ser elegibles para el programa, se asignó aleatoriamente a cada una de ellas un mensaje y se hizo
seguimiento sobre cuántas solicitaban participar en DC Flex.

Los resultados permitieron comprobar que enviar una carta junto con un mensaje de texto era
la mejor manera de aumentar las solicitudes. A partir de estos resultados preliminares se ha
Resultados diseñado un RCT para comprobar si las personas participantes del programa tienen menos
probabilidades de experimentar la falta de vivienda, la inestabilidad de la vivienda y las dificultades
económicas que las familias que no están inscritas15.

Entes destinatarios de la
experimentación

Los entes destinatarios o beneficiarios de


las intervenciones que incluyen experimen-
tación pueden ser variados, desde personas
individuales hasta organizaciones. Esto hace
referencia a la diferencia en el alcance de las
actuaciones.

Cabe destacar que muchas de las intervencio-


nes basadas en la experimentación tienen el
fin último de fomentar el bienestar individual
de las personas y no tanto el de la sociedad,
aunque también pueda tener un efecto indirec-
to positivo para esta. Por ejemplo, mejorar la
alimentación de las personas mediante nud-
ges es beneficioso para los individuos, pero
también para prevenir y reducir enfermedades
como la obesidad, que tienen una incidencia y
un ahorro sociales.

15. https://www.huduser.gov/portal/sites/default/files/pdf/DC-Flexible-Rent-2020.pdf.

46
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Reduciendo brechas de acceso a educación superior

Ámbito territorial Perú

Entidad gestora Programa Nacional de Becas y Crédito (PRONABEC)

Entidad ejecutora Banco Interamericano de Desarrollo y PRONABEC

Periodo de análisis 2020-2021

A menudo, las decisiones relacionadas con la educación superior se realizan en un contexto de in-
formación imperfecta. Los estudiantes de bajo nivel socioeconómico se encuentran en desventaja
porque tienen menos acceso a la información y cuentan con menos mecanismos para superar
Problema
las imperfecciones de la información. Además, la existencia de estereotipos y sesgos de género
puede influenciar este proceso, particularmente a la hora de elegir el tipo de carrera y de universi-
dad/institución educativa según su nivel de exigencia y calidad.

El PRONABEC y el BID realizaron un estudio experimental con el objetivo de incentivar el uso de


las herramientas ofrecidas por el PRONABEC para facilitar el proceso de elección y postulación
a la educación superior de potenciales personas beneficiarias de Beca 18 (para estudiantes que
Solución/es
quieren continuar los estudios superiores y se encuentran en situación de pobreza extrema). El
objetivo final era mejorar la calidad de la postulación, incentivando la elección de carreras de alto
retorno económico y de instituciones educativas de calidad, con especial énfasis en las mujeres.

Se desarrolló un RCT con tres grupos (hombres + mensaje estándar, mujeres + mensaje estándar
Metodología
y mujeres + mensaje diferenciado).

Los SMS informativos se correlacionaron positivamente con la tasa de postulación de hombres y


mujeres, en comparación con la convocatoria 2019, y se asociaron con una mayor probabilidad de
ganar la beca y de postular a una carrera con alto retorno, especialmente para las mujeres.
Resultados
Los mensajes de motivación y autoconfianza enviados a las mujeres lograron incrementar la
probabilidad de usar las herramientas de apoyo, pero no tuvieron efectos en la probabilidad tener
una postulación válida.

Sin embargo, con otros experimentos también


se pretende generar cambios en las personas,
pero con el fin de que estos sean beneficio-
sos para otras personas o para la sociedad
en general. Por ejemplo, se pretende que el
funcionariado cambie ciertas prácticas para
mejorar la calidad de sus servicios, lo cual
incide directamente en la sociedad.

47
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

incentivos para servidores públicos

Ámbito territorial Ciudad de Buenos Aires (Argentina)

Entidad gestora Ciudad de Buenos Aires

Entidad ejecutora Grupo de Economía del Comportamiento – Banco Interamericano de Desarrollo (BID)

Periodo de análisis 2017-2019

Para la buena gobernanza, es primordial ampliar las capacidades y aumentar la calidad del sector
público. Un paso en esta dirección consiste en aumentar el cumplimiento de las tareas y la eficien-
Problema cia de los funcionarios. La tarea específica por mejorar era el cumplimiento de las solicitudes en
virtud de la Ley de Libertad de Información, que permite a cualquier persona obtener acceso a los
registros gubernamentales en Argentina.

Mientras que el sector privado suele recurrir a los incentivos económicos para lograr estos
resultados, este enfoque tiene varias limitaciones en el sector público, por lo cual es importante
Solución/es explorar alternativas. El proyecto midió los efectos de dos enfoques: un taller tradicional y una
intervención conductual (modificación y rediseño de la notificación que la dirección que tramita
las solicitudes envía a los organismos específicos).

Se desarrolló un RCT con un grupo control que recibía la carta original y un grupo tratamiento
Metodología que recibía la carta modificada. La unidad de observación fueron las solicitudes individuales de la
ciudadanía, con 3785 observaciones antes y 3111 después del inicio de la intervención.

La intervención conductual (carta rediseñada) consiguió aumentar en 5,8 puntos porcentuales la


Resultados respuesta a una solicitud exactamente en el segundo día de plazo. Esto representa un aumento
del 64 % con respecto a la media en la etapa previa al tratamiento.

Asimismo, una más reciente aplicación de la


experimentación pública, en concreto en el
ámbito de las ciencias del comportamiento, es
para que las propias organizaciones integren
en sus procesos cambios para mejorar su
propio funcionamiento.

48
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Aumentar la seguridad energética en organizaciones

Ámbito territorial Canadá, Irlanda, México y Omán

Entidad ejecutora OCDE

Periodo de análisis 2020

Muchos incidentes de gran repercusión en el sector de la energía se han producido debido —al
menos en parte— a un comportamiento organizativo deficiente, incluida una escasa cultura de la
Problema seguridad. Entre ellos figuran grandes catástrofes, como el fallo del sistema de seguridad nuclear
de la central de Fukushima Daiichi en 2011 y el vertido de petróleo de BP Deepwater Horizon en
2010.

Cambiar el comportamiento de las organizaciones que regulan la energía en varios países, cen-
Solución/es
trándose en el fomento de elementos de una cultura de la seguridad en el sector energético.

El experimento se realizó mediante un cuestionario que incluía preguntas sociodemográficas, so-


bre la percepción de la seguridad y sobre sus actitudes ante mensajes sobre seguridad basados
Metodología en las ciencias del comportamiento (mensaje de superior/compañero, normas sociales y retroali-
mentación). Aunque no se realizó un grupo tratamiento y control, los mensajes se presentaron de
manera aleatoria.

Los mensajes que proporcionaban retroalimentación fueron los que tuvieron un mayor efecto en
las actitudes de las personas encuestadas.

Los mensajes que procedían de un superior solo tuvieron un efecto positivo en Omán e Irlanda, y
Resultados el efecto era menor si procedía de un compañero.

Los mensajes que apelaban a las normas sociales fueron los menos efectivos, y las personas
encuestadas provenientes de México fueron las únicas en las que se observó un efecto estadísti-
camente significativo.

3.5. Cuánto duran diseño o hacer un ajuste en la implementación


de una intervención. Por otro lado, aparecen
La duración de este tipo de experimentos otro tipo de experimentos, que tienen una
varía considerablemente16 dependiendo de su duración de entre 2 y 4 años, e incluso 5 o más,
complejidad y de la precisión que se pretenda y que implican una evaluación de impacto de
conseguir con ello. Sin embargo, una menor una intervención o el análisis del diseño de un
duración no tendría por qué ser un indicativo proyecto piloto de una actuación de mayor
de menor calidad, sino que suele estar relacio- tamaño.
nada con el momento en el que se implemente
(diseño, implementación o evaluación) y los 3.6. En qué sectores17
objetivos de la experimentación.
La experimentación se ha concentrado tradi-
En este sentido, se identifican dos grupos. Por cionalmente en algunas áreas de las políticas
un lado, aquellos que tienen una duración de 1 públicas, como la salud y la educación, pero su
año o incluso menor, y que se relacionan con uso se ha ido expandiendo a lo largo del tiem-
experimentos de laboratorio, encuestas o RCT po y en la actualidad se emplea en una gran
de pequeña escala que pretenden informar del variedad de sectores.
16. En la mayor parte de los ejemplos presentes en las tablas resumen, se indica el año o los años en los que ha tenido lugar la experimentación, si bien no siempre
se detalla el tiempo específico invertido.
17. Los casos clasificados por sectores se encuentran en el Anexo 1 y en el título de cada sector se incluye un vínculo a estos ejemplos para facilitar su
localización.

49
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Educación motivar ciertas actitudes que contribuyen a


una mejora en la salud de las personas.
Junto con la salud, la educación es uno de
los sectores en los que más trabajo se realiza También, de manera complementaria y similar
en experimentación pública. Dentro de esta a los realizados entre el personal de las es-
área, se suelen encontrar intervenciones que cuelas mencionados en el apartado anterior,
fomentan el acceso y la permanencia en ella, se han hecho experimentos que pretenden
mientras que otras pretenden mejorar la cali- fomentar cambios entre el personal sanitario o
dad. En este sector, se presta mayor atención cambios en las organizaciones de salud para
a los grupos que históricamente han estado mejorar la asistencia.
excluidos y, por tanto, con una mayor tasa de
abandono prematuro, con el objetivo de que Consumo
puedan continuar con su educación y mejorar
su bienestar económico. Uno de los objetivos principales de las ciencias
del comportamiento aplicadas en el ámbito de
Por ejemplo, con el objetivo de incrementar el las políticas públicas está vinculado a procurar
acceso, se ha pretendido identificar qué costes que los individuos cambien ciertos comporta-
de la educación pueden estar impidiendo que mientos para el beneficio de la sociedad, pero
los niños continúen con la educación, y qué sobre todo para el bienestar propio. En este
sucede si se suavizan dichos costes. También sentido, existen diversos ejemplos de interven-
mediante la experimentación, se pretende ciones para evitar que se realicen consumos
mejorar el rendimiento escolar y reducir el nocivos.
absentismo y la deserción escolar para promo-
ver el éxito de los estudiantes en culminar sus Protección social
estudios. En cuanto a la mejora de la calidad
educativa, se ha buscado fundamentalmente Otro de los sectores en los que se ha realiza-
motivar a los docentes y gestores escolares do un importante trabajo de experimentación
para que desempeñen mejor su trabajo. pública es el ámbito de la protección social,
con el objetivo principal de reducir la pobreza
Salud y las desigualdades. Las investigaciones que
se han llevado a cabo en este sector preten-
Históricamente, los ensayos controlados der fomentar que las personas con derecho a
aleatorizados se han usado principalmente programas asistenciales hagan uso de ellos, y
para conocer el efecto de ciertos tratamien- también mejorar la efectividad de este tipo de
tos médicos sobre la población. Además de políticas mediante mecanismos más innova-
esta experimentación vinculada a la medicina, dores para proporcionar ayudas. Algunos de
más recientemente los RCT se han utilizado los programas estrella, en los que se han rea-
también en el ámbito de la salud para testar lizado numerosos RCT, son las transferencias
cómo se pueden prevenir o tratar ciertas en- monetarias y los vinculados a prestaciones
fermedades, fomentando el cambio de cier- sociales innovadoras, como el ingreso mínimo
tas prácticas o actitudes entre la población. vital o la renta básica universal.
Por ejemplo, mediante el uso de la ciencia del
comportamiento existen ejemplos de éxito Agricultura
en aumentar el porcentaje de vacunación, la
adherencia al tratamiento y la prevención de El uso de la experimentación pública en este
enfermedades como la obesidad y la diabetes. sector se centra en la mejora de los sistemas
En este ámbito, se ha descubierto que hay un agrícolas, en concreto, en las maneras de
gran potencial en los incentivos pequeños para incrementar la productividad, sobre todo de los
50
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

pequeños agricultores. Un área interesante es Impuestos y finanzas


la investigación sobre los motivos por los que
no se adoptan ciertas tecnologías. Además En el ámbito de los impuestos se ha realizado
de la mejora en la productividad, también se experimentación con dos fines principales:
intenta reforzar el vínculo de los agricultores fomentar que la gente pague sus impuestos,
con los mercados y con las oportunidades de y asegurarse de que las personas completen
financiación que este ofrece. correctamente las declaraciones y empleen los
beneficios fiscales que les puedan correspon-
Energía y medioambiente der. En el sector de las finanzas se ha hecho
experimentación para fomentar que exista un
Sobre energía, en concreto, se han hecho mayor acceso a la financiación y para que las
diversas investigaciones sobre cómo presentar personas tomen mejores decisiones acerca del
u ofrecer los servicios eléctricos para que las manejo de sus finanzas.
personas usuarias puedan comprender y elegir
las opciones más beneficiosas para sí mismas Mercado laboral y empresas
y para el medioambiente. También existen
muchas intervenciones para que las personas En este campo se han realizado numerosos
no tengan comportamientos nocivos con el estudios para evitar la discriminación en los
entorno y para fomentar su cuidado. mercados laborales, algo que ocurre muchas
veces en los procesos de selección. Asimismo,
Género numerosos trabajos se han centrado en en-
tender y levantar las barreras que existen para
El género podría considerarse un área trans- el crecimiento y el éxito de las empresas. Una
versal a muchos de los otros sectores aquí parte importante de ello han sido intervencio-
analizados. Sin embargo, dado el gran núme- nes basadas en la teoría del comportamiento
ro de proyectos que tienen como fin último para promover el emprendimiento, sobre todo
empoderar a las mujeres en distintos ámbitos, entre determinados colectivos.
por ejemplo, en el laboral, y también frente a
la violencia de género, se considera oportuno Innovación
considerarlo un sector en sí mismo.
Mediante la experimentación en general es
Gobernanza y participación frecuente que se pretenda fomentar la inno-
civil vación, que es en sí misma una metodología
innovadora. Por ejemplo, el programa Horizon-
El fomento de la participación política, so- te 2020 de la Comisión Europea ha financiado
bre todo, motivando a las personas para que mediante la subvención INNOSUP-06 a agen-
participen en elecciones y procesos políticos, cias de innovación de los Estados miembros
ha sido sujeto de diversos experimentos que para que realicen proyectos experimentales
incluyen las ciencias del comportamiento. No evaluados por RCT.
obstante, también se han hecho otro tipo de
experimentos que pretenden mejorar la gober- Seguridad y justicia
nanza y el servicio que ofrecen las institucio-
nes públicas a la ciudadanía. En otras palabras, En el sistema jurídico hay pequeños errores
se han aplicado las ciencias del comporta- —como faltar accidentalmente al juzgado o
miento para mejorar la toma de decisiones no poder pagar una multa— que pueden tener
de los Gobiernos, teniendo en cuenta que su repercusiones en la libertad, los medios de vida
funcionariado también está influenciado por y el bienestar de las personas. Esto es espe-
las heurísticas y los sesgos. cialmente cierto para aquellas personas con
51
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

mayor nivel de pobreza, o que sufren racismo


sistémico o violencia. Existe un área de la ex- • Han crecido el número y la tipología de
perimentación pública que se dedica a mejorar instituciones que están trabajando en la
los resultados (y prevenir los resultados negati- experimentación, lo que hace que se estén
vos) en el sistema judicial. generando cada vez más experiencias, con
el expertise y los aprendizajes que esto
En cuanto a la seguridad ciudadana, se han conlleva.
puesto en marcha iniciativas de diferentes
tipos para garantizar que las acciones que rea- • La experimentación se está desarrollan-
lizan las personas no presenten riesgos para do en diferentes momentos del ciclo de
la ciudadanía, pero sobre todo para su propia políticas, y no solo en el de la evaluación.
seguridad. Los ejemplos son variados, desde En concreto, que se haya incrementado
la seguridad cibernética hasta la seguridad la aplicación de la experimentación en el
vial. En este ámbito, destaca el programa del diseño, y también en la implementación, es
Banco Mundial «ieConnect for Impact»18, que una oportunidad para comenzar a emplear
pretende generar un importante volumen de metodologías experimentales con menor
información a través del desarrollo de siste- coste y duración y además hacerlo de ma-
mas de datos y evaluaciones experimentales nera complementaria. Algo similar ocurre
y cuasiexperimentales para transformar los con que se pueda usar con diferentes fines
sistemas de movilidad basados en evidencia. y públicos objetivos.

También en relación con el conflicto y la • Que exista un gran abanico de sectores


violencia, se han realizado estudios con el que estén implementando estas metodo-
objetivo de entender mejor cómo se organiza logías expande el ámbito de desarrollo,
la violencia social y política, y de evaluar el así como la información disponible para
impacto de las respuestas políticas diseñadas otras Administraciones sobre actuaciones
para combatir la delincuencia y la violencia o basadas en la evidencia en sectores muy
aliviar sus efectos negativos. dispares.

3.7. Elementos facilita- De manera más concreta, este análisis ha


dores de la experimen- mostrado que para que una Administración
tación pública desarrolle este tipo de metodologías de
manera habitual es necesario:
Tras el análisis de las iniciativas experimentales
y sus diferentes usos, se puede concluir que en • Favorecer una cultura del uso de la
el contexto internacional existen algunos ele- evidencia en la evaluación y el diseño de
mentos facilitadores de la implementación de las políticas para que se puedan introducir
estas metodologías en las políticas públicas. elementos experimentales en ambos pro-
cesos. Esto requiere, primero, un cambio de
De manera general, que se haya ampliado el mentalidad, pero también actuaciones por
alcance en los tipos de aplicación de la experi- parte de la Administración que favorezcan
mentación supone una oportunidad para que su desarrollo.
estas metodologías se puedan implementar en
una mayor variedad de situaciones y ámbitos. • Contar con recursos técnicos y financie-
Algunos elementos que lo han facilitado hasta ros para implementar estas metodologías.
ahora han sido: Por ejemplo, los ya mencionados fondos

18. https://www.worldbank.org/en/research/dime/brief/transport. Se ha desarrollado en Brasil, Colombia, Etiopía, Guinea-Bissau, Irak, Kenia, Liberia, Malawi,
Mozambique, Nepal, Nicaragua, Nigeria, Perú, Ruanda, Senegal, Tanzania y Túnez.

52
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

de experimentación son un motor para que


se realicen este tipo de experiencias en el
sector público y privado, y también lo es el
apoyo de organizaciones internacionales y
de investigación.

• Tener una base de experiencias suficien-


tes que generen aprendizajes y sistemati-
cen procesos, de manera que se agilice la
implementación de este tipo de metodo-
logías y que resulte más sencillo que se
incorporen e institucionalicen.

Por lo tanto, cuanto más larga sea la tra-


yectoria en este ámbito, más probable será
que estas prácticas se institucionalicen. En
este sentido, hay organizaciones y países que
llevan desde principios de siglo fomentando
las evaluaciones experimentales y las cien-
cias del comportamiento y que, por tanto, se
encuentran más avanzadas en estos ámbitos,
favoreciendo una mayor base de evidencias y
contando con un mayor expertise respecto a
los países que se han sumado de manera más
reciente. Sin embargo, que se haya realizado
un avance en la materia significa que actual-
mente se ha ampliado el alcance de su uso y
que se ha generado ya una base de evidencias
y herramientas que facilitan que se pueda
empezar a implementar estas metodologías en
los lugares en los que tienen un menor desa-
rrollo.

53
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

estudios
de
casos
interna
cionales

04.
54
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

En esta sección se describen en mayor pro- • Datos sobre el consumo y la producción


fundidad dos de los ejemplos recogidos en las de energía, y los costes e ingresos relacio-
fichas de experiencias. nados para fomentar el uso eficiente de
la energía, comparar el contrato con otras
4.1. Mejorar la factura ofertas disponibles y considerar opciones
de la luz19 de suministro de energía alternativas.

Contexto • Cómo reclamar o plantear una consulta en


relación con la factura.
Tradicionalmente, en la factura energética se
obtiene información que permite pagar la fac- • Cómo acceder a los servicios de interpre-
tura, entender el uso y los costes de la energía tación y solicitar ayuda financiera.
y ponerse en contacto con la compañía para
resolver dudas. Dadas las nuevas opciones • Cómo informar de una avería o emergen-
tecnológicas, es oportuno considerar cómo se cia.
pueden simplificar las facturas de energía sin
comprometer su propósito, y cómo pueden Este experimento se realizó como parte del
interactuar con otros servicios y procesos para proceso para proporcionar información clara
ayudar a los consumidores a conseguir un y accesible a los consumidores de energía,
buen servicio en el mercado energético. empoderándolos en sus decisiones.

La velocidad de los cambios en el sector indica Organizaciones


que es necesario un mecanismo regulador que involucradas
proteja a los consumidores y que también pue-
da seguir el ritmo de la evolución del mercado El AER se asoció con el Equipo de Economía
y de las preferencias de dichos consumidores. del Comportamiento del Gobierno Australiano
(BETA, por sus siglas en inglés) para aplicar las
Intervención y objetivos del ciencias del comportamiento al diseño de las
estudio facturas de energía, y fueron apoyados en el
estudio por Hall & Partners y el Ethnic Commu-
El 18 de marzo de 202120, la Comisión Austra- nities Council de Nueva Gales del Sur.
liana del Mercado de la Energía (AEMC, por
sus siglas en inglés) encargó al Regulador Metodología
Australiano de la Energía (AER, por sus siglas
en inglés) la elaboración de un conjunto de El estudio implicó una revisión bibliográfica
directrices sobre el contenido de la factura y para identificar las preguntas clave de la inves-
los requisitos de facturación que debían seguir tigación, seis RCT mediante encuestas en línea
los proveedores de energía con el objetivo de con más de 14.000 personas, y grupos focales
que los consumidores entiendan con facilidad con personas con un origen cultural o lingüísti-
la información sobre: co diferente y con personas mayores (65 años
o más) sin conocimientos digitales.
• Importes, fechas y métodos de pago.
En el análisis documental se identificó que el
• Cómo se calcula la factura y si se ajusta al contenido y las estructuras complejas de las
contrato. facturas confunden a los consumidores en el

19. Fuente principal de información: https://behaviouraleconomics.pmc.gov.au/projects/improving-energy-bills.


20. https://www.aemc.gov.au/sites/default/files/2021-03/RRC0036%20Bill%20contents%20and%20billing%20requirements%20-%20Final%20
determination_1.pdf.

55
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

mercado energético. Además, hay evidencia de australiana. Todas las dificultades aquí descri-
que proporcionar a los consumidores informa- tas son un buen ejemplo de los problemas y
ción sobre su uso de la energía es una forma limitaciones a los que se suelen enfrentar este
eficaz de educarlos en su eficiencia energética. tipo de experimentos.
Igualmente, parece que facilitar la compara-
ción de las facturas es un paso crucial para Resultados
fomentar el cambio de proveedor y una pro-
moción más activa de los servicios de cambio A. Contenido de la factura: ¿qué tipo de
en las propias facturas. Pero también en la contenido es prioritario incluir en la factu-
revisión documental se identificaron algunas ra?
carencias de información que sirvieron para
formular las preguntas de investigación que • Las facturas se utilizan principalmente
estructuran el apartado de resultados. para realizar el pago (77 %), comprobar el
uso de la energía (65 %) y conocer cómo
Tras el análisis documental, se diseñaron dife- se ha calculado la factura (58 %).
rentes tipos de facturas y se procedió a realizar
seis RCT en dos muestras de población: el • Las personas con dificultades económi-
grupo A, con 6372 personas, y el B, con 7827. cas son más propensas a utilizar la fac-
A las personas participantes se les hicieron tura para obtener ayuda o asesoramiento
preguntas sobre varias facturas energéticas financiero o realizar reclamaciones.
hipotéticas creadas para el experimento.
• Una factura debe incluir, como mínimo:
Por último, como ya se ha dicho, el AER llevó la cantidad a pagar y la fecha de venci-
a cabo grupos focales con población cultural miento (88-89 %); el periodo de factu-
y lingüísticamente diversa y con personas ma- ración y los posibles descuentos; cómo
yores de 65 años que no suelen acceder online pagar; una tabla de gastos detallados que
a sus facturas con el objetivo de entender las explique cómo se ha calculado la factu-
necesidades de estas audiencias específicas. ra, y los datos de contacto para solicitar
ayuda. Además, la mayor parte de este
Dificultades y limitaciones contenido debería ir en la primera página.

En cada uno de los RCT se intentó imitar una • Algunos consumidores también utilizan
situación de la vida real. No obstante, las reac- las facturas para otros fines. En particular,
ciones de las personas encuestadas pueden las personas encuestadas también las
ser diferentes a cómo reaccionan los consumi- usan para comparar planes de energía (38
dores de energía en la vida real. En esta misma %) o para mejorar su eficiencia energética
línea, las intenciones muchas veces no se (30 %).
materializan en acciones, y esto no se puede
valorar en este experimento. Además, las per- B. Simplificación de la factura: ¿cómo redu-
sonas participaron en un estado reflexivo en el cimos la sobrecarga de información en las
que normalmente se prefiere tener más infor- facturas?
mación y detalle, pero esto no se corresponde
a las preferencias del día a día. Por último, las • En los grupos focales y en las encuestas
personas suelen participar en encuestas con las personas estuvieron de acuerdo en
pequeños incentivos monetarios y, por tanto, que quieren que las facturas sean fáciles
puede ser que las respuestas no sean genui- de entender. Las sugerencias específicas
nas y que, aunque la muestra sea grande y para su simplificación fueron ordenar los
diversa, no sea representativa de la población elementos, destacar la información crítica,
56
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

aumentar el tamaño de la letra, utilizar


menos jerga técnica y dar explicaciones Repercusión e incidencia
más claras. política

• Las facturas más simples del experimen- A raíz de los diferentes experimentos se ha
to no fueron mejor comprendidas que las podido determinar cuál es la mejor manera de
más complejas. Los resultados también presentar la información de las facturas y el
indican que quitar información tenía un AER ha redactado la guía «Better bills guideli-
impacto negativo en la comprensión. Por ne»21. Estas directrices son obligatorias para
tanto, si una factura está bien diseñada, la los proveedores de energía, que deben confec-
extensión y la estructura no suponen una cionar sus facturas siguiendo ciertos estánda-
barrera a la comprensión. res de presentación.

C. Comprensión de la factura: ¿cómo se pue- 4.2. La ampliación de


de maximizar la comprensión de la factura? servicios de guarde-
rías infantiles y sus
• Un resumen del plan ayudó a los consumi- efectos en la partici-
dores a entender mejor cómo se calculaba pación laboral22
su factura, pero no servía para que eligieran
un plan más rentable. Contexto

• Incluir una caja con las definiciones no La participación laboral ha sido tradicional-
ayudó a mejorar la comprensión. mente y continúa siendo en la actualidad más
baja entre las mujeres que entre los hombres.
• La tabla de costes existente era compren- En Chile, a pesar de que ha habido un aumento
dida igual de bien que los nuevos diseños. significativo durante las últimas dos décadas,
la tasa de población activa entre las mujeres
• Las personas que vieron una oferta mejor es de un 49 %, comparado con el 71 % entre
en su factura eran de dos a tres veces más los hombres23. En general, la participación en la
propensas a pretender cambiarse de plan. fuerza laboral es más baja entre aquellas mu-
jeres que tienen menos capacitación profesio-
• Las personas cuyo plan era menor que el nal, que son madres de niños pequeños o que
precio de referencia interpretaban que su tienen bajos ingresos familiares. Por otra parte,
plan era bueno, y las que tenían un precio de los hogares donde la mujer es el sustento fa-
referencia igual tenían más probabilidades miliar suelen encontrarse entre los de menores
de querer ver otras opciones. ingresos. Es por ello por lo que el aumento de
la participación femenina en la fuerza laboral
• La información sobre el uso de la energía puede ayudar a disminuir la pobreza, al generar
solar puede ayudar a los consumidores a ingresos adicionales en los hogares donde las
sacar el máximo partido de ella, cambiando mujeres son jefas de hogar.
los horarios de uso para ahorrar dinero y
reducir la presión sobre la red. Una de las razones principales que explica esta
menor participación femenina en la fuerza la-
boral es la falta de oferta de servicios de guar-

21. https://www.aer.gov.au/retail-markets/guidelines-reviews/better-bills-guideline.
22. Fuentes principales de información: https://www.povertyactionlab.org/es/evaluation/la-ampliacion-de-servicios-de-guarderias-infantiles-en-chile-y-
sus-efectos-en-la y https://www.sociedadpoliticaspublicas.cl/archivos/BLOQUE_SM/Mercado_de_Trabajo_y_Prevision/EVALUACION_DE_IMPACTO_DEL_
PROGRAMA_4_a_7.pdf.
23. Datos del Banco Mundial, 2017.

57
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

dería. Por ello, proporcionar este servicio de


manera gratuita puede ser una política pública Metodología
efectiva para aumentar su participación.
En 2011 el Programa 4 a 7 se implementó por
Intervención y objetivos del primera vez en 62 escuelas con una cobertura
estudio efectiva de 5692 niños. En el año 2012 se agre-
garon 25 escuelas más, en las que se realizó
En Chile, el Gobierno proporciona guarderías la evaluación aleatoria. Entre las 2110 mujeres
infantiles públicas gratuitas para niños me- que solicitaron el programa y fueron conside-
nores de cinco años. Sin embargo, es difícil radas elegibles, 1137 fueron seleccionadas por
encontrar un servicio gratuito de cuidado sorteo como beneficiarias de la intervención,
para niños más mayores. Una excepción es el mientras que las 973 mujeres restantes forma-
Programa 4 a 7, que desde 2011 proporciona a ron el grupo de control. Si una postulante era
mujeres responsables de niños de seis a trece asignada al grupo de tratamiento, se ofrecía un
años acceso al servicio de cuidado después de cupo a todos los hijos/menores a cargo.
su jornada escolar (de 16 a 19 horas) en apoyo El programa comenzó en marzo o abril y termi-
a su participación en el mercado laboral. nó en diciembre del 2012. Los datos de la línea
base corresponden a las fichas de solicitud del
Las participantes elegibles para recibir el programa y los datos de salida corresponden
programa incluyeron a mujeres responsables a encuestas a hogares realizadas entre marzo
de al menos un niño cuya edad estuviera entre y mayo del año 2013, donde se les pregunta a
los seis y los trece años, y que fueran económi- las mujeres sobre su historia laboral del 2012,
camente activas24. Además, las participantes características del empleo, participación en el
debían ser mayores de dieciocho años, trabajar programa y sus niveles de estrés, entre otras
o vivir en la localidad de la guardería o que sus cosas.
hijos estudiaran donde se ubica el estableci-
miento educacional en el que se implementa la Dificultades y limitaciones
intervención, y pertenecer a un quintil bajo de
ingresos. No todas las mujeres que fueron selecciona-
das para recibir el programa finalmente parti-
Las investigadoras llevaron a cabo una evalua- ciparon, y el 24 % de las mujeres que confor-
ción aleatorizada para medir el impacto de los maban el grupo control terminaron accediendo
servicios de guardería gratuitos del Programa a los beneficios. Los resultados del estudio
4 a 7 en el empleo de las madres y su partici- comparan los grupos tratamiento y control
pación en la fuerza laboral en Chile. originales (quienes fueron seleccionadas para
el programa versus quienes no fueron seleccio-
Organizaciones nadas), y, por tanto, los impactos observados
involucradas están influidos por el incumplimiento de las
condiciones iniciales de la aleatorización.
La evaluación fue desarrollada por dos investi-
gadoras independientes afiliadas a J-PAL que Resultados
recibieron financiación del Banco Interamerica-
no de Desarrollo y del Servicio Nacional de la A. Uso y sustitución del programa
Mujer (SERNAM).
Ofrecer el programa incrementó el uso de guar-
derías en 5,9 puntos porcentuales (respecto

24. Definido como alguien que tenga un trabajo estable, que esté en busca de trabajo, desempleado, que sea partícipe de alguna capacitación laboral o que esté
cursando un programa educacional.

58
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

al 49 % observado en el grupo de control), lo de guarderías para sus hijos mayores y permi-


que equivale a un aumento total de un 12 %. tiéndoles así tomar ventaja total de la oferta ya
Esto refleja cómo esta intervención permite existente de la red de guarderías gratuitas para
a aquellas madres que cuidan de sus hijos niños más pequeños.
durante las tardes utilizar este tiempo para rea-
lizar otras actividades. Sin embargo, los datos No obstante, el programa no tuvo impacto en
también muestran cómo una parte importante la participación de la fuerza laboral de aquellas
de las mujeres que usaron el Programa 4 a 7 mujeres que no poseían un empleo y cuyos
ya habían matriculado a sus hijos en otro lugar hijos tenían más de seis años.
de cuidado infantil, utilizando el programa, por
lo tanto, solo como un sustituto para estas C. Ingresos y gastos
opciones.
El programa no tuvo ninguna repercusión
B. El empleo y la participación femenina en la promedio en los ingresos mensuales o en los
fuerza laboral niveles de estrés, pero sí generó un aumento
de los gastos personales de las mujeres en sí
Entre a quienes se les ofreció el programa, el mismas, como así también en los gastos en la
empleo y la participación en la fuerza laboral educación de sus hijos.
aumentó en 4,3 puntos porcentuales, es decir,
de 60,5 % en el grupo de control a 64,9 % (lo Repercusión e incidencia
que equivale a un incremento del 7 %). Por lo política
tanto, tuvo un pequeño pero positivo impacto
en el empleo de las mujeres. Ofrecer el progra- El Programa 4 a 7 sigue en marcha en la
ma aumentó la probabilidad de que las madres actualidad. En 2018, una de las investigadoras
trabajaran al menos un mes por año en 3,4 recalcó en un artículo para la Universidad Ca-
puntos porcentuales (75 % versus el 71,6 % en tólica de Chile que era necesario diseñar mejor
el grupo de control), lo que se traduce en un el programa a la luz de los resultados de la
aumento de un 5 %. evaluación, teniendo en cuenta aspectos como
que las madres que tienen hijos en la etapa
El efecto positivo en la participación femenina preescolar tienen problemas con la diferencia
en la fuerza laboral fue mayor en mujeres que de horarios, o la falta de asistencia de algunos
no tenían un trabajo antes de que existiera este niños al programa, entre otros25.
programa y que eran responsables de niños
menores de seis años. Tomando este subgru- Dentro de los anuncios entregados por el
po, dentro de aquellas a las que se les ofreció nuevo Gobierno chileno como parte de su
el programa, la participación de las madres plan de reactivación y ayuda económica Chi-
en la fuerza laboral aumentó en 19 puntos le Apoya26, se busca fortalecer este progra-
porcentuales sobre el grupo de control y tam- ma, ampliando la cobertura del cuidado de
bién se observó un incremento de 6,5 puntos niños después de su jornada escolar a cerca
porcentuales en el uso de servicios formales de trescientos establecimientos educaciona-
de guardería para niños menores de seis años les en 189 comunas del país con el objetivo
comparado con el control. Estos resultados de permitir a más de diez mil mujeres com-
indican que el Programa 4 a 7 elevó de forma pletar su jornada laboral. Sin embargo, no
eficaz la principal barrera de las mujeres en se conoce que se haya hecho ninguna mo-
este subgrupo, ayudándolas a enfrentar la dificación a la luz de los resultados de este
entrada al mercado laboral vía la facilitación estudio. La única novedad es que se apoyará

25. https://www.uc.cl/noticias/los-desafios-del-programa-4-a-7-para-aumentar-el-trabajo-femenino-en-chile/.
26. https://www.gob.cl/chileapoya/.

59
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

a mujeres a cargo del cuidado de niños con


capacitaciones, charlas y cursos para forta-
lecer sus capacidades de empleabilidad. Por
último, complementario a este programa,
también se ha anunciado un aumento del
subsidio al empleo «Protege» para trabaja-
dores. En este caso, el subsidio que se daba
a los padres y madres con hijos menores
de dos años ahora se ampliará a menores
de cinco, lo que puede ayudar a superar el
problema de las diferencias horarias entre
preescolar y primaria.

Lo expuesto hasta aquí muestra que la expe-


rimentación de las políticas públicas es una
práctica extendida en muchos lugares del
mundo y ofrece una amplia gama de posibi-
lidades y acción. Todo ello con el objetivo de
ilustrar que ya existe una larga trayectoria y
variedad de experiencias en este ámbito, antes
de describir cuál es el panorama en España y
analizar las posibilidades de aplicación de este
tipo de enfoques al caso español.

60
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

marco
para la
experi
menta
ción en
las po
líticas
públi
cas en
españa

05.
61
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

La experimentación en políticas públicas una asignación equitativa de los recursos


es incipiente en España. Como se describe públicos, y su programación y ejecución
a continuación, se ha iniciado mediante las responderán a los criterios de eficiencia y
evaluaciones cuasiexperimentales y, más economía»28. Para asegurar el cumplimien-
recientemente, evaluaciones experimentales to de dicho artículo, a lo largo de los años
de impacto. se han establecido algunas obligaciones y
mecanismos en materia de evaluación. No
Este es uno de los motivos principales por obstante, como se describe a continuación,
los que la revisión normativa, institucional y las referencias normativas en este sentido
estratégica que se expone en este epígrafe han sido muy limitadas, y en la mayor parte
se han centrado en procesos de evaluación, de los casos han hecho menciones genera-
donde tiene cabida la aplicación de metodo- listas en cuanto a la evaluación y al análisis
logías experimentales, sin poner el foco en de la eficacia y eficiencia de las actuaciones
otras actuaciones de experimentación en las públicas, entre otras, sin focalizar en ele-
políticas públicas que cuentan con un desa- mentos vinculados con la experimentación
rrollo menor. pública.

5.1. Marco normativo e Uno de los primeros marcos normativos exis-


institucional tentes en España es el desarrollo del sistema
de evaluación de la Cooperación Española,
El análisis desarrollado en este apartado que se inició a partir de la Ley 23/1998, de
muestra como un marco legal específico, 7 de julio, de Cooperación Internacional para
que dé respaldo a procesos de evaluación el Desarrollo, que en su artículo 19 establece
y experimentación en las políticas públicas, que «la Secretaría de Estado para la Coo-
puede suponer un elemento facilitador de peración Internacional y para Iberoamérica
estas actuaciones, pero por sí mismo no es evaluará la política de cooperación para el
una condición necesaria ni suficiente para desarrollo, los programas y proyectos finan-
que se desarrollen procesos de experimenta- ciados con fondos del Estado en curso de
ción de calidad. Una muestra de ello es que ejecución y los finalizados, desde su concep-
los procesos de evaluación en España se han ción y definición hasta sus resultados. La
desarrollado desde hace más de veinte años, evaluación tendrá en cuenta la pertinencia
sin la existencia de una normativa específica de los objetivos y su grado de consecución,
sobre este ámbito. así como la eficiencia y eficacia alcanzadas,
el impacto logrado y la viabilidad compro-
5.1.1. Aproximación al marco bada en los programas y proyectos ya fina-
normativo lizados». Sin embargo, esta ley restringía la
evaluación a sectores determinados dentro
Según la OCDE, en la mayoría de los países de la Administración, y de manera particular,
existe un marco, que a veces se expresa me- a la cooperación, y tampoco realizaba ningún
diante una ley, en el que se define la estrate- tipo de concreción en cuanto al enfoque para
gia de la política de evaluación27. En el caso el desarrollo de las evaluaciones de impacto
español, el marco normativo que da cabida o la experimentación pública.
al desarrollo de actuaciones de evaluación y
experimentación pública viene marcado por A comienzos de los años 2000, se empeza-
la Constitución española, que incluye en su ron a dar pasos para crear un marco para la
artículo 31.2 que «el gasto público realizará política de evaluación. En 2004, se organizó

27. https://www.airef.es/wp-content/uploads/2021/10/ESTUDIOS/PDF-WEB-accesible-CASTILLA-Y-LEON-1.pdf.
28. https://app.congreso.es/consti/constitucion/indice/titulos/articulos.jsp?ini=31&tipo=2.

62
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

una comisión de expertos para proponer la sobre todo en la Ley 40/201533, de 1 de octu-
modernización de los servicios públicos y ha- bre, de Régimen Jurídico del Sector Público.
cerlos más eficientes y efectivos. Dos años La Ley 39/2015 hace referencia a la eva-
más tarde, se aprobó la Ley 28/200629, de 18 luación normativa para comprobar en qué
de julio, de Agencias Estatales para la Mejora medida las normas en vigor han conseguido
de los Servicios Públicos, que pretendía dar los objetivos previstos, adaptando la norma-
un impulso a la evaluación de resultados en tiva vigente a los principios de buena regu-
un marco de mayor flexibilidad y responsa- lación. Además, la Ley 40/2015 introduce
bilidad gestora mediante la creación de la ciertos mecanismos de evaluación ex ante
Agencia Estatal de Evaluación de las Polí- (llamadas memorias de impacto normativo)
ticas Públicas y la Calidad de los Servicios y ex post por parte de las Administraciones
(AEVAL). De nuevo, la creación de la AEVAL públicas: «evaluar periódicamente los efec-
se enfoca en procesos de evaluación en tos y los resultados obtenidos» y controlar
general, sin hacer mención a evaluaciones de su eficacia. Asimismo, se establece que se
impacto experimental o experimentación de deberá realizar un informe anual de evalua-
políticas públicas. ción de los planes normativos del año ante-
rior para reflejar su cumplimiento.
También en la Ley 19/201330, de 9 de diciem-
bre, de Transparencia, Acceso a la Informa- Todas estas normativas han tenido un al-
ción Pública y Buen Gobierno, se indica en su cance muy limitado, tomándose en muchas
artículo 6 que «las Administraciones públicas ocasiones como un paso más del propio
publicarán los planes y programas anuales proceso de formulación de una actuación
y plurianuales en los que se fijen objetivos pública, sin que estas se visualicen como
concretos, así como las actividades, medios una herramienta de análisis de impacto y de
y tiempo previsto para su consecución. Su viabilidad de la actuación, y, menos aún, con
grado de cumplimiento y resultados deberán el enfoque de una experimentación pública.
ser objeto de evaluación y publicación perió- En cierta forma, muchas de estas evaluacio-
dica junto con los indicadores de medida y nes se han enfocado a confirmar la visión
valoración, en la forma en que se determine de la Administración, de cara a aprobar la
por cada Administración competente». ley que se debería estar evaluando. A ello se
ha sumado que en ocasiones se han desa-
Un año antes, el Consejo de Ministros acordó rrollado desde los propios departamentos
la creación de la Comisión para la Reforma responsables del diseño de las normas y la
de las Administraciones Públicas (CORA) gestión de políticas, surgiendo problemas
con el mandato de realizar un estudio inte- de independencia, falta de conocimientos
gral dirigido a modernizar el sector público en evaluación y escasez de herramientas e
español, dotarlo de una mayor eficacia, elimi- información para desarrollarlas34.
nar las duplicidades y simplificar los procedi-
mientos entre la ciudadanía y la Administra- Como se puede ver, a lo largo de los últi-
ción. Este análisis resultó en un informe con mos años no se ha contado con un marco
218 propuestas31, implementadas en buena normativo específico sobre evaluación,
parte a través de la Ley 39/201532, de 1 de y todo lo que se ha ido formulando se ha
octubre, del Procedimiento Administrativo centrado en referencias generales al proce-
Común de las Administraciones Públicas, y so de evaluación, a la eficacia y eficiencia
29. https://www.boe.es/buscar/act.php?id=BOE-A-2006-13011.
30. https://www.boe.es/buscar/act.php?id=BOE-A-2013-12887.
31. https://transparencia.gob.es/transparencia/dam/jcr:b1c69477-9882-41a5-9f6d-5cbb46fa12b4/reforma-AAPP.PDF.
32. https://www.boe.es/buscar/act.php?id=BOE-A-2015-10565.
33. https://www.boe.es/buscar/act.php?id=BOE-A-2015-10566.
34. https://documentos.fedea.net/pubs/fpp/2021/10/FPP2021-09.pdf?utm_source=wordpress&utm_medium=portada&utm_campaign=estudio.

63
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

de los servicios públicos. Sin embargo, esto de las distintas intervenciones públicas con
cambia en 2021, año en que se inició un los objetivos de desarrollo sostenible (ODS)
proyecto normativo para la aprobación de la de la Agenda 2030».
Ley de Institucionalización de la Evaluación
de Políticas Públicas en la Administración Aunque no se hacen referencias a metodolo-
General del Estado. gías experimentales, se habla de la práctica
evaluadora basada en «el rigor científico» y
Aunque aún no está aprobada, el anteproyec- de la necesidad de realizar evaluaciones ex
to de ley, publicado el 20 de abril de 202235, ante y ex post para poder evaluar el impacto.
indica que «con la aprobación de esta norma, Asimismo, en el artículo 4 sobre los objetivos
España aborda de una forma decidida la eva- de la evaluación de políticas públicas se indi-
luación de las políticas públicas, con el fin de ca que se pretende «impulsar la innovación
analizar y evidenciar el impacto de las políti- en la actuación del sector público, aportando
cas públicas en cuestiones tan determinan- evidencias, facilitando el contraste de ideas,
tes para la ciudadanía y la mejora del estado promoviendo la creatividad y el máximo
de bienestar como la igualdad de género, el provecho de los recursos». Por ello, se podría
medio ambiente y la transición energética, la decir que el marco normativo que se ha de-
despoblación y el reto demográfico, el cre- sarrollado da cabida a este tipo de metodolo-
cimiento económico, la redistribución de la gías experimentales, aunque no se mencione
riqueza, la adecuación a la normativa y las di- de manera específica.
rectrices europeas o la adecuada alineación

ilustración 2. marco normativo en evaluación de políticas


públicas

Fuente: Elaboración propia

35. https://www.hacienda.gob.es/Documentacion/Publico/NormativaDoctrina/Proyectos/20042022-Anteproyecto-APLEVA-TRAMITE.pdf.

64
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

A nivel autonómico, se puede decir que la rimentación, relacionadas con evaluaciones


mayoría de los estatutos de autonomía inclu- experimentales (RCT). Desde el punto de
yen algún apunte sobre evaluación, si bien se vista de la experimentación, no tan ligado
observa cierta heterogeneidad en cuanto al a la evaluación, en 2020 se aprobó la Ley
grado de progreso. Destacan Cataluña, Ara- 7/202040, de 13 de noviembre, para la Trans-
gón y Andalucía, cuyos estatutos dedican un formación Digital del Sistema Financiero, con
mayor interés a la evaluación; por ejemplo, el el objetivo de crear un sandbox regulatorio41
de Andalucía incluye en su artículo 138 que financiero en España, y más tarde, en 2021,
«la ley regulará la organización y funciona- se ha introducido también en el sector eléc-
miento de un sistema de evaluación de las trico. El objetivo de dichos sandboxes es que
políticas públicas»36, aunque por el momento los participantes en el experimento pueden
no existe una regulación específica. modificar sus intervenciones si advierten
que generan riesgos legales, y el regulador
En este sentido, sí se han promulgado algu- puede también acomodar la normativa si hay
nas leyes para fomentar la evaluación, entre obstáculos a la innovación. De esta forma,
las que destaca la Ley Foral 21/200537, de 29 se puede evaluar la aplicación práctica y real
de diciembre, de Evaluación de las Políticas de innovaciones en un marco jurídicamente
Públicas y la Calidad de los Servicios Públi- seguro. Esta normativa es una manera de
cos de la Comunidad Foral de Navarra; la facilitar la innovación, pero también la experi-
Ley 2/201438, de 21 de marzo, de Proyectos mentación en la propia legislación.
Estratégicos, Simplificación Administrativa
y Evaluación de los Servicios Públicos de Como se ha visto a lo largo de esta revisión,
la Comunidad Autónoma de la Región de la normativa en el ámbito de la evaluación en
Murcia; la Ley 5/2020, de Medidas Fiscales, España es limitada, y las referencias tienden
Financieras Administrativas y del Sector a ser generalistas. Comparado con otros
Público de Cataluña, que define la evalua- países de la OCDE, algunos como Holanda
ción de políticas, o el Decreto 97/2020, de 25 y Estados Unidos sí cuentan con un marco
de junio, por el que se regulan determinados legal, mientras que Alemania, Canadá o el
instrumentos para la gestión, la evaluación, Reino Unido, como en España, solo cuentan
la supervisión y la mejora de la calidad en con marcos muy generales42. Esto demues-
el sector público autonómico de Galicia. En tra que países con una larga trayectoria en
el resto de las comunidades autónomas se las prácticas de evaluación no necesaria-
incluyen referencias a la evaluación de polí- mente cuentan con un marco normativo,
ticas públicas en las leyes de transparencia, aunque eso sí, su desarrollo queda vinculado
de participación o gobierno abierto, pero se a la voluntad política.
trata de menciones generales.
Por tanto, el establecimiento de un marco
El repaso realizado se ha centrado en la legal para la evaluación y la experimentación
evaluación de políticas públicas, al ser el no es una condición necesaria ni suficiente
marco donde se han producido referencias para garantizar que se desarrollen evalua-
normativas a lo largo de estos años y donde ciones o procesos de experimentación, ni
cabe el desarrollo de actuaciones de expe- tampoco para garantizar su calidad43, ya que
36. https://www.boe.es/buscar/act.php?id=BOE-A-2007-5825.
37. http://www.lexnavarra.navarra.es/detalle.asp?r=4650.
38. https://www.boe.es/buscar/doc.php?id=BOE-A-2014-3719.
39. https://www.xunta.gal/dog/Publicados/2020/20200710/AnuncioG0244-030720-0001_gl.html.
40. https://www.boe.es/diario_boe/txt.php?id=BOE-A-2020-14205.
41. Sandbox regulatorio es un banco de pruebas en el que la autoridad supervisora permitirá probar proyectos innovadores de base tecnológica en el ámbito
financiero, con usuarios reales, bajo el control y la supervisión de la autoridad competente.
42. https://www.airef.es/wp-content/uploads/2021/10/ESTUDIOS/PDF-WEB-accesible-CASTILLA-Y-LEON-1.pdf.
43. https://www.airef.es/wp-content/uploads/2021/10/ESTUDIOS/PDF-WEB-accesible-CASTILLA-Y-LEON-1.pdf.

65
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

estas se relacionan con diferentes variables pretende favorecer todos estos extremos, al
como la institucionalización de la evaluación, impulsar un sistema público de evaluación
la cultura de la evaluación existente o la en España que promueva simultáneamente
voluntad política44. Sin embargo, no hay que mejoras en la transparencia y en el cono-
menospreciar que el desarrollo de un marco cimiento de la eficiencia y calidad de los
legal específico sí que supone un facilitador servicios públicos»46, constituyendo el primer
e impulsor del desarrollo de la evaluación y paso importante para institucionalizar la eva-
experimentación en el ámbito de las políti- luación de políticas públicas en España.
cas públicas.
La OCDE destacó en varias ocasiones la
5.1.2. Hitos en el desarrollo necesidad de reforzar la AEVAL, la publica-
institucional ción obligatoria de sus evaluaciones y la
mejora de la coordinación entre ministerios
Como se ha visto anteriormente, el desarro- e instituciones a nivel nacional y regional47.
llo normativo en el ámbito de la evaluación Sin embargo, después de años de reducción
y experimentación ha sido limitado, pero en de recursos y pérdida de interés y voluntad
cambio sí que se han producido importantes política, en 2017 la Agencia queda disuel-
avances en el desarrollo de la cultura de la ta, y sus funciones fueron asumidas por la
evaluación y de una mayor institucionaliza- Secretaría de Estado de Función Pública a
ción de esta disciplina. En ese sentido, cabe través del Instituto para la Evaluación de
destacar algunos hitos importantes. Políticas Públicas (IEPP) y de la Dirección
General de Gobernanza Pública48. Durante los
En primer lugar, la entrada de España en la años de vida de la Agencia, la realización de
Unión Europea supuso un impulso para la evaluaciones de impacto fue muy limitada49,
evaluación de políticas públicas, sobre todo centrándose especialmente en el fomento de
a partir del año 1988, cuando la UE estable- la cultura de la evaluación, el desarrollo de
ció la obligación de evaluar las actuaciones evaluaciones de calidad de los servicios pú-
que se llevaban a cabo con financiación blicos, evaluaciones de implementación y, en
europea45. Esta obligación motivó el aprendi- menor medida, de resultados. Cabe destacar
zaje de gestores, políticos e investigadores que en el proyecto de la nueva ley de evalua-
implicados en este campo, contribuyendo ción50 se habla sobre la conversión del IEPP
al desarrollo de la cultura de la evaluación. en la Agencia Estatal de Evaluación de las
Durante estos años, buena parte de la la- Políticas Públicas51.
bor de evaluación se centró en actuaciones
financiadas con fondos europeos y en ac- La Autoridad Independiente de Responsabi-
tuaciones en el campo de la cooperación, la lidad Fiscal (AIReF), que fue creada en 2013,
educación y el empleo, entre otros. ha sido encomendada recientemente por el
Gobierno, motivado por una recomendación
Años más tarde, en 2006, se crea la Agencia de la Comisión Europea, a la realización
Estatal de Evaluación de las Políticas Pú- de evaluaciones del gasto público o spen-
blicas y la Calidad de los Servicios (AEVAL) ding reviews, con el objetivo de mejorar su
como «un proyecto de largo recorrido que eficiencia52. Las evaluaciones que se han
44. https://www.congreso.es/docu/comisiones/reconstruccion/documentacion_participacion_ciudadana/20200614_C17.pdf.
45. https://portal.uc3m.es/portal/page/portal/actualidad_cientifica/noticias/evaluacion_politicas_ue.
46. https://www.boe.es/buscar/doc.php?id=BOE-A-2006-21902.
47. https://www.oecd-ilibrary.org/governance/oecd-public-governance-reviews-spain-2016_9789264263024-en.
48. https://www.boe.es/boe/dias/2017/07/29/pdfs/BOE-A-2017-9012.pdf.
49. https://www.funcas.es/wp-content/uploads/Migracion/Articulos/FUNCAS_PEE/147art04.pdf.
50. https://www.mptfp.gob.es/en/portal/funcionpublica/Secretaria-de-Estado-de-Funcion-Publica/Actualidad/ultimas-noticias/
notas/2022/05/2022-05-25_02.html.
51. https://www.hacienda.gob.es/Documentacion/Publico/NormativaDoctrina/Proyectos/20042022-Anteproyecto-APLEVA-TRAMITE.pdf.
52. https://www.airef.es/es/spending-review/.

66
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

realizado hasta la fecha, incluyendo las de ra de evaluación de políticas públicas que


impacto, han cuidado su calidad e indepen- incluye la «instauración de la evaluación de
dencia53. Asimismo, entre las recomenda- impacto de las políticas públicas de manera
ciones de la AIReF en sus spending reviews regular y llevada a cabo por un organismo
está la de fomentar activamente una cultu- independiente»54.

ilustración 3. marco normativo e institucional en


evaluación de políticas públicas

Fuente: Elaboración propia

Por otra parte, desde su creación, el IEPP la actualidad, también de la evaluación de


únicamente publicó hasta 2020 una evalua- impacto. En este sentido, destacan las eva-
ción intermedia de la Estrategia Nacional luaciones de impacto realizadas en el progra-
Integral para Personas sin Hogar, y una serie ma Horizonte 2020, y en el nuevo periodo de
de guías, incluyendo la «Guía de evaluación programación, el artículo 44 «Evaluaciones
de resultados de políticas públicas»55, en la realizadas por los Estados miembros» del
que mencionan las características, tipos y Reglamento UE 2021/1060 del Parlamen-
pasos a seguir para realizar evaluaciones to Europeo y del Consejo de 24 de junio de
experimentales. En 2021 el IEPP publicó el 2021 de los Fondos Europeos establece que
estudio diagnóstico de la evaluación en la «antes del 30 de junio de 2029 se llevará a
AGE con el objetivo de servir como punto de cabo una evaluación de cada programa para
partida para los trabajos de elaboración de la determinar su impacto»57.
Ley de Institucionalización de la Evaluación
en la Administración General del Estado, El grado de coordinación centralizada de la
cuyo anteproyecto se encuentra en marcha56, política de evaluación en España es bajo,
como compromiso del Gobierno de España pero a nivel autonómico, en algunas comu-
incluido en el Plan de Recuperación, Trans- nidades autónomas se ha avanzado conside-
formación y Resiliencia de España. rablemente tanto en la evaluación de políti-
cas públicas en general como en el fomento
En este proceso, la Comisión Europea ha de evaluaciones experimentales. Destacan
sido y es un importante motor en el fomento algunos organismos:
de la cultura de evaluación en España, y en
53. Por ejemplo, la evaluación de impacto de la reforma del sistema de pensiones de 2011 o el estudio de políticas activas de empleo en Castilla y León.
54. https://www.airef.es/wp-content/uploads/2019/06/documentos-sr-protegidos/01_Proyecto_01.pdf.
55. https://www.mptfp.gob.es/dam/es/portal/funcionpublica/evaluacion-politicas-publicas/Documentos/Metodologias/Guia_de_Evaluacion_de_Resultados.
pdf#page=1.
56. https://www.hacienda.gob.es/Documentacion/Publico/GabineteMinistro/Notas%20Prensa/2022/CONSEJO-DE-MINISTROS/19-04-22-NP-CM-
ANTEPROYECTO-LEY-EVALUACION-POLITICAS-PUBLICAS.pdf.
57. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:32021R1060&from=EN.
67
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Instituto Catalán de Evaluación de Políticas Públicas –


Ivàlua
En 2008 nace Ivàlua con el fin de incorporar la evaluación a la dinámica de las Administraciones
públicas catalanas, y más tarde también a la del tercer sector social y entre la ciudadanía. Ivàlua
realiza evaluaciones de políticas públicas, asesora organizaciones en evaluación, ofrece recursos
útiles y formación sobre evaluación, y organiza actividades en las que difunde la cultura de la
evaluación.

Ivàlua es un organismo pionero en la realización de evaluaciones de impacto que ha realizado


varias guías (evaluación de impacto, evaluación de impacto de políticas activas de empleo y eva-
luación de impacto de políticas educativas), formaciones al sector público y varias evaluaciones
experimentales que se expondrán en siguientes apartados (B-Mincome, Èxit Estiu, etc.)58.

Observatorio de la Realidad Social de Navarra – ORS


El Decreto Foral 268/2019, de 30 de octubre, establece que el Servicio del Observatorio de la
Realidad Social ejercerá, dentro del ámbito material de la investigación aplicada, la planificación y
la evaluación de las políticas públicas de servicios sociales y empleo, así como el análisis de los
procesos de transformación social y de los problemas sociales.

En su guía de evaluación de políticas sociales señalan que las de impacto «tienen un elevado
interés en el ámbito de las políticas sociales porque cuando medimos el impacto, comprobamos
que algo está funcionando o no, y podremos entonces ahorrar en el futuro seleccionando mejor
las medidas que realmente tienen efectividad».

Instituto Andaluz de la Administración Pública – IAAP


Dentro de las áreas de intervención del IAAP se encuentra la evaluación de políticas públicas. En
2016 el Gobierno andaluz inició un proyecto para desarrollar la evaluación de políticas públicas en
la Junta de Andalucía, y, entre otras actividades, se ha trabajado para elaborar una metodología
propia, sencilla y práctica de diferentes tipos de evaluaciones, incluyendo la de impacto.

En 2019 publicó las «Bases para la evaluación de impacto de políticas públicas»59.

Por otra parte, numerosas comunidades de Economía Pública de Galicia, entre otros.
autónomas cuentan con unidades responsa- Desde el punto de vista de los experimentos
bles de la evaluación de políticas de dife- destacan las intervenciones para pilotar o
rentes sectores, como la Dirección General evaluar que se desarrollan desde la Generali-
de Planificación de las Políticas Activas de tat de Catalunya.
Empleo de Extremadura, el Área de Eva-
luación de Políticas Activas y Estrategia de A nivel local, cabe destacar que la Diputa-
Empleo de la Consejería de Empleo de la ción y también el Ayuntamiento de Barcelo-
Comunidad de Madrid, la Agencia Valencia- na están siendo pioneros en la promoción de
na de Evaluación y Prospectiva (AVAP) en la realización de evaluaciones experimenta-
Valencia, que evalúa políticas de educación les de intervenciones sociales, participando
superior principalmente, o el nuevo Instituto Ivàlua en la mayor parte de estas. De hecho,

58. https://ivalua.cat/es/node/85.
59. https://www.juntadeandalucia.es/institutodeadministracionpublica/publico/anexos/evaluacion/Bases_Evaluacion_Impacto.pdf.

68
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

el Ayuntamiento de Barcelona, dentro de la 5.2. Marco estratégico


convocatoria de ayudas a la innovación ur-
bana «La ciudad proactiva», ha incluido entre Como se ha ido viendo, España no cuenta
las metodologías para integrar la planifica- con un único organismo o enfoque para el
ción de proyectos una mención a «Behaviou- desarrollo de la evaluación ni de la experi-
ral insights and nudges». También el Ayunta- mentación, y esto ha hecho que, desde un
miento de Madrid, mediante la creación de punto de vista general, su desarrollo se
la Dirección General de Innovación y Estrate- encuentre segmentado a determinados sec-
gia Social, pretende «realizar el seguimiento tores y territorios donde se ha producido una
y evaluación del impacto, eficacia y eficien- mayor implementación, marcada por una
cia de las políticas locales que se aplican mayor cultura de la evaluación.
en el ámbito de las familias, la igualdad y el
bienestar social»60. Una parte importante de las experiencias en
evaluación han venido determinadas por ac-
Se puede concluir que España ha sido un tuaciones estratégicas de diferentes agen-
país tardío en la incorporación de la evalua- tes o en determinados sectores, que han su-
ción al desarrollo de sus políticas públicas y puesto un impulso tanto en ese ámbito como
que, a pesar del impulso que ha tenido en los para el resto de los agentes involucrados en
últimos años, una parte importante de los el diseño y ejecución de estos procesos de
esfuerzos se han centrado en un primer paso evaluación. Tradicionalmente, en España el
relacionado con la institucionalización de desarrollo de la evaluación se ha centrado
la cultura de evaluación en general. En este en el ámbito de la cooperación y, de manera
sentido, es importante señalar que las eva- secundaria, en ámbitos como el empleo. A
luaciones de impacto de tipo contrafactual y continuación, se expone brevemente el efec-
experimental son residuales. to de la evaluación en estos sectores:

No obstante, en los últimos años tanto la Evaluación de la


Comisión Europea como otras instancias Cooperación Española
internacionales, como la OCDE, han favore-
cido esta institucionalización y también, más El desarrollo del sistema de evaluación de la
recientemente, el uso de evaluaciones de Cooperación Española se inició a partir de la
impacto de carácter experimental. Desde ya mencionada Ley 23/1998, de 7 de julio, en
ese enfoque, el hecho de que la experimenta- la que se indica que las políticas, programas
ción pública no esté regulada expresamente y proyectos de cooperación deberían ser eva-
a través de una normativa no ha impedido luados. A partir de ese año, la evaluación de
que algunas Administraciones hayan desa- las actuaciones de la Cooperación Española
rrollado proyectos experimentales. Lo que sí recibe impulsos significativos, incorporando
es cierto es que la falta de normativa especí- los principios de evaluación del Comité de
fica deja el desarrollo de estas actuaciones Ayuda al Desarrollo (CAD) de la OCDE e inclu-
en manos de la voluntad política e institu- yendo la evaluación en los planes directores.
cional, lo que implica que se encuentren a su
vez muchos más «inconvenientes» técnicos Desde entonces se han aprobado dos políti-
para el desarrollo de actividades de experi- cas de evaluación (la última en 2013), planes
mentación, al no tener previstos muchos de bienales de evaluación (desde 2013 a la
los «condicionantes» para el desarrollo de actualidad), diversas herramientas de eva-
este tipo de actuaciones. luación (metodologías, manuales de gestión,
etc.) y numerosos ejercicios de evaluación,
60. https://www.boe.es/diario_boe/txt.php?id=BOE-A-2022-1640.

69
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

tanto desarrollados por la propia Dirección evaluación del impacto de los servicios y pro-
General de Políticas de Desarrollo Sostenible gramas individuales recogidos en el PAPE, y
(DGPOLDES) como evaluaciones externas. que será independiente de la evaluación del
cumplimiento de los objetivos estructurales y
Durante estos años, destaca la creación del estratégicos que se realice cada año»61, aun-
Spanish-World Bank Trust Fund for Impact que en la práctica no se ha realizado dicha
Evaluation and Results-Based Management selección. A raíz de dicha Estrategia se han
in Human Development Sector, o el Spanish realizado numerosas evaluaciones de impac-
Impact Evaluation Fund (SIEF), que fue un to de políticas activas de empleo.
programa de 10,4 millones de euros financia-
dos por España, con una subvención de 1,5 En el marco del acuerdo REFORM/
millones por parte de Gran Bretaña. El ob- IM2020/004 entre la OCDE y la DG-Reform
jetivo del programa, que finalizó en junio de de la Comisión Europea con el Servicio Públi-
2012, fue apoyar al Banco Mundial evaluan- co de Empleo Estatal (SEPE) y el Ministerio
do el impacto de programas innovadores; de Trabajo y Economía Social (MITES), Espa-
este consiguió financiar evaluaciones en 37 ña ha solicitado asistencia para el diseño y
países e impartir formación. desarrollo de una evaluación de impacto de
la herramienta Send@62.
Evaluaciones de políticas de
empleo Más allá de esos dos ámbitos, uno de los
mayores impulsos en la evaluación de im-
Las políticas de empleo son un ejemplo de pacto ha venido determinado por las referen-
un ámbito en el que a mediados de la década cias introducidas en los Fondos Europeos.
de los 2000 se comenzaron a realizar eva- En el periodo de programación 2007-2013
luaciones, que desde 2013 ha incorporado ya se comenzaron a plantear evaluaciones
la evaluación dentro de su ciclo de planifi- de impacto63, y es en el periodo 2014-2020
cación y en el que, más recientemente, se cuando se fortalecen las metodologías de
están realizando diversas evaluaciones de impacto contrafactual mediante evaluacio-
impacto mediante contrafactual. nes cuasiexperimentales.

En las Estrategias Españolas de Activación Esto se ve reflejado en los Planes de Evalua-


para el Empleo se establece un sistema ción en los que la Autoridad de Gestión de
de seguimiento y evaluación a partir de los Fondos impulsó el uso de evaluaciones
la definición de un sistema exhaustivo de contrafactuales, que a su vez sirvió de refe-
indicadores y objetivos determinados por rencia para el diseño de las evaluaciones de
los Planes Anuales de Política de Empleo muchos de los organismos intermedios. Un
(PAPE) de cada comunidad autónoma. En la ejemplo de ello es que:
Estrategia de 2017-2020 se indica, en cuanto
a la metodología de evaluación de servicios • En el Fondo Social Europeo (FSE)64 se
y programas, que «se acordará y pondrá habla de evaluaciones de impacto experi-
en funcionamiento durante la vigencia de mentales y cuasiexperimentales, aunque
la Estrategia una metodología, en la que se en el propio texto se indica, acerca de las
identifiquen los datos básicos a recoger, evaluaciones experimentales, que «este mé-
así como la selección de contrafactuales y todo resulta poco realista y se produce una
otros criterios comunes necesarios para la aproximación mediante técnicas cuasiex-

61. https://www.boe.es/buscar/doc.php?id=BOE-A-2017-14858.
62. https://www.oecd.org/employment/emp/dg-reform-spain-digital-tool-for-pes-counsellors.html.
63. Colaboración con el INE para obtener microdatos necesarios para las evaluaciones contrafactuales.
64. https://www.mites.gob.es/uafse/ficheros/evaluacion/planestrategico-fse/planestrategico_nac_evaluacion.pdf.

70
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

perimentales». En la Estrategia se detallan contempla que «se reforzará la evaluación de


las metodologías de impacto contrafactual las políticas públicas con el fin de mejorar su
para cada evaluación que se plantea hacer. eficiencia», dando fruto al ya mencionado an-
teproyecto de ley de evaluación. Asimismo,
• En el Fondo Europeo de Desarrollo Regio- en el componente 29 de Mejora de la Efica-
nal (FEDER)65 se hacen muchas referencias cia del Gasto Público, se propone extender
a la evaluación de impacto. En la Estrategia hasta 2026 los ejercicios de spending review
se detallan las metodologías de impacto desplegados por la AIReF, reforzando su
contrafactual para cada evaluación que se capacidad de evaluación e incorporando de
plantea hacer. manera más efectiva sus recomendaciones
en la toma de decisiones mediante la crea-
• En el caso del Fondo Europeo Agrícola de ción de una unidad de seguimiento en el Mi-
Desarrollo Rural (FEADER) también se han nisterio de Hacienda y estableciendo plazos
realizado evaluaciones de impacto cuasiex- temporales claros para que los centros de
perimentales. gasto destinatarios de las recomendaciones
de los spending reviews respondan a sus
En este sentido, durante el periodo 14-20 se conclusiones.
han ejecutado un gran número de evaluacio-
nes de impacto contrafactual de carácter En este Plan, también se habla en varios
cuasiexperimental. Por ejemplo, la «Evalua- componentes de la realización de proyectos
ción de impacto contrafactual del Programa piloto que puedan ser escalables posterior-
de inserción socio-laboral y mejora de la mente, en el marco de los planes de acción
empleabilidad de las mujeres víctimas de la local de la Agenda Urbana Española, el desa-
violencia de género»66 o la «Aproximación al rrollo de energías renovables innovadoras, de
impacto contrafactual de la convocatoria de hidrógeno renovable, y de la introducción del
ayudas a las pymes para la instalación de ingreso mínimo vital; en este último se men-
placas fotovoltaicas»67. ciona la intención de «evaluar el impacto de
itinerarios de inclusión para los beneficiarios
Uno de los aspectos clave para entender el de esta nueva prestación».
desarrollo de estas evaluaciones cuasiexpe-
rimentales, y no de carácter experimental, Esta última iniciativa ya se encuentra en
es que el desarrollo de la experimentación marcha, con las subvenciones recientemente
debe estar previsto en el momento en que lanzadas (27 de octubre de 2021) del Minis-
se planifica la intervención, y en ese sentido terio de Inclusión, Seguridad Social y Migra-
los planes de evaluación en los programas ciones en el ámbito de la inclusión, en las
europeos se han venido aprobando en el año que participan dieciséis convenios con en-
posterior a la aprobación del plan de inter- tidades y Administraciones públicas regio-
vención, dificultando la planificación de este nales y locales, que incluyen, junto al diseño
tipo de experimentos. y ejecución sobre los itinerarios de inclusión
social, la realización de una evaluación de
Más recientemente, el Plan de Recupe- impacto con metodología de ensayo contro-
ración, Transformación y Resiliencia de lado aleatorizado69.
España68, en su componente 11 de Moder-
nización de las Administraciones Públicas,

65. https://www.fondoseuropeos.hacienda.gob.es/sitios/dgfc/es-ES/ipr/fcp1420/e/PEF1420/Documents/Plan_de_Evalaucion_Comun_FEDER_v14.pdf.
66. https://www.mites.gob.es/UAFSE/ficheros/evaluacion/otras-evaluaciones/murcia/ev_mur_impacto_contrafactual2019.pdf.
67. https://www.caib.es/sites/fonseuropeus/f/346311.
68. https://www.lamoncloa.gob.es/temas/fondos-recuperacion/Documents/30042021-Plan_Recuperacion_%20Transformacion_%20Resiliencia.pdf.
69. https://www.boe.es/boe/dias/2021/10/27/pdfs/BOE-A-2021-17464.pdf.

71
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Pero no son las únicas: el 17 de mayo de 2022 Asimismo, es preciso señalar que, como se
se aprobó un decreto para impulsar el segundo podrá leer en el siguiente capítulo, se puede
paquete de proyectos piloto para el desplie- encontrar un número significativo de ejemplos
gue de itinerarios de inclusión vinculados al recientes de instituciones de investigación, pú-
ingreso mínimo vital. En concreto, esta norma blicas y privadas, que están empleando técni-
permitirá la firma de dieciocho nuevos con- cas experimentales, y que en algunos casos lo
venios con comunidades autónomas, ayunta- están haciendo para informar ciertas interven-
mientos y entidades del tercer sector70. ciones, sobre todo de entidades sociales.

Esta evaluación experimental de un programa


piloto es una excepción. Aunque en la Admi-
nistración, desde el nivel nacional al local, es
frecuente que se realicen programas de este
tipo, no es habitual que se evalúen mediante
técnicas experimentales. Esto hace que, a
menudo, se escalen o supriman intervenciones
piloto de acuerdo con factores que no tienen
que ver con su efectividad71.

El desarrollo de esta experiencia por parte del


Ministerio de Inclusión, Seguridad Social y
Migraciones puede suponer un impulso clave
para el desarrollo de evaluaciones experimen-
tales en el ámbito de las políticas públicas, que
fomenten la experimentación de programas o
proyectos mediante el desarrollo de experien-
cias piloto. Suponen una experiencia de amplio
calado, impulsada por la propia Administración
pública estatal, en la que se cuenta con la cola-
boración de otras entidades especializadas en
este tipo de metodologías.

Todo lo anterior expone que las iniciativas


de experimentación pública en España han
sido residuales hasta hace varios años, si
bien desde mediados de la década de 2010
el pequeño impulso de metodologías de
evaluación contrafactual, desde un enfoque
cuasiexperimental primero, y experimental
en estos últimos tres o cuatro años, ha sido
importante, lo que ha provocado que estén
cada vez más presentes en el discurso y en
la agenda de las Administraciones públicas,
las entidades privadas y los profesionales del
sector de la evaluación.

70. https://www.lamoncloa.gob.es/consejodeministros/referencias/Paginas/2022/refc20220517ccc.aspx#ingreso.
71. https://www.eldiario.es/agendapublica/impacto_social/innovacion-social-basada-evidencias-espana_1_5848360.html.

72
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

expe
rien
cias de
experi
menta
ción
pública
en
españa

06.
73
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Las experiencias de procesos de experimen- marco del componente 23 «Nuevas políticas


tación pública en España han sido escasas. públicas para un mercado de trabajo dinámico,
Estas se han desarrollado en mayor medida en resiliente e inclusivo» del Plan de Recupera-
el ámbito de la salud pública (nutrición, salud ción, Transformación y Resiliencia.
mental, etc.) mediante la implementación de
ensayos clínicos, pero apenas existen ejem- Entre las reformas e inversiones propuestas
plos en otros ámbitos de las políticas públicas. en este componente 23 se incluye la inversión
Asimismo, la mayor parte de los experimentos 7: «Fomento del crecimiento inclusivo median-
que se han realizado en otros sectores no sue- te la vinculación de las políticas de inclusión
len ser liderados por la Administración pública, sociolaboral al ingreso mínimo vital», que
sino por organizaciones del tercer sector y promueve la implantación de un nuevo modelo
entidades de investigación. de inclusión a partir del IMV, que reduzca la
desigualdad de la renta y las tasas de pobreza.
A pesar del corto recorrido, es cierto que, Para lograr este objetivo se ha planteado, entre
recientemente, han tenido lugar algunas in- otros, el desarrollo de proyectos piloto para
tervenciones que incluyen experimentación a la puesta en marcha de itinerarios de inclu-
nivel estatal, autonómico y local, que podrían sión social con las comunidades y ciudades
ser las precursoras de esta metodología en autónomas, entidades locales y entidades del
el futuro. A continuación, se ofrece un breve Tercer Sector de Acción Social, así como con
repaso de estas experiencias, clasificadas los distintos agentes sociales.
según el nivel de la actuación, y que incluye en
un apartado iniciativas fomentadas por institu- Esta iniciativa se considera también una expe-
ciones privadas. riencia referente a nivel internacional, por su
temática, alcance e inversión, considerándose
6.1. Experimentos de la «el mayor experimento económico del mun-
Administración Gene- do»74. Otros países han experimentado con el
ral del Estado IMV, pero esta será la primera vez que se haga
a nivel estatal. El programa estará dirigido a
La AIReF, como principal referente en evalua- 850.000 familias en situación de pobreza, a las
ción desde la Administración General del Esta- que se les ofrecerá un pago mensual de hasta
do, ha incluido en gran medida evaluaciones de 1015 €. Se estima que el coste del IMV será de
impacto cuasiexperimentales con contrafac- aproximadamente tres mil millones de euros
tual, por ejemplo, casi todas las realizadas en anuales.
la segunda fase de los spending reviews72. Sin
embargo, no se ha efectuado hasta la fecha Entre tanto, tal y como recoge la ley por la que
ninguna evaluación de impacto experimental. se establece el ingreso mínimo vital, el resulta-
do de la medida y de las distintas estrategias
Por otra parte, la experiencia con mayor y políticas de inclusión será evaluado anual-
relevancia hasta la fecha, aún en su fase de mente por la AIReF, mediante la emisión de
estudio, es la evaluación de los proyectos una Opinión75. Con este propósito, la AIReF, la
de itinerarios de inclusión social ligados al Agencia Tributaria y el Instituto Nacional de la
ingreso mínimo vital (IMV) derivados del Real Seguridad Social (INSS) han firmado un conve-
Decreto 938/202173, de 26 de octubre, en el nio que permitirá a la institución acceder a un

72. Evaluaciones de impacto con contrafactual del spending review fase II (3 de 4): beneficios fiscales (diferencias en diferencias, regresión en discontinuidad,
cambio de tendencia, bunching, etc.), infraestructura del transporte (evaluación ACB-la economía sin proyecto) e incentivos a la contratación y al trabajo autónomo
(diferencias en diferencias). También 2 de las 7 de la fase I: programas de políticas activas de empleo ( propensity score matching) y Correos ( profitability cost).
73. https://www.boe.es/diario_boe/txt.php?id=BOE-A-2021-17464.
74. https://www.nature.com/articles/d41586-020-01993-3.
75. https://www.airef.es/es/noticias/la-airef-la-agencia-tributaria-y-el-inss-firman-un-convenio-para-regular-el-acceso-a-datos-necesarios-para-la-
evaluacion-del-imv/.

74
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

amplio conjunto de información, conveniente- plir el mandato recogido en la ley; en él además


mente anonimizada, fundamental para realizar se garantiza la debida seguridad y confidenciali-
un análisis preciso de la eficiencia y eficacia del dad de los datos objeto de cesión.
IMV. En concreto, la AIReF requiere acceder a
datos derivados de la gestión por parte del INSS Se prevé publicar esta primera opinión sobre
y a datos de Renta y Patrimonio de la Agencia el IMV en el segundo trimestre de 2022, si bien
Tributaria. El convenio proporciona una solución en el momento de elaboración de este informe
estable de, al menos, cuatro años para satisfa- no está disponible.
cer las necesidades de la AIReF de cara a cum-

Itinerarios de inclusión social ligados al ingreso mínimo vital76

Ámbito territorial España

Entidades gestoras Ministerio de Inclusión, Seguridad Social y Migraciones

En 2021 se han firmado dieciséis convenios con nueve comunidades autónomas (Asturias,
Aragón, Castilla-La Mancha, Ceuta, Comunidad Valenciana, Extremadura, Galicia, Navarra y País
Vasco), dos ayuntamientos (Madrid y Barcelona) y cuatro entidades del tercer sector (Fundación
Secretariado Gitano, HOGAR SÍ, Save the Children, Plena Inclusión y Cáritas).
Entidades ejecutoras
En 2022, otros dieciocho nuevos convenios con siete comunidades autónomas (Andalucía, Cata-
luña, La Rioja, Madrid, Murcia, Navarra y Comunidad Valenciana), dos ayuntamientos (Santander
y Sevilla) y nueve entidades del tercer sector (Cáritas, CEPAIM, Cruz Roja, EAPN, EAPN Canarias,
Fundación La Caixa, Ayuda en Acción, Fundación Bofill y Fundación Esplai).

Entidades evaluadoras Los RCT los realizarán el Centro de Estudios Monetarios y Financieros (CEMFI) y J-PAL.

Periodo de análisis 2021-2023

Financiación de proyectos piloto innovadores consistentes en itinerarios de inclusión social y su


evaluación, cuyos resultados serán publicados con objeto de contribuir a la generación de conoci-
Ámbito de actuación miento de la política de inclusión, a la orientación de la política de gasto de las Administraciones
públicas y a la creación de mayor impacto, orientando su diseño a resultados y a la consecución
de objetivos.

El diseño y ejecución de los itinerarios de inclusión social deberá prever la realización de una
Metodología
evaluación de impacto con metodología de ensayo controlado aleatorizado.

Los resultados todavía no están disponibles. El pasado 4 de julio el Ministerio de Inclusión celebró
Resultados la jornada «Un ingreso mínimo vital orientado a la inclusión», en la que se han presentado los
avances en la implementación de los itinerarios y los primeros desafíos encontrados.

76. La fuente de información se encuentra en forma de vínculo en los títulos de las experiencias.

75
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

En la misma línea, aunque aún no se ha ce- 6.2. Experimentos auto-


rrado definitivamente la propuesta, en 2021 el nómicos
Gobierno y el partido político Más País llegaron
a un acuerdo para realizar un plan piloto de A este nivel se han identificado pocas experien-
semana laboral de 4 días o 32 horas para cias, siendo reseñables las dos potenciadas
estudiar los beneficios de la reducción de la por la UE en el marco de Horizonte 2020. En
jornada laboral, tanto en la productividad de 2018, la Comisión Europea introdujo el progra-
la empresa como en el ámbito de la concilia- ma INNOSUP-06-2018 para fomentar que las
ción. Se pretende ensayar el plan piloto en una agencias de innovación en Europa diseñaran
horquilla de entre 200 y 400 empresas volun- y evaluaran nuevas iniciativas innovadoras79.
tarias de diferentes sectores para comparar En total, trece proyectos en catorce países con
sus resultados con otras compañías similares veintisiete agencias nacionales y regionales
que no hayan reducido jornadas. El número involucradas están experimentando con solu-
de trabajadores que participarían en el plan ciones para promover la innovación, y para la
se situaría entre 3000 y 6000, y la duración de mayoría de ellas es la primera vez que utilizan
este plan sería de un mínimo de dos años, un RCT. En España están teniendo lugar dos expe-
periodo para evaluar el impacto e intentar es- riencias:
calar el plan a un mayor número de empresas
y sectores.

Además de estas experiencias, según la OCDE,


hay algunas intervenciones desde la Admi-
nistración pública española que han estado
informadas por la perspectiva conductual
y que, sin embargo, no han sido evaluadas
mediante técnicas experimentales. Por ejem-
plo, mencionan que el Ministerio de Turismo
introdujo incentivos y nudges para mejorar la
tasa de respuesta de la encuesta de indus-
tria77. Sin embargo, en el ámbito de las ciencias
conductuales o del comportamiento apenas
se reportan experiencias en España, en com-
paración con otros países de Europa. Como se
mencionó con anterioridad, en 2018, la Funda-
ción Felipe González puso de manifiesto en su
documento de 37 ideas o pequeñas reformas
de la AGE la necesidad de diseñar una unidad
de estas características qua apoyara en el di-
seño de servicios al conjunto de los ministerios
y organismos de la AGE78, pero esta propuesta
no llegó a prosperar.

77. https://read.oecd-ilibrary.org/governance/behavioural-insights-and-public-policy_9789264270480-en#page393.
78. https://s1.fundacionfelipegonzalez.org/wp-content/uploads/2019/02/unidad-administrativa-de-vanguardia.pdf.
79. https://innovationgrowthlab.org/eu-funded-trials.

76
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

InDemand RCT

Ámbito territorial Región de Murcia

Instituto de Fomento Murcia (INFO) financiado por el programa Horizonte 2020 de la Unión Euro-
Entidades gestoras
pea

Entidad evaluadora INFO con el apoyo de personas expertas y entidades especializadas (FFISS, EASME y NESTA)

Periodo de análisis 2019-2022

El proyecto inDemand-RCT, financiado con fondos europeos, tiene como objetivo examinar y po-
ner a prueba un nuevo modelo de negocio basado en la demanda mediante la creación conjunta
de patrones entre clientes y pymes. El modelo de creación conjunta incluirá aportaciones de los
Ámbito de actuación
clientes sobre las soluciones tecnológicas ofrecidas por los proveedores (las pymes) y comer-
cializadas por los intermediarios responsables de aportar valor añadido, con el fin de encontrar
conjuntamente soluciones innovadoras para satisfacer las necesidades del cliente.

RCT para comprobar la eficacia de un nuevo modelo de apoyo a la innovación (modelo inDemand,
innovación impulsada por la demanda) para las pymes que se aplica para dar respuesta a las
Metodología
necesidades de I+D, la digitalización y la respuesta a la covid-19, identificadas por las grandes
empresas de la Región de Murcia.

Resultados Los resultados todavía no están disponibles.

Proyecto DIHnamic

Ámbito territorial Castilla y León

Instituto de Competitividad Empresarial (ICE) financiado por el programa Horizonte 2020 de la


Entidades gestoras
Unión Europea

Entidad evaluadora ICE con apoyo de entidades especializadas (Nesta y Red2Red)

Periodo de análisis 2019-2022

El proyecto DIHnamic, financiado al 100 % por la Unión Europea, tiene como fin verificar nuevos
servicios innovadores de apoyo a pymes de Castilla y León, gracias al impulso de los centros de
Ámbito de actuación
innovación digital (DIH) de la región y otros DIH de toda Europa, y a su difusión a nivel europeo a
través de las agencias de innovación.

Con el proyecto DIHnamic, el ICE, innovando en la forma en que presta su apoyo a las pymes,
Metodología realizará una medición rigurosa del impacto de los servicios proporcionados por los centros de
innovación digital mediante el uso de la metodología de los ensayos controlados aleatorizados.

Resultados Los resultados todavía no están disponibles.

Destaca también el experimento basado en la


teoría de comportamiento que se realizó con
el Consorcio de Educación de Barcelona (una
colaboración institucional entre la Generalitat
de Catalunya y el Ayuntamiento de Barcelona),
uno de los pocos ejemplos que se ha podido
identificar en este ámbito de las ciencias del
comportamiento.

77
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Èxit Estiu

Ámbito territorial Barcelona

Entidades gestoras Consorcio de Educación de Barcelona

Entidad evaluadora Ivàlua

Periodo de análisis 2015-2016

Èxit Estiu se plantea como un programa de refuerzo escolar que se implementa al final del
curso. Su finalidad es ofrecer un acompañamiento en la transición de la educación primaria a la
Ámbito de actuación secundaria y mejorar los aprendizajes. Dentro de este programa se planteó un pequeño piloto
que fomentaba el involucramiento de las familias en la educación de sus hijos para mejorar sus
resultados académicos mediante nudges.

Parte de la evaluación consistió en la evaluación del impacto de una intervención piloto que con-
sistía en el envío a las familias de los alumnos de SMS de dos tipos: un grupo de familias recibía
mensajes informativos sobre el calendario del programa y los exámenes, y otro grupo recibió un
Metodología
mensaje de sensibilización sobre la importancia del programa y el progreso de los participantes.
Participaron en el experimento 1113 familias, 371 recibieron el mensaje de sensibilización, 371 el
informativo y 371 ningún mensaje.

El impacto de los SMS en los resultados académicos del alumnado fue limitado y no significativo
Resultados desde el punto de vista estadístico. Por tanto, se recomendó probar diferentes modificaciones en
el contenido, momento y frecuencia del envío, formato de los mensajes y persona destinataria.

Además, el Departamento de Presidencia de


la Generalitat de Catalunya está realizando un
proyecto piloto de renta básica universal (RBU)
que incluye una evaluación de impacto.

Renta Básica Universal

Ámbito territorial Generalitat de Catalunya

Entidad gestora Departamento de Presidencia (Oficina del Plan Piloto para Implementar la RBU)

Entidad evaluadora Ivàlua

Periodo de análisis 2021-2025 (dos años de implementación más uno adicional para la evaluación)

La RBU es una asignación monetaria individual (para la persona, no el hogar o la familia), universal
(para todos los ciudadanos o residentes acreditados) e incondicional (independiente de toda
Ámbito de actuación
condición o requisito). La Generalitat de Cataluña pretende analizar la viabilidad de implementar la
RBU.

El plan piloto se encuentra actualmente en su fase de diseño, pero se prevé que participarán unas
Metodología
cinco mil personas de diferentes localidades, que serán escogidas aleatoriamente.

Resultados Los resultados todavía no están disponibles.

78
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

En esta misma línea, existe una variedad de 6.3. Experimentos


proyectos piloto con potencial de ser eva- locales
luados mediante técnicas experimentales.
Por ejemplo, recientemente, el Ministerio de En el ámbito local, destaca el Ayuntamiento
Derechos Sociales y Agenda 2030 y la Comu- de Barcelona, que está siendo uno de los
nidad de Madrid, en el marco del convenio de municipios pioneros en promover la expe-
colaboración para la ejecución de proyectos rimentación pública desde hace ya unos
con cargo a los fondos europeos proceden- cuantos años con asistencia de la institución
tes del Mecanismo para la Recuperación y también pionera Ivàlua.
Resiliencia80, cuenta con una serie de pro-
yectos de experimentación de innovaciones
en servicios sociales, que consisten en la
puesta en marcha de varias experiencias
piloto que permitan desarrollar métodos de
trabajo, herramientas y nuevos servicios que
serán escalados y eventualmente podrían ser
incorporados después en la cartera de servi-
cios. Aunque no hay información concreta de
estos proyectos piloto, se indica que «serán
monitorizados y evaluados de modo inde-
pendiente, con objeto de medir su impacto y
potencial replicabilidad» y, por tanto, podrían
incorporar diseños experimentales en su eva-
luación.

Existen otros ejemplos de iniciativas experi-


mentales, como los proyectos experimen-
tales del Plan Avalem Territori para el desa-
rrollo territorial y mercado laboral valenciano,
impulsados por LABORA, el Servicio de
Ocupación y Formación de Valencia. Se trata
de un desarrollo de veinte proyectos experi-
mentales para un periodo total de dos anua-
lidades (2017-2018) en diferentes lugares de
la Comunitat Valenciana. En este caso, los
proyectos experimentales sí han sido evalua-
dos81, pero no se han empleado técnicas de
evaluación de impacto que, sin duda, podrían
haber sido interesantes para una iniciativa
como esta.

80. https://www.boe.es/diario_boe/txt.php?id=BOE-A-2021-21377.
81. https://avalemterritori.es/wp-content/uploads/2020/07/Proyectos-Experimentales-y-Territorio-Valenciano-1.pdf.

79
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Programa Mobilitza’t Mobile de Barcelona Activa

Ámbito territorial Barcelona

Entidades gestoras Ayuntamiento de Barcelona (Barcelona Activa)

Entidad evaluadora Ivàlua

Entidad financiadora Unión Europea en el marco del programa PROGRESS

Periodo de análisis 2014-2016

El programa Mobilitza’t Mobile ofrece a los jóvenes una oportunidad segura en el ámbito educati-
Ámbito de actuación
vo, facilitando su retorno a la educación formal y fomentando su inserción laboral.

El programa se evaluó siguiendo un diseño experimental, asignando de manera aleatoria a 240


personas elegibles al grupo que realizaba el programa Mobilitza’t Mobile (120 participantes) o bien
Metodología
al grupo de control (120 participantes), que actuaba como comparador sobre lo que pasaba con
este perfil de jóvenes en ausencia del programa.

Los principales resultados de la evaluación fueron:

• Mobilitza’t Mobile tuvo un impacto positivo, estadísticamente no significativo, sobre la


inserción laboral. Este impacto es más visible entre los participantes en la segunda edición del
programa.

• El programa parece favorecer la obtención de contratos de más calidad: tanto en la inserción


laboral mensual como en la contratación indefinida o en los requerimientos educativos del
contrato.

• Los incrementos en la tasa de finalización del programa tienen efectos positivos y significati-
Resultados vos en la probabilidad de encontrar un trabajo con contrato indefinido.

• El programa no genera ningún impacto significativo en relación con el objetivo de fomentar


el retorno al sistema educativo.

• La tasa de abandono del programa fue muy elevada (57,8 %), principalmente en su primera
edición (64,1 %). El principal motivo para dejar el programa es la falta de motivación (32,8 %),
seguido de cuestiones relacionadas con la cercanía del trabajo (16,4 %).

• El programa no ha tenido continuidad, pero a raíz de esta evaluación se pudieron realizar


cambios en otras intervenciones, incorporando las nuevas tecnologías, y se ha podido em-
plear como ejemplo de metodología experimental.

80
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Programa Primer la Llar (Hogar Primero)

Ámbito territorial Barcelona

Entidad gestora Ayuntamiento de Barcelona

Entidad evaluadora Ivàlua

Periodo de análisis 2015-2018

El programa Primer la Llar se basa en el modelo conocido internacionalmente como «Housing


First». A diferencia del modelo tradicional (caracterizado por que la persona sin hogar accede a la
Ámbito de actuación
vivienda al final de su proceso de recuperación), este proyecto sostiene que una persona sin hogar
debe disponer de una vivienda permanente.

A partir de esta premisa, en el año 2015 el Ayuntamiento de Barcelona implementó el proyecto


Metodología piloto Primer la Llar con 50 hogares. De las 139 personas que se presentaron, 50 fueron seleccio-
nadas para participar en el modelo Housing First, y el resto, en el modelo tradicional.

• Impacto positivo en la calidad de vida y salud.

• Recuperación personal a través de cinco fases: moral, conciencia, preparación, reconstrucción y


crecimiento.

• Aumento de la autoeficacia (sentimiento de confianza con las propias capacidades para gestio-
Resultados
nar adecuadamente las dificultades de la vida cotidiana).

• Aumento y mejora de las relaciones sociales.

• La evaluación sirvió para extraer aprendizajes para su incorporación a la Cartera de Servicios


para Personas Sin Hogar del Ayuntamiento de Barcelona.

81
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Proyecto B-MINCOME

Ámbito territorial Barcelona

Ayuntamiento de Barcelona (Dirección de Innovación Social del Área de Derechos Sociales, Justi-
Entidad gestora cia Global, Feminismos y LGTBI) cofinanciado por Urban Innovative Actions, de los Fondos FEDER
de la Unión Europea

Ivàlua (Instituto Catalán de Evaluación de Políticas Públicas), The Young Foundation, NOVACT
(Instituto Internacional para la Acción Noviolenta), IGOP (Instituto de Gobierno y Políticas Públi-
Entidades ejecutoras
cas), el Data Management Group de la Universidad Politécnica de Cataluña y el ICTA (Instituto de
Ciencia y Tecnología Ambientales) de la Universidad Autónoma de Barcelona

Periodo de análisis 2017-2019

B-MINCOME es un proyecto piloto que consiste en una transferencia monetaria complementada


Ámbito de actuación con políticas de activación con el objetivo de dar formas innovadoras de empleo a mil familias en
situación de exclusión socioeconómica de los barrios del Eje Besós de la ciudad de Barcelona.

El modelo experimental empleado por el proyecto B-MINCOME combinó ciertos aspectos de


un estudio de saturación, puesto que se implementó en una zona concreta (exclusivamente en
diez barrios que conforman el llamado Eje Besós), con un RCT, mediante el cual se seleccionan
Metodología
aleatoriamente los participantes finales, su modalidad de participación y la política activa en que
participarían. Así se crearon once grupos de participación, incluyendo diez grupos de tratamiento
distintos y un grupo de control.

• Efectos positivos sobre algunas dimensiones del bienestar de las familias: en reducir la probabili-
dad de privación material y de pobreza severa; mejorar el bienestar de las familias y la percepción
de su situación económica; y se perciben efectos atribuibles a la intervención en mejor calidad del
sueño y reducción del estrés asociado a la inseguridad alimentaria.

• Efectos positivos sobre la situación financiera y la exclusión residencial: hay mejoras en la


participación comunitaria y, en el caso de las familias participantes en la política de participación
comunitaria, se incrementa la probabilidad de contar con un mayor apoyo social.
Resultados
• No se observan mejoras significativas en la salud física de las personas participantes, ni sobre la
salud autopercibida o en la probabilidad de tener un problema de salud grave (como un problema
de salud mental). Sí hay mejoras en las horas de sueño, estilo de vida más saludable y acceso a
atención médica.

• La participación en las políticas activas de empleo no ha estimulado la voluntad de empren-


dimiento ni aumentado la probabilidad de encontrar empleo. En el conjunto del proyecto se ha
reducido la participación laboral entre los titulares de la prestación adscrita al programa.

82
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Se identifican también en la Diputación de


Barcelona algunas evaluaciones experimen-
tales realizadas por Ivàlua.

Talleres de capacitación para mayores de 55 años

Ámbito territorial Barcelona

Entidad gestora Diputación de Barcelona

Entidades colaboradoras Fundación Pere Tarrés, Fundación Vodafone y Bibliotecas Municipales

Entidades ejecutoras Ivàlua

Periodo de análisis 2014

Los talleres de capacitación digital constan de una serie de módulos formativos en los que se
Ámbito de actuación enseña a utilizar teléfonos inteligentes y tabletas a personas de más de 55 años y con los que se
pretende disminuir el analfabetismo digital en este colectivo.

La evaluación se realizó mediante un estudio experimental, de manera que en cada biblioteca se


asignaron por sorteo las plazas a los talleres entre las personas interesadas. Los datos necesa-
rios para la evaluación se recogieron principalmente mediante un cuestionario en el momento de
Metodología
la preinscripción en los cursos y pasados cuatro meses de media antes de la finalización de los
talleres. Participaron en el proyecto experimental dieciséis bibliotecas, donde se reunieron quinien-
tas personas, y se obtuvieron datos de seguimiento de trescientas de estas personas.

La asistencia a los talleres se asocia a un incremento estadísticamente significativo del 13 % en la


frecuencia de uso de cualquier aplicación relacionada con la comunicación (WhatsApp, Facebook,
Resultados
etc.) y también con un aumento del 18 % en la frecuencia de uso de internet relacionado con el
ocio y el acceso a medios de comunicación.

83
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Dispositivos de seguridad para la prevención de incendios en el


Servicio de Teleasistencia Domiciliaria
Ámbito territorial Barcelona

Diputación de Barcelona (Gerència de Serveis de Benestar Social. Àrea de


Entidad gestora
Cohesió Social, Ciutadania i Benestar)

Entidades ejecutoras Ivàlua

Periodo de análisis 2017-2020

A partir de abril de 2017, el Servicio Local de Teleasistencia de la Diputación de Barcelona está im-
plementando un nuevo modelo de atención. El modelo de Respuesta Eficiente en Teleasistencia, o
Ámbito de actuación modelo RET, basa su filosofía en dar una respuesta adaptada a las necesidades de cada persona
con una mayor eficiencia y valor tecnológico. Uno de los dispositivos por los que más se apuesta
de este nuevo sistema son los detectores de humo y fuego.

Se asignaron mediante sorteo las personas a las que se les instaló un detector de humo y fuego
(un total de 581) y a las que no (también 581). Antes del sorteo y a los seis meses se hizo una
Metodología encuesta sobre el conocimiento y las actitudes de las personas en cuando a la prevención de los
incendios, y a los doce meses se estudió el número de accidentes en el hogar comparando el
grupo tratamiento y el grupo control.

• Los detectores incrementan la percepción sobre la posibilidad de tener un accidente relacionado


con el fuego y mejoran el conocimiento de la necesidad de contar con un dispositivo de estas
características.

Resultados
• No se modifican los comportamientos de prevención de incendios ni tampoco su conocimiento.

• Como la probabilidad de que ocurran incendios en el hogar es bajo, observar este fenómeno a lo
largo de doce meses es un periodo corto de tiempo, lo que supone una limitación en la evaluación.

Por otra parte, en agosto de 2013 la Diputa- vención, Infancia y Familia del Ayuntamiento
ción Foral de Gipuzkoa (Departamento de de San Sebastián»82. En este sentido, se ha
Política Social), el Ayuntamiento de Donostia/ pretendido evidenciar que dos programas que
San Sebastián y la Universidad del País Vasco eran exitosos en el extranjero podían transferir-
(Departamento de Psicología Social y Meto- se con éxito al País Vasco83.
dología de las Ciencias del Comportamiento)
firmaron un acuerdo de colaboración con
objeto de «la implantación con carácter piloto
y experimental de programas de intervención
(prevención y tratamiento) basados en la evi-
dencia (es decir, que hayan demostrado ya su
eficacia en aplicaciones sistemáticas en otros
contextos o países), con menores y familias
en situación de desprotección que tengan un
expediente abierto y estén siendo objeto de
intervención por el Servicio de Protección a la
Infancia y a la Adolescencia de la Diputación
Foral de Gipuzkoa y por el Servicio de Pre-

82. https://www.gipuzkoa.eus/documents/1932270/1932598/
Sistema+de+protecci%C3%B3n+infantil+en+Gipuzkoa.+Propuesta+para+una+Cartera+de+Programas+basados+en+la+evidencia-2/d7387036-aa88-6fde-
6304-bf6e660fbb0d.
83. https://www.bienestaryproteccioninfantil.es/imagenes/tablaContenidos03SubSec/Implantaci%C3%B3n_2015.pdf.

84
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Programa Safecare y programa Incredible Years

Ámbito territorial Gipuzkoa

Entidades ejecutoras Diputación Foral de Gipuzkoa, Ayuntamiento de Donostia y la Universidad del País Vasco

Periodo de análisis 2013-201784

Los programas Safecare e Incredible Years están dentro de la cartera de servicios de intervención
socioeducativa y psicosocial de la Diputación.

• Safecare es un programa de enseñanza de habilidades parentales destinado a familias en las


Ámbito de actuación
que se ha observado alguna o varias de las posibles situaciones de desprotección infantil.

• Incredible Years un programa de intervención temprana para la prevención de problemas de


conducta y para la promoción de la competencia social y emocional.

El proceso de implantación de programas basados en la evidencia en los servicios de protección


infantil en Gipuzkoa ha tenido, que se conozca por el momento, dos fases.

• En la primera, la fase de exploración, se hizo un análisis de la situación y se seleccionaron dos


programas ya existentes, estableciendo negociaciones con las organizaciones que gestionan
estos programas en Estados Unidos.

Metodología
• Una vez asignado un presupuesto, se inició la segunda fase de preparación, en la que se realizó
una adaptación y preparación del programa, una selección y formación de profesionales para
implementarlo, y su aplicación durante la fase de formación.

• Estaba previsto en la siguiente fase (implantación piloto) llevar a cabo una evaluación de los
resultados de los dos programas siguiendo los requisitos de un diseño experimental y con un
seguimiento postratamiento de doce meses.

Resultados No se conoce si esta evaluación finalmente se ha llevado a cabo y cuáles han sido sus resultados.

6.4. La colaboración En particular, a diferencia de la Administración,


con el sector privado existen numerosos proyectos en universidades
como motor de la inno- e incluso unidades dentro de universidades
vación que aplican enfoques de la teoría conductual o
del comportamiento, como el LINEEX (Labora-
En este subapartado se realiza un repaso tory for Research in Behavioural Experimental
en torno a los procesos de experimentación Economics) de la Universidad de Valencia, el
desarrollados por entidades sociales y organis- Loyola Behavioral Lab de la Universidad de Lo-
mos de investigación, que, sin duda, agrupan yola o el Smart Decision Lab de la Universidad
la mayor parte de las experiencias que se han de Málaga, entre otros.
desarrollado en el ámbito de la experimenta-
ción en España. Cabe destacar que, aunque el En este sector, muchos de los experimentos
país se encuentra atrasado en esta materia a se realizan en laboratorio, con el objetivo de
nivel de la Administración, esto no sucede en el conocer cuáles son los mecanismos de toma
ámbito privado, con instituciones pioneras en de decisiones, pero también cuáles son estas
este tipo de técnicas. decisiones ante situaciones hipotéticas. Sin
embargo, el contexto creado artificialmente
84. No se cuenta con información sobre la implantación piloto y evaluación con diseño experimental que estaba prevista de 2015 a 2017.

85
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

no es el mismo que en el «mundo real» y las y también a empresas privadas. Sin embargo,
decisiones pueden estar influidas por ello. aunque existan numerosos grupos académi-
La realización de este tipo de experimentos cos investigando en sectores con potencial de
puede informar las políticas públicas per se, influir sobre las políticas públicas, se ha eviden-
o también ser el paso previo al diseño de una ciado una desconexión importante entre este
intervención que incluya un ensayo controlado tipo de actividades investigadoras y el diseño,
aleatorizado en campo. implementación y evaluación de las interven-
ciones públicas. Esto se podría solucionar si
Estos laboratorios realizan experimentación estos experimentos estuvieran orientados al
sobre todo con orientación académica, pero en uso y la aplicación en las políticas, como el
algunos casos asesoran a entidades públicas caso que se muestra a continuación.

Equiparación gradual del permiso de paternidad con el de


maternidad en España
Ámbito territorial España

Universidad Complutense de Madrid. Grupo de investigación UCM número 940051: Análisis de


Entidad evaluadora
datos en estudios sociales, de género y políticas de igualdad, financiado por Plan Nacional I+D+i

Periodo de análisis 2019-2021

La reforma del nuevo permiso por nacimiento y cuidado de menor, de enero de 2021, supone la
plena equiparación de los permisos (intransferibles) de la madre y del padre. Esta es una reforma
de gran calado en términos de política de igualdad (destinada a ser considerada como una refor-
Ámbito de actuación ma pionera y de referencia internacional).
Por ello, es preciso acompañar el comienzo de la aplicación de dicha medida de una evaluación ri-
gurosa de sus efectos, así como de una identificación de los impulsores y obstáculos que puedan
existir para la utilización de estos nuevos permisos por parte de los padres.

Está previsto un análisis cualitativo con entrevistas semiestructuradas, un experimento factorial


en encuesta para analizar el efecto de una serie de variables contextuales sobre la decisión de
tomarse un permiso parental más largo o más corto, un experimento controlado para analizar en
Metodología
qué grado se penalizaría a un trabajador que utiliza un permiso por nacimiento y cuidado largo y
a tiempo completo, y una encuesta a progenitores sobre el uso de los permisos por nacimiento y
cuidado de menor.

Resultados Los resultados todavía no están disponibles.

Asimismo, hay organizaciones privadas de in- intervenciones públicas suele ser mayor que
vestigación o think tanks que son reconocidas el de las instituciones académicas, ya que a
por realizar estudios con técnicas experimen- veces ofrecen asistencia técnica a la Admi-
tales, incluyendo enfoques de las ciencias del nistración, pero, como en el caso anterior, se
comportamiento, como La Fundación COTEC podría emplear en mayor medida el expertise
para la Innovación —que cuenta con un Labora- que tienen estas instituciones en la materia
torio de Economía del Comportamiento para desarrollar más experimentación pública.
(LEC)—, ISEAK (Initiative for Socio-Economic Es importante mencionar que, cuando orga-
Analysis and Knowledge), KSNET (Knowledge nizaciones de este tipo realizan evaluaciones
Sharing Network), FEDEA (Fundación de Es- experimentales o experimentos para organiza-
tudios de Economía Aplicada), FUNCAS (Fun- ciones públicas, suele ser por iniciativa de las
dación de las Cajas de Ahorro) o EsadeEcPol primeras, más que por una demanda pública.
(Centro de Políticas Económicas de Esade).
El vínculo de estas organizaciones con las
86
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Decisiones financieras de los estudiantes universitarios

Experimento en laboratorio en la Facultad de Ciencias Económicas y Empresariales de la Universi-


Ámbito territorial
dad de Granada a estudiantes de último curso de grado

Proyecto financiado por FUNCAS a través del Programa FUNCASEDUCA de ayudas a la investiga-
Entidades ejecutoras
ción en educación financiera

Periodo de análisis 2019-2021

Este estudio se enmarca en una de las necesidades de formación previstas en el Plan de Edu-
cación Financiera (2018-2021) de la Comisión Nacional del Mercado de Valores y del Banco de
Ámbito de actuación
España; en concreto, en la propuesta de iniciativas de educación financiera para aprender a tomar
decisiones financieras informadas.

Diseñar distintos formatos de educación financiera y evaluar, con una metodología experimental,
el efecto que han tenido en la toma de decisiones financieras de los estudiantes universitarios,
Metodología considerando además la posible influencia que en estas decisiones pueden tener los sesgos
cognitivos y el tipo de proceso de razonamiento utilizado. Los participantes en el estudio fueron
asignados aleatoriamente a los diferentes grupos experimentales y de control.

• La formación recibida es eficaz para mejorar los conocimientos financieros y la capacidad


percibida para tomar decisiones de endeudamiento sobre préstamos de estudios de posgrado, y
permite que muestren una actitud menos preocupada frente al endeudamiento.

• Es importante informar a los estudiantes de ciertos atajos mentales o heurísticas, como la


de disponibilidad, pues la decisión de endeudamiento resulta menos incómoda y estresante y
Resultados aumenta la percepción sobre su capacidad para tomar este tipo de decisión.

• El tipo de proceso de razonamiento usado también es una variable relevante que considerar en
la toma de decisiones financieras, observándose que, cuando los estudiantes siguen un proce-
samiento más analítico, muestran una actitud menos favorable al endeudamiento, son menos
optimistas en la percepción de sus capacidades y se endeudan menos que los que han decidido
de forma más intuitiva.

87
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Programa Menttores

Ámbito territorial Madrid y Cataluña

Entidades ejecutoras Centro de Políticas Económicas EsadeEcPol y Empieza por Educar (ExE)

Entidades colaboradoras y Fundación COTEC, Fundación CEOE, United Way España, Google, Universidad Internacional de La
financiadoras Rioja, Huawei, Santander, Fundación Atlantic Copper, Esade, Edvolution y EY

Periodo de análisis 2021 (4 meses)

Menttores es un programa diseñado para ofrecer refuerzo educativo al alumnado de entornos


desfavorecidos más castigados por la covid-19. Para ello, se plantea un programa intensivo de 8
Ámbito de actuación semanas, con 3 sesiones de 50 minutos por semana, durante los meses de abril y mayo de 2021,
para 378 alumnos de 1.º y 2.º de ESO en 18 centros educativos de los entornos más complejos de
Madrid y Cataluña.

La evaluación de impacto del programa se planteó desde una perspectiva experimental mediante
Metodología un ensayo controlado aleatorizado (206 alumnos que recibieron la intervención y 172 que no la
recibieron y conformaron el grupo de control).

• Aumentan las notas finales de matemáticas en un 49 % de una desviación estándar, equivalente


a 6 meses de aprendizaje.

• Aumenta la probabilidad de aprobar la asignatura en un 30 % respecto al grupo de control (una


diferencia de 20,6 % entre grupo de control e intervención).

• Mejoran los resultados de la prueba externa de matemáticas en un 26 % de una desviación


estándar, equivalente a 3 meses de escuela.

• Reducción del 75 % en la probabilidad de repetir curso, comparado con el grupo control.


Resultados
• El alumnado muestra un aumento de la satisfacción con la escuela en un 22 % de una desvia-
ción estándar (en una escala de 1 a 7).

• Aumenta la probabilidad de querer estudiar Bachillerato en el futuro en 13 puntos porcentuales,


equivalente a un 31 % respecto al grupo de control.

• Aumenta la probabilidad de declarar que realizan un mayor esfuerzo en la escuela en un 19 %.

• Estos resultados alientan a que se instauren las tutorías individualizadas como una política
pública en España.

88
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Mejorando el alcance de los Servicios Públicos de Empleo

Ámbito territorial País Vasco (Universidad del País Vasco)

Entidades ejecutoras ISEAK

Entidad colaboradora Universidad del País Vasco (UPV/EHU)

Entidad financiadora Youth Employment PartnerSHIP (EEA y Norway Grants Fund for Youth Employment)

Periodo de análisis 2021

Los Servicios Públicos de Empleo (SPE) ofrecen a los jóvenes que ni estudian ni trabajan en el
País Vasco la posibilidad de inscribirse en sus oficinas para recibir asistencia y acceder a progra-
Ámbito de actuación
mas como el de Garantía Juvenil de la Comisión Europea, con el objetivo de aumentar tanto la
participación en el mercado laboral como las tasas de empleo.

Se envió una encuesta a las personas matriculadas en el último año de sus estudios en la UPV,
en total 503 personas contestaron la encuesta. De ellas, 96 estaban registradas en los Servicios
Metodología Públicos de Empleo, por lo que se descartaron. A las que no estaban registradas en los SPE se
las asignó a un grupo control (126 personas) o a uno de los dos grupos de tratamiento. Dichos
grupos recibieron cada uno un tipo de campaña informativa.

La primera campaña informativa, en la que solo se informa al alumnado sobre los beneficios po-
tenciales del registro en los SPE, no fue efectiva en la mejora de su intención a registrarse en ellos.
Resultados Sin embargo, en la segunda intervención, cuando el alumnado son informados de que además de
los beneficios de registrarse en los SPE pueden disfrutar de un servicio cercano y personalizado,
su intención de inscribirse en estos aumenta en más de 10 puntos porcentuales.

89
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Automatización y mercado de trabajo

Ámbito territorial Experimento en laboratorio realizado en España con perspectiva internacional

Entidad gestora Laboratorio de Economía del Comportamiento (Fundación COTEC)

Entidades ejecutoras Unidad Mixta Interdisciplinar de Comportamiento y Complejidad Social (UMICCS)85

Periodo de análisis 2018 (7 meses)

Las implicaciones de la automatización han generado un debate muy intenso en la opinión pú-
Ámbito de actuación blica, ya que las nuevas tecnologías podrían no solo constituir un complemento a los puestos de
trabajo actuales, sino llegar a sustituir determinadas ocupaciones de manera total o parcial.

Metodologías de economía experimental y del comportamiento mediante experimentos en


laboratorio. El reclutamiento de la muestra se realiza mediante un proceso abierto y, tras aplicar
una serie de filtros de selección relacionados con determinadas habilidades y no con criterios
demográficos, se obtienen novecientos individuos repartidos en nueve tratamientos (entre los que
se incluye el grupo control).
Metodología

Siguiendo la metodología experimental, las personas reciben un pago monetario dependiendo de


su propio rendimiento en las tareas desarrolladas. En cada tratamiento, exceptuando al grupo de
control, las personas participantes se enfrentan al riesgo de ser sustituidas por un robot que se
asocia de forma individual y aleatoria, pudiendo perder la posibilidad de seguir produciendo.

• La amenaza de inclusión de robot no cambia la productividad de los trabajadores, es decir, se


observa que no varían su producción en función de si hay riesgo o no de ser sustituidos por un
robot. No obstante, con la incorporación de robots en el proceso productivo, se observa un incre-
mento medio de la productividad de la empresa del 13,5 %.

• Ni la existencia de una renta básica, tal y como se ha diseñado en este experimento, ni de un


impuesto fijo por la utilización de un robot en sustitución de una persona trabajadora (tasa de
reemplazo) desincentivan su productividad. Por un lado, la renta básica que proporciona al traba-
jador un salario por defecto no le hace reducir su eficiencia. Por otro lado, la persona trabajadora,
Resultados conocedora de la tasa de reemplazo en la que incurre un directivo cuando es reemplazado por un
robot, no modifica su productividad.

• El impuesto fijo a la sustitución de una persona trabajadora reduce la probabilidad de reempla-


zo, es decir, los directivos consideran un coste económico lo suficientemente elevado utilizar un
robot, por lo que solo lo emplearán cuando la productividad respecto al trabajador sea suficiente-
mente mayor.

• El trabajador tampoco incrementa su productividad como respuesta a no ser reemplazado por


un robot más eficiente.

85. Colaboración de la Fundación con personal investigador de la Universidad Carlos III de Madrid y la Universitat de València.

90
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

preferencias de gasto público en la ciudadanía

Ámbito territorial España

Entidad gestora Laboratorio de Economía del Comportamiento (Fundación COTEC)

Entidades ejecutoras Unidad Mixta Interdisciplinar de Comportamiento y Complejidad Social (UMICCS)

Periodo de análisis 2020-2021 (2 meses)

Estudio sobre las preferencias de una muestra representativa de la ciudadanía española sobre
Ámbito de actuación
asignaciones del gasto público.

Metodología innovadora, que combina los resultados de una encuesta demoscópica —sobre una
muestra amplia representativa de la población española, realizada por COTEC en colaboración
Metodología
con Sigma Dos— con un experimento incentivado económicamente —que emplea técnicas de
economía conductual—.

La investigación refleja las preferencias de la población española respecto a ocho políticas con-
cretas de gasto público, estableciendo una ordenación clara entre ellas. Detrás de sanidad, a una
Resultados
distancia significativa, aparece la educación. Las restantes partidas, en orden de prioridad, son
pensiones, I+D+i, cultura, medio ambiente, infraestructuras y, por último, defensa y seguridad.

La innovación en el sector público

Ámbito territorial España

Entidad gestora Laboratorio de Economía del Comportamiento (Fundación COTEC)

Entidades ejecutoras Unidad Mixta Interdisciplinar de Comportamiento y Complejidad Social (UMICCS)

Periodo de análisis 2020-2021 (10 meses)

Para innovar en el sector público, uno de los inputs fundamentales es la presencia de empleados
Ámbito de actuación con capacidad y deseo de desarrollar proyectos rompedores. El propósito de este trabajo es preci-
samente el de proporcionar herramientas a este sector para detectar empleados innovadores.

Se emplearon experimentos económicos incentivados, un análisis de las principales característi-


cas conductuales (preferencias sociales, confianza, aversión al riesgo, aversión a la ambigüedad
Metodología y test de personalidad y de emprendimiento) y el estudio de las respuestas de las personas a dos
cuestionarios específicamente diseñados para identificar personas innovadoras. Se recogió una
muestra de 317 sujetos, repartidos en siete grupos, tres no innovadores y cuatro innovadores.

El análisis de los resultados obtenidos distinguiendo entre diversos colectivos caracterizados por
Resultados realizar algún tipo de actividad innovadora y colectivos que no consta que realicen tales activida-
des no revela ninguna diferenciación sistemática entre ambos grupos.

91
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

La negociación en entornos virtuales

Ámbito territorial España

Entidad gestora Laboratorio de Economía del Comportamiento (Fundación COTEC)

Entidades ejecutoras Unidad Mixta Interdisciplinar de Comportamiento y Complejidad Social (UMICCS)

Periodo de análisis 2020-2021 (6 meses)

El objetivo del estudio es comprender cómo influyen los nuevos entornos virtuales en los proce-
Ámbito de actuación
sos de negociación, cuyo uso se ha intensificado a raíz de la pandemia de la covid-19.

Participaron 158 voluntarios de ambos sexos, emparejados de forma aleatoria en diferentes roles.
Un total de 40 parejas negociaron en persona y 39 lo hicieron por videollamada. En ambos casos
Metodología dispusieron de 15 minutos para ponerse de acuerdo. Cada participante obtenía un número de pun-
tos predeterminado en función de los objetivos alcanzados en cada uno de los dos apartados que
definían la negociación. La suma de los puntos de cada pareja establecía la calidad del acuerdo.

Negociar por videollamada supone cerrar menos acuerdos y de peor calidad que cuando se hace
cara a cara. Es la principal conclusión de este estudio experimental, del que se extrae que de
manera presencial se cierran con éxito un 54 % más de procesos de negociación que a través de
Resultados
una pantalla. Una muestra adicional, realizada con 44 voluntarios, mostró que la negociación vía
chat obtenía una puntuación más próxima a la negociación en persona que a la negociación por
videollamada.

92
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Programa de itinerarios culturales para personas mayores

Ámbito territorial Área Metropolitana de Barcelona

Entidad gestora Fundación la Caixa

• KSNET, especializada en la evaluación de proyectos y programas, ha coordinado todo el estudio,


seleccionado la muestra y llevado a cabo los análisis cuantitativos y cualitativos.

• ARTImetría, especializada en estrategia y marketing cultural, ha diseñado el itinerario cultural y


los cuestionarios para el análisis.
Entidades ejecutoras
• TASCA, con una larga trayectoria de colaboración con los EspaiCaixa, ha realizado el trabajo de
campo.

• Durante la realización del estudio varios departamentos de la FBLC —Estrategia, Cultura y Gente
Mayor— han colaborado y validado sus distintas partes.

Periodo de análisis 2018

Se invitó a un grupo de personas usuarias habituales de los centros EspaiCaixa del área me-
Ámbito de actuación tropolitana de Barcelona a realizar un itinerario cultural compuesto por cuatro actividades —un
concierto, una película y dos cafés tertulia— realizadas en el CaixaForum.

El estudio se ha llevado a cabo en dieciséis EspaiCaixa del Área Metropolitana de Barcelona. Los
centros fueron asignados aleatoriamente a dos grupos: el de tratamiento, a los que se ofreció la
posibilidad de que sus socios participaran en el itinerario cultural en CaixaForum; y el grupo de
Metodología centros de control, a cuyos socios se ofreció la posibilidad de participar, tras la conclusión del es-
tudio, en un itinerario de características similares. Todas las personas participantes en el estudio
(tratamiento y control) fueron encuestadas antes y después de la realización de las actividades
culturales.

Los resultados demuestran que la participación en actividades culturales por parte de la gente
Resultados 86
mayor contribuye a mejorar su bienestar físico: las personas participantes disminuyeron las visi-
tas al médico y aumentaron su nivel de actividad física tras realizar el itinerario propuesto.

Por otra parte, también hay instituciones su Proyecto Coach. Ivàlua también ha desarro-
sociales que promueven la experimentación llado evaluaciones de instituciones sociales,
pública en sus intervenciones. En este sentido, incluyendo una experimental para la Federació
sobre todo hay ejemplos de evaluaciones cua- Salut Mental Catalunya (FSMC). Además, un
siexperimentales de programas y proyectos. ejemplo importante de una evaluación experi-
mental en España, que ha sido promovida por
Fundación la Caixa, además del ejemplo ya HOGAR SÍ y Provivienda, es la evaluación del
mencionado, tiene una amplia experiencia programa Housing First.
en el ámbito de la evaluación educativa con
su programa EduCaixa. También destaca la El hecho de que organizaciones de estas ca-
evaluación cuasiexperimental de las lanzade- racterísticas realicen experimentación puede
ras de empleo de la Fundación Telefónica y las tener varios objetivos, ya que les permite 1)
realizadas por la Fundación Exit en el marco de aprender sobre el impacto generado por una

86. Cabe señalar que una de las principales limitaciones del estudio tiene que ver con el reducido tamaño muestral. Así, aunque el diseño inicial del estudio
preveía la participación de unas 380 personas, finalmente solo se logró información completa de 79 de ellas (48 en el grupo de tratamiento y 31 en el de control).
Por ello, debido al reducido tamaño de la muestra analizada, el estudio no permite detectar efectos estadísticamente significativos asociados a la participación
en el itinerario cultural, sino más bien describir las diferencias de comportamiento entre los usuarios que han participado en el itinerario cultural respecto a los
que no.
93
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

intervención y poder mejorarla, así como 2) nistración a incorporar las evidencias en sus
orientar o reorientar las prioridades y focos políticas, solo si hay un cambio en la cultura
de la propia organización en su conjunto a la de la Administración será posible que estas
vista de los resultados. También les permite 3) iniciativas puedan generar aprendizajes útiles
implantar una cultura de evaluación orientada para intervenciones públicas y que incluso se
al impacto en las organizaciones, y 4) generar puedan llevar a cabo experiencias similares
un proceso de incidencia en la Administración en la Administración y generar colaboraciones
y políticas públicas. con el ámbito privado.

En cuanto a las potenciales repercusiones


de estas iniciativas para motivar a la Admi-

Evaluación de la metodología Housing First en España

Ámbito territorial España

Entidad gestora Provivienda y HOGAR SÍ con financiación del Ministerio de Derechos Sociales y Agenda 2030

Entidades ejecutoras Universidad Carlos III y Fresno Consulting

Periodo de análisis 2020-2021 (18 meses)

El modelo Housing First fue desarrollado a principios de la década de 1990 como alternativa a los
sistemas tradicionales de atención para personas sin hogar en situación de especial dificultad. La
llegada a España de este modelo ha sido más reciente y se ha producido a través del programa
Ámbito de actuación
Hábitat, puesto en marcha por HOGAR SÍ en 2014 con un proyecto experimental. A partir del año
2017, HOGAR SÍ ha generado una alianza con la Asociación Provivienda para impulsar el desarro-
llo de la metodología Housing First en España.

Se realizó una evaluación de los resultados del programa y una evaluación económica del progra-
ma frente a alternativas para el que se consideran fundamentalmente tres momentos de medida:
Metodología evaluación inicial y seguimientos de 12 y 18 meses. El número de participantes fue 111 en el
grupo experimental (GE), usuarios de Hábitat, y 131 en el grupo control (GC), personas en lista de
espera.

De forma general, la evaluación manifiesta que las personas que viven en viviendas Housing First
muestran mejores resultados en todas las dimensiones evaluadas que las personas que están
viviendo en la calle o en otros espacios como albergues y centros de acogida de emergencia.

El principal indicador de éxito del programa, tal y como se establece internacionalmente, tiene que
ver con el nivel de retención del alojamiento, que en el caso de España es del 96 %. Es decir, casi el
total de las personas que acceden a una vivienda continúan en ella después de dieciocho meses.
Resultados
A los seis meses ya se observa una mejora significativa en su satisfacción con la vida, y se mues-
tran más felices y satisfechas con su intimidad.

La evaluación demuestra que estas soluciones tienen un coste por plaza similar al de los alber-
gues o alojamientos colectivos, pero ofrecen prestaciones muy superiores para las personas
usuarias en cuanto a estabilidad y calidad del alojamiento y asistencia personalizada. Además,
tienden a reducir costes, mientras que sus alternativas los incrementan.

94
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Programa Activa’t per la Salut Mental

Ámbito territorial Cataluña

Entidad gestora Federació Salut Mental Catalunya (FSMC)

Entidad evaluadora Ivàlua

Periodo de análisis 2017

El proyecto Activa’t per la Salut Mental pretendía abordar la problemática de las enfermedades
mentales actuando sobre las familias de personas con trastornos mentales severos (TMS), con la
finalidad de convertirlas en agentes de salud en su propio proceso de recuperación. La metodo-
Ámbito de actuación
logía de intervención preveía poner a disposición de los participantes un circuito integrado que
incluía servicios de orientación e información inicial, actividades de formación y apoyo en grupos
de ayuda mutua.

La evaluación se basó en un estudio experimental. A través de un sorteo se crearon dos grupos


de familias iguales en todas las características que pueden influir en el hecho de que una unidad
familiar mejore su capacidad diaria de gestión del TMS. Al grupo de tratamiento se le dio acceso a
las actividades de orientación e instrucción y a los grupos de ayuda mutua a través del circuito de
Metodología
la Acción para la Salud Mental, mientras que al grupo control no. Las diferencias que se observan
entre los grupos en el proceso de recuperación, la carga de la persona o personas cuidadoras, el
apoyo social de la persona o personas cuidadoras o el uso de recursos sanitarios se atribuyen a
haber participado o no en el itinerario asistencial integrado.

• El programa ha sido efectivo a la hora de mejorar la recuperación personal del grupo de partici-
pantes, especialmente en los meses posteriores a la finalización de la psicoeducación.

• Para la persona que cuida a la persona afectada por un trastorno mental severo el itinerario ha
sido beneficioso: se ha sentido útil, ha descubierto nuevas capacidades y ha desarrollado activida-
des que no había realizado antes.

• No se han identificado impactos en áreas como el cuidado de las personas tuteladas, el apoyo
Resultados
o el uso de servicios sanitarios ni en el consumo farmacéutico de las familias participantes en el
programa.

• La evaluación ayudó a visibilizar el espacio informal que acompaña este tipo de intervenciones,
incluyendo la creación de una red.

• La evaluación sirvió como sustento para reforzar la pertinencia del programa, que sigue vigente,
y más allá la necesidad de tener una cartera de servicios que trabaje en el tema de cuidado.

Por último, cabe destacar el proyecto benshi. da y basada en datos para equipos de atención
ai’s87, una organización internacional sin ánimo médica y pacientes individuales, y se enfoca
de lucro financiada por la Fundación Bill y Me- en cuatro áreas principales de investigación:
linda Gates, con sede en Barcelona, que tiene aprendizaje reforzado, inferencia causal, dise-
el objetivo de mejorar la salud de las personas ño experimental y modelo predictivo dinámico.
y las poblaciones en países de escasos recur- En definitiva, analiza el impacto de las interven-
sos a través de productos avanzados de inteli- ciones mediante un diseño experimental adap-
gencia artificial. Con este propósito, benshi.ai tativo basado en el aprendizaje por refuerzo,
proporciona información valiosa, personaliza- empleando RCT y la psicología conductual.
87. https://www.benshi.ai/.

95
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

6.5. Dificultades para el de una intervención ya consolidada o incluso


desarrollo de la expe- su continuidad. Esto provoca que muchos pro-
rimentación en la Admi- cesos de experimentación no se lleven a cabo
nistración pública tras haber mostrado interés inicial, o que, cuan-
do se desarrollan y los resultados no son los
Como se ha podido apreciar a lo largo de este esperados, estos no se publiquen, y los apren-
epígrafe, la mayor parte de las prácticas de dizajes basados en evidencias queden minimi-
experimentación encontradas en España son zados. Una manera de fomentar el desarrollo
desarrolladas por organizaciones privadas, or- de la experimentación es que las experiencias
ganizaciones académicas y entidades sociales, existentes sirvan de germen, se usen como
y son minoritarias las experiencias en Adminis- referentes para mostrar su utilidad.
traciones públicas, siendo además de reciente
desarrollo, ya que en muchos casos aún no se Otro elemento clave que explica esta dificultad
tienen resultados de estos procesos. en su desarrollo es que la experimentación im-
plica un cambio o modificación en el proceso
Esta revisión, así como las entrevistas y de diseño de las políticas públicas, de manera
reuniones mantenidas en el desarrollo de este que se integren estos procesos en una fase de
estudio, han permitido identificar una serie diseño de la política antes de ser escalada, y
de dificultades y obstáculos que limitan el también en la concepción del diseño y forma
desarrollo de actuaciones de experimentación de implementación de los servicios públicos,
en las Administraciones públicas. introduciendo el elemento de la aleatorización.
Esto supone un cambio de base para la Admi-
Uno de los elementos clave que se han comen- nistración, y en muchas ocasiones no siempre
tado en este estudio es que el desarrollo de la existe esa disposición o se cuenta con las
evaluación ha venido marcado por la voluntad capacidades necesarias para modificar los
política, y, en ese sentido, el mayor o menor procedimientos establecidos. Es por ello por lo
desarrollo de la experimentación viene tam- que quizás este tipo de prácticas se hayan ins-
bién determinado por este factor. Por tanto, taurado más fácilmente en países que ya tenían
las experiencias que han tenido lugar hasta integrado el uso de evidencias, como los países
el momento suelen producirse por la volun- anglosajones, y también en algunos países en
tad individual de las personas a cargo de las vías de desarrollo sin procedimientos tan defini-
instituciones, lo cual implica la necesidad de dos, y hayan tardado más en llegar a los países
instaurar una cultura de la evidencia relaciona- donde está más instaurado el ciclo de políticas
da con la experimentación en las instituciones públicas. No obstante, se observa un cambio
públicas como el primer paso que dar. paulatino de mentalidad en este sentido, ya que
la experimentación brinda una oportunidad para
Han sido varias las experiencias identifica- fomentar la innovación en las políticas públicas.
das donde la Administración ha realizado un
primer acercamiento a este tipo de experimen- De manera más general, también se ha identifi-
tación, desarrollando eventos y capacitaciones cado una falta de capacidades y conocimien-
para ampliar la información y el conocimiento tos sobre evaluación y sobre los procesos de
al respecto, pero sin dar más pasos a continua- experimentación en los equipos de empleados
ción en esta dirección. de la Administración pública, lo cual supone
una limitación en cuanto a la percepción de las
La falta de voluntad política puede estar vin- oportunidades de estas metodologías, que a
culada al miedo a los resultados que puedan la vez generan reticencias a la hora de aplicar
surgir del proceso de experimentación, en procesos de aleatorización. Se han detectado
tanto que hagan necesario el replanteamiento en este sentido varias instituciones y personas
96
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

expertas que están ofreciendo capacitacio- En términos de acceso a la información, de-


nes al funcionariado público, no solo para que pendiendo de la intervención que esté siendo
aprendan sobre la metodología, sino para que evaluada y de las características de la unidad
comprendan cuándo pueden ser útiles y se de análisis, existe mayor dificultad en con-
consiga fomentar este tipo de prácticas. seguir una muestra con representatividad
estadística. Por ejemplo, cuando se realizan
Muchas veces las instituciones especializadas evaluaciones de población vulnerable o de
que prestan servicios a entidades públicas son familias, puede ser difícil conseguir suficien-
las que proponen realizar experimentos, y te participación, además de que el riesgo de
aunque es positivo para que empiecen a gene- abandono del programa es alto, y la tasa de
rarse experiencias, también puede suponer una respuesta a encuestas en el marco de la eva-
falta de apropiación de los resultados por par- luación, baja. Por tanto, se debe procurar tener
te de la Administración al considerase algo que una muestra considerablemente mayor a los
«no ha emergido de los decisores públicos». mínimos necesarios para garantizar el desarro-
llo de este tipo de evaluaciones.
La falta de recursos humanos con conocimien-
tos y capacidades no es la única barrera: en En un nivel más operativo, la Administración
muchas ocasiones se han identificado limi- pública española cuenta con múltiples proce-
taciones presupuestarias, vinculadas, por un sos establecidos, especialmente en el desa-
lado, al coste que conlleva el desarrollo de un rrollo de políticas públicas que impliquen la
proceso de experimentación de este tipo, y por dotación de un servicio o recurso, lo que en la
otro, a la antelación necesaria de aprobación práctica dificulta enormemente el desarrollo
de los presupuestos públicos, lo que no siem- de la experimentación, que necesita de pro-
pre permite prever los fondos para este tipo de cesos ágiles entre el diseño, la selección de
procesos. Para solventar estas dificultades se las muestras y el desarrollo de la intervención,
han detectado diferentes maneras de financiar lo que hace que estas limitaciones acaban
estos experimentos, por ejemplo, apoyándo- teniendo un impacto en la rigurosidad y calidad
se en instituciones internacionales, como la del proceso.
Comisión Europea, que financia este tipo de
prácticas en sus convocatorias, o mediante Un elemento común a la mayor parte de los
los llamados fondos de experimentación, tanto experimentos analizados ha sido la dificultad
públicos como privados, que financian inter- para trabajar con la Administración en am-
venciones que incluyen esta metodología. plios espacios de tiempo que impliquen la
evaluación de los impactos de la intervención
Incluso cuando algunas de las dificultades a medio y largo plazo, así como contar con
anteriores se han solventado, la Adminis- el tiempo suficiente para el diseño del propio
tración pública en España se enfrenta a una experimento y que se asegure una buena
cultura muy pobre del dato, que no facilita calidad técnica, ya que, en muchas ocasiones,
utilizar fuentes secundarias de calidad para el las limitaciones de tiempo se han traducido
desarrollo de estos experimentos. Esto puede en muestras pequeñas e insuficientes para el
venir determinado por la inexistencia de estos desarrollo de los experimentos.
datos, y en otros casos, por las limitaciones en
cuanto al acceso a grandes bases de datos Para terminar, uno de los retos que se han
que están disponibles, pero para cuyo uso se planteado a lo largo de este estudio es la
producen limitaciones legales; también se pro- incorporación de enfoques de la economía
ducen resistencias institucionales a compartir del comportamiento en las políticas públicas,
datos. Esta falta de acceso al dato dificulta el un ámbito muy poco desarrollado en España
desarrollo de experimentos como los que se desde el punto de vista de la Administración,
están desarrollando en otros países europeos. pero que cada vez cuenta con un mayor desa-
97
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

rrollo en los países europeos y en instituciones


privadas españolas y ha revelado interesantes
resultados de gran aplicabilidad en las políticas
públicas.

98
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

estu-
dios de
caso en
españa

07.
99
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

7.1. Evaluación del pro- objetivo de ser el estudio más completo a nivel
grama Habitat – modelo europeo y el primero en analizar los resulta-
Housing First88 dos de esta metodología en el país, cubriendo
así una carencia importante, pues en España
Contexto existe una gran escasez de datos y de análisis
sobre las personas en situación de sinhogaris-
En España 33.000 personas no tienen un ho- mo, lo que constituye un serio problema para
gar y se estima que un 12,6 % de la población el desarrollo de políticas públicas.
ha visto vulnerado su derecho a la vivienda en
algún momento de su vida. Sin embargo, el Organizaciones
objetivo 11 de los ODS insta a las sociedades involucradas
a asegurar el acceso de todas las personas
a viviendas y servicios básicos adecuados, Housing First fue puesto en marcha por HO-
seguros y asequibles, así como a mejorar los GAR SÍ en 2014 a través del programa piloto
barrios marginales de aquí a 2030. denominado Hábitat. A partir del año 2017, HO-
GAR SÍ ha generado una alianza con la Asocia-
Intervención y objetivos del ción Provivienda para impulsar el desarrollo
estudio de la metodología Housing First en España. En
Hábitat participan entidades locales dispersas
El modelo Housing First fue desarrollado a en todo el territorio: Alicante, Avilés, Arona,
principios de la década de 1990 como alter- Barcelona, Córdoba, Coslada, Alicante, Donos-
nativa a los sistemas tradicionales de aten- tia, Granada, Madrid, Móstoles, Santa Cruz de
ción para personas sin hogar en situación de Tenerife y Zaragoza.
especial dificultad. La llegada a España de este
modelo ha sido más reciente y se ha producido Metodología
a través del programa Hábitat. Dicho progra-
ma está centrado en la atención de aquellas A lo largo de las últimas tres décadas, el mo-
personas en situaciones de mayor dificultad, delo Housing First se ha expandido a distintos
en concreto, que hayan estado más de un año países gracias a la realización y la difusión
pernoctando en espacios públicos o un míni- de sólidos trabajos sobre la evaluación de su
mo de tres años en la situación de sinhoga- efectividad en cuanto al mantenimiento de
rismo y tengan un problema de salud mental, alojamiento, consumo de sustancias, calidad
adicciones o discapacidad añadida. de vida e ingresos hospitalarios. Sin embargo,
se han realizado menos estudios sobre los
Lo que el programa Hábitat proporciona a esas aspectos económicos por las dificultades que
personas es un acceso inmediato e incondicio- ello implicaba, aunque la literatura indica que sí
nal a una vivienda individual con la oferta de hay efectos positivos y relevantes.
los apoyos que necesite. Este programa pone
el énfasis en la individualización de la atención El enfoque de la evaluación parte de la me-
y en la desinstitucionalización. Hábitat, fiel al todología del proyecto Housing First Europe,
modelo Housing First, antepone y enfatiza la intentando superar algunas de las limitaciones
importancia de la elección de la persona como señaladas en sus propias conclusiones. La va-
un elemento central en la intervención. riable independiente, según la cual se definen
los dos grupos de participantes, es la interven-
La evaluación de la metodología Housing First ción que reciben las personas participantes
en España se realiza entre 2020 y 2021 con el en el programa Hábitat, frente a aquellas que

88. La información sobre este caso se ha obtenido mediante las publicaciones de la página web del programa: https://www.habitathousingfirst.org/ y una
entrevista con personas del equipo de HOGAR SÍ.

100
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

utilizan otras alternativas convencionales de testimonios de las personas de dicho grupo,


tratamiento (los programas y alternativas de tenía menor calidad que la del grupo experi-
atención ya existentes en el contexto). mental, de la que sí se disponía de información
objetiva.
La primera parte de la evaluación se centra en
la evaluación de los resultados del programa En lo relativo a la información de fuentes se-
Hábitat, con los objetivos de conocer en qué cundarias, se pone de manifiesto el hecho de
medida el programa contribuye a la inclusión que existe una falta de información y de datos
de las personas y la mejora de su calidad de sobre los costes de servicios tradicionales de
vida, y comparar los resultados del programa atención proporcionados a personas sin hogar.
con los de sus alternativas. Se consideran Este problema se agrava por el hecho de que
fundamentalmente tres momentos de medida: cada comunidad autónoma tenga sistemas di-
evaluación inicial y seguimientos a los 12 y ferentes de asistencia y apoyo en este sentido,
a los 18 meses en los que participaron 111 complicando aún más cualquier intento de me-
usuarios de Hábitat y 131 personas en el dir datos de manera comparada a nivel estatal.
grupo control.
Por último, una de las dificultades de esta eva-
La segunda parte de la evaluación trata de luación fue la necesidad de adaptar los tiem-
medir el impacto económico que tiene el trata- pos que marca una intervención con población
miento y asistencia en las personas sin hogar en situación de sinhogarismo con los tiempos
en España, con los objetivos de identificar los «teóricos» que una evaluación experimental de
costes del programa (grupo tratamiento) y este tipo determina para que todo el proceso
acotar los costes de otros recursos y compa- mantenga unos niveles de rigurosidad, ya que,
rarlos (grupo control). Para ello, y por la falta de en muchas ocasiones, hacer coincidir ambas
fuentes secundarias, se lanzó un cuestionario necesidades fue un elemento de debate y
a centros de recursos sociales. acuerdos.

Dificultades y limitaciones Resultados

Las tres dificultades principales que se dieron A. Los resultados en las personas
en este proceso fueron las limitaciones para
obtener información respecto a la población Las personas usuarias del programa Hábitat
en situación de sinhogarismo, la carencia de obtienen mejores resultados que las partici-
información sobre costes de los servicios de pantes del grupo de control (atendidas en otros
los programas tradicionales y la necesidad recursos) en distintas áreas consideradas,
de adaptar la metodología de evaluación a la concretamente:
realidad de la intervención.
• El programa Hábitat tiene un importan-
La primera de ellas, el seguimiento de las te impacto en los aspectos relacionados
personas del grupo control, por las caracterís- con el alojamiento, pues consigue que
ticas de la población objetivo que en muchas el 96,06 % de las personas participantes
ocasiones seguía residiendo en la calle, supuso permanezcan en su vivienda dieciocho
una gran dificultad y también sesgos impor- meses después y cubran sus necesidades
tantes en el experimento. Esto es así porque el básicas (alimentación y aseo personal).
grupo control presentó altas tasas de mortali- Respecto al grupo control, la situación de
dad comparado con el grupo experimental, lo las personas participantes presenta una
que supuso una reducción significativa de la menor calidad y estabilidad del alojamien-
muestra, y porque la calidad de la información to y mayores deficiencias en aspectos
recabada en este grupo, al estar basada en los como el aseo y la alimentación.
101
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

• Hábitat significa para las personas par- • No se observaron cambios importantes en


ticipantes una mejora en la percepción de la salud física de las personas participantes
su vida en general (se percibe a los doce a lo largo de los dieciocho meses considera-
meses y se mantiene a los dieciocho). Son dos; sin embargo, las personas usuarias del
personas más felices en comparación con programa Hábitat mejoraron la percepción
aquellas que no se incorporaron al progra- de su salud emocional y condición física
ma. respecto al momento de entrada en el pro-
grama y en relación, también, con el grupo
• Acceder a una vivienda se traduce en una control.
disminución considerable en el uso de los
servicios sociales; no ocurre así en otro • No se observan cambios en ninguno de
tipo de servicios como los sanitarios, de los dos grupos en consumo de alcohol.
tratamiento de adicciones o de atención a la
salud mental. • Los resultados no apuntan la relación
entre la participación en el programa Hábi-
• Frente a la alternativa tradicional, aunque tat y los procesos de normalización admi-
Hábitat no parece tener efectos en el acce- nistrativa, apareciendo mejoras en algunos
so a recursos económicos más estables ni aspectos considerados entre las personas
en la satisfacción con los mismos, sí parece del grupo control.
tener un efecto sobre la reducción de algu-
nas fuentes de ingresos, concretamente B. Evaluación económica
la mendicidad (de 30 a 7 % a los dieciocho
meses) y las actividades marginales (5,8 % Considerado en términos ajustados equivalen-
tratamiento frente a un 14,3 % control), cuyo tes, el ahorro que genera Hábitat compensa el
ejercicio se reduce claramente entre los sobrecoste del programa:
usuarios de este programa.
• El resultado final de este cálculo directo
• Respecto al apoyo social percibido por sería que las personas seleccionadas para
las personas participantes, la participación participar en el programa Hábitat generan
en el programa Hábitat se acompaña de un coste de 1100 € mensuales, un
mejoras en la percepción del apoyo social 32,17 % más que las personas del grupo
disponible, a nivel general. De forma más control (832,28 €).
concreta, se observa también una mejora
en la frecuencia de contacto telefónico con • A los doce meses, el coste medio mensual
la familia entre las personas del programa de la atención al grupo Hábitat se ha eleva-
Hábitat y con la satisfacción con la relación. do hasta los 1763,24 €, frente a los
Estos cambios no se producen en las perso- 1093,72 € del grupo control, impulsado por
nas del grupo control. la estabilidad del alojamiento del programa
Hábitat (un 61,21 % más).
• La victimización y discriminación de las
personas participantes en Hábitat se reduce • El coste medio mensual de la atención al
sustancialmente, y también se produce un grupo Hábitat queda fijado en 1706,63 €, y
incremento de la percepción de seguridad el del grupo control, en 1157,84 €. Hábitat
(el 83,5 % no se ha sentido discriminado a sigue presentando un coste más elevado,
los dieciocho meses). Esta dinámica no se aunque respecto de los doce meses la dife-
reproduce en el caso del grupo control. rencia se va acortando (47,40 %).

102
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

• Una vez en funcionamiento, Hábitat tiende ren en el diseño y la implementación aprendiza-


a reducir costes, mientras que sus alternati- jes de esta evaluación, como, por ejemplo, sobre
vas los incrementan. la longitud de los cuestionarios o la selección
del grupo control, entre otras cuestiones.
• Hábitat genera ahorro de costes en servi-
cios y recursos externos al programa: ali- Por otra parte, esta evaluación sirvió tanto para
mentación, aseo, tratamiento de adicciones mejorar la propia intervención como para
y atención sanitaria y psiquiátrica. repensar la estrategia de la organización.
Es decir, los resultados de la evaluación han
• En términos del precio de las viviendas de servido para saber en qué áreas se debe poner
titularidad pública, el programa Hábitat es el foco o son menos relevantes, y también en
menos costoso que sus alternativas. qué temas se debe realizar un mayor esfuerzo
de mejora. Un ejemplo de ello fue el tema de
• Los costes del precio de las viviendas de consumo de sustancias, donde no se vieron
titularidad pública dieciocho meses des- grandes diferencias entre el grupo tratamiento
pués se han incrementado notablemente y el control, y por ello se han establecido medi-
más en el grupo control: un 38,58 %, frente a das para mejorar en este aspecto. Asimismo,
un 3,25 % en el grupo Hábitat. los buenos resultados han hecho que la organi-
zación HOGAR SÍ haya consolidado el modelo
• El coste medio mensual ajustado total a Housing First en detrimento de otro tipo de
los dieciocho meses del grupo Hábitat es intervenciones más tradicionales.
de 1744 € y de 1716 € en el grupo control,
siendo entonces la diferencia entre ambos Por último, también sirve como evidencia,
grupos de tan solo 28,12 € al mes (apenas carta de presentación, para hacer inciden-
un 1,64 %). cia a nivel institucional. Esta evaluación
contó desde el inicio con una estrategia de
• El coste total (equivalente) en ambos difusión y en ese marco se han realizado
grupos se ha incrementado a lo largo de los actividades de presentación de resultados en
dieciocho meses, si bien con menor intensi- distintas organizaciones. Por ejemplo, en oc-
dad en el grupo Hábitat (+58,52 %) que en el tubre de 2021, HOGAR SÍ y Provivienda, junto
grupo de control (+106,14 %). al Ministerio de Derechos Sociales y Agenda
2030, celebraron el encuentro internacional
Repercusión e incidencia «Housing First como solución al sinhogaris-
política mo en España».

Esta evaluación ha tenido repercusión tanto En este sentido, se ha conseguido que cier-
interna, de la propia organización y la inter- tas Administraciones públicas empleen los
vención, como externa, de cara a la incidencia resultados de Housing First para desarrollar
política. sus propias intervenciones, integrando o
destinando parte de los recursos a la inter-
En cuanto a las implicaciones internas, la orga- vención con esta metodología. Asimismo, la
nización HOGAR SÍ declara que la evaluación les evaluación ha sido relevante para que se in-
ha servido para introducir la evaluación de im- cluya el sinhogarismo en los proyectos piloto
pacto en la cultura de la organización, teniendo de Next Generation.
previstas varias evaluaciones de este tipo en
otros programas durante los próximos años. En cualquier caso, una parte importante de
Además, una de las claves de esta experiencia esta incidencia en la Administración pública
son los aprendizajes obtenidos, que harán que queda determinada por el perfil o el momento
durante las siguientes evaluaciones se incorpo- en que se encuentre esa Administración y el
103
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

personal técnico que la integre, y lo facilita cuan-


do cuenta con un conocimiento previo sobre 2. Modalidad no condicionada: La percep-
este tipo de metodologías experimentales. ción del SMI no estaba condicionada a la
participación obligatoria en la política activa
7.2. Proyecto piloto asignada.
B-MINCOME89
3. Modalidad limitada: Cualquier variación
Contexto de los ingresos computables del hogar con-
llevaba la variación proporcional, positiva o
B-MINCOME aparece en un contexto donde negativa, del SMI estimado inicialmente.
aún se sienten los efectos de la crisis econó-
mica y social de 2008. Concretamente, en los 4. Modalidad no limitada (o parcialmente
barrios del Eje Besós90 existe un alto nivel de limitada): La variación de los ingresos compu-
pobreza estructural con crecientes dinámicas tables del hogar solo conllevaba una variación
de segregación y polarización económica y parcial del SMI; se reducía un 25 % de los
residencial. Los principales rasgos de vulnera- primeros 250 € netos mensuales ingresados
bilidad social que caracterizan a estos barrios por encima del SMI inicial y un 35 % de los
son el desempleo (11 % en comparación con ingresos superiores a los 250 €.
el 7 % de Barcelona en 2017), rentas bajas (9
mil euros anuales inferior que la media de la Asimismo, un 25 % de la prestación del SMI fue
ciudad en 2014), esperanza de vida más corta transferido mediante una moneda ciudadana
(81,9 comparado con 83,9 años de media en electrónica REC (Recurs Econòmic Ciutadà).
la ciudad), crisis de la vivienda y una pluralidad
de orígenes de población (un 28 % de personas En combinación con la transferencia del SMI,
nacidas fuera de España), entre otras cosas. algunos participantes fueron seleccionados
para participar en cuatro políticas activas dife-
Intervención y objetivos del rentes:
estudio
1. Política de formación y ocupación: Bus-
El proyecto piloto B-MINCOME fue concebido caba mejorar la empleabilidad y el acceso al
dentro de la iniciativa de la Unión Europea Ur- mercado laboral, mediante la combinación
ban Innovative Actions (UIA) como un proyecto de formación y planes de ocupación de
piloto para observar los efectos de la combina- doce meses.
ción de una renta mínima garantizada con una
serie de políticas activas de inclusión sobre la 2. Política de emprendimiento social:
pobreza y la desigualdad social. Pretendía familiarizar a los participantes
con la economía social, solidaria y coope-
Los grupos de tratamiento se estructuraron de rativa como alternativa al mercado laboral
acuerdo con cuatro modalidades de participa- tradicional, combinando la formación y la
ción: promoción de proyectos de emprendimien-
to colectivo.
1. Modalidad condicionada: La percepción
del Soporte Municipal de Inclusión (SMI) 3. Política de ayudas a la rehabilitación
estaba condicionada a la participación obli- y el alquiler de habitaciones: Buscaba favo-
gatoria en la política activa asignada. recer que los propietarios de pisos partici-

89. La información sobre este caso se ha obtenido mediante las publicaciones de la página web: https://ivalua.cat/es/node/5500 y una entrevista con personas
del equipo de Ivàlua.
90. Ciutat Meridiana, Vallbona, Torre Baró, Roquetes y Trinitat Nova del distrito de Nou Barris; Trinitat Vella, Baró de Viver y el Bon Pastor del distrito de Sant
Andreu; la Verneda y la Pau y el Besòs y el Maresme en el distrito de Sant Martí.

104
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

pantes pudieran poner en alquiler de forma en caso de querer participar, se los ayudaría a
permanente una habitación de su vivienda, rellenar la solicitud (en total se realizaron cua-
previa rehabilitación de esta. trocientas sesiones informativas en diferentes
equipamientos del Eje Besós).
4. Política de participación comunitaria:
Fomentaba la implicación de los participan- Se recibieron un total de 2525 solicitudes, de
tes y sus familias en la vida social y comuni- las cuales 1527 cumplían todos los requisi-
taria de sus barrios mediante la habilitación tos. La selección de los hogares participantes
de espacios de participación, cohesión se realizó en noviembre de 2017 mediante un
grupal e identificación de necesidades para sorteo aleatorio y estratificado. Este seleccionó
generar proyectos compartidos. los mil hogares participantes en su correspon-
diente modalidad activa (grupos de tratamien-
Organizaciones to) y 383 hogares que participarían de forma
involucradas pasiva (grupo control), así como 144 de reser-
va que reemplazarían los que eventualmente
El Ayuntamiento de Barcelona (Dirección de no desearan o no pudieran participar.
Innovación Social del Área de Derechos So-
ciales, Justicia Global, Feminismos y LGTBI) La combinación de las cuatro modalidades de
solicitó financiación al programa UIA para percepción del SMI y de las cuatro políticas
desarrollar el proyecto piloto de B-MINCOME. activas de inclusión (grupos de tratamiento)
En las políticas activas participaron Barcelona descritas en el apartado de intervención, junto
Activa, el Consorcio de Educación de Barcelo- al grupo de control con el que comparar los
na, los distritos del Eje Besós, el Comisionado resultados obtenidos, conforman el esquema
de Economía Social, Desarrollo Local y Con- del diseño experimental del proyecto.
sumo, el Instituto Municipal de la Vivienda y
Rehabilitación de Barcelona, la Dirección de La evaluación combinó metodologías cuanti-
Servicios de Acción Comunitaria y varias enti- tativas y cualitativas. Para ello se han emplea-
dades sociales. do tanto el uso y análisis de registros adminis-
trativos (Seguridad Social, Agencia Estatal de
En la evaluación también participaron Ivàlua la Administración Tributaria, etc.) como la reali-
(Instituto Catalán de Evaluación de Políticas zación de tres encuestas (antes de empezar, a
Públicas), The Young Foundation, NOVACT la mitad y durante la finalización del proyecto),
(Instituto Internacional para la Acción Novio- junto con el seguimiento de tipo etnográfico de
lenta), IGOP (Instituto de Gobierno y Políticas algunos de los grupos y hogares participantes
Públicas), el Data Management Group de la y de agentes implicados en la implementación
Universidad Politécnica de Cataluña y el ICTA del mismo proyecto.
(Instituto de Ciencia y Tecnología Ambientales)
de la Universidad Autónoma de Barcelona. Dificultades y limitaciones

Metodología Una de las dificultades señaladas por el equipo


evaluador fue el hecho de tener que desarrollar
Para iniciar el proyecto se identificó un univer- los requisitos necesarios para poder llevar a
so de 4858 hogares91 candidatos a los que, cabo una evaluación experimental en una po-
en septiembre de 2017, se mandaron cartas lítica que se estaba diseñando a la vez, puesto
informativas que los convocaban a unas sesio- que algunas de las condiciones que debía
nes en las que se les explicaría el proyecto y, tener dicho diseño para optar a una evalua-

91. Hogares con rentas bajas y con un expediente abierto en servicios sociales (demandantes de ayudas municipales). Para poder ser seleccionados tenían que
cumplir una serie de requisitos específicos.

105
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

ción experimental, como por ejemplo que la A. Cambios a nivel individual


intervención se aplicara de manera aleatoria,
podían crear ciertas reticencias entre los • Las evaluaciones realizadas durante el
diferentes agentes implicados. Sin embargo, programa confirman que el proyecto B-MIN-
estas barreras iniciales se consiguieron supe- COME ha contribuido de forma significati-
rar mediante el diálogo. va a la reducción de la privación material
severa y la inseguridad alimentaria entre los
Asimismo, otro de los problemas, frecuente en participantes. Además, se observan algunas
la evaluación de programas de estas caracte- mejoras significativas en lo que concierne a
rísticas, fue que la encuesta a hogares no tuvo la inseguridad habitacional.
una alta tasa de respuesta.
• El impacto de B-MINCOME en el bienestar
Una de las limitaciones indicadas en el informe subjetivo de las personas (sensación de
de evaluación es que la duración del proyecto, incertidumbre financiera, estrés, satisfac-
de 23 meses, no es la más idónea en términos ción de la situación económica personal)
del análisis de ciertos indicadores que son también ha sido muy positivo, aunque este
difíciles de valorar a corto plazo. Por ejemplo, impacto se observa en mayor medida en el
el impacto en la salud, el mercado laboral y la primer año.
economía requieren un horizonte temporal
más extenso. Es por ello que, por ejemplo, se • No se confirman mejoras significativas
puedan ver resultados neutros o negativos a en la dimensión de la salud física, la salud
corto o medio plazo que a la larga sean positi- autopercibida, la probabilidad de tener un
vos, pero no estén siendo observados. problema de salud grave y la probabilidad
de desarrollar un problema de salud mental
Una limitación de este estudio común a las de las personas participantes durante el
metodologías experimentales RCT, pero de transcurso del programa. Sí se observaron
manera más significativa en este caso, es que impactos positivos en la calidad de las ho-
el proyecto ha sido diseñado e implementado ras dormidas, cambio en el estilo de vida y
en una zona muy específica de Barcelona, el mejor acceso a la atención médica.
Eje Besós, y por tanto los resultados quedan
circunscritos a esta realidad particular. • La participación en las políticas activas del
proyecto no ha estimulado la voluntad de
Resultados emprendimiento económico ni ha aumenta-
do la probabilidad de encontrar un empleo
La estrategia de combinar políticas activas con de calidad. Se ha observado, además, que
una política de transferencia monetaria ha re- las personas que participan en el proyecto
sultado ser muy positiva. El proyecto permite han reducido su participación en el merca-
sostener que, a diferencia de las habituales po- do laboral92.
líticas de renta condicionada, si se combinan
con políticas activas y pasivas no se estigmati- • No se detecta ningún efecto global del
za a sus receptores. programa sobre la probabilidad de recibir
apoyo de otras personas, aumenta solo en
Los efectos son distintos según la modalidad, las familias que participan en una política
y aunque tales diferencias no sean muy mar- activa en modalidad no condicionada.
cadas, el grupo de SMI condicionado muestra
resultados ligeramente más positivos. • La autonomía económica que ha significa-
do para las mujeres el hecho de ser la titular
92. Los participantes asignados a la política de formación y ocupación no fueron incluidos en este análisis.

106
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

o perceptora del SMI y su participación en llando actualmente. Por ejemplo, uno de los
las políticas activas parecen haber favore- motivos por los que Barcelona ha sido selec-
cido procesos y dinámicas de empodera- cionada como la primera ciudad para probar el
miento. modelo de inserción sociolaboral para percep-
tores del ingreso mínimo vital (IMV) ha sido su
B. Cambios a nivel comunitario experiencia con el proyecto B-MINCOME93. En
esta línea, esta y otras evaluaciones han servi-
• La participación en el programa ha incre- do al Ayuntamiento de Barcelona para fomen-
mentado la probabilidad de participar en algún tar la cultura de evaluación en sus políticas y,
grupo, organización o iniciativa comunitaria, en concreto, las metodologías experimentales.
aunque la evaluación de impacto solo permite
contrastar la significación de este efecto para Por otra parte, cabe destacar que, en la actua-
los hogares en modalidad condicionada. lidad, la moneda ciudadana REC que nace con
el proyecto B-MINCOME sigue en funciona-
• La participación en la política comunitaria ha miento94. En 2020, el REC es premiado por la
contribuido a mejorar la visión de las personas Comisión Europea por utilizar una aplicación
participantes de sus barrios, estimulando el sen- tecnológica de registro distribuido para fo-
timiento de pertenencia y la predisposición a im- mentar la innovación social. En 2021 se inicia
plicarse en actividades cooperativas y desarro- un proyecto de investigación, recibiendo 2,75
llando un mejor conocimiento del territorio y sus millones de euros del FET Open de Horizon
activos. Sin embargo, no ha habido un impacto 2020 de la Unión Europea por abordar las
en el tejido social y comunitario existente. ineficiencias económicas provocadas por la li-
mitación en el suministro de bienes digitales, y
C. Cambios a nivel institucional las personas receptoras de la ayuda Fondo de
Infancia 0-16 que viven en el Eje Besos pueden
• Se han promovido nuevas dinámicas de cambiar un 25 % del importe mensual a RECS
trabajo en los servicios sociales (en el marco para recibir un cheque extra de 200 RECS que
de las políticas activas) que han mejorado la poder gastar en los comercios de proximidad y
percepción sobre la Administración y el conoci- fomentar la economía local.
miento de los servicios.
7.3. Proyecto piloto
• La moneda REC ha estimulado cambios en Menttores95
los hábitos de consumo, detectándose una
mejora en las ventas en los comercios locales Contexto
de proximidad, pero no ha logrado fortalecer la
red entre vecinos, entidades y comercios. Los cierres escolares como consecuencia de la
pandemia de la covid-19 han tenido un efecto
Repercusión e incidencia muy negativo en el aprendizaje y el desarrollo
política emocional del alumnado en todo el mundo. La
pérdida de aprendizaje ha afectado con mu-
Esta evaluación sirvió para apoyar la toma cha más intensidad al alumnado de entornos
de decisiones sobre la escalabilidad de este desfavorecidos, provocando un aumento de
programa piloto, que finalmente se decidió no las brechas educativas. La vuelta a la escuela
continuar. También se ha utilizado para impul- en España, durante el curso 2020/21, se ha
sar nuevos proyectos que se están desarro- realizado de forma exitosa en términos de con-

93. https://prensa.inclusion.gob.es/WebPrensaInclusion/noticias/ministro/detalle/4099.
94. https://rec.barcelona/es/inicio/.
95. La información sobre este caso se ha obtenido mediante las publicaciones de la página web del programa: https://menttores.org/.

107
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

trol epidemiológico, pero las restricciones de docentes de ESO) en grupos de dos alumnos
espacio y tiempo han ralentizado el retorno a la del mismo curso por cada mentor. Los conte-
senda de aprendizaje previa a la pandemia. nidos se focalizaron en refuerzo extraescolar
en matemáticas y apoyo socioemocional
En España, se desconoce el impacto real de la (motivación, bienestar, rutinas de trabajo). De
pandemia sobre el aprendizaje y el bienestar forma novedosa y condicionados por la situa-
del alumnado. A fecha de hoy, y a diferencia de ción epidemiológica, las tutorías se realizaron
otros países, no existen datos disponibles, re- en formato online vía dispositivos digitales. El
cogidos para muestras amplias de alumnado, objetivo fue apoyar y acompañar al alumnado
que puedan explicar la magnitud del problema, con mayores necesidades durante el curso
cómo se está manifestando (p. ej., vía mayor 2020/21 para intentar revertir la creciente bre-
absentismo), ni tampoco qué tipo de alumnado cha educativa y para «darles un empujón final»
(por nivel educativo, origen socioeconómico o antes de terminar el curso.
perfil de alumno) se ha visto más afectado por
ello. España ya partía de una situación preo- El objetivo del estudio fue analizar el impac-
cupante en lo que se refiere al logro educativo, to de las tutorías individualizadas en el éxito
el abandono escolar temprano y las brechas educativo del alumnado con mayores necesi-
educativas. dades.

Según el informe de Menttores, la evidencia Organizaciones


internacional indica que las tutorías indivi- involucradas
dualizadas (o en pequeños grupos) son la
intervención educativa de apoyo directo al El Centro de Políticas Económicas EsadeEsPol
alumnado vulnerable que ha demostrado ser y la ONG Empieza por Educar (ExE) son las
más eficaz. Las tutorías son un espacio de dos organizaciones que han estado a cargo
confianza en el que se promueve una perso- del programa Menttores con el apoyo de otras
nalización del aprendizaje y un desarrollo del muchas entidades colaboradoras, como son la
alumno a través de la conexión intensiva entre Fundación COTEC, la Fundación CEOE, United
el mentor (quien imparte la tutoría) y el alumno Way España, Google, la Universidad de La Rio-
(quien la recibe). ja, Huawei, el Banco Santander, la Fundación
Atlantic Copper, Esade, Edvolution y EY.
Intervención y objetivos del
estudio Metodología

Menttores es un programa diseñado, teniendo Desde el principio, la evaluación de impacto del


en cuenta la evidencia acerca de los formatos programa se planteó desde una perspectiva
de tutoría que son más efectivos, para ofrecer experimental. Se seleccionó de forma aleato-
refuerzo educativo al alumnado de entornos ria un grupo de intervención (206 alumnos) y
desfavorecidos más castigados por la covid-19. otro de control estadísticamente equivalente y
En concreto, se plantea un programa intensivo que no recibió la intervención (172 alumnos).
de 8 semanas, con 3 sesiones de 50 minutos
por semana, durante los meses de abril y mayo El proceso previo a la implementación del
de 2021, para 378 alumnos de 1.º y 2.º de ESO programa fue el siguiente:
en 18 centros educativos de los entornos más
complejos de Madrid y Cataluña. • ExE lideró el proceso de selección de men-
tores, seleccionando mentores profesiona-
Las tutorías se realizaron fundamentalmente les y completándolo con un número muy re-
con mentores profesionales (habilitados como ducido de voluntarios, y todas las personas
108
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

recibieron una formación intensiva y flexible 5. Test de matemáticas y preguntas de


a través de la plataforma digital de ExE. bienestar socioemocional para inscritos y
no inscritos.
• ExE identificó centros educativos que
atienden a alumnado de entornos socioe- 6. Encuestas a familias sobre curso acadé-
conómicos vulnerables de la Comunidad mico, bienestar del alumno y satisfacción
de Madrid y Cataluña. En el mes de febrero con el programa.
se abrió el proceso de inscripciones onli-
ne para el alumnado de 1.º y 2.º de ESO 7. Encuesta a personal directivo sobre el
de estos centros educativos. De todos los transcurso del curso, características del
alumnos inscritos, se seleccionó de forma alumnado y satisfacción con el programa.
aleatoria a los alumnos participantes en
el programa que finalmente recibieron las 8. Encuesta a mentores sobre satisfacción
tutorías. con el programa y evaluación del progreso
académico y socioemocional de los alum-
• El espacio de la tutoría fue diseñado por nos.
ExE para reforzar el contenido académico
de matemáticas y, de manera transversal, Dificultades y limitaciones
trabajar aspectos socioemocionales del
alumnado. El equipo investigador de este estudio conside-
ra que algunas de las potenciales limitaciones
• Previo al comienzo del programa se ga- de este experimento fueron el número reduci-
rantizó que cada alumno contase con un do de personas participantes en la interven-
dispositivo electrónico y conexión a internet. ción y, por otra parte, el corto tiempo trans-
currido entre la intervención y la evaluación,
Se recogió información a lo largo del proyecto que dificulta la medición del impacto a medio y
(desde marzo hasta junio) 2021: largo plazo.

1. Inscripción de familias: información Resultados


general sobre las características de todos
los alumnos y familias participantes en el A. Características del alumnado
programa para conocer las diferencias de
partida entre los alumnos que pudieran Analizando las variables de características
condicionar diferencias en los resultados de familiares y del alumnado se puede concluir
la intervención. que el programa fue exitoso, dirigido a niños y
niñas de origen socioeconómico desfavorecido
2. Test de matemáticas y encuesta con con altas necesidades de refuerzo en matemá-
preguntas sobre bienestar y desarrollo ticas.
socioemocional a personas inscritas y no
inscritas. B. Asistencia a tutorías y absentismo

3. Sorteo de grupo de intervención y con- A pesar del reto de la conectividad y la no


trol y asignación aleatoria de mentores al presencialidad del programa, la asistencia a
alumnado. las tutorías fue muy alta (70,8 % del total de
sesiones y 76,7 % del total de minutos) para la
4. Información en tiempo real durante las mayor parte del alumnado.
tutorías.

109
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

las métricas de tenacidad y perseverancia.


C. Resultados académicos Además de los resultados anteriores, se reali-
zaron encuestas cualitativas a familias, mento-
• Se observa un efecto positivo y significa- res, y directores y profesores de matemáticas
tivo del programa Menttores en las notas de los centros educativos de las que se puede
finales del curso de matemáticas. El grupo obtener la información en el informe de evalua-
del alumnado que recibió las tutorías mejo- ción del programa.
ró sus notas en un 17 %, y de media obtu-
vieron casi 1 punto más en la nota final que Repercusión e incidencia
aquellos que no recibieron la intervención política
(de un 5,1 a un 6 sobre 10).
Tras analizar los resultados, el informe de
• Se observa un efecto positivo y significati- evaluación de Menttores incluye un apartado
vo en la probabilidad de aprobar la asigna- que se titula «Hacer de las tutorías individuali-
tura de matemáticas con una diferencia de zadas una política pública en España». En esta
20,6 % entre el grupo control e intervención. sección se realiza un análisis sobre por qué
se debería invertir en el ámbito del refuerzo
• Los resultados en el test de matemáti- escolar para recuperar la pérdida de aprendiza-
cas realizado por el programa mejoraron je por la covid-19, como ya lo están haciendo
un 17 % más entre el grupo tratamiento otros países, ya que en España las inversiones
comparado con el control. en este aspecto han sido bajas.

• Se encuentra un impacto negativo y signi- Se indica que el programa y su evaluación


ficativo en la probabilidad de repetir curso, ilustran el potencial que tienen las tutorías indi-
un 75 % menos que el grupo control, cuya vidualizadas y que, por ello, se deberían incluir
media aumentó. en cualquier plan de respuesta educativa a la
covid-19 y más allá, como parte de las políticas
D. Resultados aspiracionales y socioemocio- educativas estructurales de cualquier país. Por
nales lo tanto, este experimento, realizado por institu-
ciones privadas en una iniciativa privada, sirve
• Entre el alumnado que recibió la inter- para hacer incidencia política y proporcionar
vención, aumentó un 6,6 % la satisfacción evidencia en el diseño de políticas públicas.
autopercibida con la escuela y eran un 13 % Esto pone de manifiesto la importancia de la
más propensos a continuar estudiando. colaboración entre el sector público y privado.

• El esfuerzo autodeclarado en la escuela era


un 19 % más alto en el grupo intervención.

• Contrario a lo esperado, se observa que el


alumnado que participó en el programa de-
clararon de forma más intensa que lo que
les ocurría se debía a factores externos (15
% más alto que los que no participaron).

• No se encontró ningún impacto en cuanto


a la probabilidad de que los alumnos pien-
sen que son buenos en matemáticas o que
le gusten las matemáticas, y tampoco en
110
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

conclu
siones y
recomen
daciones
para el
impulso
de la ex
perimen
tación
en
españa

08.
111
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Tras el análisis realizado a lo largo de este y Del Pino (2021), si bien es necesaria «cierta
estudio, a continuación se plantean las prin- formalización legal, en particular para intentar
cipales conclusiones, así como algunas reco- garantizar la continuidad y calendarizar mejor
mendaciones que pueden favorecer el impulso los encargos de evaluación, (…) sin embargo,
de la experimentación en las políticas públicas, como demostró la experiencia de la AEVAL,
teniendo en cuenta los elementos facilitadores el despliegue normativo no es suficiente (…),
identificados a nivel internacional y las expe- en muchas ocasiones las normas no se han
riencias y dificultades existentes en España. implementado y los sistemas no están funcio-
nando».
8.1. Conclusiones
Las experiencias que se basan en economía
La experimentación pública ha tenido un del comportamiento son minoritarias cuando
importante desarrollo en los últimos años, se centran en la aplicación en políticas públi-
evidenciando un impulso a nivel internacio- cas, si bien cuentan con un mayor desarrollo
nal desde hace al menos dos décadas que, en el ámbito académico e investigador.
aun así, muestra diferencias relevantes entre
países, con un mayor desarrollo en los países No obstante, dentro del caso español, se
anglosajones; que varía según la cultura de la produce en determinados ámbitos un mayor
evaluación y experimentación instalada en la desarrollo de la evaluación en general, y de
Administración pública, y la integración de este procesos de experimentación pública en parti-
tipo de actuaciones de experimentación en el cular, destacando a nivel autonómico el caso
ciclo de las políticas públicas y su diseño. de Cataluña, donde Ivàlua lleva desarrollando
durante varios años este tipo de proyectos con
En este contexto internacional, el uso de la una aplicación clara en las políticas públicas.
economía del comportamiento para el diseño En este contexto, el impulso de este tipo de
y ejecución de actuaciones vinculadas a las metodologías de experimentación desarrollado
políticas públicas es una práctica muy exten- desde la Unión Europea está siendo funda-
dida, que se utiliza de manera recurrente para mental para que aumente su conocimiento
testar modificaciones en las actuaciones pú- entre los decisores públicos.
blicas que produzcan cambios en las actitudes
del público objetivo. Tanto la situación internacional como el
análisis realizado en España muestran que
En el caso de España, el desarrollo de la ex- hay determinados factores facilitadores del
perimentación se ha producido en la última desarrollo de este tipo de procesos de expe-
década, con ejemplos mucho más recientes, rimentación en las políticas públicas. En ese
aislados y que se circunscriben principalmente sentido, la interiorización por parte de los agen-
al ámbito de la evaluación, y donde son una tes responsables de las políticas públicas de
excepción los ejemplos que incluyen enfoques la cultura de la evaluación, junto a su mayor
de economía del comportamiento. La situación institucionalización, constituyen elementos
en España está relacionada con una cultura clave para su desarrollo, tal y como revela el
del dato y de la evaluación de implantación análisis de los contextos donde esta cultura
mucho más reciente, que aún está en desarro- está ampliamente extendida y con la presencia
llo, y que mantiene el objetivo de conseguir una de organizaciones, públicas o privadas, que tra-
mayor institucionalización de la evaluación bajan para conseguir un mayor conocimiento y
en las políticas públicas. En ese sentido, tanto uso de esta.
el desarrollo normativo como el institucional
y estratégico dan cuenta de su desarrollo en Desde este enfoque hay dos elementos que
los últimos años. Tal y como señalan Casado han sido identificados como fundamentales
112
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

para el desarrollo de la experimentación en las incidan en el desarrollo de la cultura del dato y


políticas públicas. Por un lado, el aumento del de la evaluación, así como a su institucionali-
conocimiento respecto a este tipo de meto- zación.
dologías de los decisores públicos, de manera
que puedan entender y comprender qué virtua- 8.2. Recomendaciones
lidades ofrece, así como las dificultades para para el impulso de la
su desarrollo. Este conocimiento no tiene que experimentación
ser necesariamente técnico, pero sí implica
una comprensión amplia sobre lo que supone De manera global, este estudio muestra que
la experimentación. Por otro lado, cabe desta- hay espacio para incrementar el desarrollo
car el importante papel del efecto acumulativo de iniciativas de experimentación en políticas
o demostrativo de «hacer» experimentación; públicas en España, siguiendo la estela de lo
es decir, la implantación de este tipo de meto- que sucede en los países de nuestro entorno.
dologías es gradual, y en la medida en que se Como se ha podido comprobar, el inicio de
van acumulando experiencias referentes, tanto este proceso no está siendo fácil y, previsi-
por parte de las Administraciones públicas blemente, los primeros experimentos tendrán
como del resto de agentes implicados en este debilidades metodológicas, pero a medida que
ámbito, ello contribuye a un mayor desarrollo e se vayan implantando en la lógica y el proceso
institucionalización de los procesos de experi- de articulación de las políticas públicas de la
mentación. Administración, serán más sencillos de imple-
mentar e irán ganando en rigurosidad.
Aunque, sin duda, la experimentación exige
incrementar el gasto de las políticas públicas, En este sentido, el texto de ley de evaluación
al incorporar un nuevo elemento en su diseño, que en el momento de la publicación de este
implementación o evaluación96, el fin último es informe se está tramitando en el Congreso
precisamente buscar la eficacia de las políticas (proyecto de ley de institucionalización de
y únicamente llevar a cabo aquellas con bue- la evaluación de políticas públicas en la Ad-
nos resultados. Por lo tanto, a largo plazo esto ministración General del Estado) no resulta
supone un ahorro para la Administración, que suficientemente claro ni ambicioso en esta
obtiene evidencias para identificar qué po- materia, por lo que sería deseable aprovechar
líticas son una inversión eficaz y cuáles son esta oportunidad y dar algunos pasos adicio-
ineficaces para lograr el resultado deseado. nales en esta dirección, como la concreción de
los contenidos y alcance de las evaluaciones
En definitiva, la experimentación en las polí- ex ante y ex post y el papel que en ellas puede
ticas públicas se encuentra en un momento jugar el desarrollo de experimentos, así como
de expansión, y cuenta con un rol cada vez los equipos que las desarrollarán97.
más relevante en el diseño y evaluación de
las políticas públicas a nivel internacional. En Asimismo, es fundamental que los organismos
España se ha producido un incipiente desarro- e instituciones públicas con responsabilidad en
llo en los últimos años, y cada vez se extiende materia de evaluación de las políticas públicas,
un discurso más favorable al desarrollo de la es decir, la AIReF (modificando su mandato)
experimentación que puede contribuir a dar o la nueva Agencia de Evaluación, anunciada
un impulso definitivo a este tipo de metodolo- en este proyecto ley, como responsable de la
gías, a través de una mayor formación, sensi- coordinación y supervisión del sistema estatal
bilización y aumento de las experiencias, que de evaluación de políticas públicas, impulsen

96. Si bien, como se ha visto en apartados anteriores, el coste varía de manera significativa según el momento de la política pública, el alcance y la complejidad
del experimento.
97. De la Fuente (2022) propone un análisis sobre la norma en el que se observan elementos adicionales de interés.

113
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

el desarrollo e implantación de la experi- intervención piloto que aún no ha sido desa-


mentación como una herramienta más que rrollada a mayor escala.
considerar en el ciclo de las políticas públicas, 2. De cara a evitar que este tipo de expe-
estableciendo objetivos en esta dirección y rimentos se den de manera aislada y sin
asumiendo responsabilidades directas. acompañamiento, como se ha descrito en
algunos casos en los apartados de análisis,
Por otro lado, ha de señalarse que si bien los existen diversas fuentes de financiación y
Fondos Europeos constituyen una oportuni- organizaciones especializadas que pueden
dad (Next Generation) para reforzar la función ser un apoyo importante, sobre todo en las
evaluadora dentro de la Administración públi- primeras fases de instauración de estos
ca, no se ha desarrollado un marco de evalua- experimentos.
ción global que impulse la experimentación en
las políticas en este marco financiero. En este En ese sentido, incluir metodologías expe-
momento, con un notable avance en su imple- rimentales innovadoras en el diseño de las
mentación, solo se ha producido en determi- intervenciones puede suponer una manera
nados casos el planteamiento de desarrollo de de atraer y apelar a la financiación externa,
proyectos experimentales (IMV). No obstante, por ejemplo, en intervenciones financiadas
sería deseable que se extrajeran lecciones y por la UE. En el caso de España, el apoyo
se previera a futuro la integración de la evalua- de Europa, con más experiencia a la hora
ción como parte de este tipo de procesos de de aplicar metodologías experimentales,
desarrollo de políticas públicas, con el plan- está siendo y será fundamental para aplicar
teamiento de los enfoques más pertinentes en estos procesos en las políticas públicas.
cada caso, acompañando las evaluaciones de
impacto y experimentos con otro tipo de análi- 3. Uno de los elementos que ha sido clave
sis complementarios que permitan evaluar las para el desarrollo de la experimentación
políticas en su conjunto. en países como Francia y Reino Unido e
instituciones como la Comisión Europea es
Para lograr este incremento de la experimenta- el establecimiento de un «fondo de expe-
ción en nuestro país, resulta además recomen- rimentación» en el que el requisito para
dable a la luz del análisis: su financiación es que las intervenciones
financiadas necesariamente incluyan un
1. En la medida en que existen numerosos enfoque experimental.
proyectos piloto, de pequeña escala, sobre
todo a nivel regional y local, que podrían En España existen algunos pilotos de
incorporar metodologías experimentales en convocatorias que promueven la experi-
su diseño, se propone comenzar por fomen- mentación, como ya se comentado; así,
tar la experimentación pública en el diseño por ejemplo, La Ciutat Proactiva del Ayun-
de pequeñas intervenciones, que generen tamiento de Barcelona este año fomenta
referentes demostrativos de la eficacia de los «Behavioural insights y nudges» como
introducir estas metodologías en las políti- metodología innovadora para integrar en el
cas públicas. diseño de los proyectos que se presenten
a la convocatoria, o por ejemplo las evalua-
Por otro lado, resulta recomendable comen- ciones experimentales en torno al ingreso
zar a aplicar la experimentación en la fase mínimo vital que financia el Estado con
de diseño en lugar de en la fase de eva- fondos europeos.
luación, pues ello implica un menor coste,
y además puede generar menor aversión 4. El apoyo de la Administración no tiene
política, al trabajar sobre el diseño de una que ser únicamente financiero, ya que,
114
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

como se ha podido comprobar, la facilita- este tipo de metodologías (como son las
ción del acceso a datos es determinante universidades, centros de investigación, em-
para el desarrollo de actuaciones de expe- presas especializadas) y la Administración
rimentación, para lo que se requiere una pública. Ya que, como se ha visto en apar-
mayor apertura y voluntad política en esta tados anteriores, en España la experimen-
dirección por parte de la Administración tación, incluyendo los enfoques de ciencias
pública. En esta dirección, Arroyo y Fer- del comportamiento, es un campo relativa-
nández Albertos (2021) apuntan a que el mente desarrollado en organismos privados
camino más razonable para avanzar en esta y públicos, pero estas prácticas no siempre
dirección debería ser profundizar en el gru- se conocen o emplean por la Administra-
po de trabajo estable entre los principales ción, incluso cuando algunas de ellas tienen
productores de datos en España: el Instituto una enorme potencialidad de aplicación en
Nacional de Estadística, la Agencia Tributa- actuaciones de políticas públicas. Por ello
ria, el Servicio Público de Empleo Estatal y la se debe seguir fomentando el vínculo entre
Seguridad Social, y que podría ser el germen investigadores y tomadores de decisiones;
de una nueva estructura, contando con la los fondos de experimentación comentados
participación de la Agencia Española de anteriormente pueden servir como enlace
Protección de Datos (AEDP), garante último entre el ámbito investigador y las Adminis-
de que los procesos de explotación sean to- traciones públicas.
talmente compatibles con el mantenimiento
de la confidencialidad y anonimidad de los 7. Tanto en el caso de que las Administra-
datos98. ciones hagan evaluación como si la externa-
lizan, es necesario que su personal dispon-
5. Adicionalmente, la Administración pú- ga de habilidades y de un elevado nivel de
blica puede dar respuesta a diferentes cualificación interdisciplinar, lo que requiere,
factores que suponen barreras al desarrollo además, estar en continuo aprendizaje. Por
de la experimentación. En este sentido, es ello, un proceso fundamental para el incre-
necesario el desarrollo de actuaciones que mento de la experimentación en nuestro
permitan adaptar el diseño o evaluación país es el desarrollo de actuaciones de for-
de las políticas públicas a la singularidad mación, sensibilización y concienciación
de estos procesos, lo que requiere contar entre el personal técnico de las Administra-
con una mayor flexibilidad en determinados ciones públicas sobre lo que supone este
procedimientos administrativos que pue- tipo de metodologías, las oportunidades
den suponer un obstáculo en este tipo de que ofrecen y las implicaciones que conlle-
metodologías, e incluso ampliar los plazos van para la mejora del conocimiento sobre
para el diseño de las políticas públicas, los enfoques experimentales y de ciencias
siendo conscientes de que los tiempos para del comportamiento.
visualizar el impacto de una intervención es
más amplio. Es decir, se trata de anticiparse En ese sentido, ejemplos como los de Ivàlua
a las necesidades de un proceso de experi- en Cataluña o el IGL de Nesta en Europa
mentación de este tipo, que puede implicar muestran que este trabajo de sensibiliza-
alterar algunos procedimientos administrati- ción y acompañamiento a las Administra-
vos o incorporar nuevos pasos. ciones es fundamental para aumentar la
predisposición de los decisores públicos al
6. Fortalecer una mayor conexión entre las desarrollo de este tipo de experimentos, tan-
entidades que desarrollan habitualmente to en el diseño de una política pública como
98. En este sentido, resultan interesantes los pasos dados recientemente en esta dirección por el Ministerio de Inclusión, lanzando el Portal del Dato: http://
portaldatos.seg-social.gob.es/. Se trata de una plataforma para instituciones e investigadores en temas de Seguridad Social cuyo objetivo es facilitar la
realización de estudios en el campo de la protección social.
115
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

en el proceso de evaluación de una política la evaluación y experimentación. En este


ya instalada. sentido, se debe hacer una correcta difu-
sión, de manera que no solo se llegue a los
8. Con el objetivo de tener más informa- decisores públicos, sino que estos mensa-
ción sobre los experimentos que se están jes lleguen a la ciudadanía, transparentando
desarrollando en nuestro país, en la línea los procesos de diseño y análisis desarrolla-
de lo que comentan Casado y Del Pino dos detrás de las políticas públicas.
(2021)99, sería útil la generación de una base
de evidencias derivada de experimentos En cualquier caso, la experimentación pú-
que se realicen en el país, que fomenten el blica puede servir a este cometido, si bien
intercambio entre los profesionales de es- no debería ser tomada como un ritual para
tos campos, siguiendo el ejemplo de otras fundamentar todas las decisiones políticas
organizaciones focalizadas en otros lugares sin dejar espacio para el diálogo y el de-
o sectores concretos. Por ejemplo, IGL ha bate, que se sitúan en la base de cualquier
desarrollado una base de datos con los sistema democrático y donde inciden otros
ensayos controlados aleatorizados que se muchos factores. Además, es necesario
realizan sobre innovación, emprendimiento considerar otros enfoques para el diseño y
y crecimiento100. evaluación de políticas públicas, que pueden
ser más útiles en función de los objetivos
El desarrollo de este repositorio debe estar que se persigan, o cuando una intervención
basado en la formación previa sobre lo se encuentre ante situaciones de urgencia,
que supone este tipo de experimentos, de o con riesgos éticos vinculados a la aleato-
manera que se evite que cuando los resul- rización, que la metodología experimental
tados no sean los esperados o deseables, puede complejizar.
estos trabajos no se publiquen. Es decir, es
necesario incidir en lo que implica la expe- 9. Favorecer el desarrollo de actuaciones
rimentación, para así favorecer la transpa- relacionadas con la economía del com-
rencia, y que suponga una oportunidad para portamiento, que cuenta con un desarrollo
obtener aprendizajes sobre el «hacer» de la en instituciones privadas y académicas
experimentación y el intercambio de cono- en España, con posibilidad de adaptarse a
cimientos101. actuaciones públicas, ofreciendo un acer-
camiento a las Administraciones al ámbito
Sería recomendable que la publicación de de la experimentación o, inclusive, con la
estas experiencias no solo se centre en los creación de una unidad dentro de la AGE
resultados obtenidos, sino que se expongan que asesore en el diseño de servicios al
las repercusiones e implicaciones que conjunto de los ministerios y organismos,
estas han tenido para la intervención que como existe en un gran número de países
se ha sometido a la experimentación. Esto de Europa. Esto no tendría por qué implicar
implica no solo publicar los resultados, sino una inversión completa en una nueva polí-
rendir cuentas ante la ciudadanía de las tica pública, sino que más bien se trataría
decisiones tomadas reforzando el papel de de comenzar por incluir enfoques conduc-

99. «Sería útil disponer de una herramienta que reuniese todos los ejercicios de evaluación, y el alcance y la trayectoria de sus recomendaciones permitiría
también gestionar el conocimiento producido, y que las Administraciones y otros actores pudieran intercambiar una valiosa información para el diseño de
programas públicos. La AIReF tiene ya programada la puesta en marcha de un observatorio que recoja y sistematice el resultado de sus propias evaluaciones y
el seguimiento de las propuestas que realiza a cada Administración».
100. https://www.innovationgrowthlab.org/igl-database-v2?page=1.
101. En este sentido, como señalan Casado y Del Pino (2021): «El reciente PRTR y el propio Ministerio de Hacienda han aprobado algunas medidas para asegurar
el uso de las evaluaciones de AIReF en el proceso presupuestario. Sin embargo, asegurar el principio de cumplir o explicar es el gran reto pendiente. (…) de
acuerdo con este principio los centros directivos cuyas políticas se han evaluado tienen o bien que incorporar los resultados de la evaluación al rediseño de sus
políticas o bien, si no los incorporan, deben explicar por qué no lo hacen. Junto a las medidas que se acaban de mencionar, es necesario avanzar en otras como
la publicación incondicional de los informes de evaluación y su debida difusión en la sociedad civil y, en particular, entre los parlamentarios».

116
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

tuales en intervenciones ya existentes para


que sean más efectivas, o bien en el diseño
de las políticas como parte de los proyectos
piloto. Como se ha mencionado con ante-
rioridad, para ello puede resultar, además de
muy inspirador, germen para el desarrollo
de nuevas iniciativas en esta dirección, la
conexión con algunos de los organismos
que desarrollan en nuestro país pequeños
experimentos mediante las llamadas nud-
ges, aplicables a las políticas públicas.

10. Por último, como se ha señalado ante-


riormente, las barreras que se derivan del
desarrollo de actuaciones experimentales
relacionadas con los aspectos éticos son
lo suficientemente relevantes como para
tenerlas en cuenta en el diseño de las inter-
venciones. Una vía de intervención en este
sentido puede ser el desarrollo desde la
Administración, como ha hecho el Gobierno
finlandés, de códigos éticos para el desa-
rrollo de la experimentación pública.

Todas estas recomendaciones para el impulso


de la experimentación demuestran que existen
numerosas posibilidades para situar a Espa-
ña en un proceso similar al de los países de
nuestro entorno, integrando cada vez más la
experimentación en las políticas públicas y,
además, mejorando la predisposición al desa-
rrollo de este tipo de metodologías en actua-
ciones con mayores implicaciones políticas.
En este sentido, el impulso realizado desde la
AIReF y desde el Ministerio de Inclusión con
sus grandes programas de evaluaciones expe-
rimentales puede ser el referente de una nueva
cultura de la experimentación en las políticas
públicas en la medida en que se demuestren
su utilidad, sus beneficios y su aplicabilidad a
las políticas públicas.

117
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

anexos

09.
118
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Anexo 1 – Casos por


sectores (experiencias
internacionales)

La siguiente clasificación se ha realizado valo-


rando la capacidad ilustrativa del ejemplo que
se estaba utilizando, pero en muchos casos
determinados ejemplos podrían ubicarse en
varios sectores al mismo tiempo.

EDUCACION
Retención estudiantil y éxito académico en matemáticas e inglés

Ámbito territorial Reino Unido

Behavioural Insights Team (BIT) y Behavioural Research Centre for Adult Skills and Knowledge
Entidad ejecutora
(ASK)

Periodo de análisis 2017

Muchas personas adultas en el Reino Unido tienen bajas competencias en alfabetización y mate-
mática básica. A pesar de que existen programas para reforzar estas habilidades y aunque hay un
Problema
número significativo de personas que se inscribe en este tipo de programas, existen barreras de
asistencia y finalización de estos cursos.

Una de las soluciones propuestas fue mejorar la asistencia enviando mensajes motivacionales y
Solución/es
recordatorios al alumnado usando el enfoque de las ciencias del comportamiento.

En este ensayo se utilizaron mensajes de texto semanales para ayudar al alumnado a planificar
Metodología acontecimientos próximos, como la vuelta al aula después de las vacaciones o los exámenes, y
para darles ánimos en las semanas intermedias.

Un 22 % más de asistencia (7,4 puntos porcentuales, del 34,0 al 41,4 %) entre los que recibieron
los mensajes de texto en comparación con el grupo de control.
Resultados
Los alumnos que recibieron los mensajes de texto tenían un 16 % más de probabilidades de apro-
bar todos sus exámenes (8,7 puntos porcentuales, del 54,5 al 63,2 %).

119
Fomentar el take-up del Canada Learning Bond

Ámbito territorial Canadá

Entidad gestora Employment and Social Development Canada (ESDC) – Gobierno de Canadá

Entidades ejecutoras Impact and Innovation Unit (IIU) – Gobierno de Canadá

Periodo de análisis 2016-2018

El Canada Learning Bond (CLB) es un programa gubernamental de ahorro para la educación que
Problema ofrece un incentivo financiero a los canadienses de bajos ingresos. A pesar de la existencia de
esta ayuda, en 2015 solo uno de cada tres jóvenes elegibles recibieron el CLB.

En 2016 se realizó el primer experimento enviando cartas promocionales a las familias elegibles.
El diseño de las cartas se basó en la bibliografía más reciente y relevante sobre BI, pero los resul-
tados fueron decepcionantes, ya que la carta estándar usada anteriormente parecía tener más
éxito que la basada en las ciencias del comportamiento.
Solución/es
Con el objetivo de entender mejor las decisiones de las familias en esta materia se inició un
proceso de design thinking mediante entrevistas, talleres y observaciones etnográficas a 146 indi-
viduos. Con la información recopilada y también incorporando los BI se diseñaron nuevas cartas y
se llevó a cabo un nuevo RCT. Los resultados fueron muy positivos.

Metodología Se desarrollaron dos RCT y pensamiento de diseño (design thinking).

La nueva carta mejoró la aceptación del CLB en un 55 % en comparación con la carta estándar
Resultados (8,8 % frente al 5,7 % de aceptación, respectivamente). Los resultados de este experimento se han
implementado en las comunicaciones de CLB.

Infraestructura educativa

Ámbito territorial Perú

Institución MineduLAB

Periodo de análisis 2015 y 2016

La brecha de infraestructura educativa actual constituye un reto que afrontar para mejorar la
calidad de la educación del Perú. Para revertir la carencia de infraestructura escolar adecuada, el
Ministerio de Educación transfiere recursos económicos a cada escuela a través del Programa
Problema
Nacional de Infraestructura Educativa destinados al mantenimiento y rehabilitación de los locales
escolares. Sin embargo, en el año 2014 solo el 90 % de los fondos fue empleado por las personas
encargadas del mantenimiento escolar y de este solo un 85 % se declaraba oportunamente.

Enviar mensajes informativos y motivacionales a las personas encargadas de mantenimiento,


Solución/es cuyo contenido se basa en los principios de la teoría de comportamiento, con el objetivo de mejo-
rar el nivel de cumplimiento de las actividades de gestión para el mantenimiento escolar.

Se desarrollaron dos RCT. El primer experimento en 2015 estaba compuesto por seis grupos,
incluyendo el control, a los que se enviaban cinco tipos de mensaje: alerta, norma social, informa-
ción de monitoreo, aviso de publicación de omisos y aviso de visitas de auditoría. En el segundo
Metodología experimento en 2016, basado en los resultados de 2015, se hicieron dieciocho grupos de trata-
miento en total con variaciones en los SMS (cuatro de norma social descriptiva, dos de norma
social inyuctiva y tres de beneficio social) y en la duración de la campaña por cada subgrupo
(corta/larga).

Los resultados de la campaña 2015 muestran que los mensajes del tipo sancionador no son más
efectivos que los de tipo no sancionador. De estos últimos, los SMS con contenido de norma
social (en los que se compara al receptor con un grupo de referencia) y de monitoreo son los que
Resultados logran un mayor efecto.
De los resultados de la campaña 2016 se concluye que el mensaje de norma cualitativa a nivel
UGEL ofrece resultados prometedores y que la campaña corta tiene efectos de mayor magnitud
que la campaña larga.
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Salud

Mejorar la salud materno-infantil mediante la formación y la


participación de la comunidad
Ámbito territorial Indonesia

Entidad evaluadora Mathematica (con apoyo de SurveyMETER)

Entidades gestoras Millennium Challenge Corporation (MCC) y el Gobierno de Indonesia

Entidad financiadora MCC

Periodo de análisis 2013-2020

El retraso en el crecimiento infantil afectaba al 36 % de los niños menores de cinco años en Indo-
Problema
nesia en 2013.

El principal objetivo a largo plazo del proyecto de MCC era mejorar el estado de salud y nutrición
de las mujeres embarazadas y de los niños, medido por las tasas de retraso en el crecimiento,
emaciación, insuficiencia ponderal y bajo peso al nacer.

Para abordar el retraso en el crecimiento de los niños, el proyecto de la MCC y el Gobierno de


Solución/es
Indonesia combinó: 1) un programa de desarrollo comunitario centrado en la salud y la educación,
2) formación intensiva para los proveedores de servicios de salud sobre la alimentación infantil, 3)
formación para los sanitarios sobre saneamiento local dirigido por la comunidad, y 4) una campa-
ña nacional de comunicación relacionada con el retraso en el crecimiento, la lactancia materna, la
alimentación saludable y la higiene.

Metodología Se desarrolló un RCT en tres de las once provincias en donde se implementó el proyecto.

El proyecto no tuvo ningún impacto en estos resultados, ni siquiera en la cohorte más expuesta al
proyecto. Sin embargo, el proyecto tuvo un impacto en algunos resultados a corto y medio plazo
relacionados con la salud materno-infantil.

Una vez explorados los motivos de estos resultados, los aprendizajes de esta evaluación para
MCC fueron102:
Resultados
• Garantizar que la MCC y el Gobierno asociado estén alineados en cuanto a los objetivos del
proyecto y obtener compromisos de las entidades gubernamentales de ejecución antes de iniciar
un proyecto.

• Desarrollar y documentar el diseño detallado del proyecto y las disposiciones de ejecución antes
de iniciar la implementación.

102. https://www.mcc.gov/resources/doc/evalbrief-033120-idn-nutrition#mcc-learning.

121
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Incentivos en especie y desempeños de las personas que


trabajan en el sector de la salud
Ámbito territorial El Salvador

Ministerio de Salud de El Salvador y el Grupo de Economía del Comportamiento – Banco Intera-


Entidades ejecutoras
mericano de Desarrollo (BID)

Periodo de análisis 2020

Una mejor atención sanitaria es un desafío global. Sin embargo, la necesidad es particularmente
aguda en las zonas más pobres y remotas en los países de ingresos bajos y medios como El
Problema
Salvador, donde, a pesar de haber llevado a cabo una reforma de su sistema sanitario, seguían
documentándose deficiencias en el desempeño del personal trabajador.

En lugar de incentivos monetarios, las autoridades otorgaron puntos canjeables por incentivos en
Solución/es especie basándose en la teoría de que estos estimularían un mayor esfuerzo del equipo y tendrían
menos probabilidades de desplazar la motivación intrínseca.

Las autoridades de la Salud de El Salvador evaluaron sus reformas a lo largo de un periodo de


doce meses, midiendo los efectos de incentivos en especie en el desempeño de los trabajadores
Metodología de salud en 38 de 75 equipos sanitarios de la comunidad seleccionados aleatoriamente. Todos los
equipos eran monitoreados para medir los efectos de la retroalimentación sobre el desempeño y
el reconocimiento de los logros del equipo.

Si bien todos los equipos (tratamiento y control) mejoraron su desempeño a lo largo del tiempo
Resultados (a los dieciocho meses), aquellas personas elegibles para recibir incentivos en especie mejoraron
más rápidamente que el grupo control (se observan diferencias a los doce meses).

consumo

Reducir la sobreexplotación de merluza en Chile

Ámbito territorial Chile

Entidad ejecutora Servicio de Pesca y Ministerio de Finanzas de Chile

Entidad colaboradora J-PAL

Periodo de análisis 2015-2016

A pesar de los esfuerzos del Gobierno para reducir la sobreexplotación de especies como la mer-
Problema
luza, este problema persiste y hay riesgo de colapso.

Se valoraron varias opciones para asegurar que la prohibición de pescar merluza durante ciertas
Solución/es temporadas se cumpliera: campañas informativas al consumo, multas y la combinación de
ambas.

Se desarrolló un RCT en cuatro grupos (incluyendo grupo de comparación) y análisis costo-efecti-


Metodología
vidad.

La combinación de las campañas informativas y las multas redujeron la disponibilidad y el consu-


mo de merluza un 30 %.
La campaña de información era más rentable para reducir la venta ilegal de merluza que las
multas.
Resultados
La evaluación aleatoria convenció al Servicio Nacional de Pesca de Chile de la eficacia de las
campañas de información, que continuaron y ampliaron en los años siguientes. Informado de los
resultados de la evaluación y el análisis de coste-eficacia, el organismo ha continuado la campaña
de información durante las vedas estacionales de la merluza desde 2016.

122
Diseñar juegos de azar más seguros

Ámbito territorial Reino Unido

Entidad ejecutora Behavioural Insights Team (BIT)

Entidades colaboradoras Gambling Commission y Bet 365

Entidad financiadora GambleAware

Periodo de análisis 2020-2021

La adicción a los juegos de azar es un problema creciente y el motivo de que la regulación de este
Problema
mercado haya crecido notablemente en países como el Reino Unido.

El proyecto tiene el objetivo de diseñar juegos de azar que sean más seguros, en particular, ha-
ciendo que los consumidores puedan establecer límites sobre lo que puedan apostar durante un
periodo de tiempo en su cuenta online.
Solución/es
Se establecieron tres estrategias diferentes para aplicar este depósito basadas en las ciencias del
comportamiento: depósito de 5 a 100 libras, deposito como máximo de 250 libras, o deposito libre
sin límite mínimo ni máximo.

Metodología Se desarrolló un RCT con 45.000 personas usuarias

De las 45.000 personas a las que se les planteó la opción de establecer un depósito, únicamente
Resultados un 4 % aceptó. La opción en la que las personas usuarias podían establecer su propio depósito
fue la que obtuvo mejores resultados.

protección social

Transferencias monetarias para hogares afectados por la


sequía
Ámbito territorial Nicaragua

Entidad ejecutora Banco Mundial

Entidades colaboradoras Paris School of Economics y Ministerio de la Familia en Nicaragua

Periodo de análisis 2016-2018

Problema Numerosas familias rurales en Nicaragua fueron afectadas por graves sequías.

El Gobierno nicaragüense creó un programa de transferencias monetarias condicionadas (TMC)


para los hogares agrícolas afectados por una grave sequía. A corto plazo, el programa buscaba
Solución/es ayudar a las familias necesitadas a cubrir sus necesidades inmediatas dándoles transferencias de
efectivo. A largo plazo, el programa introdujo intervenciones destinadas a mejorar las oportunida-
des de ingresos y la diversificación.

Para probar soluciones alternativas, los hogares se asignaron aleatoriamente a diferentes grupos
en los que las TMC tenían diferentes características o condiciones. Además, de manera aleatoria
Metodología
se expuso a las personas que recibían las TMC a tener interacciones con promotoras y otras
líderes femeninas existentes en las comunidades.

• A corto plazo (a los nueve meses), las líderes femeninas ayudaron a multiplicar los impactos
del programa en las diferentes modalidades (inversión en educación y nutrición, asistencia a la
escuela, etc.).
• Las interacciones sociales también aumentaron el impacto del programa en la generación de
ingresos.
Resultados
• A largo plazo (a los dos años), en las personas que recibieron la TMC y que no tuvieron interac-
ciones con las líderes no se observaron impactos, pero sí entre las que tuvieron esta interacción,
que mostraban mayor inversión en la educación y nutrición de sus hijos.
• Los padres y madres que interactuaban con las líderes mantuvieron dos años después mayores
aspiraciones y expectativas sobre el futuro de sus hijos.
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Experimento de renta básica en Finlandia

Ámbito territorial Finlandia

Entidad ejecutora Kela y VATT Institute for Economic Research

En 2015 se comenzó con trabajos preparatorios, en 2017-2018 se realizó el experimento y los


Periodo de análisis
resultados fueron publicados en 2019 y 2020.

Es preciso rediseñar el sistema de seguridad social debido a la actual naturaleza cambiante del
Problema trabajo, para ofrecer a las personas un mayor incentivo para trabajar y simplificar la burocracia del
sistema de prestaciones.

La renta básica es una forma de seguridad social en la que toda la ciudadanía reciben una suma
de dinero regular e incondicional para sus gastos. Su objetivo es reducir el trabajo que supone la
Solución/es
búsqueda de ayuda económica y liberar tiempo y recursos para otras actividades, como trabajar o
buscar empleo.

La población del estudio estaba formada por dos mil personas seleccionadas al azar en diciembre
de 2016. En el muestreo aleatorio se incluyeron todas las personas de entre 25 y 58 años a las
que Kela pagó el subsidio del mercado de trabajo o la prestación básica por desempleo en no-
viembre de 2016 por algún motivo distinto a un despido temporal. Las personas participantes en
Metodología el experimento obtuvieron una renta básica desde el 1 de enero de 2017 hasta el 31 de diciembre
de 2018. La renta básica se pagó a razón de 560 € al mes. Las personas que recibían una renta
básica podían reclamar cualquier prestación a la que tuvieran derecho como harían normalmente.

La evaluación del piloto incluía un estudio de datos administrativos, encuestas y entrevistas.

Las personas beneficiarias de la renta básica estaban más satisfechas con su vida y experimen-
taban menos tensión mental que el grupo de control. También tenían una percepción más positiva
de su bienestar económico.

Asimismo, las personas del grupo tratamiento mostraban tener más confianza en otras perso-
nas y en las instituciones sociales, y también creían que tenían más posibilidades de encontrar
empleo.

En cuanto a los efectos en el empleo, durante el primer año del experimento, la renta básica
Resultados
no tuvo ningún efecto sobre el empleo de las personas beneficiarias a nivel grupal. Durante el
segundo año del experimento, las personas del grupo tratamiento tuvieron resultados ligeramente
superiores a la hora de encontrar un empleo. Sin embargo, la interpretación en el segundo año es
más compleja por la introducción del modelo de activación a principios de 2018, que supuso un
endurecimiento de los criterios de acceso a las prestaciones por desempleo de forma asimétrica
en ambos grupos.

Los resultados muestran que hay otros factores, además de los incentivos financieros, que influ-
yen al empleo.

124
agricultura

Reglamento comunitario sobre contribuciones obligatorias y


voluntarias
Ámbito territorial Unión Europea (Alemania, España y Polonia)

Entidad ejecutora Joint Research Centre (Comisión Europea)

Periodo de análisis 2021

Existen cambios en el reglamento de la PAC para 2023 que tienen el objetivo de mejorar el
desempeño climático y medioambiental de las prácticas agrícolas. Dentro de la política existen
Problema
herramientas obligatorias y voluntarias para los agricultores. Encontrar el equilibrio entre los dos
tipos de medidas es clave para alcanzar una mejora medioambiental y climática.

El estudio evalúa las respuestas de los agricultores ante situaciones hipotéticas en las que se les
ofrece un dinero inicial en forma de tokens y tienen que decidir cuál será su contribución al medio
ambiente.
La cantidad de tokens iniciales era diferente para la mitad de las personas encuestadas. A con-
Solución/es
tinuación, todas las personas participantes tenían que realizar una contribución obligatoria (sin
compensación) y la cantidad variaba para la mitad de la muestra. Seguido de esto, las personas
participantes tenían que indicar cuántos de los tokens que les quedaran darían voluntariamente
con una compensación del 90 %.

Metodología Experimento online

El incremento de la condicionalidad disminuye el nivel de inscripción de los agricultores en los


regímenes voluntarios, pero aun así puede aumentar la adopción general de prácticas respetuo-
Resultados
sas con el medio ambiente si la condicionalidad alcanza una cantidad alta, y la reducción en la
compensación de los pagos voluntarios reduce este tipo de contribuciones.

Creación de vínculos entre pequeños agricultores a través de


un mercado digital
Ámbito territorial Uganda

Entidad ejecutora Innovations for Poverty Action (IPA)

AgriNet, Kudu, Fundación Bill and Melinda Gates, Ministerio de Relaciones Exteriores y de la Man-
Entidades colaboradoras
comunidad de Naciones del Reino Unido, e International Growth Centre (IGC)

Periodo de análisis 2015-2018

El precio de los productos agrícolas en África subsahariana varía considerablemente dependiendo


de la temporada, el país y la región. Las barreras que impiden a los compradores y vendedores de
Problema productos agrícolas encontrarse en el mercado pueden contribuir a grandes variaciones en los
precios de los productos. Este problema es una de las causas de la gran inseguridad alimentaria
que tienen algunas regiones de Uganda.

Se ha desarrollado una plataforma digital con el objetivo de conectar a vendedores con compra-
Solución/es
dores.

Se realizó una evaluación aleatoria para comprobar el impacto de la plataforma digital. La plata-
forma móvil se puso en marcha en 110 subcondados de once distritos de Uganda que producen
Metodología maíz y tienen un gran potencial de comercialización. Entre los 110 subcondados (con 236 merca-
dos), 55 fueron asignados aleatoriamente para recibir acceso a la plataforma móvil, mientras que
la otra mitad sirvió de grupo control.

El uso de la plataforma ha supuesto un incremento en el flujo comercial y una reducción en la


variación de los precios entre mercados, en especial entre los más próximos. Los ingresos de los
Resultados
agricultores de las zonas relativamente excedentarias (donde había una mayor oferta de maíz)
aumentaron, y los beneficios medios de los comerciantes disminuyeron.
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

energía y medioambiente

Mejora en la presentación de la factura de la luz

Ámbito territorial Australia

Behavioural Economics Team of Australian Government (BETA) y Australian Energy Regulator


Entidades ejecutoras
(AER)

Periodo de análisis 2021

En marzo de 2021 la Australian Energy Market Commission (AEMC) determinó que el AER debía
Problema publicar una guía que determinara el contenido y los requisitos de las facturas por parte de las
eléctricas.

BETA y AER aplicaron BI en el diseño de las facturas energéticas. Se realizó un diseño diferente
Solución/es para cada RCT, seguido de una serie de preguntas diseñadas para medir su comprensión e inten-
ciones.

Se utilizaron dos muestras para realizar una encuesta y seis RCT. Además, se llevaron a cabo
Metodología dos grupos focales (uno con personas cuyo primer idioma no es el inglés y el otro con personas
mayores de 65 años) y análisis documental.

A raíz de los diferentes experimentos, se ha podido determinar cuál es la mejor manera de presen-
Resultados
tar la información de las facturas y el AER ha redactado la guía «Better bills guideline».

Fomentar el reciclaje en bloques de viviendas

Ámbito territorial Ámsterdam (Países Bajos)

Entidad ejecutora Behavioural Insights Network Netherlands

Periodo de análisis 2019

Problema Las personas residentes de bloques de viviendas reciclan en un porcentaje alto, pero no suficiente.

Un proyecto se inició para estimular a las personas residentes de bloques de viviendas en


Ámsterdam a depositar los restos orgánicos en un contenedor diferente. Se plantearon tres
opciones distintas: la primera pretendía influenciar la actitud mediante dos cartas; la segunda,
Solución/es
mediante un regalo acompañado de una carta de la municipalidad con comentarios positivos
para las personas que reciclaban y motivacionales para las que no; y en la tercera, se les prome-
tía un regalo si comenzaban a reciclar.

Se realizó un experimento de campo en edificios de gran altura en Java-eiland, en Ámsterdam.


El estudio duró quince meses. La población del estudio estaba formada por 1072 hogares. Para
Metodología
comprobar los efectos de las intervenciones, la población se dividió en cuatro grupos: tres grupos
de intervención (A, G, R) y un grupo de control.

Todas las intervenciones tuvieron un efecto positivo sobre el reciclaje de los restos orgánicos.
Resultados La que tuvo un mayor impacto fue la primera de las cartas, con un incremento de un 30 % en el
reciclaje que se mantuvo durante los quince meses.

126
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

género

Promover comportamientos de búsqueda de ayuda entre


sobrevivientes de violencia en Centroamérica
Ámbito territorial Honduras y el Salvador

Entidad ejecutora Behavioural Insights Team (BIT)

Banco Interamericano de Desarrollo (BID), Instituto Salvadoreño para la Promoción de la Mujer,


Entidades colaboradoras
Instituto Nacional de la Mujer (INAM) y Ciudad Mujer

Periodo de análisis 2018-2021

Honduras y El Salvador tienen algunas de las tasas más altas de violencia contra la mujer en el
mundo: seis de cada diez mujeres en estos países han sufrido violencia en algún momento de sus
Problema
vidas, más del 40 % no busca ayuda y, cuando lo hace, menos del 10 % recurre a servicios legales
o médicos.

Un enfoque de conocimiento del comportamiento puede ayudar a desglosar el complejo proceso


Solución/es de obtener ayuda en comportamientos específicos y los desafíos de identidad que enfrentan las
mujeres en cada paso.

Lo primero que se realizó fue una revisión de la literatura e investigaciones cualitativas con las
sobrevivientes.
Metodología
Se realizaron dos ensayos controlados aleatorizados en línea que probaron si diferentes anuncios
de Facebook alentaban a las sobrevivientes a encontrar apoyo.

En Honduras, las mujeres que vieron el anuncio disipando la aversión a la incertidumbre tenían un
19,4 % más de probabilidades de visitar el sitio web de Ciudad Mujer que las del grupo de control,
seguidas por las que vieron el anuncio que abordaba los costes ocultos, que tenían un 12,9 % más
Resultados de probabilidades de visitar el sitio web.
En El Salvador, publicando los dos tipos de anuncios en Facebook, las mujeres tenían un 56 y un
137 % más de probabilidades de acceder a los recursos del sitio web de Ciudad Mujer que las del
grupo de control.

127
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

La ampliación de servicios de guarderías infantiles y sus


efectos en la participación laboral
Ámbito territorial Chile

Entidad ejecutora J-PAL

Entidades financiadoras Banco Interamericano de Desarrollo y Ministerio de la Mujer y la Equidad de Género

Periodo de análisis 2012-2013

El compromiso de cuidar a los hijos a menudo se menciona como una de las razones principales
Problema de por qué la participación en la fuerza laboral normalmente es más baja en las mujeres que en
los hombres.

El Programa 4 a 7 ofrece apoyo educativo y recreativo después de clases por un periodo de tres
Solución/es
horas para niños cuyas edades van de los seis a los trece años.

En el estudio participaron 25 escuelas, las cuales ofrecieron el programa por primera vez en el año
2011. Entre las 2110 mujeres elegibles de todas las escuelas, 1137 fueron seleccionadas al azar
Metodología
para ser beneficiadas por el programa, mientras que a las 973 mujeres restantes no se les ofreció
el programa, formando el grupo control.

El programa aumentó el empleo y la participación femenina en la fuerza laboral, así como el


uso de guarderías para niños más pequeños que no eran aptos para el programa, lo que llevó a
Resultados
concluir que las mujeres necesitaban guarderías para todos sus hijos con el fin de poder unirse al
mercado laboral.

Fomentar la carrera militar entre mujeres

Ámbito territorial Canadá

Entidad gestora Department of National Defense

Entidad ejecutora Impact and Innovation Unit (IIU)

Periodo de análisis 2017

Reconociendo la importancia de una organización inclusiva y diversa, las Fuerzas Armadas


Canadienses (CAF, por sus siglas en inglés) se han comprometido a aumentar el número de mu-
Problema jeres para que representen un mínimo del 25,1 % de su plantilla en 2026. Teniendo en cuenta los
números de 2017, la consecución de este objetivo requeriría la contratación de aproximadamente
diez mil mujeres.

Empleando un enfoque conductual, se analizaron el proceso de contratación, el marketing y la co-


Solución/es municación de la contratación, y las políticas y directrices dentro de la CAF. Con esta información
se diseñaron siete anuncios diferentes.

Metodología Experimento en redes sociales durante tres semanas.

El compromiso se midió por la proporción de usuarias que hicieron clic en cada anuncio. Los
anuncios con mejores resultados ofrecían una propuesta de valor específica a los posibles reclu-
Resultados
tas, desafiaban las suposiciones sobre la carrera en las Fuerzas Armadas o utilizaban la insignia y
las galas de la CAF.

128
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

gobernanza y participación civil

La eficacia de fomentar la participación electoral

Ámbito territorial Míchigan (Estados Unidos)

Entidad ejecutora J-PAL

Entidades colaboradoras Practical Political Consulting (PPC) y Yale University Institution for Social and Policy Studies (ISPS)

Periodo de análisis 2007

Problema La participación en los procesos electorales locales suele ser baja.

Se quería evaluar si la revelación/recordatorio del comportamiento en las elecciones pasadas


Solución/es (si votó o no votó) tenía un efecto en la decisión de participar o no en las sucesivas elecciones
locales.

Las personas a cargo de la investigación asignaron aleatoriamente a 369.211 votantes que habían
participado en una de las dos últimas elecciones a uno de los tres grupos de tratamiento o al gru-
Metodología po de control. Las personas participantes podían no recibir ninguna carta, recibir un correo postal
que les insistiera en cumplir con su deber cívico, que destacara una elección reciente en la que no
hubieran votado, o que destacara una elección reciente en la que sí lo hubieran hecho.

Tras las elecciones se comprobó que el mayor efecto se produjo entre los que recibieron una
carta en la que se hacía hincapié sobre el hecho de no haber votado en el pasado. Los hogares de
Resultados
este grupo tenían 6,4 puntos porcentuales (28 %) más probabilidades de votar que los hogares del
grupo control.

Maneras innovadoras de reducir la corrupción

Ámbito territorial México

Entidad gestora Ministerio de Servicio Público – Secretaría de la Función Pública (SFP)

Unidad de Innovación, Comportamiento y Experimentación (UCEx) del Laboratorio Nacional de


Entidades ejecutoras
Políticas Públicas (LNPP) del CIDE

Periodo de análisis El experimento se desarrolló entre diciembre de 2016 y febrero de 2017.

Problema Los regalos recibidos por los funcionarios no eran registrados según las normas.

La SFP puso a prueba qué tipo de mensaje motiva a las personas empleadas a cumplir con las
Solución/es reglas de registro de regalos. Se enviaron cinco tipos diferentes de mensajes basados en los
sesgos conductuales.

La UCEx llevó a cabo un RCT, en el que un total de 157.586 funcionarios del Gobierno federal fue-
ron asignados a uno de los trece grupos (cuatro grupos de tratamiento con tres niveles diferentes
Metodología
de intensidad en el número de correos electrónicos que recibió cada grupo, más un grupo de
control).

El análisis demostró que recibir un recordatorio por correo electrónico aumentaba el número de
regalos registrados. Sin embargo, algunos mensajes fueron más eficaces que otros: recordar a
los servidores públicos sus obligaciones legales y apelar a su imparcialidad y honestidad alentó
a más personas a registrar regalos que hacer referencia a sanciones o a registros realizados por
colegas.
Resultados
Hoy en día el Ministerio utiliza una herramienta innovadora para reforzar el cumplimiento de la
norma y también conoce las razones por las que los servidores públicos pueden comportarse de
forma poco ética, y además el funcionariado público del Gobierno federal tiene ahora mejor infor-
mación y herramientas para cumplir con sus obligaciones. La UCEx explora actualmente el uso de
intervenciones similares para otras instituciones importantes, públicas y privadas.

129
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

impuestos y finanzas

Incremento del pago de impuestos por parte de las empresas

Ámbito territorial Costa Rica

Entidad ejecutora Behavioural Insights Team (BIT)

Entidades colaboradoras Banco Mundial y Autoridad Fiscal de Costa Rica

Periodo de análisis 2015-2016

Problema Hay empresas en Costa Rica que no realizan sus declaraciones de la renta.

Se realizó un experimento en el que, de manera aleatoria, se envió a las empresas que no habían
hecho la declaración en 2014: ningún email, un email con BI o el mismo email incluyendo ejem-
Solución/es
plos de transacciones hechas por el destinatario y recalcando que eran conocidas por la Agencia
Tributaria.

Se asignó de manera aleatoria a 12.515 empresas a alguno de los tres grupos. Este experimento
Metodología
replica un trabajo anterior en Guatemala.

Los recordatorios triplicaron la tasa de declaraciones de las empresas, que pasó del 11,5 al
32,5 % en el caso del primer modelo de email y al 34,2 % en el caso del segundo modelo. Ade-
más, se observó que las personas que recibieron los correos incrementaron el pago.
Resultados
El efecto también fue retrospectivo, porque la gente que recibió los correos electrónicos se puso
al día de sus obligaciones pendientes en mayor medida que el grupo control, y también fue dura-
dero hasta el año siguiente (sin mandar mensajes adicionales).

Impulsar el cumplimiento de las personas contribuyentes

Ámbito territorial Municipalidad de Mendoza (Argentina)

Entidad ejecutora Grupo de Economía del Comportamiento – Banco Interamericano de Desarrollo (BID)

Periodo de análisis 2019

El incumplimiento tributario limita el financiamiento de servicios públicos para la ciudadanía. La


Problema vigilancia del cumplimiento, una herramienta crucial de cualquier Administración tributaria, tiene
sus límites.

El proyecto se propuso proveer a la municipalidad de Mendoza de herramientas y una metodo-


logía para probar e implementar cambios administrativos con el fin de mejorar el cumplimiento
tributario. Con un enfoque conductual, los nuevos diseños se centraron 1) en simplificar la infor-
Solución/es
mación o 2) subrayar el intercambio fiscal inherente en los impuestos, es decir, destacando que
con el dinero de los impuestos la Administración puede proporcionar valiosos servicios públicos a
las personas contribuyentes.

Se aleatorizaron los tratamientos en igual proporción a 1593 pequeñas zonas geográficas dentro
Metodología de estos sectores. Alrededor de un tercio de los 22.119 contribuyentes de servicios de propiedad
en estas zonas recibió cada tratamiento (incluyendo la carta de factura antigua como control).

Las tasas de pago son del orden del 75 % y alrededor de 3 puntos porcentuales mayores para el
efecto de intercambio fiscal que para la factura antigua. Además, la tasa de pago con el inter-
Resultados
cambio fiscal es aproximadamente 2 puntos porcentuales mayor que la del nuevo diseño sin este
atractivo.

130
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Aumentar los ahorros para la jubilación

Ámbito territorial México

Administradoras privadas de fondos para el retiro, conocidas como Afores, y Comisión Nacional
Entidades gestoras
del Sistema de Ahorro para el Retiro (CONSAR)

Entidad ejecutora Ideas 42

Entidad colaboradora MetLife Foundation

Periodo de análisis 2015-2018

Existe un nivel muy bajo de contribuciones voluntarias a planes de pensiones y una alta pobreza
Problema
entre las personas mayores en México.

Se identificaron dichas barreras y se diseñaron estrategias conductuales para aumentar las apor-
Solución/es taciones voluntarias, realizando un experimento para ver si se incrementaba la contribución. Se
rediseñaron las comunicaciones y se realizaron varios experimentos103.

Se asignaron al azar a alrededor de 68.000 personas con una cuenta Afore a un grupo control que
recibió el sobre estándar, o a uno de los siguientes cinco grupos de tratamiento que recibieron
Metodología un sobre diseñado a partir de conocimiento conductual: foto de una familia, foto de una familia y
mensaje en pro de la familia, foto de un empleado de la Afore y mensaje de apoyo, fecha límite y
frase de visualización del futuro.

Los sobres rediseñados tuvieron un impacto positivo en la cantidad de aportaciones voluntarias


que se hicieron inmediatamente después de su entrega. La cantidad de cuentas que realizan apor-
taciones voluntarias aumentó un 54 %, al pasar de 0,35 % entre los participantes del grupo control
Resultados a 0,54 % entre los participantes de los grupos de los tratamientos con la foto del empleado Afore
y fecha límite. Por lo tanto, el simple hecho de usar estos sobres impresos podría implicar que
aproximadamente 14.000 personas más hagan aportaciones y que los ahorros se incrementen en
20 millones MXN durante el primer mes.

103. En este recuadro se describe el rediseño de los sobres.

131
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Educación financiera, acceso a la financiación y efecto de


depósitos bancarios
Ámbito territorial Java (Indonesia)

Entidad ejecutora J-PAL

Entidad colaboradora Banco Mundial

Periodo de análisis 2007-2010

Los hogares con bajos conocimientos acerca de las finanzas no tienden a planear su jubilación,
obtienen préstamos a tasas de interés más altas, adquieren menos bienes y participan mucho
menos en el sistema de financiamiento formal en comparación con sus contrapartes, que tienen
Problema
mayor conocimiento. Sin embargo, existe poca evidencia que indique si efectivamente existe una
relación causal, y cómo específicamente un mejor entendimiento sobre los productos financieros
puede mejorar la vida de las personas.

En colaboración con el Banco Mundial, se desarrolló una encuesta para medir la educación finan-
ciera y demanda de servicios financieros en India e Indonesia. La encuesta de acceso a servicios
Solución/es financieros fue seguida por un experimento de educación financiera, que solo se realizó en Java,
diseñado para probar directamente la función y la importancia relativa de la educación financiera
y los precios en la determinación de la demanda de servicios bancarios.

Las personas participantes del estudio fueron asignadas aleatoriamente a un nivel de incentivo en
efectivo, con un rango de entre 3 y 14 $, para abrir una cuenta de ahorro dentro de los próximos
Metodología
dos meses. Independiente del nivel de incentivos, los hogares eran además asignados al grupo
tratamiento o control para el programa de formación financiera.

Los resultados del estudio indican que la educación financiera no tiene efecto sobre la proba-
bilidad de abrir una cuenta de ahorros. Los subsidios, por otro lado, tienen grandes efectos,
Resultados
incrementando significativamente la proporción de hogares que abren una cuenta de ahorros en
los dos meses siguientes.

132
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

mercado laboral y empresas

Programa de reclutamiento inclusivo

Ámbito territorial Victoria (Australia)

Entidad gestora Gobierno de Victoria

Entidad ejecutora Universidad de Melbourne, Center for Ethical Leadership y VicHealth

Periodo de análisis 2017-2019

Australia continúa creciendo en diversidad, y es importante que esto se refleje en la fuerza laboral.
Problema
Sin embargo, en los procesos de selección continúan existiendo prácticas discriminatorias.

La iniciativa Recruit Smarter pretende desarrollar el reclutamiento inclusivo y abordar los sesgos
Solución/es inconscientes en la contratación de personas. En total, 46 organizaciones participaron y contribu-
yeron a la entrega y los hallazgos de la iniciativa Recruit Smarter.

Esto se hizo mediante tres líneas de acción: experimentos en el mundo real (desidentificación de
CV y contratación a ciegas, lenguaje específico en la publicidad laboral y entrenamiento del sesgo
Metodología
inconsciente), sistematizar las últimas investigaciones en este campo, e intercambio de conoci-
mientos y aprendizajes.

Recruit Smarter tuvo éxito en todas las líneas de acción:

• Las evaluaciones de los nuevos enfoques de contratación mostraron resultados positivos, la


publicidad dirigida a grupos minoritarios mejoró los resultados de reclutamiento y las capacitacio-
nes aumentaron las intenciones de prácticas de apoyo a la diversidad.

Resultados
• El compromiso de colaboración condujo al desarrollo de pautas de mejores prácticas que reunie-
ron las investigaciones más recientes.

• Los seminarios de intercambio de conocimientos atrajeron a casi mil personas a lo largo de


doce meses y sacaron a la luz el valor de la diversidad y la inclusión al mostrar enfoques innova-
dores.

133
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Los efectos del entretenimiento educativo para el


emprendimiento en Egipto
Ámbito territorial Egipto

Entidad ejecutora J-PAL

Bamyan Media, International Initiative for Impact Evaluation (3ie), Silatech, USAID, Vitol Foundation
Entidades colaboradoras
y Youth Employment Network

Periodo de análisis 2013-2015

En Egipto, la tasa de desempleo juvenil es especialmente alta. Mientras que la tasa de desempleo
global era del 9 % en 2010, la tasa de desempleo de los hombres y mujeres jóvenes de entre 20
Problema y 24 años alcanzó el 16,6 y el 55,8 % respectivamente. El fomento del espíritu emprendedor de
los jóvenes podría mejorar su situación laboral, tanto ayudando a los jóvenes a emplearse a sí
mismos como creando puestos de trabajo para sus compañeros.

En diciembre de 2013, Bamyan Media lanzó un reality show de emprendimiento juvenil llamado
El Mashrou3 («El proyecto» en árabe) en una de las cadenas de televisión por satélite más vistas
de Egipto. El programa seguía la vida de catorce jóvenes emprendedores sociales. El objetivo del
programa era enseñar a los espectadores habilidades emprendedoras, transmitirles lecciones so-
Solución/es
bre buenas prácticas de emprendimiento y presentarles a socios locales que ofrecen formación,
tutoría, financiación y servicios tecnológicos. Además de El Mashrou3, Bamyan Media creó un
sitio web con vídeos educativos, servicios de tutoría y cursos en línea, y también se organizaron
eventos.

Para medir el impacto del programa de televisión, las actividades de apoyo empresarial en línea
y los eventos de networking dirigidos a los jóvenes sobre las actitudes hacia la creación de em-
presas, las prácticas empresariales, las habilidades emprendedoras y la situación laboral de los
Metodología
jóvenes espectadores. De una muestra de 9327 jóvenes elegibles, las personas encuestadas fue-
ron asignadas aleatoriamente a uno de los dos grupos: control y tratamiento. El grupo tratamiento
recibía mensajes para alentarlos a ver y usar los servicios de El Mashrou3.

Recibir los mensajes incrementó la participación un 5,7 %, pero no se pudo establecer un impacto
entre ver el programa y las barreras autopercibidas y reales de emprender por parte de los
Resultados jóvenes. Sí que hay evidencia que indica que la educación en estos temas entre las personas que
vieron el programa es mayor. Asimismo, tuvo un impacto positivo en los pensamientos vinculados
a la posibilidad de que una mujer sea emprendedora.

134
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

innovación

D3T: Ayudar a las pymes en la transformación digital

Ámbito territorial Piedemonte (Italia)

Entidad ejecutora Fondazione Torino Wireless (TOWL)

Entidad colaboradora Innovation Growth Lab (IGL) Nesta

Periodo de análisis 16 de septiembre de 2019-15 de marzo de 2021

Se deben realizar más esfuerzos para proporcionar un mejor apoyo y destacar la necesidad de la
Problema
transformación digital dentro de las empresas.

El proyecto D3T se centra en la mejora de un esquema de apoyo a la transformación digital


mediante la introducción de un enfoque basado en datos que permite un perfil y una evaluación
Solución/es
más rápidos y exhaustivos de las necesidades de las empresas en términos de digitalización y de
cómo se puede implementar y gestionar mejor el apoyo.

Se realiza un piloto experimental a pequeña escala (con 24 pymes de la región de Piedemonte)


midiendo y monitoreando los impactos generados por la implementación de dos hojas de ruta de
Metodología
transformación digital en las pymes. Las pymes, de manera aleatoria, recibieron o bien el servicio
tradicional (13 pymes) o bien el innovador (basado en datos) (11 pymes).

TOWL llegó a la conclusión de que el mejor servicio debe ser una mezcla del tradicional y el
innovador. La digitalización completa del servicio no es eficiente; el factor humano es realmente
Resultados
apreciado y marca la diferencia, no solo en la interacción con las empresas, sino también en los
procesos de toma de decisiones y análisis.

135
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

seguridad y justicia

Prevenir ausencias ante citas judiciales

Ámbito territorial Estados Unidos

Entidad ejecutora Ideas 42 y Universidad de Chicago Crime Lab

New York City Mayor’s Office of Criminal Justice (MOCJ), New York City Police Department
Entidades colaboradoras
(NYPD) y New York State Unified Court System Office of Courts Administration (OCA)

Entidades financiadoras Laura and John Arnold Foundation, MacArthur Foundation y J-PAL North America

Periodo de análisis Experimento entre marzo de 2016 y septiembre de 2017

Cada año, millones de personas en EE. UU. tienen que comparecer ante el tribunal por delitos
menores. Muchos acusados no acuden a sus citas judiciales. La política de justicia penal suele
Problema utilizar sanciones punitivas para disuadir de estas incomparecencias. Por ejemplo, cuando los
acusados no comparecen, se emiten órdenes de detención, lo que atrae a las personas acusadas
hacia el sistema de justicia penal.

Las políticas punitivas presuponen que las personas acusadas prestan atención a estas sancio-
nes y las sopesan a la hora de decidir si comparecen ante el tribunal. En este estudio, se explora
Solución/es una posibilidad de que faltar al juzgado se dé porque la información que reciban no sea suficiente-
mente llamativa y que puedan olvidarla. A raíz de esta hipótesis se diseñan dos intervenciones: un
rediseño del formulario de convocatoria y un mensaje recordatorio.

Para evaluar el impacto del nuevo formulario de citación, se realizó un diseño de regresión
Metodología discontinua (método cuasiexperimental), y para evaluar el mensaje de texto, un RCT con 20.000
personas (método experimental).

El formulario de citación rediseñado y los mensajes de texto redujeron las incomparecencias en


un 13 y un 21 %, respectivamente. Esto sugiere que una proporción significativa de las personas
Resultados
acusadas que no comparecen no lo hacen intencionalmente y que se puede aumentar la asisten-
cia con simples nudges.

136
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Gane un minuto, pierda una hora: estación de tiempo muerto para


conductores con exceso de velocidad
Ámbito territorial Estonia

Entidad ejecutora Equipo de Innovación del Sector Público del Gobierno de Estonia

Periodo de análisis 2019

El número de accidentes de tráfico con resultado de víctimas humanas no ha mostrado una


Problema
disminución significativa en Estonia durante los últimos diez años.

En lugar de una sanción monetaria, se les ofrecía a las personas detenidas por velocidad que
Solución/es
decidieran entre pagar una multa o esperar en la carretera.

El equipo de innovación aplicó métodos de design thinking para obtener una visión del problema
centrada en las personas usuarias mediante entrevistas. A partir de estas entrevistas se planteó
Metodología un experimento o iniciativa piloto en la que se crearan estaciones de «tiempo muerto» como alter-
nativa a las multas económicas. Se pretendía realizar un ensayo controlado aleatorizado, pero no
se pudo llevar a cabo porque la legislación no permite asignar penalizaciones de forma aleatoria.

Las intervenciones se llevaron a cabo en una autopista (límite de velocidad de 90 km/h) entre las
ciudades de Rapla y Tallin. El resultado fue que 16 de 28 (57 %) conductores prefirieron el tiempo
Resultados
muerto a la multa convencional. En las entrevistas posteriores revelaron que les había hecho
prestar más atención a la velocidad.

Proyectos de seguridad ciudadana en Medellín

Ámbito territorial Medellín (Colombia)

Entidades ejecutoras J-PAL e IPA

Alcaldía de Medellín, Proantioquia (Fundación para el desarrollo) y Foreign, Commonwealth and


Entidades colaboradoras
Development Office (Reino Unido)

Periodo de análisis 2018-2021

Los grupos armados urbanos, especialmente las bandas criminales, suponen una amenaza
creciente para la paz y el crecimiento económico en las ciudades de todo el mundo. En Medellín,
Problema las bandas han establecido su poder y control en respuesta a la histórica falta de presencia y
servicios del Gobierno, así como a la importancia geográfica de la ciudad para las rutas del tráfico
de drogas.

En colaboración con el Ayuntamiento de Medellín y el funcionariado de la comunidad, las perso-


nas a cargo de investigación introdujeron al azar una intervención para aumentar la presencia del
Solución/es Estado y mejorar el acceso a los servicios gubernamentales en los barrios controlados por las
bandas, con el fin de comprobar el impacto del aumento de la gobernanza municipal en las funcio-
nes y la legitimidad de las bandas locales y el Estado.

Antes de la intervención, se identificaron —mediante un estudio de dos años en el que se reali-


zaron entrevistas a líderes y miembros de la comunidad, expertos, policía, miembros de bandas
y líderes criminales— ochenta sectores en los que la gobernanza por bandas era elevada. Los
Metodología
investigadores asignaron aleatoriamente cuarenta de estos sectores para que recibieran la inter-
vención. Los otros cuarenta recibieron la cantidad normal de ayuda y servicios ofrecidos por el
Gobierno y sirvieron como grupo control.

El estudio concluyó que la intervención no redujo el dominio de las bandas. Incluso en los barrios
Resultados en los que la intervención funcionó mejor, un gran aumento de los servicios de Gobierno en la
calle no consiguió reducir la oferta delictiva de servicios similares.

137
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS: ESTADO DEL ARTE Y ELEMENTOS PARA SU IMPULSO EN ESPAÑA

Anexo 2 – Tabla resumen de casos (experiencias internacionales)

Casos nivel ámbito territorial sector ciclo

Diseño del etiquetado energético de la UE Supranacional Unión Europea Energía y medioambiente Diseño

Mejoramiento de la infraestructura habitacional en los asentamientos de Latinoamérica Supranacional El Salvador, México y Uruguay Protección social Evaluación

Apoyar a los hombres para un permiso parental más largo y mayor flexibilidad Nacional Reino Unido Mercado laboral y empresas Implementación

Fomentar la asistencia preescolar Nacional Uruguay Educación Implementación

Aumentar las contribuciones voluntarias del Programa de Comidas Colectivas Regional Maryland (EE. UU.) Protección social Implementación

Mejorar la información en la industria del marisco Regional Alberta (Canadá) Consumo Implementación

Aumentar el número de residentes que solicitan revisiones médicas Local Nueva Orleans (EE. UU.) Salud Implementación

Reducir el vertido de basura y objetos voluminosos en Westminster Local Londres (Reino Unido) Energía y medioambiente Implementación

Piloto de Créditos Creativos Regional Manchester City Region (Reino Unido) Innovación Diseño

Incrementar la finalización de prácticas de trabajo Regional Nueva Gales del Sur (Australia) Mercado laboral y empresas Implementación

Apoyar el futuro laboral de alumnado con discapacidad Regional Maryland (EE. UU.) Educación Evaluación

Incrementar la participación de personas jóvenes en política Nacional Reino Unido Gobernanza y participación civil Evaluación

Fomentar la vacunación infantil Regional Haryana (India) Salud Implementación

Programas de ayudas a familias de bajos ingresos Local Washington D. C. (EE. UU.) Protección social Implementación

Reduciendo brechas de acceso a educación superior Nacional Perú Educación Implementación

Incentivos para servidores públicos Local Ciudad de Buenos Aires (Argentina) Gobernanza y participación civil Implementación

Aumentar la seguridad energética en organizaciones Supranacional Canadá, Irlanda, México y Omán Energía y medioambiente Implementación

Retención estudiantil y éxito académico en matemáticas e inglés Nacional Reino Unido Educación Implementación

Fomentar el take-up del Canada Learning Bond Nacional Canadá Educación Implementación

Infraestructura educativa Nacional Perú Educación Implementación

Mejorar la salud materno-infantil mediante la formación y la participación de la comunidad Nacional Indonesia Salud Evaluación

Incentivos en especie y desempeños de las personas que trabajan en salud Nacional El Salvador Salud Implementación

Reducir la sobreexplotación de merluza en Chile Nacional Chile Consumo Implementación

Diseñar juegos de azar más seguros Nacional Reino Unido Consumo Diseño

Transferencias monetarias para hogares afectados por la sequía Nacional Nicaragua Protección social Diseño

138
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS: ESTADO DEL ARTE Y ELEMENTOS PARA SU IMPULSO EN ESPAÑA

Casos nivel ámbito territorial sector ciclo

Fomentar la vacunación infantil Regional Haryana (India) Salud Implementación

Programas de ayudas a familias de bajos ingresos Local Washington D. C. (EE. UU.) Protección social Implementación

Reduciendo brechas de acceso a educación superior Nacional Perú Educación Implementación

Incentivos para servidores públicos Local Ciudad de Buenos Aires (Argentina) Gobernanza y participación civil Implementación

Aumentar la seguridad energética en organizaciones Supranacional Canadá, Irlanda, México y Omán Energía y medioambiente Implementación

Retención estudiantil y éxito académico en matemáticas e inglés Nacional Reino Unido Educación Implementación

Fomentar el take-up del Canada Learning Bond Nacional Canadá Educación Implementación

Infraestructura educativa Nacional Perú Educación Implementación

Mejorar la salud materno-infantil mediante la formación y la participación de la comunidad Nacional Indonesia Salud Evaluación

Incentivos en especie y desempeños de las personas que trabajan en salud Nacional El Salvador Salud Implementación

Reducir la sobreexplotación de merluza en Chile Nacional Chile Consumo Implementación

Diseñar juegos de azar más seguros Nacional Reino Unido Consumo Diseño

Transferencias monetarias para hogares afectados por la sequía Nacional Nicaragua Protección social Diseño

Experimento de renta básica en Finlandia Nacional Finlandia Protección social Diseño

Unión Europea (Alemania, España y


Reglamento comunitario sobre contribuciones obligatorias y voluntarias Supranacional Agricultura Diseño
Polonia)

Creación de vínculos entre pequeños agricultores a través de un mercado digital Nacional Uganda Agricultura Evaluación

Mejora en la presentación de la factura de la luz Nacional Australia Energía y medioambiente Diseño

Fomentar el reciclaje en bloques de viviendas Local Ámsterdam (Países Bajos) Energía y medioambiente Implementación

Promover comportamientos de búsqueda de ayuda entre sobrevivientes de violencia en Cen-


Supranacional Honduras y el Salvador Género Implementación
troamérica

La ampliación de servicios de guarderías infantiles y sus efectos en la participación laboral Nacional Chile Género Evaluación

Fomentar la carrera militar entre mujeres Nacional Canadá Género Diseño

La eficacia de fomentar la participación electoral Regional Míchigan (EE. UU.) Gobernanza y participación civil Implementación

Maneras innovadoras de reducir la corrupción Nacional México Gobernanza y participación civil Implementación

Incremento del pago de impuestos por parte de las empresas Nacional Costa Rica Impuestos y finanzas Implementación

Impulsar el cumplimiento de las personas contribuyentes Local Municipalidad de Mendoza (Argentina) Impuestos y finanzas Implementación

139
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS: ESTADO DEL ARTE Y ELEMENTOS PARA SU IMPULSO EN ESPAÑA

Casos nivel ámbito territorial sector ciclo

Aumentar los ahorros para la jubilación Nacional México Impuestos y finanzas Implementación

Educación financiera, acceso a la financiación y efecto de depósitos bancarios Regional Java (Indonesia) Impuestos y finanzas Evaluación

Programa de reclutamiento inclusivo Regional Victoria (Australia) Mercado laboral y empresas Evaluación

Los efectos del entretenimiento educativo para el emprendimiento en Egipto Nacional Egipto Mercado laboral y empresas Evaluación

D3T: Ayudar a las pymes en la transformación digital Regional Piedemonte (Italia) Innovación Diseño

Prevenir ausencias ante citas judiciales Nacional Estados Unidos Seguridad y justicia Implementación

Gane un minuto, pierda una hora: estación de tiempo muerto para conductores con exceso de
Nacional Estonia Seguridad y justicia Implementación
velocidad

Proyectos de seguridad ciudadana en Medellín Local Medellín (Colombia) Seguridad y justicia Evaluación

140
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Anexo 3 – Bibliografía Glennerster, R. y Takavarasha, K. (2013):


Running Randomized Evaluations, Princeton
Arroyo, I. y Fernández Albertos, J. (2021): «Los University Press.
retos de la explotación masiva de datos admi-
nistrativos para la investigación y las políticas Gueron, J. M. (2017): «The politics and practice
públicas: una visión desde dentro de la Admi- of social experiments», en Banerjee y Duflo
nistración», Cuadernos Económicos del ICE, (coords.), Handbook of Field Experiments,
102, 39-51. Northholland.

Banerjee, A. y Duflo. E. (coords.) (2017): Hand- Hopkins et al. (2020): The Experimenter In-
book of Field Experiments, Northholland. ventory: A catalogue of experiments for deci-
sion-makers and professionals, Nesta/Alliance
Bédécarrats, F., Guérin, I. y Roubaud, F. (2015): for Useful Evidence.
«The gold standard for randomized evalua-
tions: from discussion of method to political Medical Research Council (2013): Developing
economy», Working Paper UMR Dial. and evaluation complex interventions: new
guidance.
Breckon, J. (2020): Using Research Evidence. A
Practical Guide, Alliance for Useful Evidence. Nesta (2013): Standards of Evidence.

Cartwright, N. y Hardie, J. (2012): Evidence-ba- Sunstein, C. y Thaler, R. (2010): Nudge: un pe-


sed policy: a practical guide to doing it better, queño empujón, Taurus.
Oxford University Press.
Wang, S. y Yang, D. Y. (2021): «Policy experi-
Casado, J. M. y Del Pino, E. (2021): «Evolución, mentation in China: The Political Economy of
situación actual y retos de la evaluación de Policy Learning», en National Bureau of Econo-
políticas públicas en las Administraciones es- mic Research. Working paper 29402. https://
pañolas (2000-2021)», Cuadernos Económicos www.nber.org/system/files/working_papers/
del ICE, 102, 13-39. w29402/w29402.pdf.

Corduneanu-Huci, C., Dorsch, M. T. y Maarek,
P. (2021): «The politics of experimentation:
Political competition and randomized contro-
lled trials», Journal of Comparative Economics,
49(1), 1-21. https://www.sciencedirect.com/
science/article/pii/S0147596720300652.

European Commission (2021): Design and


commissioning of counterfactual impact eva-
luations. A practical guide for ESF managing
authorities, Luxemburgo: Publications Office of
the European Union.

Fuente, A. de la (2022): «Algunos comentarios


sobre el proyecto de ley de institucionalización
de la evaluación de políticas públicas», FEDEA.

141
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

Anexo 4 – Listado de
instituciones y perso-
nas entrevistadas Observatorio de la Realidad
Social de Navarra
HOGAR SÍ
• Luis Campos Iturralde
• José Manuel Caballol Bartolomé

• Maribel Ramos Vergeles

Innovation Growth Lab (IGL)


Nesta

• Hugo Cuello Díaz

ISEAK – Initiative for Socio-


Economic Analysis and
Knowledge

• Sara de la Rica Goiricelaya

• David Martínez de Lafuente

Ivàlua

• Marc Balaguer Puig

• Mireia Borrell Porta

• Ramon Sabes-Figuera

• Jordi Sanz Porras

Laboratorio de Economía
Experimental y del
Comportamiento (LINEEX) de
la Universidad de Valencia

• Penélope Hernández Rojas

Loyola Behavioral Lab de la


Universidad de Loyola

• Pablo Brañas Garza

142
LA EXPERIMENTACIÓN EN LAS POLÍTICAS PÚBLICAS

COTEC.ES
143

You might also like