Mostrando entradas con la etiqueta Evaluaciones de Impacto. Mostrar todas las entradas
Mostrando entradas con la etiqueta Evaluaciones de Impacto. Mostrar todas las entradas

lunes, 24 de abril de 2017

Contribuciones de Grade y un Niño terrible

Grade ha servido de semillero para profesionales que luego han ocupado importantes cargos a nivel nacional e internacional.

Hace unos meses el Grupo de Análisis para el Desarrollo (Grade) cumplió 35 años de vida. En esta edad cronológica, encontramos a Grade con una gran madurez institucional y un grueso volumen de producción de conocimiento e ideas que lo consolida como uno de los mejores ‘think tanks’ del país y la región. Grade tiene un enfoque multidisciplinario y cuenta con economistas, antropólogos, historiadores, sociólogos, pedagogos, psicólogos, entre otros profesionales.

Como su nombre lo indica, Grade nació para realizar análisis para el desarrollo. Sus investigaciones se caracterizan por un alto rigor académico y estándares internacionales, siempre con la mira de conocer mejor la realidad peruana e identificar propuestas de políticas y programas basados en evidencia. Por esta misma razón, Grade también ha servido de semillero para muchos profesionales que luego han ocupado importantes cargos públicos a nivel nacional e internacional.

Como parte de este onomástico, Grade nos entrega un libro con once balances de investigación. Vale la pena leerlo. Javier Escobal señala que uno de los mensajes recurrentes del libro es la necesidad de entender “cómo contextos heterogéneos pueden generar impactos diferenciados de una misma política… [y que] al mismo tiempo, para enfrentar el problema se requieren estrategias intersectoriales articuladas”.

En educación, se revisa el impacto del contexto, la composición escolar y el nivel socioeconómico en el rendimiento de los estudiantes, se analizan las grandes brechas de equidad todavía existentes, y se discuten avances en la atención y educación de la primera infancia, además de los retos de la carrera docente en el Perú. En programas sociales, se hace un balance del impacto de una década de Juntos, así como de otros programas alimentarios y nutricionales, y hay reflexiones sobre la magnitud y consecuencias de la violencia infantil. En medio ambiente y recursos naturales, se examinan los cambios institucionales y comunales a partir del auge de la minería, y lo mismo se hace con las adaptaciones en ecosistemas de montaña al cambio climático. Finalmente, se evalúan los aportes de la economía del comportamiento a diversos aspectos en los que nos gustaría impactar para acelerar nuestro desarrollo.

Quisiera finalizar esta columna solidarizándome con todos los peruanos afectados por este terrible e inesperado episodio de El Niño costero. Lo más positivo de la experiencia han sido los múltiples gestos de apoyo a las víctimas de parte de miles de ciudadanos, organizaciones y empresas, y la actuación destacada del Gobierno y las Fuerzas Armadas en la atención de la emergencia de manera simultánea en muchos puntos del país.

Lo más negativo del evento fue la comprobación de que la magnitud del desastre pudo haberse reducido significativamente de haberse evitado el uso y el abuso de los traficantes de terrenos.

Nos jugamos en esta reconstrucción la tarea de reorganizar adecuadamente el uso del territorio y planificar el crecimiento sostenible de las ciudades, con áreas efectivamente intangibles y sistemas de construcción y drenajes adecuados para que el próximo Niño, terremoto o tsunami nos agarre mejor preparados.

Publicado en El Comercio el 16 de abril de 2017

lunes, 28 de noviembre de 2016

No se trata solo de habilidades cognitivas

Nos tocó comentar el último Reporte CAF “Más habilidades para el trabajo y la vida”, presentado en la Universidad del Pacífico. El volumen discute de manera comprensiva los aportes de la familia, la escuela, el entorno y el mundo laboral a la formación de estas habilidades.

Para lograr una adecuada inserción al trabajo y una vida plena, ya no basta acumular un nivel suficiente de habilidades cognitivas durante el proceso educativo. El consenso académico indica que igualmente importante es desarrollar un conjunto de habilidades socioemocionales –llamadas también competencias blandas–, que tienen que ver con aspectos como la perseverancia, la determinación, el autocontrol, la necesidad de logro, la apertura a nuevas experiencias, la extraversión y la empatía, entre otros.

Con Juan Francisco Castro, Pablo Lavado y un equipo del CIUP hemos medido el impacto de algunos de estos rasgos en la población adulta peruana, gracias a una encuesta pionera del Banco Mundial. Así, un bajo nivel de habilidades socio-emocionales influye negativamente tanto en la decisión de continuar con la educación superior como en las condiciones laborales y posibilidades de éxito en el primer empleo post-universitario.

Sin embargo, ¿cómo compararnos con otros países si no existen pruebas internacionales en estas áreas? CAF utiliza la metodología Borghans-Schils y PISA (pruebas estandarizadas de lectura, matemática y ciencias) para captar también déficits relativos en habilidades socio-emocionales, a través del porcentaje de alumnos cuyo rendimiento decae durante la prueba (la dificultad de las preguntas está distribuida aleatoriamente).

En países líderes, como Finlandia y Singapur, los porcentajes de estudiantes que responden correctamente las preguntas disminuye en cuatro a cinco puntos entre la primera y última (de 88% a 84% en el primer caso, y de 83% a 78% en el último). En cambio, en el Perú la pendiente negativa es cinco veces mayor: va desde 54% de aciertos en la primera pregunta a solo 29% en la última. En proporción, somos con Colombia los países latinoamericanos con mayor tasa de decaimiento en este novedoso indicador, lo que denota falta de persistencia y motivación.

Hugo Ñopo coincidió en destacar estos déficits en áreas socioemocionales como una restricción para nuestro desarrollo. Comparó estos resultados con nuestro desempeño en otras facetas como el fútbol. Somos el seleccionado sudamericano que menos sostiene un marcador favorable en los últimos diez minutos del primer o segundo tiempo de un partido (¡esperamos que el histórico 4-1 ante Paraguay de esta semana, luego de 12 años de no ganar de visita y remontando un marcador adverso, sea el inicio de un cambio de tendencia sostenido!).

¿Cómo hacer frente a estos déficits acumulados desde la primera infancia y perpetuados en la adultez? No hay todavía recetas mágicas desde el sistema educativo, pero un enfoque transversal que incluya la buena crianza, el deporte, el arte y la tutoría permanente parece imprescindible (la presencia de tres ministros en el evento demuestra la importancia del tema).


La noticia alentadora es que economistas y psicólogos expertos mundiales, como Heckman y Duckworth, señalan enfáticamente que sí se puede invertir en mejorar estas competencias desde temprano y que su retorno privado y social está por demás asegurado.

Publicado en  El Comercio el día 13 de noviembre de 2016

lunes, 29 de agosto de 2016

50 años con Fe y Alegría

Este año “Fe y Alegría” cumple medio siglo de actividades en el Perú, con el bien ganado reconocimiento de llevar educación de calidad a las zonas más pobres del país. “Allá donde termina el asfalto” como decía su fundador. Llega a 20 regiones,  administrando 67 colegios, 6 redes rurales (que involucran 161 escuelas), 7 institutos superiores tecnológicos y 21 centros de educación técnico-productiva.   

En esta misma columna comentábamos en julio 2012 cómo, en medio de muchas carencias en las afueras de Lima Metropolitana, el Colegio Fe y Alegría (CFA) 58 de Cerro Camote, obtenía los más altos puntajes en comprensión lectora y matemáticas entre todas las escuelas públicas del país.

La visita realizada a dicho plantel nos mostró varios elementos esenciales para el éxito de los CFA: el liderazgo de la directora, la cuidadosa selección de un extraordinario conjunto de maestros públicos, el acompañamiento pedagógico a éstos de acuerdo con sus necesidades, un clima institucional acogedor, y el rol activo de los padres de familia.

A nivel nacional, las evaluaciones de estudiantes de segundo de primaria indican año tras año que los estudiantes de CFA logran alrededor de veinticinco puntos porcentuales más de rendimiento comparado al promedio del país.

Sin embargo, una pregunta metodológica válida es si estos mejores resultados son más que nada producto de diferencias innatas en los estudiantes, su ambiente familiar y otros factores no observables. En otras palabras, no resulta sencillo aislar el impacto propiamente de la mística y buenas prácticas de Fe y Alegría.

Gracias a una conversación con el recordado Jesús Herrero en el Consejo Nacional de Educación, Santiago Cueto y yo nos enteramos de un mecanismo realizado en algunos CFA ante el exceso de demanda por vacantes. Algunas directoras habían optado por inscribir a todas las familias interesadas y, luego después, asignar las vacantes en sorteo público.

Este procedimiento, por lo demás justo y transparente, fue una oportunidad inmejorable para la investigación, al establecer de manera aleatoria dos grupos equivalentes de comparación. Debíamos ubicar los resultados en las pruebas de aquellos niños que no fueron favorecidos en el sorteo y que, por tanto, tuvieron que inscribirse en otros colegios, y compararlos con aquellos de estudiantes de CFA. Era lo más cercano a un experimento natural.

Pablo Lavado y Micaela Wensjoe compartieron la tarea de llevar a cabo este estudio y dirigir el acopio de los datos relevantes que, por fortuna, pudimos ubicar para el caso del CFA 26 de San Juan de Lurigancho. Nuestras estimaciones, publicadas en el Repositorio de la Universidad del Pacífico, y estudios análogos para otros CFA, sugieren que la administración de CFA genera una ganancia sustancial en términos de aprendizajes medibles, amén de la gran formación espiritual, humanística y en valores que imparten.

A partir de esta evaluación de impacto del caso del CFA 26 es posible inferir que cerca de la mitad del mejor rendimiento de los estudiantes de Fe y Alegría es efectivamente atribuible a las buenas prácticas docentes y gestión de dichos colegios. 

Felizmente, muchas empresas, hogares y el Estado peruano renuevan permanentemente el apoyo a esta gran obra, que se ha vuelto parte de lo mejor que tenemos en el Perú para ofrecer una educación de calidad a los hogares más necesitados


Publicado en El Comercio el día 21 de agosto de 2016

miércoles, 8 de abril de 2015

Evaluaciones de Impacto

Hace unas semanas tuvimos a Paul Gertler, experto mundial en evaluación de impacto, en un taller internacional con énfasis en proyectos de agua y saneamiento, gracias a una cooperación entre Banco Mundial, BID, GRADE y Universidad del Pacífico.

La evaluación de impacto es una metodología cada vez más usada para identificar los efectos causales de programas de desarrollo, aislándolos de otras variables que hayan podido influir sobre indicadores objetivo. Por ejemplo, cuando hace casi dos décadas iniciáramos ProJoven, programa que combina formación técnica de jóvenes pobres en aula con práctica laboral en empresas, incorporamos la evaluación de impacto como parte esencial de su diseño.

No bastaba mostrar que los jóvenes beneficiados incrementaban su empleabilidad e  ingresos al finalizar el programa. Una buena parte o, quizás, todo el efecto positivo podía deberse al mejoramiento de la economía, maduración de los jóvenes, o su mayor conocimiento del mercado laboral, entre otras razones.

Para aislar el efecto causal de la intervención, la evaluación necesitaba en una primera etapa medir la situación antes del programa (llamada línea de base) tanto de jóvenes que serían beneficiarios, como de otros jóvenes lo más similares posibles pero que no se beneficiarían del mismo (conocidos como grupo de control).

La segunda parte fue la valoración final del proceso (digamos a los 6, 12 y 18 meses de egresados de ProJoven) midiendo nuevamente la situación laboral de ambos grupos, para así establecer si los cambios observados en el grupo tratado superaban a los ocurridos en el grupo de control.

Los reiterados impactos positivos encontrados en Projoven sería una de las razones de su permanencia en el tiempo. Esta es una ventaja de las evaluaciones de impacto: puede ayudar a consolidar programas eficaces o a desmontar aquellos con impactos nulos o insuficientes.

¿Es costosa una evaluación de impacto? En un balance realizado hasta el 2005, encontramos con Patricia Pérez que podía significar menos de 1% del presupuesto de un proyecto grande y entre 2 a 4% en un proyecto piloto. Vale la pena destinar estos recursos para asegurarse que el dinero público está bien invertido. Salvo que, como indicara el Profesor Gertler, exista suficiente evidencia internacional acumulada que demuestre que la intervención es positiva en todas las circunstancias.

En el caso de programas innovadores con escasa evidencia es importante contar con una unidad de evaluaciones de impacto. Esto es lo que están realizando crecientemente los sectores Educación, MEF, MIDIS, Salud y Vivienda, lo cual contribuirá a asegurar que los buenos proyectos se conviertan en políticas de estado permanentes.

Una observación técnica que se suele hacer a esta metodología es que no puede salvar enteramente los problemas de construcción de grupos de control adecuados. La situación ideal es la asignación aleatoria de beneficiarios del programa pero este esquema puede ser inviable en la práctica.

Esta dificultad se puede solucionar aprovechando implementaciones progresivas de  programas, tal como se hizo con PROGRESA en México, o considerando situaciones de sorteo socialmente aceptadas, como ocurre con el exceso de demanda por vacantes de alumnos en algunos colegios de Fe y Alegría en nuestro país. El análisis de esta experiencia será materia de una próxima columna con Pablo Lavado.

Publicado en el diario El Comercio el 1 de abril del 2015.