You are on page 1of 23

Automatizar con cautela:  

Datos e Inteligencia Artificial en América 


Latina 
Policy Brief
Fabrizio Scrollini, PhD 

CON EL APOYO DE
 
 
 
 

Estamos en el comienzo del desarrollo del campo de Inteligencia Artificial​​, donde un gran número
de gobiernos y empresas en países desarrollados han comenzado a impulsar estrategias integrales
para su avance con fuertes apuestas. Independientemente del éxito futuro de este campo, no es un
fenómeno que gobiernos y sociedades puedan ignorar.

En América Latina existen usos incipientes ​de estas tecnologías en el sector público y su potencial
resta aún por ser explorado. No existe marcos éticos claros para el gobierno, la industria y la sociedad
para el avance de productos con fines públicos. Algunos estados tienen capacidades para desarrollar
herramientas por sí mismos.

Los datos (públicos, privados, abiertos y compartidos) son claves para el desarrollo de estas
tecnologías y su aprovechamiento. La eventual adopción de estas tecnologías en América Latina
requiere ​políticas integrales de datos​​ que consideren a los mismos un bien público

Una nueva serie de derechos (o la extensión de derechos tradicionales) al marco digital es clave para
proteger a la ciudadanía en este nuevo escenario y la necesidad de estructurar mecanismo de
vigilancia por parte de la sociedad.

El ​desarrollo participativo ​de modelos de inteligencia artificial en áreas sensibles parece ser una
forma de riesgo aceptable para avanzar en áreas del sector público. Esto requiere investigar sobre
cómo se desarrollan estas tecnologías.

Existe una tensión a ​resolver entre modelos propietarios de inteligencia artificial y modelos
abiertos,​​ a la hora de implementar estas tecnologías en ámbitos públicos.

La ​auditoría​​ de los algoritmos en los sector público debe ser desarrollada en América Latina.

Una visión en clave de desarrollo para América Latina debe fomentar la apropiación de esta tecnología
por parte de gobiernos y sociedades a través de herramientas adecuadas al contexto. ​Se requieren
políticas públicas tanto para favorecer la producción y el desarrollo, así como para regular la
implementación de estas tecnologías en el sector público.


 
 
 
 

1. Introducción 3

2. Definiciones básicas 4

3. Entender la inteligencia artificial en el mundo público 7


3.1 Servicios Sociales 9
3.2 Seguridad: Predicción del delito y vigilancia 11

4. Inteligencia Artificial: producción, desarrollo y políticas públicas 15

5. Automatizar con cautela: Una serie de preguntas para América Latina 17

6. Bibliografía 19

​ reative Commons 4.0.


Los derechos de esta obra están bajo una licencia C


 
 
 
 

1. Introducción
Más de 25 países -en su mayoría desarrollados- han elaborado estrategias nacionales para
avanzar en la adopción y el uso “tecnologías” de inteligencia artificial en distintas áreas del
comercio, la industria, sector público y actividades cotidianas como el transporte. Un esfuerzo
similar se ha hecho desde un pequeño grupo de empresas internacionales y fundaciones
trabajando en este tema. Las inversiones realizadas por estas entidades son cuantiosas y una
clara señal de la apuesta que se realiza en este tema. Estas aplicaciones presentan una serie
de riesgos, así como dilemas desde el punto de vista ético en todas las áreas donde operan.
Dicho de otra forma, si la hipótesis de que la inteligencia artificial ha llegado para quedarse es
cierta, entonces deberemos esperar cambios profundos en la forma en que hoy organizamos
nuestra sociedad, estado y economía (White House, 2016).

En esta lista de países solo México, dentro de América Latina, ha discutido parcialmente este
tema1. El estado de reflexión sobre este asunto es incipiente, y aún no existen marcos claros
acerca de cómo la evolución de las tecnolgías basadas en la inteligencia artificial impactará en
las sociedades latinoamericanas.

En este documento se plantean una serie de preguntas sobre el futuro de la inteligencia


artificial, en el contexto de América Latina. Para poder dar marco a una discusión se define
previamente qué entendemos, a los efectos de este trabajo, por inteligencia artificial,
aprendizaje automático y datos. Se propone luego un marco de análisis para que gobierno,
sociedad civil y academia en la región puedan estructurar un diálogo sobre la adopción de
estas tecnologías en el marco del sector público. Tercero, se presenta un conjunto de casos
donde actualmente se utilizan estas tecnologías. Finalmente se plantean una serie de
preguntas a futuro sobre este tema en la región.

Este documento no tiene pretensiones de proveer conclusiones ni certezas, sino de invitar a


nuestras sociedades y gobiernos a pensar qué tipo de evidencia precisamos para diseñar
políticas de inteligencia artificial que promuevan la innovación e inclusión en nuestras
sociedades. El trabajo sigue la línea y perspectiva que el Centro de Investigaciones de
Desarrollo de Canadá ha tomado en su reciente publicación Inteligencia Artificial para el
Desarrollo (Smith y Neupane 2018).

1
El trabajo ha sido llevado por un equipo consultor con el apoyo de la Embajada Británica en ese país.
Sin embargo este no ha prosperado en una política oficial (a la fecha de este reporte) ni parece haber
sido incorporado por los equipos de transición del nuevo gobierno. Puede consultarse más sobre el caso
mexicano en: https://www.ia2030.mx/.


 
 
 
 

2. Definiciones básicas
El concepto de inteligencia artificial pertenece al siglo XX, y fue usado por primera vez en 1955
para referirse a el uso de computadoras para resolver problemas que hoy resuelven los
humanos. Esa definición, bastante ambigua, se ha ido ramificando en distintas definiciones.
Smith y Neupane (2018) encuentran al menos 7 definiciones disponibles. Una forma sencilla de
definirla es como aquella constelación de métodos que incluyen aprendizaje automático
(machine learning), técnicas de percepción y razonamiento, así como procesamiento de
lenguaje natural2. En su aplicación, este tipo de métodos tienen una serie de usos que pueden
ser considerados “inteligentes”.

Usos Ejemplo

Optimización de procesos Mejora en cadena de servicios, eficiencia en precios de


mercado, logística

Reconocimiento de patrones Detección de fraudes, reconocimiento de rostros,


diagnósticos médicos

Predicción Detección de desastres naturales, enfermedades, etc

Procesamiento de lenguaje natural Reconocimiento de voz

Traducción automática Traducción de texto de un idioma a otro de forma


automática
Fuente: Smith y Neupane (2018)

Como en toda la ciencia de la computación, el componente común a todos estos procesos son
los algoritmos. En lenguaje llano, un algoritmo es una secuencia de pasos que siempre termina.
Las computadoras ejecutan algoritmos para realizar sus tareas. De particular importancia en el
contexto de la inteligencia artificial es el concepto de aprendizaje automático: métodos y
técnicas para que las máquinas puedan aprender a partir de su experiencia. En general, esto
involucra generalizar comportamientos a partir de los datos de entrada: cuánto más datos, se
espera que mejor sea la generalización. La diferencia principal de los algoritmos de aprendizaje
automático respecto a los algoritmos “clásicos”, es que su comportamiento no sólo depende,
sino que puede modificarse, a partir de los datos que recibe. Como señala Moncecchi (2016)
estos procesos son de relativa fácil adopción en muchas áreas de la industria y sociedad.

2
​El procesamiento de lenguaje natural es una tarea, que puede hacerse (o no) utilizando aprendizaje
automático. Se ha visto revolucionada por el aprendizaje automático. Sin embargo, no sería en puridad
una tecnología de inteligencia artificial.


 
 
 
 

Las técnicas más comunes de aprendizaje automático pueden dividirse en algoritmos de


aprendizaje supervisado, algoritmos de aprendizaje no supervisado y algoritmos de aprendizaje
por refuerzo. Avanzamos en una definición de estas.

Tipo de machine learning Definición

Aprendizaje Supervisado Los métodos de aprendizaje supervisado intentan aprender, a


partir de datos que fueron anotados previamente por un
experto/a, una función que pueda aplicarse a datos no vistos
previamente. Esta función puede ser discreta (por ejemplo,
dado un texto, indicar si expresa una opinión positiva o
negativa), o continua (por ejemplo, asignar una calificación de
crédito a un potencial deudor). A los datos utilizados para
aprender la función y evaluar su performance se los conoce
usualmente como datasets, y a cada ejemplo como instancia.

Aprendizaje no supervisado En el aprendizaje no supervisado, los datos no están anotado,


y usualmente se utilizan algoritmos de clustering para
agruparlos, buscando grupos donde las instancias se parezcan
entre sí y sean diferentes a las de los otros clusters. Otra forma
de aprendizaje no supervisado es la reducción de
dimensionalidad: este tipo de técnica puede ser útil para
obtener insights desde los datos, ya que permite visualizarlos
más facilmente.

Aprendizaje por refuerzo El aprendizaje por refuerzo es una técnica donde el algoritmo
obtiene una respuesta positiva o negativa del entorno en que
se mueve, y reacciona en consecuencia. En este caso, la
experiencia no viene de datos que existen previamente, sino
que se van generando a través de estas interacciones. Un
ejemplo típico es el de un robot intentando avanzar en un
laberinto, o los juegos como el Go, donde el aprendiz aprende
jugando contra sí mismo.
Fuente: Elaboración propia

La materia prima para el trabajo de estas técnicas son los datos. Los datos pueden ser
definidos como la unidad mínima de información. Los mismos se registran en sistemas, de
forma más o menos estructurada, y son los que permiten el desarrollo de estas técnicas. En
América Latina, ha sido importante la agenda de datos abiertos en el sector público donde se
han generado distintas políticas para la provisión de datos del sector público en al menos 8
países de la región. Consecuentemente, América Latina presenta un marco regulatorio
incipiente propicio para el desarrollo de este campo. Los algoritmos sobre los que se base este
incipiente sector serán tan buenos como los datos que logren acceder, utilizar y combinar.


 
 
 
 

Como expresara uno de los referentes actuales de este campo Andrew Ng, un movimiento de
inteligencia artificial, requiere de un movimiento igualmente fuerte de apertura de datos3.

La adopción de cualquier tecnología conlleva beneficios y riesgos. Estos son peculiarmente


sensibles al contexto en el cual operen, así como las organizaciones que implementen estas
tecnologías. Dicho lo anterior, existen al menos tres presupuestos que son básicos para
permitir el desarrollo de un campo de inteligencia artificial:

a. Estas tecnologías no pueden ser desarrolladas ​sin una infraestructura de datos,​ y


particularmente si estos datos no se encuentran abiertos. ​Las herramientas de
aprendizaje automático requieren de datos para operar y mejorar, y si los mismos no se
encuentran disponibles, en formatos abiertos, con la meta-data adecuada, existen
potenciales problemas de sesgos, así como de acceso, para quienes tienen las
capacidades de crear estas herramientas. Esto no quiere decir que todos los datos
deban ser abiertos, pero si quiere decir que quien tenga acceso a los mismos podrá o
no desarrollar mejores herramientas. Consecuentemente existe una clara conexión
entre las agendas de datos abiertos; particularmente, la apertura de información pública
y el desarrollo de estas tecnologías. Esto también se ha reflejado en la actualización de
los principios de la Carta Internacional de Datos Abiertos.
b. Una parte de las aplicaciones en materia de inteligencia artificial, pueden requerir del
uso de datos personales, o datos generados a partir de las huellas digitales que dejan
las personas en distintos servicios. No existe a la fecha un marco ético que regule el uso
de estos datos, tanto en el sector público como privado. De manera creciente, grupos de
4
expertos a nivel comparado comienzan a llamar por una regulación ética en manera de
la creación de algoritmos, y particularmente la transparencia de los procesos en los
cuáles se crean, con especial foco en el uso de los datos personales.
c. En su estado de desarrollo actual, estas tecnologías tienen aún una fuerte dependencia
de los seres humanos, particularmente para recolectar, etiquetar, clasificar y
eventualmente usar la información. Tanta es la dependencia, que algunas empresas
antes de desarrollar algoritmos, deciden explorar si vale la pena hacerlo con humanos,
una práctica dudosamente ética. Consecuentemente, la forma en las cuales los seres
humanos son entrenados para manejar y construir estas herramientas sigue siendo
importante. Cómo se construye una base de datos, que criterios se utilizan para
construir un algoritmo, son en el fondo decisiones en base a valores, que pueden
afectar seriamente la vida de las personas.
d. Un aspecto clave en el desarrollo de estas tecnologías, son los protocolos que deben
seguir sus procesos de creación para que eventualmente sea posible su auditoría y
puedan entenderse el impacto positivo o negativo de las mismas en los sectores donde
comienza su desarrollo.

3
Ver ​https://twitter.com/AndrewYNg/status/828349113376706561​ [accedido 16 de septiembre 2018]
4
Ver por ejemplo la iniciativa alemana Algorithmwatch.org.


 
 
 
 

3. Entender la inteligencia artificial en el


mundo público
A diferencia del sector privado, el mundo de lo público y particularmente el estatal tiene otras
reglas de juego. Los Estados se guían por normas legales, que establecen que es lo que se
considera permitido, y usualmente justo en una sociedad. De igual forma, se espera que los
Estados tomen sus decisiones de forma transparente y puedan rendir cuentas sobre las
mismas. También se espera que el Estado permita o prohíba desarrollos tecnológicos en la
medida que beneficien a una sociedad dada.

Los estados en general tiene un rol de nodo en nuestras sociedades. Y desde ese lugar tienen
una serie instrumentos para detectar el comportamiento de la ciudadanía, así como que sus
órdenes se cumplan, con mayor o menor grado coerción sobre las personas, en función de los
objetivos de política pública que se persigue. Una forma sencilla de concebir al Estado
-inspirado en la disciplina conocida como cibernética- como un nodo de información dentro de
una sociedad que tiene herramientas para detectar información acerca de sus objetos y sujetos
de influencia, y herramientas para lograr que sus decisiones se cumplan (efectores) (Hood y
Margetts, 2007).

El siguiente cuadro presenta un ejemplo de ambos casos, con usos sencillos de tecnologías
básicas de aprendizaje automático ya existentes en América Latina:

Área de política Efector Riesgo Oportunidad

Tránsito Sistema de Sistemas toman de Potencial reducción de


Objetivo: mejorar el video-cámaras y forma inadvertida accidentes y mayor
control de infractores sensores información o imágenes eficiencia y eficacia de
de tránsito instalados por la privadas en la vía personal asignado a
ciudad pública, clasifican tareas de control
erróneamente
conductas como
ilegales

Salud Fichas médicas, Sistemas toman Potenciales errores


Objetivo: Promover datos información no vulneran los derechos de
una acción provenientes de estructurada las personas causando
obligatoria para la redes sociales y adecuadamente riesgos en la salud de las
población o entrega censos generando falsos mismas
de un beneficio


 
 
 
 

positivos sin
supervisión

Impuestos Declaraciones Sistemas toman Potenciales errores llevan


juradas, datos información no a personas a pagar
de consumo de estructurada impuestos que no deben o
tarjetas de adecuadamente calcular erróneamente los
débito y crédito generando falsos mismos. Potenciales
positivos sin errores afectan la
supervisión privacidad de las
personas
Fuente: Elaboración propia

Estas aplicaciones existen en la actualidad de forma incipiente en algunos países de América


Latina. En la medida que nuevas tecnologías se desarrollen, es esperable que los mismos sea
adoptados por más gobiernos y sociedades. A la fecha, no existen marcos éticos y normativos
que regulen expresamente esta actividad, aunque si una serie de normas emergentes en
materia de privacidad, acceso a la información pública y tratamiento de datos personales.

Por otro lado, las aplicaciones presentadas en este cuadro, no contemplan el potencial más
radical de las aplicaciones de inteligencia artificial, tales como el re-diseño completo de
sistemas de transporte público en base a vehículos automatizados (no controlados por
humanos). El desarrollo de este tipo de proyecto, requiere también de marcos legales, éticos y
prácticos que permitan calibrar el desarrollo de estas inversiones, y existe un abundante
desarrollo de este tema en algunos centros de estudio en el norte.

Proponemos cinco variables a la hora de pensar la incorporación de tecnología de inteligencia


artificial en el sector público:

Criterio Preguntas Observaciones

Necesidad ¿Qué tipos de funciones o No todas la actividades son


actividades se buscan posibles de automatización. La
automatizar? ¿Son efectivamente atención integral a una víctima de
automatizables? violencia doméstica por ejemplo,
requiere de asistencia humana.

Infraestructura de ¿Qué tipos de datos se utilizan Las herramientas son tan buenas
datos para alimentar las herramientas como los datos disponibles y esos
desarrolladas? ¿De donde se datos se construyen de distintas
obtienen, quien los construye y maneras.
cómo?


 
 
 
 

Marco ético y ¿Qué tipos de uso de los datos No todos los datos sobre una
regulatorio son necesarios para el entidad son necesarios para
cumplimiento de la función? automatizar un proceso, ni todas
¿Quiénes serán las personas con las áreas de política son iguales. A
acceso a los mismos y bajo qué modo de ejemplo para inferir que
condiciones? ¿Que tipo de el pago de impuestos de una
análisis son permitidos o no persona no ha sido el adecuado,
sobre estos datos? basta con saber sus gastos totales
de sus tarjetas de crédito y débito,
no sus compras específicas.

Rendición de cuentas ¿Puede explicarse cómo se han Además de las obvias


construido las herramientas y implicancias en materia de
quien las ha construido? ¿Puede transparencia y eficiencia, el saber
conocerse las condiciones bajo cómo se ha construido una
las cuáles se han realizado estos herramienta parece clave para
contratos? ¿Existen formas para eventualmente poder entender su
que quienes fuese afectadas por efecto en la vida de una persona.
las herramientas puedan De ahí la importancia de los datos
reclamar? y el código abierto en ésta área

Evaluación ¿Puede justificarse la inversión Existen diversas formas de


realizada en este tipo de evaluar la adopción de tecnología,
tecnología? ¿Bajo que criterios? y solo una de ellas refiere al
costo-beneficio. Los marcos de
evaluación deben incorporar
criterios de contexto para saber -
prima facie- cuando conviene
incorporar o no este tipo de
tecnologías.
Fuente: Elaboración propia

3.1 Servicios Sociales5


La Provincia de Salta en Argentina, en alianza con la empresa Microsoft, desarrolló dos
herramientas con el objetivo de realizar la predicción de deserción escolar y embarazo
adolescente no deseado. Ambos casos fueron construidos en base a conjuntos de datos
brindados por el Ministerio de Primera Infancia de la Provincia. Según la provincia este
algoritmo permitió identificar a 397 niños en peligro de desertar la escuela y 500 mujeres que

5
Estos casos han sido desarollados en base a un trabajo previo realizado en conjunto con la Fundación
para la Web (Web Foundaiton) junto a Matías Jackson y Silvana Fumega. Además se incluye
información recabada para este caso trabajo en específico no publicada inicialmente en dicho trabajo.
Puede consultar la publicación de la Fundación para la


 
 
 
 

podrían estar en riesgo de un embarazo no deseado. El caso generó polémica en Argentina


debido a:

a) Los datos de entrenamiento de los algoritmos fueron utilizados cómo datos de evaluación,
llevando a resultados sobredimensionados
b) Los datos utilizados no comprendían una distribución de todos los posibles casos, sino que
se enfocaban en un determinado grupo social desfavorecido
c) La pregunta original planteada, no podía ser respondida a través de los algoritmos
seleccionados

El caso es interesante porque demuestra claramente tres aspectos sobre la adopción de esta
tecnología: a) la existencia de voluntad política para la adopción de estas tecnologías b) la
ausencia de un marco de experimentación para llevar adelante la política c) la importancia de la
transparencia del código para poder generar una discusión pública.

Este último punto es de particular importancia. Los desarrolladores a disposición de forma


transparente estos materiales, así como una serie de explicaciones en torno a la decisión de
utilizar las variables que eligieron. De igual forma, ambos desarrolladores pusieron a
disposición la metodología empleada para tomar las decisiones que básicamente se resumen
en 4 pasos: conocer el dominio, preparar la base de datos, definir el modelo e integrarlo. Este
caso no contó con la participación expertos de dominio en la materia.

Aplicando los criterios presentados en la sección anterior podemos proveer un análisis de este
caso.

Criterio Preguntas Observaciones

Necesidad ¿Qué tipos de funciones o A primera vista es posible detectar


actividades se buscan patrones para ambos casos, pero
automatizar? ¿Son efectivamente requiere del desarrollo de hipótesis más
“automatizables”? refinadas y de modelos causales que
expliquen que variables influyen más, lo
cuál solo puede ser respondido por una
experta/o de dominio

Infraestructura ¿Qué tipos de datos se utilizan Los datos utilizados no parecen haber
de datos para alimentar las herramientas sido curados con el propósito deseado
desarrolladas? ¿De donde se
obtienen, quien los construye y
cómo?

10 
 
 
 
 

Marco ético y ¿Qué tipos de uso de los datos Si bien existió un acuerdo marco (no
regulatorio son necesarios para el publico) y el código y procedimiento
cumplimiento de la función? fueron públicos no existió en el caso un
¿Quiénes serán las personas con marco regulatorio adecuado para el
acceso a los mismos y bajo qué experimento
condiciones? ¿Que tipo de
análisis son permitidos o no
sobre estos datos?

Rendición de ¿Puede explicarse cómo se han Aunque de forma involuntaria,


cuentas construido las herramientas y autoridades y sociedad debatieron y
quien las ha construido? ¿Puede rindieron cuentas de este caso
conocerse las condiciones bajo
las cuáles se han realizado estos
contratos? ¿Existen formas para
que quienes fuese afectadas por
las herramientas puedan
reclamar?

Evaluación ¿Puede justificarse la inversión No hubo criterios en este sentido


realizada en este tipo de
tecnología? ¿Bajo que criterios?
Fuente: Elaboración propia

3.2 Seguridad: Predicción del delito y vigilancia


En un contexto de lucha contra la inseguridad, y de incorporación de tecnología a la policía
local, el Ministerio del Interior de Uruguay la licencia del Software PredPol desarrollado por la
empresa del mismo nombre que tuviera origen en un proyecto de investigación conjunto entre
el Departamento de Policía de Los Ángeles y la Universidad de California (UCLA).

A partir de los datos brindados, PredPol elabora mapas prospectivos que predicen mediante un
algoritmo, dónde ocurrirán las incidencias delictivas de las próximas 24 horas. A través de esta
información se despliegan los recursos de patrullaje para cubrir las áreas de concentración
delictiva. La base a partir de la cual PredPol realiza sus predicciones es el registro de los datos
de criminalidad del Ministerio del Interior.

En Uruguay, PredPol realizaba sus predicciones a partir del intercambio de información e


interoperabilidad directa con el Sistema de Gestión de Seguridad Pública (SGSP), un sistema
informático diseñado para la gestión y servicio de información de seguridad pública en todo el
territorio nacional. PredPol contaba con acceso a las coordenadas y la hora de los eventos
delictivos pasados, pero no a los datos de víctimas y autores de delitos, ni tácticas y estrategias
policiales. A pesar de ser incorporados cada vez con mayor habitualidad por Departamentos de

11 
 
 
 
 

Policía de todo el mundo, los sistemas policiales predictivos no se encuentran exentos de


críticas. Un informe publicado en 2016 por investigadores del Human Rights Data Analysis
Group (HRDAG) sugiere que este tipo de programas generan un "circuito de retroalimentación"
que lleva a que los agentes sean enviados repetidamente a las mismas zonas de la ciudad,
generalmente los que concentran mayor cantidad de minorías raciales, independientemente de
la verdadera tasa de criminalidad en esa área (HRDAG, 2016).

PredPol fue utilizado durante 2014 y 2015, siendo paralelamente evaluado con los resultados
obtenidos por la Unidad de Análisis Criminal de la Policía Nacional. Identificada la coincidencia
en los resultados de ambos sistemas, el Ministerio del Interior optó por abandonar el uso de
este software, pasando a realizar el análisis estadístico directamente en el SGSP.

Aplicando los criterios presentados en la sección anterior podemos proveer un análisis de este
caso:

Criterio Preguntas Observaciones

Necesidad ¿Qué tipos de funciones o A primera vista, existe la posibilidad de


actividades se buscan automatizar algunas actividades
automatizar? ¿Son efectivamente policiales, pero depende del
“automatizables”? conocimiento de quienes tengan
expertise en el dominio.

Infraestructura ¿Qué tipos de datos se utilizan Los datos usados, son datos
de datos para alimentar las herramientas administrativos o en el caso de los
desarrolladas? ¿De donde se sistemas de video vigilancia imagenes.
obtienen, quien los construye y En el caso de datos administrativos se
cómo? utilizan sistemas de base.

Marco ético y ¿Qué tipos de uso de los datos No existe publicidad sobre los usos de
regulatorio son necesarios para el los datos ni se conocen publicamente
cumplimiento de la función? protocolos de actuación.
¿Quiénes serán las personas con
acceso a los mismos y bajo qué
condiciones? ¿Que tipo de
análisis son permitidos o no
sobre estos datos?

12 
 
 
 
 

Rendición de ¿Puede explicarse cómo se han No existen procedimientos específicos


cuentas construido las herramientas y de rendición de cuentas.
quien las ha construido? ¿Puede
conocerse las condiciones bajo
las cuáles se han realizado estos
contratos? ¿Existen formas para
que quienes fuese afectadas por
las herramientas puedan
reclamar?

Evaluación ¿Puede justificarse la inversión Existe información sobre la cantidad de


realizada en este tipo de personas detenidas, pero no analísis de
tecnología? ¿Bajo que criterios? evaluación rigurosa (costo-beneficio,
costo-oportunidad). No existe
información rigurosa de la aplicación de
los algoritmos en seguridad.
Fuente: Elaboración propia

Luego de experimentar con diversos sistemas de mapeo y segmentación de los “puntos


calientes” de la ciudad (mapa coroplético, grillas, polígonos, densidad Kernel), hoy se ha
consolidado el uso de mapas de segmentos que definen los áreas de atención no como
polígonos o cuadrantes sino como segmentos de calles.

A nivel local, el uso de este software fue cuestionado en el Informe 2017 de la organización de
Derechos Humanos SERPAJ: “Estos programas realizan machine learning; es decir, detectan
patrones en los datos de los que se alimenta, para luego repetirlos en futuras predicciones. Por
lo tanto, y esto vale para todos los sistemas que dependen de algoritmos, la información que
nos devuelva será sólo tan buena como los datos que ingresemos. (...) Un algoritmo es una
máquina de encontrar patrones y repetirlos. Aplicada sin cuidado, su lógica es la del círculo
vicioso. La tecnología se convierte en un legitimador del viejo olfato policial”. (Serpaj 2017)

El Ministerio del Interior (seguridad) también ha desplegado un programa de detección


algorítmica del delito, basada en sus sistemas de cámaras en Uruguay. En medio de una fuerte
inversión en tecnología para prevenir el delito, el Ministerio ha invertido en cámaras y centro de
seguridad que escudriñan distintas partes de la ciudad de Montevideo, así como un centro de
vigilancia en la ciudad de Maldonado. No existen evaluaciones públicas concluyentes acerca de
que el uso de las cámaras haya servido para disminuir el delito.

El Ministerio del Interior junto con una firma de plaza ha instalado un sistema de análisis de
movimiento que incluye detección biométrica, analíticas de calor, análiticas de sonido y
detección de movimiento. El sistema ha presentado varios errores y “falsas alertas”, un proceso
en el cuál se ha ido corrigiendo. Las particularidades del desarrollo de este sistema no son

13 
 
 
 
 

públicas, y consequentemente no es posible entender a cabalidad los impactos que tiene en


materia de seguridad pública. Algoritmos similares son implementados por la Intendencia de
Montevideo para la detección de placas e infracciones. Existe evidencia de cooperación entre
autoridades públicas y privadas, aunque poca claridad en la formalidad de estos mecanismos.

14 
 
 
 
 

4. Inteligencia Artificial: producción,


desarrollo y políticas públicas
Uruguay es considerado uno de los líderes regionales en materia de tecnología en el sector
público y privado. Cuenta con un fuerte incentivo para el desarrollo de industrias de software en
Uruguay, un desarrollo temprano y estable de su institucionalidad en materia de gobierno
electrónico y la adopción de un agenda sostenida en materia de datos abiertos, ha logrado
posicionarse de forma consecuente en diversos rankings internacionales de apertura de datos y
gobierno digital. Por otro lado, Uruguay es considerado una de las pocas democracias
consolidadas a nivel comparado, y la única en el hemisferio junto con Canadá.

Desde el Ministerio de Industria, Energía y Medio Ambiente (MIEM) se han llevado a cabo una
serie de consultas con industria, academia y sociedad a los efectos de diseñar una estrategia
general que conecte el valor productivo, capacidades e industria. El desarrollo de esta
estrategia se encuentra en pleno proceso, y de las discusiones iniciales pueden extraerse los
siguientes puntos6:

a. Al igual que en la mayoría de los países desarrollando estrategias, el componente


humano es clave para el desarrollo de estas herramientas. A la fecha existe en Uruguay
un grupo limitado de personas y empresas capaces de desarrollar este tipo de
tecnología, lo cual refleja un problema estructural de la oferta de recursos humanos en
este sector.
b. Existe en Uruguay la capacidad de formar estos recursos, aunque no todos los perfiles
necesarios son de corte técnico. Una nueva generación de analistas, personal
gerencial, personal con expertise en ciencia de datos, ética y ciencias sociales también
serán necesarios.
c. La expertise de ciencia de datos, que incluye actividades de recolección, procesamiento
y comunicación de los datos está aún por desarrollar en Uruguay, y existen
oportunidades en educación formal y educación no-formal.
d. Los casos de aplicación de inteligencia artificial en el sector público son aún
experimentales y no parecen haber tenido impacto sustancial (aún) en las actividades.
No existen criterios claros para la incorporación de este tipo de tecnología al sector
público.
e. La dimensión ética ha sido presentada como un aspecto que puede diferenciar a
Uruguay en el contexto de la evolución.

6
ILDA ha sido invitada a participar de este proceso y ha colaborado con autoridades del Ministerio en el
intercambio de ideas sobre estos puntos.

15 
 
 
 
 

Por otra parte, desde el gobierno uruguayo se ha impulsado un fondo de datos, destinado a
generar un espacio experimental donde distintos actores de la academia, sector privado y
sociedad puedan desarrollar actividades vinculadas a este tema. El fondo recibió 58 proyectos
con una demanda estimada de US$ 1.000.000 de dólares americanos.

De manera incipiente la Agencia para el Gobierno Electrónico y la Sociedad de la Información


(AGESIC) ha comenzado a explorar temas vinculados a la inteligencia artificial a raiz de su
paritcipación en grupos internacionales, así por su vinculación en temás de ética de datos y
datos personales. El foco de la agencia es la incorporación de estas tecnologías en el sector
público.

16 
 
 
 
 

5. Automatizar con cautela: Una serie de


preguntas para América Latina
Este documento ha buscado exponer la complejidad a la que se enfrentan los gobiernos y la
sociedad en lo que parece una marcha inexorable al desarrollo de este tipo de tecnología. Si la
premisa es cierta, consecuentemente Uruguay y la región deberían estar preparados para
responder al menos tres preguntas sobre estos nuevos desarrollos, basados en evidencia más
amplia que debe nutrir una agenda de investigación, que debería ser apropiada por gobierno y
sociedad.

Asumiendo que sólo un puñado de empresas y países con mayor cantidad de recursos
económicos han comenzado a trabajar para la concreción de estrategias nacionales de
Inteligencia Artificial, América Latina debería también desarrollar su propia reflexión sobre esto.
¿Qué capacidades, recursos, y actividades debieran tener gobiernos y sociedades en América
Latina para desarrollar las propias? ¿Qué tipos de mecanismo de cooperación institucional
pueden servir para apoyar a los países de la región en el desarrollo de sus políticas de
inteligencia artificial? Dada la explosión y novedad del tema, América Latina está a tiempo de
definir un camino propio en ésta área, aunque la forma en que esto se pueda hacer, no está del
todo clara.

Asumiendo que los datos (en particular públicos y abiertos) serán elementos centrales para el
desarrollo de esta agenda en el futuro ¿c​ómo se preparan a los gobiernos y sociedades de la
región para mejorar su liberación y uso? Si bien la agenda de datos abiertos ha avanzado en
América Latina a nivel de discurso y varios indicadores, la cantidad de datos necesarios para el
desarrollo de servicios públicos eficientes y monitoreo de los mismos es aún demasiada
precaria para el desarrollo de este tipo de aplicaciones. Se requiere entender y definir con
mayor calidad las infraestructuras de datos públicos disponibles.

Asumiendo que América Latina participará de forma activa en este proceso. ​¿Cómo
democratizar las habilidades y recursos para participar en él? Existe necesidad de democratizar
el conocimiento de estas herramientas a nivel de la ciudadanía y las iniciativas privadas. Por un
lado la necesidad de democratizar estas herramientas para que la ciudadanía acceda y
entienda los riesgos de las mismas, así como para que construya parte de la llamadas
competencias computacionales o competencias en datos es clave. Por otro lado, el nacimiento
de pequeñas y medianas empresas dando la provisión de servicios de este estilo ayudaría al
desarrollo económico a nivel local, así como a potenciar el talento a nivel local, operando como
balance frente a los asimétricos desarrollos globales. Sin un sector privado capaz de entender y
operar en distintas partes de la cadena de producción de estas herramientas, América Latina
no podría participar del desarrollo a nivel global de las mismas, ni su adaptación.

17 
 
 
 
 

Asumiendo que no todos los países tienen las mismas prioridades y problemas ¿​Dónde es más
probable que la incorporación de estas tecnologías sirva al desarrollo? ​ Esta discusión se
relaciona con cómo priorizar las áreas donde la tecnología tiene más probabilidad de tener
impacto en función de las necesidades de cada sociedad en América Latina.

Asumiendo que existe un riesgo una falta de conexión entre expertas de dominio, usuarios y
desarrolladores de esta tecnología, y que esta ausencia de conexión es un problema serio en
términos éticos, de uso y de potencial desarrollo en el sector público ​¿Qué herramientas y
técnicas podrán desarrollar gobiernos y sociedades a utilizar estas tecnologías con sentido
para sus problemas?

Asumiendo que estas tecnologías serán aplicadas a áreas sensibles cómo salud, educación,
servicios sociales. ¿​Quién y cómo determinará los criterios para aplicar estas tecnologías?
¿Cómo se realizarán auditorías de estas tecnologías a nivel conceptual y técnico? ¿Que
significa que una tecnología de estas características es auditable y quien fija los estándares y la
transparencia de los resultados? La reciente experiencia a nivel comparado de los estudios de
riesgo en materia de Derechos Humanos que empresas del sector tecnológico vienen llevando
a cabo (Latonaro 2018) abre un camino en este sentido.

Asumiendo que queremos mantener vigente un marco de derechos humanos aplicable en la


era digital ​¿Cómo luce la aplicación de mecanismos de control y aseguramiento de la vigencia
de esos derechos frente a estas tecnologías? ¿Quienes y cómo podrán controlar la aplicación
de la misma?¿Es la reciente renovación del modelo europeo de datos personales aplicable a
América Latina y cómo luce frente a estas tecnologías?

Es un tiempo incierto para este tipo de tecnología. La promesa de la automatización- y eventual


desarrollo de inteligencia inteligencia artificial- ofrecen un nuevo panorama en el sector público
y la sociedad, aunque sus implicancias productivas, éticas y políticas no son tan claras. Un
enfoque cauteloso, y una agenda de investigación basada en evidencia, podría ofrecer ventajas
para entender en que áreas avanzar, cuáles limitar y cómo asegurar que esta tecnología en
particular en manos de los actores correctos, sirva a gobiernos más transparentes e
innovadores y sociedades más justas.

18 
 
 
 
 

6. Bibliografía
Politics AI disponible en https://medium.com/politics-ai

Hood, C., Margetts, H., & Hood, C. (2007). ​The tools of government in the digital age.​

Basingstoke: Palgrave Macmillan.

Latonaro M. (2018) Governing Artificial Intelligence, disponible en

https://datasociety.net/output/governing-artificial-intelligence/

Moncecchi 2016 Inteligencia Artificial Hágalo usted mismo disponible en

https://medium.com/@gmonce/inteligencia-artificial-h%C3%A1galo-usted-mismo-597ad0256a4

8​ accedido 17 Sept 2018

Latonoreo Mike Algorithmic Accountability, A primer disponible en

https://datasociety.net/output/algorithmic-accountability-a-primer/

Ortiz J. e Iglesias M Algoritmos e Inteligencia Artifical en América Latina disponible en

http://webfoundation.org/docs/2018/09/WF_AI-in-LA_Report_Spanish_Screen_AW.pdf

Smith M y Neupane M (2018) ArtIficial Intelligence an Human Develpment: A research agenda

available at IDRC Library

Servicio Paz y Jusiticia - Serpaj (2017) Informe Serpaj disponible en

http://www.serpaj.org.uy/serpaj/index.php/documentos-de-interes/category/2-inf-serpaj

19 
 
 
 
 

Jackson, Scrollini y Fumega (2018): Inteligencia Artificial en América Latina, reporte para la

Fundación para la Web (inédito)

The White House (2016). “Preparing for the Future of Artificial Intelligence.” ​National Science

and Technology Council – Committee on Technology.

https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/

preparing_for_the_future_of_ai.pdf

20