Mitigar sesgos, proteger la privacidad, la seguridad, la transparencia y la rendición de cuentas.

Los datos son un recurso crucial para impulsar las economías digitales, la gobernanza y la comunicación. La inteligencia artificial (IA), sustentada por datos, está impulsando innovaciones y cambios sociales amplios, además de plantear importantes preocupaciones éticas y sociales. Desde ILDA entendemos que los datos juegan un papel crucial en el desarrollo de sistemas de inteligencia artificial, y este año trabajamos e impulsamos una gobernanza democrática que genere datos para una IA confiable e inclusiva.

Uno de los proyectos donde trabajamos esta temática es EmpatIA, iniciativa enfocada en impulsar el uso de la IA para el desarrollo en la región a través de capacitaciones, proyectos piloto,investigación y mapeos sobre políticas públicas vinculadas al tema. Durante 2021, EmpatIA fue seleccionada como una de las 60 soluciones para la paz del Paris Peace Forum, lo cual incluyó nuestra participación en el evento durante noviembre de ese año en la capital francesa. Además, fuimos seleccionados como uno de los 10 proyectos para recibir mentoría durante todo el 2023. Este programa incluyó una serie de talleres y capacitaciones en materia de comunicación, resolución de conflictos, herramientas digitales, planificación y monitoreo, entre otras. Esto nos permitió seguir construyendo y fortaleciendo el enfoque de EmpatIA para desarrollar una segunda etapa que se enfocará en desarrollo de capacidades, divulgación e inclusión de comunidades excluidas en materia de gobernanza y ética de IA en 2024.

Otro proyectos en el que estamos trabajando  es Innovations to monitor knowledge sharing results – Exploring the Overton platform to track policy influence, donde buscamos comprender cómo, cuándo y en qué medida la investigación realizada por organizaciones del Sur Global influye en las políticas a nivel nacional e internacional. El monitoreo, la evaluación y el aprendizaje (MEL) de tales desarrollos ayudan a orientar los recursos, así como, a ampliar la voz de las organizaciones del Sur Global en los problemas globales.

Este año también marcóel inicio del Programa Interamericano para Datos y Algoritmos, el cual tiene como principal objetivo impulsar regímenes de datos que aporten al bien público y que estén enfocados en la apertura, la inclusión y los derechos humanos. Entre los temas de este proyecto se encuentran: Gobernanza de Datos, Inclusión, Inteligencia Artificial, Derechos Digitales, Digitalización y Políticas Públicas.

Este ambicioso programa es financiado por IDRC y cuenta con cuatro organizaciones trabajando de forma conjunta y sumando esfuerzos para cumplir con los objetivos planteados. Las organizaciones somos: Centro Latam Digital, Derechos Digitales, ILDA y la Organización de los Estados Americanos (OEA). La modalidad de trabajo se basa en un enfoque altamente colaborativo, a través de una estrategia compartida y co-creada que buscará ser un referente para la región.

Desde ILDA, entendemos que la inteligencia artificial, como cualquier otra tecnología, tiene tanto beneficios como desafíos. Por eso, destacamos la importancia de tener en cuenta el impacto diferenciado que tiene para distintas comunidades como mujeres, personas de las diversidades sexuales, afrodescendientes, e indígenas. Es decir, los grupos que históricamente han sido excluidos del poder y la toma de decisiones, son aquellos que tienen el potencial de enfrentar las mayores consecuencias de los riesgos que trae consigo la IA. Estamos en un momento crucial para evitar el incremento de las desigualdades. Estas comunidades pueden estar sujetas a algoritmos de análisis, automatización y toma de decisiones con sesgos y falta de conexión con el contexto local, por lo que es importante entender cómo se desarrollan estas herramientas y qué tipo de riesgos traen y a qué comunidades pueden potencialmente impactar de forma negativa.

Por ello, hemos participado en numerosos espacios y conversaciones globales para llevar una voz latinoamericana y del Sur Global que promueve la adopción de enfoques y procesos colectivos para involucrar a estas comunidades en la gestión de datos e IA para la sociedad. Creemos que es necesario promover la creación de nuevos modelos y tecnologías que representen las complejidades, realidades y diversidad cultural latinoamericana.

En agosto, tuvimos nuevamente una semana dedicada a la IA. Generamos reflexiones colectivas junto a personas que están liderando iniciativas, investigaciones o diseñando procesos de incidencia para garantizar el uso ético de la IA en nuestras sociedades. En esta edición abordamos cómo generar una intersección entre el aprovechamiento de la IA para el desarrollo  un enfoque de derechos humanos e inclusión, pusimos el foco en los principales debates sobre regulación, implementación y transparencia de la IA en América Latina, y tuvimos una sesión práctica sobre aprendizajes y estrategias de activismo e incidencia.

Este año, también marcó el  del Índice Global de IA Responsable (GIRAI por sus siglas en inglés), proyecto donde lideramos la investigación en América Latina como hub regional. Adicionalmente, como parte del D4D Network, nuestra Directora Ejecutiva Gloria Guerrero también participa en el Steering Committee del GIRAI. Este Índice busca establecer indicadores para medir la implementación de gobiernos y actores sobre el uso responsable de la IA , lo que implica una gobernanza que prioriza la inclusión, la rendición de cuentas, la sustentabilidad y está alineada a los principios de derechos humanos.

Por otro lado, la inteligencia artificial también abre posibilidades para resolver problemas públicos y generar desarrollo económico y social. Sin duda, esto es una necesidad urgente en América Latina. Pensar, monitorear e idear formas creativas y éticas de cómo usar estas nuevas tecnologías es algo en lo que seguiremos trabajando en 2024 e impulsaremos desde distintos espacios.

En este recuento celebramos y agradecemos las invitaciones para la participación de ILDA en diversos espacios y proyectos:

• Participación en el programa de Scale-up del Paris Peace Forum y que estuvimos presentes en la edición 2023 del Foro para compartir los hallazgos y lecciones de EmpatIA en Paris.
• El inicio del Programa Interamericano para Datos y Algoritmos al lado de la OEA, Derechos Digitales y Centro Latam Digital
• La conformación y primera reunión del grupo de trabajo de gobiernos de la OEA como parte del Programa Interamericano para Datos y Algoritmos
• Que +100 personas se sumaron a los conversatorios de la Semana de IA
• La invitación y participación de ILDA en en la 9na reunión de expertos de la OECD sobre Open Government Data
• Participación del conversatorio sobre IA en el OGP Global Summit de este año en Estonia
• Nuestra sesión sobre datos e IA en el Festival de Datos celebrado en Punta del Este
• Participación en las sesiones de consulta a personas expertas en el Senado mexicano como parte de la Alianza Nacional de Inteligencia Artificial y UNESCO.
• Participación de ILDA en el Foro IDEA en la sesión sobre IA y derechos sexuales y reproductivos.
• Reunión de trabajo en RightsCon al lado del Goblab Chile para compartir ALTA, la Alianza Latinoamericana de Transparencia Algorítmica.
• La participación de ILDA en la red D4D, al lado de organizaciones del Sur Global movilizamos conocimiento para avanzar en el uso de datos e inteligencia artificial para poner la atención de los desafíos críticos que enfrentamos en nuestras regiones.
• La consolidación de la Alianza Latinoamericana para la Transparencia Algorítmica ALTA, al lado del GobLab de la Universidad Adolfo Ibáñez y la Escuela de Gobierno de la Universidad de los Andes.
• Realización de los Talleres de Prospectiva: El Rol del Gobierno como Proveedor de Datos para IA con representantes de gobierno, sociedad civil, organismos multilaterales y academia de Latinoamérica y África.

Un especial agradecimiento a las organizaciones y equipos parte de EmpatIA por todos los avances realizados para generar evidencia sobre el uso de IA para el bien público en nuestra región y al equipo del Paris Peace Forum por el apoyo para diseñar la siguiente fase de esta iniciativa.

Nos vemos en 2024, donde seguiremos impulsando proyectos, reflexiones y generación de conocimientos que promuevan una inteligencia artificial más representativa, ética y colectiva desde y para América Latina.