Durante el mes de marzo, en Montevideo, tuvo lugar Khipu, la conferencia latinoamericana de inteligencia artificial. Como parte de las actividades y participaciones, ILDA lideró un taller sobre data governance y machine learning, donde más de 30 personas del campo de la investigación y el desarrollo de IA participaron.

El foco de este taller fue el debate sobre diversos casos de uso de las tecnologías de IA y qué aspectos de estas experiencias creemos que se deben mantener, arreglar o descartar. Además, fue una gran oportunidad para reflexionar sobre el rol que la academia y sus investigadores e investigadoras pueden tener en este debate e impulso de una gobernanza más democrática para los datos.

Uno de los aspectos interesantes que surgió en el debate es la oportunidad de aprender de otras disciplinas con amplia experiencia en los debates éticos, dado que la IA es un campo nuevo, y ya hay otros campos, como el de la salud, que tienen mucha experiencia y entendimiento de las leyes al momento de gestionar datos sobre personas. Es decir, que el campo de la IA no necesita empezar de cero, sino que puede beneficiarse de los aprendizajes y experiencias de otras comunidades científicas y cómo han usado estos datos.

Otros de los tópicos de debate fueron las asimetrías entre el norte y el sur global, así como las características extractivas de la industria de IA. En América Latina producimos datos pero no nos queda el valor, sino que los beneficios se concentran en el norte. A esto se le suma los problemas estructurales en nuestra región para desarrollar tecnologías de IA ante la falta de esquemas de inversión y trabajo conjunto entre industria y academia, así como la falta de inversiones del Estado.

No obstante, este no es solo un problema de inversiones. También se destacó la importancia de contar con políticas públicas que permitan generar los recursos. Por ejemplo, en algunas partes hay normativas para que parte de los impuestos que pagan las empresas se destinen a invertir en desarrollos tecnológicos.

En cuanto a los casos de uso riesgosos de la IA, las tecnologías como reconocimiento facial y captura de datos biométricos en espacios públicos prevalecen por su riesgo para las minorías, como en el caso de Brasil.

Este punto puede relacionarse con el rol que la comunidad investigadora puede tener en este impulso para una gobernanza democrática de los datos y la IA. Entre las ideas compartidas, se destacaron las asesorías técnicas para la implementación de tecnologías. Sin embargo, hay varias dificultades para esto, ya que suele ser difícil para los investigadores acceder a los reportes de errores o problemas que estas tecnologías tienen cuando se implementan, dificultando la generación de un panorama de cuáles son los riesgos e implicaciones.

Además de estos roles, los asistentes coincidieron en la importancia de participar de la alfabetización hacia quienes hacen leyes o regulan, así como a la ciudadanía en general, ya que esto aporta a democratizar la conversación y gestión sobre estas tecnologías, dado el amplio desconocimiento sobre los riesgos asociados al uso de estas tecnologías. En esta misma línea, otra de las conclusiones es que la comunidad de investigadores reunidos en el taller y aquellos que se encuentran inmersos en estas discusiones sobre ética y gobernanza democrática deben seguir liderando el debate e informando sobre las problemáticas éticas de la IA al resto de la comunidad.

En línea con las ideas debatidas durante este taller, durante Khipu también se dieron varios debates y conversaciones sobre los lineamientos éticos de la IA. Como resultado, se firmó una declaración por más de 200 personas expertas de este campo para que las tecnologías de IA estén al servicio del bien común, generando una mejora en la calidad de vida de las personas y alineadas a los principios democráticos y de derechos humanos.

Lee la declaratoria completa en: https://bit.ly/4206i6Z

Lista de firmantes: https://bit.ly/3l3Zwwp