LocationsUn marco conceptual de los riesgos y oportunidades que emergen del uso y desarrollo de la IA generativa
Navegando las posibilidades de la IA generativa para el desarrollo sostenible
4 de Abril de 2024
Por Gabriela Ríos, Jorge Munguía, Luis Cervantes, Daniela Rodríguez, Georgina García, Stephani Rincón.
Como compartimos en la primera parte de esta serie de blogs, en el Laboratorio de Aceleración del PNUD en México, nos embarcamos en una nueva aventura de aprendizaje para explorar cómo se puede aprovechar la inteligencia artificial generativa como motor para el desarrollo sostenible.
En esta segunda entrega, presentaremos nuestros primeros aprendizajes para adentrarnos en las posibilidades que ofrece esta tecnología. Para iniciar nuestro camino de aprendizaje, nos propusimos explorar: ¿Cuáles son las oportunidades y los riesgos que conllevan el uso y el desarrollo de la inteligencia artificial generativa (IAg) para el desarrollo sostenible?
A continuación, les contamos los tres grandes pasos del proceso que seguimos para identificar los principales riesgos y oportunidades de esta tecnología emergente.
Paso 1. Marco conceptual: nuestro mapa para navegar las vastas posibilidades de la IA generativa para el desarrollo sostenible
El campo de aplicación de la inteligencia artificial generativa para el desarrollo sostenible es muy amplio; en los últimos años han surgido una diversidad de ejemplos, los cuales continúan aumentando. Algunos de ellos tienen que ver con la educación, otros con el manejo de riesgos ante desastres, otros más con el campo de la salud, cambio climático, trabajo, en fin, hay ejemplos para una multiplicidad de Objetivos de Desarrollo Sostenible (ODS). Cuando nos propusimos trabajar con esta tecnología, iniciamos explorando el potencial y riesgos de la IA generativa para la diversidad de dimensiones del desarrollo sostenible, para después seleccionar un área específica en la cual centrar nuestra atención. Esto nos permitirá tener un mapa de cómo se inserta el tema seleccionado en nuestro contexto en relación con otras áreas pertinentes o afines.
Partimos de una investigación de escritorio sobre la discusión, noticias, ejemplos, casos de uso de IA, con foco especial en la IA generativa, tanto a nivel global como en México. Además, entrevistamos a personas que trabajan en el desarrollo de esta tecnología y en sus implicaciones éticas. Para guiar nuestra exploración y estructurar los hallazgos resultantes, establecimos un marco conceptual, el cual se aprecia en la siguiente imagen:
Marco conceptual de oportunidades y riesgos de la IA para el desarrollo sostenible.
Elaboración propia.
Primero, categorizamos dos dominios que representan nuestra primera división epistemológica:
- El uso de la IA para el desarrollo sostenible: explora el potencial de los usos y aplicaciones de la IA para mejorar la sociedad.
- El desarrollo de la IA: abarca el desarrollo ético y responsable de la IA.
Ambos dominios cuentan con aspectos positivos (oportunidades) y negativos (riesgos). Para el dominio del uso, las oportunidades son las clasificadas como "IA para el bien", mientras que los riesgos potenciales se encuentran en el orden de la "IA mal utilizada". Para la categoría de desarrollo de la IA, los aspectos positivos fueron denominados "IA bien hecha" y los negativos "IA mal hecha". Además, cada una de estas cuatro posibilidades tiene una dimensión temporal, toda vez que se consideran sus implicaciones presentes y futuras.
Paso 2. Recopilación y análisis de observaciones y ejemplos de IA generativa: ¿Qué hay en el mapa?
Con nuestro marco conceptual definido, nos dimos a la tarea de recopilar, durante aproximadamente dos semanas, diversas observaciones, ejemplos y opiniones sobre el uso y desarrollo de IA en diversas partes del mundo, incluyendo México. La información que recopilamos la capturamos en una base de datos de Airtable. A continuación, puedes navegar este inventario.
Tabla de ejemplos del uso y desarrollo de la IA para el desarrollo sostenible. Elaboración propia.
Posteriormente, analizamos los ejemplos y observaciones recopilados para detectar oportunidades y riesgos de la IA, tanto para su uso y aplicación, como para su desarrollo. Es decir, analizamos la información para identificar patrones para cada uno de los cuadrantes de nuestro marco conceptual ("IA para el bien", "IA mal utilizada”, "IA bien hecha", "IA mal hecha"). Los riesgos y oportunidades que encontramos también los capturamos en una base de datos de Airtable, los puedes consultar en la siguiente tabla.
Tabla de oportunidades y riesgos de la IA para el desarrollo sostenible. Elaboración propia.
A continuación, te compartimos algunos de los principales hallazgos para cada dominio; sin embargo, te invitamos a consultar las tablas de Airtable para ver el inventario completo de oportunidades, riesgos y ejemplos de IA para el desarrollo sostenible que recopilamos.
Uso de la IA para el desarrollo sostenible: “IA para el bien” vs. “IA mal utilizada”
Marco conceptual: Oportunidades y riesgos del uso de la IA para el desarrollo sostenible.
Elaboración propia.
Durante la exploración de los usos y aplicaciones de la IA, los hallazgos que destacan para el cuadrante de “IA para el bien” (oportunidades) son: mejorar el rendimiento académico de los estudiantes y ayudar al personal docente con tareas repetitivas; apoyar el procesamiento de grandes cantidades de información en sistemas judiciales o en otros servicios públicos, y elevar la productividad en el trabajo al reducir tareas repetitivas. Estas son solo algunas de las oportunidades que benefician o beneficiarán a la sociedad.
Del otro lado, en “IA mal utilizada”, los hallazgos identificados refieren a los riesgos potenciales asociados a estos esfuerzos, como por ejemplo: hacer que los estudiantes sean susceptibles a la desinformación o afectar sus capacidades de lectura y escritura si su adopción de herramientas de IA no se orienta adecuadamente; aumentar la violencia contra las mujeres en el ámbito digital a través de la producción de contenidos como fotos o videos falsos; aumentar la desinformación entre la ciudadanía; o desplazar o sustituir trabajadores.
Desarrollo de la IA: “IA bien hecha” vs. “IA mal hecha”
Marco conceptual: Oportunidades y riesgos del desarrollo de la IA para el desarrollo sostenible.
Elaboración propia.
Cuando a lo largo de su cadena de valor, el desarrollo y diseño de la IA se realiza de manera responsable —“IA bien hecha”— existen diversas oportunidades, como por ejemplo: el surgimiento de nuevas ofertas de trabajo como el caso de ingeniería de prompts para aprovechar esta tecnología, o la creación de mecanismos de colaboración internacional para transferir conocimientos y capacidades para el desarrollo de la inteligencia artificial.
Por el contrario, cuando el desarrollo de la IA no cumple las expectativas de la sociedad y aumenta las preocupaciones medioambientales o exacerba los problemas sociales, —“IA mal hecha”—, puede traer consecuencias negativas para la vida de las personas. Por ejemplo, para el entrenamiento de los algoritmos de la IA, es necesaria la agrupación y clasificación manual de una cantidad importante de textos, imágenes y videos, actividad que tiene un efecto importante en la salud mental de las personas que desempeñan estas labores (conocidas como anotadores) y que, frecuentemente, es desarrollada en condiciones laborales precarias, especialmente en el Sur global. Asimismo, cuando no se incorpora a un grupo de profesionales en desarrollo y tecnología que represente una diversidad social en la cadena de valor de la IA, y no se cuenta con mecanismos de desarrollo adecuados, se incrementa el riesgo de tener algoritmos sesgados que reproduzcan estereotipos de género. Otro riesgo identificado tiene que ver con el impacto de este tipo de tecnologías en el planeta mediante la gran cantidad de energía que se requiere para el desarrollo y uso de IA.
Paso 3. Agrupación y selección de temas: ¿En dónde enfocar nuestra atención?
El enfoque amplio que seguimos para adentrarnos al tema de IA para el desarrollo sostentible arrojó una variedad de alternativas de riesgos y oportunidades en los cuales podríamos centrar nuestro ciclo de aprendizaje. Todas las alternativas identificadas son vías para explorar el potencial de la inteligencia artificial generativa para el desarrollo sostenible.
A continuación mostramos un mapa que resume los riesgos y oportunidades para cada una de las seis soluciones emblemáticas en las que trabaja el PNUD como parte de su Plan Estratégico 2022-2025 para impulsar el desarrollo sostenible (en la tabla de Airtable compartida anteriormente se pueden consultar las descripciones completas de los riesgos y oportunidades). La imagen muestra los resultados de las 2 semanas en que realizamos nuestra investigación ágil; es una primera versión que muestra un panorama amplio, mas no es un esquema exhaustivo con las oportunidades y riesgos existentes de esta tecnología.
Mapa de oportunidades y riesgos de la IA para el desarrollo sostenible para las soluciones emblemáticas del Plan Estratégico del PNUD 2022-2025.
Elaboración propia.
El siguiente paso en nuestro proceso consistió en seleccionar nuestro foco particular. A través de sesiones de análisis entre el equipo, acotamos las opciones a tres áreas temáticas finalistas de acuerdo al potencial de transformación que tienen para mejorar la vida de las personas, y a su alineación con necesidades y prioridades nacionales. Las alternativas finalistas fueron:
- IAg en la prestación de servicios públicos
- IAg en los sistemas de entrega de y acceso a la justicia
- IAg generativa para la acción ambiental
Finalmente, la temática seleccionada para continuar con nuestro ciclo de aprendizaje fue inteligencia artificial generativa en la prestación de servicios públicos. Desde el PNUD en México deseamos generar casos prácticos para aprender cómo los gobiernos pueden ser usuarios de tecnologías emergentes para mejorar su trabajo, proveer mejores servicios a las personas y, ultimadamente, mejorar la relación entre la ciudadanía y el gobierno.
En nuestra siguiente entrega compartiremos nuestro trabajo sobre IA generativa y servicios públicos.
Si formas parte de alguna iniciativa en la que la IA generativa contribuya al desarrollo sostenible, nos gustaría conocerla, así que ponte en contacto con nuestro equipo (acclabmx@undp.org).
