¿Hay que tenerle miedo a la IA? Sin bases éticas, sí.- UNESCO

Ciudad de México, México.- “A una Inteligencia Artificial (IA) sin bases éticas sí hay que tenerle miedo”, señaló Gabriela Ramos, Directora General Adjunta de la UNESCO para las Ciencias Sociales y Humanas, en entrevista con ONU México tras la presentación del Reporte de Evaluación del Estadío de Preparación de la Inteligencia Artificial de México, el 3 de julio de 2024 en el Senado de la República.

Dicho reporte es un diagnóstico y una hoja de ruta clara para que el Gobierno de México y estatales elaboren de forma participativa una estrategia nacional sobre IA con bases éticas. El documento fue realizado en colaboración con la Alianza Nacional para la Inteligencia Artificial (ANIA) y el Centro-i para la Sociedad del Futuro.

A la pregunta expresa sobre si debemos tenerle miedo a la IA, la titular del Sector de Ciencias Sociales y Humanas de la UNESCO a nivel global respondió que a una inteligencia artificial “sin bases éticas: sí”.

“Sabemos que estas tecnologías presentes en todos lados tienen promesas respecto de apoyarnos a hacer trabajos mucho más fáciles, más productivos, más rápidos. Pero también tienen sesgos de discriminación, riesgos de personificación, de desinformación, entonces necesitamos tener marcos éticos de gobernanza”, destacó la experta de origen mexicano.

“Las tecnologías no pueden simplemente desarrollarse y llegar al mercado como lo hizo ChatGPT sin medir cuáles son las consecuencias. Tenemos que evaluarlas y luego dirigirlas a resolver los problemas que tenemos como seres humanos”, agregó.

Gabriela Ramos indicó que México se ha comprometido a “alinear los desarrollos tecnológicos con los derechos humanos, con la dignidad humana”, por lo que el siguiente paso es elaborar una estrategia nacional sobre IA.

“Es muy importante que se desarrolle una estrategia nacional de inteligencia artificial, que sea una conversación de país y que con los buenos anuncios que se han hecho, de la creación de una Secretaría de Ciencias y Tecnología y de una Agencia Digital, se tenga una visión de hacia a dónde se quiere ir: en dónde se van a hacer las inversiones, cómo se van a adoptar estas tecnologías en los diferentes rubros, cómo se va a preparar mejor a las y los mexicanos, cómo vamos a evitar que esto no sólo sea aprovechado por quienes tienen más recursos y cómo aprender del entorno internacional”, destacó.

“Tiene que haber una colaboración de diferentes sectores”, indicó. “El sector privado es el principal productor de estas tecnologías; el Estado es el responsable de proteger a los individuos, pero también a capitalizarlas; la sociedad civil y la academia, son bienvenidas para aportar con su visión. Son tecnologías que todavía no terminamos de entender, así que hay que invertir en comprenderlas”.

Múltiples estudios estiman que los desarrollos de la IA pueden incrementar el PIB mundial entre un 1.5% y un 2% en 10 años y que podrían impactar en la transformación desde el 40% hasta el 60% de los empleos en el mundo, por lo que la UNESCO ha liderado iniciativas para preparar a los países no sólo con datos y generación de conocimiento, sino también en su aplicación para orientar políticas públicas y mecanismos de gobernanza, desde el Sector de Ciencias Sociales y Humanas.

El Reporte de Evaluación del Estadío de Preparación de la Inteligencia Artificial de México fue elaborado mediante un proceso abierto y plural con más de 250 personas y representantes de los gobiernos federal y estatales, órganos autónomos, organizaciones civiles, de la academia y la iniciativa privada, en un periodo de casi 18 meses.

A nivel global, la UNESCO ha acompañado a más 60 países, entre ellos Brasil, Holanda, España, Kenia e Indonesia, en la elaboración de este tipo de diagnósticos y recomendaciones para la orientación ética y la gobernanza de la inteligencia artificial.

LEE MÁS AQUÍ: UNESCO presenta Reporte de Evaluación del Estadio de Preparación de Inteligencia Artificial de México

Consulte y descargue fotografías AQUÍ

Texto: Eloísa Farrera / CINU México