*Advierte Melissa Fleming, Secretaria General Adjunta de Comunicación Global de la ONU, riesgos graves por no poder reconocer la verdad de la ficción como efecto del uso de la IA.
“Con la aparición de la inteligencia artificial tenemos dificultad de distinguir entre lo que es real y lo que no es real (…) Lo estamos viendo en todo el mundo y nos preocupa mucho. Vemos que las personas pierden la confianza en la información que reciben y también en las instituciones que son parte de la democracia”, indicó Melissa Fleming, durante su participación en el conversatorio “El día en el que la IA reemplazaría a la democracia”, celebrado el 4 de diciembre en la Feria Internacional del Libro de Guadalajara 2024 por FIL Pensamiento.
Durante su intervención ante cientos de estudiantes, Fleming valoró los usos positivos de la inteligencia artificial y su capacidad y potencial revolucionario para acelerar el progreso de los Objetivos de Desarrollo Sostenible. Y citó herramientas innovadoras, como Food AI, HungerMap LIVE y PulseSatellite, las cuales contribuyen a la respuesta humanitaria, la acción climática y la construcción de la paz.
Sin embargo, la también periodista alertó sobre el “lado oscuro de la IA”, como la saturación de falsos contenidos noticiosos diseñados con inteligencia artificial y el uso de deepfakes para suplantar identidades, desinformar y manipular a la gente. Este año en particular, en el que más de 50 países celebraron elecciones, se reportaron numerosos casos de deepfakes con fines políticos en todo el mundo, lo que mermó la confianza de la gente y, por ende, la democracia.
A ello se suma el colapso del modelo de negocio de los medios de comunicación tradicionales a causa, en buena medida, de los algoritmos en las redes sociales diseñados con IA, una de las razones por las que el ecosistema informativo se ha deteriorado en los últimos años, señaló.
“Muchos medios de comunicación están casi extintos. Ahora tenemos más redes sociales, más información, pero es demasiada información y demasiada mala información. Las personas no son capaces de reconocer la verdad de la ficción y ello va en detrimento de la información confiable como pilar fundamental para la democracia”, destacó la jefa de comunicación global de la ONU.
En ese sentido, Fleming exhortó a las y los estudiantes y al público de la FIL a consumir información confiable y a fortalecer sus herramientas educativas, además de ayudar a los medios informativos que sí verifican la información. “No podemos darnos por vencidos. Busquemos y apoyemos fuentes creíbles de información. Paguemos las suscripciones de los periódicos y compremos libros”, dijo.
Regulación para una IA responsable
Durante su intervención, Fleming también enfatizó la necesidad urgente de una gobernanza de la IA para regular su uso y cerrar las brechas digitales.
Para ello llamó a establecer marcos de gobernanza inclusivos y equitativos que respeten los derechos humanos y prioricen las necesidades de las poblaciones vulnerables, en línea con lo acordado en el Pacto para el Futuro, en la sede de Naciones Unidas en septiembre de 2024, el cual cuenta como anexo el Pacto Global Digital, un acuerdo y marco histórico para la gobernanza digital y de la IA.
“Aún hay muchas personas que carecen de acceso a internet. Necesitamos asegurar que no sean excluidas de los beneficios digitales, incluida la IA. Pero también necesitamos asegurar un uso seguro de la IA que coloque a las personas en el centro. La inclusión es clave para acelerar el cumplimento de los Objetivos de Desarrollo Sostenible”, indicó.
El Pacto Global Digital plantea crear un Panel Científico Internacional sobre IA y Tecnologías Emergentes para llevar a cabo evaluaciones independientes y multidisciplinarias de riesgos científicos y oportunidades basadas en evidencia. Algo similar al IPCC, el Panel Intergubernamental de Expertos sobre Cambio Climático, el cual cuenta con científicos de todo el mundo. “Necesitamos sentar a un grupo multidisciplinario para asegurar que la AI nos beneficie a todos”, dijo Melissa Fleming.
El Pacto Global Digital también propone iniciar, bajo los auspicios de la ONU, un Grupo de Contacto Internacional sobre Gobernanza de la IA que reúna anualmente a representantes expertos de gobiernos responsables de la seguridad y la gobernanza de la IA, en el marco de conferencias y reuniones clave de la ONU.
Por último, Melissa Fleming recomendó a las y los presentes a conocer y adoptar los Principios Globales de la ONU para la Integridad de la Información, lanzados en junio de 2024 por el Secretario General de la ONU, António Guterres. Estos principios cuentan con recomendaciones para plataformas digitales, gobiernos, medios de comunicación tradicionales, anunciantes y usuarios para que asuman su responsabilidad en la construcción de un ecosistema informativo más humano, seguro y pacífico. Para mayor información sobre los Principios Globales de la ONU para la Integridad de la Información, consulta: www.un.org/information-
En el conversatorio “El día en el que la IA reemplazaría a la democracia”, celebrado como parte del Foro “Horizontes de la IA: trabajo, democracia y poder”, también participaron: Cristina Martínez Pinto, fundadora y directora del PIT Policy Lab y Maestra en Políticas Públicas por la Universidad de Georgetown; Sissi de la Peña, Directora de Asuntos Internacionales en la Academia Mexicana en Ciberseguridad (AMCID) e integrante del Tech Policy Fellowsheep 2024-2025 en la Universidad de Berkeley; Tarcízio Silva, Doctor en Ciencias Socialesy Humanidades y autor del libro “Racismo Algorítmico: inteligencia artificial y discriminación en redes digitales”, y Raúl Trejo Delarbre, Profesor en el Instituto de Investigaciones Sociales de la UNAM, Premio Universidad Nacional en investigación en Ciencias Sociales 2023. El moderador fue César Guillermo Ruvalcaba Gómez, Secretario Administrativo de CUAltos y Doctor en Derecho, Gobierno y Políticas Públicas por la Universidad Autónoma de Madrid.
El video completo del conversatorio se puede ver en el siguiente enlace: El día en que la IA reemplazaría a la Democracia
