*
Dafna Feinholz Klip, jefa de Bioética y Ética de la Ciencia y la Tecnología de la UNESCO, habla con Enlace Judío sobre los riesgos de la IA, la pérdida de capacidad crítica de la humanidad y el trabajo que el organismo realiza con casi 80 países para impulsar políticas de inteligencia artificial basadas en principios éticos.
Psicóloga de formación, Feinholz lleva 16 años trabajando en la UNESCO, donde participa, junto con expertos de todo el mundo, en la elaboración de marcos éticos para desafíos como la inteligencia artificial, la neurotecnología y la biología sintética. Su trabajo parte de una pregunta fundamental: ¿cómo orientar el desarrollo científico y tecnológico sin perder de vista su impacto sobre las personas, las comunidades y el medio ambiente?
Para Feinholz, la bioética es ante todo un campo multidisciplinario que ayuda a identificar conflictos de valores y encontrar la mejor solución para una situación concreta, especialmente cuando están en juego la vida, el acceso a la salud, la investigación científica o el desarrollo de nuevas tecnologías.
Una organización nacida para hacer la paz
Pocos recuerdan que la UNESCO fue fundada tras la Segunda Guerra Mundial como una vía distinta a la política para lograr la paz mundial; la colaboración intelectual entre naciones. De ahí nacen conceptos como el patrimonio de la humanidad, pero también los instrumentos normativos que hoy buscan regular la inteligencia artificial.
Feinholz subrayó que ninguna tecnología debería desarrollarse solo porque es técnicamente posible o porque existe financiamiento para hacerla. Insistió en que debe existir un diálogo social amplio que determine para qué se quiere esa tecnología, a quién beneficia y a quién puede perjudicar, porque esa valoración de riesgos y beneficios no puede quedar en manos de una sola persona.
“No es una superinteligencia, somos nosotros”
Uno de los puntos más contundentes de la conversación fue su llamado a desmitificar la inteligencia artificial.
Para la especialista, el primer gran riesgo no es que la IA se vuelva “más fuerte” que los humanos, sino que la humanidad renuncie voluntariamente a su propia capacidad crítica al delegarle decisiones y tareas de pensamiento.
Feinholz recordó que cada revolución tecnológica de la historia ha implicado renunciar a algo a cambio de un beneficio mayor; en la Revolución Industrial se cedió el trabajo físico repetitivo a las máquinas para ganar tiempo libre y capacidad creativa. Su preocupación es que, con la IA generativa, ese intercambio se esté invirtiendo.
En lugar de liberar tiempo para pensar, la humanidad estaría dejando de pensar.
Los riesgos que preocupan a la UNESCO
Entre las prioridades que Feinholz coordina a nivel mundial destacan:
Privacidad y manipulación de datos, derivadas del perfilamiento constante de los usuarios en redes sociales.
Desinformación e imágenes falsas, que se agravan cuando los algoritmos muestran a cada persona solo el contenido que confirma sus propias creencias, reforzando burbujas informativas.
Impacto ambiental, ya que el entrenamiento de modelos de IA y el sostenimiento de centros de datos consumen enormes cantidades de agua y energía, al punto de que algunos países ya enfrentan restricciones para nuevos desarrollos habitacionales por la demanda energética que exigen estos centros de cómputo.
Brecha de género, pues las mujeres siguen subrepresentadas en los espacios de decisión sobre tecnología, un fenómeno que Feinholz calificó de prácticamente universal, más allá de las diferencias culturales entre países.
Casi 80 países ya trabajan con la UNESCO
A partir de la Recomendación sobre la Ética de la Inteligencia Artificial, adoptada por los Estados miembros de la UNESCO en 2021, el organismo evalúa —a solicitud voluntaria de cada país— su nivel de preparación en infraestructura, educación, marcos regulatorios y participación de la sociedad civil. Con esos resultados se construye una hoja de ruta que cada nación adapta a su propio ritmo y estructura institucional.
Feinholz detalló que prácticamente toda América Latina ha realizado este ejercicio, junto con numerosos países de Europa, Asia y el mundo árabe, entre ellos Omán y Egipto. También mencionó que la Unión Africana retomó los lineamientos de la UNESCO como base para construir su propia estrategia regional.
De la clínica psicológica a Naciones Unidas
El camino de Feinholz hacia Naciones Unidas comenzó lejos de la diplomacia internacional. Tras formarse en la Tarbut, Feinholz estudió psicología clínica, disciplina a la que se dedicó por años antes de sentir la necesidad de generar un impacto social más amplio. Ese giro la llevó a la investigación en salud reproductiva en El Colegio de México, después a la Comisión Nacional del Genoma Humano de la mano del doctor Guillermo Soberón, y finalmente a la Comisión Nacional de Bioética, desde donde representó a México en la negociación de la Declaración Universal sobre Bioética y Derechos Humanos de la UNESCO. Ese fue el puente que, años después, la llevó a ocupar el cargo que hoy dirige.
Entre las experiencias que más la han marcado, Feinholz relató un episodio en un país africano donde coordinaba un comité de expertos: mientras varios integrantes condenaban con dureza prácticas culturales ajenas a las suyas, esos mismos participantes se negaban a reconocer la existencia de la homosexualidad en su propio país. Fueron, contó, un imam y un sacerdote quienes tomaron la palabra para señalar que negar esa realidad solo prolongaba el sufrimiento de una parte de la población. El comité no llegó a incluir el tema en su agenda, pero al menos logró algo que para Feinholz ya es una victoria: que se hablara del asunto abiertamente.
“Fatal”: el termómetro ético del mundo y el avance del antisemitismo
Consultada sobre el estado actual de la ética a nivel global, la respuesta de Feinholz fue tajante. Señaló que incluso países considerados líderes en materia ética están tolerando situaciones que antes no habrían permitido, entre ellas expresiones de antisemitismo y retrocesos en materia de diversidad e inclusión, además de recortes al financiamiento de investigaciones relacionadas con estos temas.
Frente a ello, subrayó que la UNESCO impulsa programas de formación —entre ellos uno especialmente sólido sobre educación en torno al Holocausto— como una de sus principales herramientas para incidir en la conciencia ética global, más allá de su capacidad de emitir recomendaciones sin fuerza vinculante directa.
Ética, moral y una trayectoria judía-mexicana
Al cierre de la conversación, Feinholz ofreció una distinción que resume buena parte de su trabajo: la ética es el estudio de la moralidad, mientras que la moral son las reglas que se van definiendo en cada época.
Su trayectoria profesional la llevó de la psicología clínica a la bioética y, posteriormente, a la UNESCO. A lo largo de ese recorrido, su identidad judía y su preocupación por los derechos humanos, la dignidad y la convivencia entre personas y culturas diferentes forman parte de la historia que la ha llevado hasta su actual trabajo en el ámbito internacional.
Dafna Feinholz Klip, jefa de Bioética y Ética de la Ciencia y la Tecnología de la UNESCO, habla con Enlace Judío sobre los riesgos de la IA, la pérdida de capacidad crítica de la humanidad y el trabajo que el organismo realiza con casi 80 países para impulsar políticas de inteligencia artificial basadas en principios éticos.
Psicóloga de formación, Feinholz lleva 16 años trabajando en la UNESCO, donde participa, junto con expertos de todo el mundo, en la elaboración de marcos éticos para desafíos como la inteligencia artificial, la neurotecnología y la biología sintética. Su trabajo parte de una pregunta fundamental: ¿cómo orientar el desarrollo científico y tecnológico sin perder de vista su impacto sobre las personas, las comunidades y el medio ambiente?
También puede interesarte
Gurría y Roemer en conferencia mundial de IA en la UNESCO
Por Enlace Judío
La UNESCO agradece al Dr. Andrés Roemer por su apoyo en la vinculación de temas de Inteligencia Artificial
Por Enlace Judío
¿Por qué “desaparecieron” las israelíes? Este fue el motivo
Por Enlace Judío
Para Feinholz, la bioética es ante todo un campo multidisciplinario que ayuda a identificar conflictos de valores y encontrar la mejor solución para una situación concreta, especialmente cuando están en juego la vida, el acceso a la salud, la investigación científica o el desarrollo de nuevas tecnologías.
Una organización nacida para hacer la paz
Pocos recuerdan que la UNESCO fue fundada tras la Segunda Guerra Mundial como una vía distinta a la política para lograr la paz mundial; la colaboración intelectual entre naciones. De ahí nacen conceptos como el patrimonio de la humanidad, pero también los instrumentos normativos que hoy buscan regular la inteligencia artificial.
Feinholz subrayó que ninguna tecnología debería desarrollarse solo porque es técnicamente posible o porque existe financiamiento para hacerla. Insistió en que debe existir un diálogo social amplio que determine para qué se quiere esa tecnología, a quién beneficia y a quién puede perjudicar, porque esa valoración de riesgos y beneficios no puede quedar en manos de una sola persona.
“No es una superinteligencia, somos nosotros”
Uno de los puntos más contundentes de la conversación fue su llamado a desmitificar la inteligencia artificial.
Para la especialista, el primer gran riesgo no es que la IA se vuelva “más fuerte” que los humanos, sino que la humanidad renuncie voluntariamente a su propia capacidad crítica al delegarle decisiones y tareas de pensamiento.
Feinholz recordó que cada revolución tecnológica de la historia ha implicado renunciar a algo a cambio de un beneficio mayor; en la Revolución Industrial se cedió el trabajo físico repetitivo a las máquinas para ganar tiempo libre y capacidad creativa. Su preocupación es que, con la IA generativa, ese intercambio se esté invirtiendo.
En lugar de liberar tiempo para pensar, la humanidad estaría dejando de pensar.
Los riesgos que preocupan a la UNESCO
Entre las prioridades que Feinholz coordina a nivel mundial destacan:
Privacidad y manipulación de datos, derivadas del perfilamiento constante de los usuarios en redes sociales.
Desinformación e imágenes falsas, que se agravan cuando los algoritmos muestran a cada persona solo el contenido que confirma sus propias creencias, reforzando burbujas informativas.
Impacto ambiental, ya que el entrenamiento de modelos de IA y el sostenimiento de centros de datos consumen enormes cantidades de agua y energía, al punto de que algunos países ya enfrentan restricciones para nuevos desarrollos habitacionales por la demanda energética que exigen estos centros de cómputo.
Brecha de género, pues las mujeres siguen subrepresentadas en los espacios de decisión sobre tecnología, un fenómeno que Feinholz calificó de prácticamente universal, más allá de las diferencias culturales entre países.
Casi 80 países ya trabajan con la UNESCO
A partir de la Recomendación sobre la Ética de la Inteligencia Artificial, adoptada por los Estados miembros de la UNESCO en 2021, el organismo evalúa —a solicitud voluntaria de cada país— su nivel de preparación en infraestructura, educación, marcos regulatorios y participación de la sociedad civil. Con esos resultados se construye una hoja de ruta que cada nación adapta a su propio ritmo y estructura institucional.
Feinholz detalló que prácticamente toda América Latina ha realizado este ejercicio, junto con numerosos países de Europa, Asia y el mundo árabe, entre ellos Omán y Egipto. También mencionó que la Unión Africana retomó los lineamientos de la UNESCO como base para construir su propia estrategia regional.
De la clínica psicológica a Naciones Unidas
El camino de Feinholz hacia Naciones Unidas comenzó lejos de la diplomacia internacional. Tras formarse en la Tarbut, Feinholz estudió psicología clínica, disciplina a la que se dedicó por años antes de sentir la necesidad de generar un impacto social más amplio. Ese giro la llevó a la investigación en salud reproductiva en El Colegio de México, después a la Comisión Nacional del Genoma Humano de la mano del doctor Guillermo Soberón, y finalmente a la Comisión Nacional de Bioética, desde donde representó a México en la negociación de la Declaración Universal sobre Bioética y Derechos Humanos de la UNESCO. Ese fue el puente que, años después, la llevó a ocupar el cargo que hoy dirige.
Entre las experiencias que más la han marcado, Feinholz relató un episodio en un país africano donde coordinaba un comité de expertos: mientras varios integrantes condenaban con dureza prácticas culturales ajenas a las suyas, esos mismos participantes se negaban a reconocer la existencia de la homosexualidad en su propio país. Fueron, contó, un imam y un sacerdote quienes tomaron la palabra para señalar que negar esa realidad solo prolongaba el sufrimiento de una parte de la población. El comité no llegó a incluir el tema en su agenda, pero al menos logró algo que para Feinholz ya es una victoria: que se hablara del asunto abiertamente.
“Fatal”: el termómetro ético del mundo y el avance del antisemitismo
Consultada sobre el estado actual de la ética a nivel global, la respuesta de Feinholz fue tajante. Señaló que incluso países considerados líderes en materia ética están tolerando situaciones que antes no habrían permitido, entre ellas expresiones de antisemitismo y retrocesos en materia de diversidad e inclusión, además de recortes al financiamiento de investigaciones relacionadas con estos temas.
Frente a ello, subrayó que la UNESCO impulsa programas de formación —entre ellos uno especialmente sólido sobre educación en torno al Holocausto— como una de sus principales herramientas para incidir en la conciencia ética global, más allá de su capacidad de emitir recomendaciones sin fuerza vinculante directa.
Ética, moral y una trayectoria judía-mexicana
Al cierre de la conversación, Feinholz ofreció una distinción que resume buena parte de su trabajo: la ética es el estudio de la moralidad, mientras que la moral son las reglas que se van definiendo en cada época.
Su trayectoria profesional la llevó de la psicología clínica a la bioética y, posteriormente, a la UNESCO. A lo largo de ese recorrido, su identidad judía y su preocupación por los derechos humanos, la dignidad y la convivencia entre personas y culturas diferentes forman parte de la historia que la ha llevado hasta su actual trabajo en el ámbito internacional.
____________________________________________________________Las opiniones, creencias y puntos de vista expresados por el autor o la autora en los artículos de opinión, y los comentarios en los mismos, no reflejan necesariamente la postura o línea editorial de Enlace Judío.
Fuente: © EnlaceJudío