Esta fue una prueba para evitar que los robots hechos con inteligencia artificial “no se renelen” y maten a los humanos.
03.06.2023 EU.- En un entorno simulado un dron militar operado por Inteligencia Artificial (IA) en Estados Unidos “se rebeló” y mató a su operado humano hipotético durante una prueba simulada, con el propósito de completa su misión en caso de que la persona le diera una orden negativa, según el jefe de operaciones de IA de las Fuerzas Armadas, el coronel Tucker Hamilton.
Esto se dio a conocer durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, celebrada en Londres, donde Hamilton profundizó sobre las ventajas y desventajas de un sistema de armamento autónomo donde interviniera un humano, quien se haría cargo de ordenar el “sí” o “no” final antes de un ataque.
Además, el coronel dijo que esta IA creó estrategias altamente inesperadas para lograr su objetivo, incluidos ataques contra personal e infraestructura estadunidense, esto según el sitio web de la organización Royal Aeronautical Society.
“Lo estábamos entrenando para identificar y apuntar a una amenaza de misil tierra aire. Y luego el operador diría: ‘sí, eliminar’. El sistema comenzó a darse cuenta de que, aunque a veces identificaban la amenaza, el operador humano le decía que no atacara, pero el sistema obtenía puntos si lo hacía. Entonces, ¿qué hizo? Mató al operador porque esa persona le impedía cumplir su objetivo”, explicó Hamilton.
Cabe señalar que hace un mes, Goeffrey Hinton, considerado el padre de la IA, advirtió sobre tres posibilidades que traería consigo el avance de estas tecnologías, ya que los humanos perderían el control sobre estas.
Hinton se preocupó por que la IA desinforme a millones de personas, ya que el Internet estará lleno de fotos, videos y textos falsos que impedirán al usuario saber qué es verdad y qué no.
