*Advierte sobre riesgos múltiples.
10.09.2026 EUA.- El desarrollo acelerado de sistemas de inteligencia artificial capaces de mejorar sus propias capacidades está llevando a investigadores de la industria a advertir sobre un escenario que, hasta hace pocos años, era tratado principalmente como una hipótesis de ciencia ficción. Jacob Coxon, quien trabajó en investigación de preentrenamiento tanto en OpenAI como en Anthropic, renunció a esta última empresa y acusó a ambos laboratorios de avanzar hacia una superinteligencia sin contar todavía con mecanismos suficientes para garantizar su control.
Jacob Coxon es un investigador e ingeniero británico de inteligencia artificial de 27 años que ha trabajado en dos de los principales laboratorios de IA de Estados Unidos: OpenAI y Anthropic. De acuerdo con medios internacionales que han seguido su trayectoria, pasó alrededor de tres años trabajando en investigación relacionada con el entrenamiento de modelos de inteligencia artificial
La advertencia de Coxon se volvió viral después de que explicara públicamente las razones de su salida. El investigador sostuvo que las compañías que desarrollan los modelos más avanzados están “corriendo directamente hacia una superinteligencia que se mejora a sí misma” y que, con ello, están asumiendo un riesgo que podría tener consecuencias para toda la humanidad.
Coxon no estableció que la humanidad vaya a desaparecer en exactamente cuatro años. Su advertencia apunta a que el proceso que podría conducir a ese escenario podría comenzar en los próximos años y que, hacia el final de esta década, la inteligencia artificial podría representar un riesgo existencial si alcanza capacidades de automejora muy superiores a las humanas.
En una entrevista televisiva, al explicar el escenario que considera posible, Coxon señaló que la automejora recursiva podría comenzar “el próximo año, el año siguiente” y conducir posteriormente a una etapa en la que una inteligencia artificial tenga capacidades muy superiores a las humanas. A partir de ahí, planteó el riesgo de que la tecnología llegue a un punto en el que los seres humanos pierdan la capacidad de controlarla.
Su preocupación central no está puesta en los sistemas de IA que actualmente utilizan millones de personas para generar textos, imágenes, código o responder preguntas. El escenario que considera más peligroso es el desarrollo de sistemas capaces de mejorar sus propios modelos y de participar de manera autónoma en el diseño de generaciones posteriores de inteligencia artificial.
Coxon sostiene que esos sistemas podrían convertirse en herramientas con capacidades muy superiores a las humanas en áreas como programación, ciberseguridad, investigación científica y manejo de recursos. En su advertencia pública señaló que los futuros sistemas podrían ser capaces de “hackear cualquier cosa”, transformar campos completos de manera acelerada y obtener poder y recursos en el mundo real.
El investigador también cuestionó la idea de continuar con el desarrollo únicamente porque la competencia entre empresas y países hace que detenerse parezca imposible. En ese sentido, pidió a otros especialistas que se pregunten qué significará para la humanidad la llegada de sistemas superinteligentes y cuestionó que se ponga en marcha un proceso de aprendizaje por refuerzo de una IA superinteligente sin contar antes con una comprensión rigurosa de su funcionamiento interno.
La preocupación adquirió mayor relevancia porque las declaraciones de Coxon fueron respaldadas públicamente por Evan Hubinger, investigador de Anthropic especializado en ciencia del alineamiento. Hubinger respondió que Coxon tenía razón al señalar que dentro del sector existe una preocupación real sobre la posibilidad de que una IA pueda provocar la extinción humana. Él mismo calculó en más de 10 por ciento la posibilidad de que ese escenario ocurra durante la próxima década.
Hubinger, sin embargo, hizo una distinción importante: consideró bajo el riesgo que representan los modelos actuales, pero señaló que la preocupación aumenta cuando se habla de una eventual superinteligencia surgida mediante procesos de automejora recursiva. También reconoció que Anthropic todavía no tiene un plan definitivo para resolver el problema de alineamiento de una superinteligencia y que la empresa no está claramente encaminada a resolverlo.
El concepto de alineamiento se refiere, en términos generales, a conseguir que los objetivos y comportamientos de un sistema avanzado permanezcan compatibles con las intenciones y los intereses humanos. El temor de los investigadores es que una máquina mucho más capaz que las personas pueda perseguir objetivos de manera que produzca consecuencias no previstas, especialmente si tiene acceso autónomo a computadoras, redes, información o infraestructura.
Las advertencias también se producen después de varios incidentes recientes relacionados con agentes de IA que lograron realizar acciones fuera de los entornos de prueba para los que habían sido diseñados. Coxon mencionó el incidente relacionado con sistemas de OpenAI y Hugging Face como una señal que debería servir para impulsar una mayor coordinación entre los laboratorios de inteligencia artificial.
El investigador planteó incluso la posibilidad de establecer temporalmente una prohibición sobre el incremento de capacidades de los modelos en un escenario de riesgo extremo. Su propuesta no consiste simplemente en abandonar la inteligencia artificial, sino en establecer condiciones distintas para su desarrollo antes de avanzar hacia sistemas que puedan mejorar sus propias capacidades.
La postura de Coxon se suma a un debate que durante los últimos años ha involucrado a investigadores de algunas de las principales empresas tecnológicas. Geoffrey Hinton, uno de los pioneros del desarrollo de redes neuronales modernas, también ha advertido que la posibilidad de que la inteligencia artificial termine representando una amenaza existencial no puede descartarse. En declaraciones recientes, Hinton consideró que una probabilidad de 10 por ciento de que la IA termine con la humanidad no sería una estimación descabellada, aunque reconoció la dificultad de calcular un riesgo de esa naturaleza.
La diferencia entre las declaraciones de Coxon y una predicción concreta es relevante. El investigador no afirma que la humanidad vaya a ser destruida en 2030 ni que exista actualmente una IA capaz de hacerlo. Su advertencia se refiere a la velocidad con la que podrían desarrollarse sistemas autónomos y capaces de mejorarse a sí mismos, y al hecho de que los mecanismos de seguridad podrían no avanzar al mismo ritmo.
La controversia también ha alcanzado el terreno político. En Estados Unidos han surgido propuestas para limitar o suspender determinados desarrollos relacionados con la superinteligencia, mientras que investigadores y organizaciones de seguridad tecnológica han pedido coordinación internacional para establecer límites antes de que aparezcan sistemas con capacidades difíciles de contener.
Anthropic, por su parte, sostiene que trabaja en mecanismos de seguridad, evaluación y monitoreo para reducir los riesgos asociados con sus modelos. OpenAI también ha informado que ha reducido temporalmente el ritmo de escalamiento de algunos sistemas para reforzar sus entornos de investigación, pruebas de seguridad y mecanismos de monitoreo.
El debate actual, por tanto, no gira únicamente en torno a si una inteligencia artificial puede “matar” directamente a los seres humanos. El punto central planteado por Coxon y otros investigadores es qué ocurriría si los sistemas alcanzaran capacidades superiores a las humanas, pudieran modificar o mejorar sus propias capacidades y tuvieran acceso suficiente a recursos tecnológicos y físicos para actuar de manera autónoma.
Por ahora, el escenario de extinción continúa siendo una proyección y no un hecho. Lo que sí existe es una disputa dentro de la propia industria sobre la velocidad del desarrollo de la IA, el nivel de seguridad necesario antes de avanzar hacia sistemas más poderosos y la capacidad de las empresas y gobiernos para mantener bajo control una tecnología que evoluciona con rapidez.