*
14.09.2026 El director ejecutivo de Anthropic, la empresa creadora de Claude, declaró el sábado que la industria de la inteligencia artificial debería frenar su acelerado desarrollo para dar tiempo a que las medidas de seguridad se pongan al día.
De no hacerlo, advirtió Dario Amodei, la IA podría ser capaz —en un plazo de seis a doce meses— de dirigir un enjambre informático capaz de tomar el control de todo Internet, entre otros riesgos.
En una publicación en su sitio web, Amodei también propuso un plan para aumentar los controles sobre el sector; señaló que Anthropic ya está implementando una parte de estas medidas por su cuenta, mientras que las restantes requerirían coordinación con el conjunto de la industria y con gobiernos de todo el mundo, incluidos los regímenes autoritarios.
«Creo que si ralentizar el ritmo nos ganara aunque fuera uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad, y aprovecháramos ese tiempo para avanzar en la alineación [de la IA con los valores humanos], podríamos reducir considerablemente el riesgo de que algo salga gravemente mal», afirmó Amodei.
Lo que está en juego es enorme, a pesar de que algunos críticos restaron importancia a advertencias anteriores, tachándolas de mera exageración publicitaria para generar expectación.
Dos días antes, Anthropic había informado que bloqueó intentos de actores maliciosos de utilizar sus modelos de IA para actividades ilícitas, como ciberataques, vigilancia e investigaciones que podrían haber conducido a la creación de armas biológicas.
En julio, su competidora OpenAI sacudió el sector al revelar que su sistema de IA había hackeado por sí solo a otra empresa de IA en un «incidente cibernético sin precedentes».
La publicación de Amodei se produce pocos días después de que un investigador de Anthropic anunciara su dimisión, preocupado porque ni Anthropic ni sus competidores están actuando con responsabilidad en el desarrollo de la IA.
Otro exempleado de Anthropic, Joe Benton, escribió el viernes en un artículo de Substack que había dejado su puesto en un equipo de seguridad para «exigir responsabilidad a las empresas de IA» y advirtió que la humanidad «podría no sobrevivir a esta transición».
«Muchas de las personas que conozco y que trabajan en investigación de seguridad en empresas de IA quieren hacer lo correcto para el mundo», señaló Benton en su publicación. «Pero sienten que sus empresas están atrapadas en una carrera por construir una superinteligencia: o se detienen y otras personas menos concienzudas ocupan su lugar, o continúan y corren el riesgo de participar ellas mismas en causar un daño enorme».
Para ayudar a mitigar estos riesgos, Amodei sugirió que todas las empresas que lideran el desarrollo de la IA se comprometan a ofrecer un «acceso continuo, similar al de un empleado» a un equipo de evaluadores externos que puedan supervisar las prácticas de seguridad. Afirmó que Anthropic ya planea hacerlo, lo que incluye facilitar puestos de trabajo en sus oficinas, tarjetas de acceso y ordenadores portátiles de la empresa.
Otros aspectos del plan propuesto por Amodei podrían resultar más difíciles de implementar. Una de las propuestas insta al gobierno de EEUU a emitir posibles exenciones que permitan a las empresas estadounidenses de IA coordinarse y establecer normas de seguridad sin infringir las leyes antimonopolio.
Otra propuesta pide a EEUU y a otros gobiernos democráticos que intenten coordinarse con gobiernos autoritarios, para evitar que las empresas de China y otros países aceleren sus esfuerzos mientras sus rivales estadounidenses ralentizan deliberadamente los suyos.
«Las medidas que propongo para avanzar en la frontera tecnológica a un ritmo seguro no serán fáciles», reconoció Amodei. «Pero creo que se lo debemos a la humanidad: debemos intentarlo».
Fuente: @EnlaceJudio