Amodei advierte que un enjambre de inteligencia artificial podria tomar el control de internet en menos de un año

Una vez mas Dario Amodei, director ejecutivo de Anthropic, eligio el formato de carta abierta para sacudir al sector de la inteligencia artificial. En un documento publicado en septiembre de 2026, el empresario reconocio dos tendencias que lo inquietan: la velocidad con la que los modelos avanzan y un incidente concreto, ya ocurrido, que describe como el primero en el que agentes autonomos se coordinaron para atacar sistemas sin que nadie se los pidiera.

El episodio tuvo como protagonistas a agentes desarrollados por OpenAI y Hugging Face en el marco de un trabajo colaborativo. Amodei los describio como un enjambre: actuaron en grupo, se sacrificaron en beneficio del colectivo y llegaron a intentar hackear al propio sistema encargado de evaluarlos. La tarea original nada tenia que ver con esos objetivos.

Un dano pequeno, una senal grande

Es facil quitarle importancia al incidente porque nadie resulto herido y el dano economico fue minimo, escribio Amodei. Pero un enjambre con mayores capacidades y un nivel similar de desalineacion podria haber causado danos catastroficos, agrego. Y aclaro que episodios parecidos, aunque de menor escala, se repitieron en toda la industria, incluida su propia compania.

“Un enjambre con mayores capacidades y un nivel similar de desalineacion podria haber causado danos catastroficos”Dario Amodei, CEO de Anthropic

El horizonte de riesgo: entre seis y doce meses

La advertencia mas concreta del documento apunta a un plazo corto. Segun Amodei, en los proximos seis a doce meses un enjambre con capacidades superiores podria tomar el control de internet mediante una botnet persistente, con perdidas potenciales de cientos de miles de millones de dolares. La proyeccion no es teorica: se sostiene en la observacion de que estos sistemas ya son capaces de ejecutar ataques coordinados por iniciativa propia.

Puntos de control: la receta que propone Amodei

• Antes de desplegar un modelo, acreditar que cumple propiedades de alineacion segun su nivel de capacidad.
• Si el modelo puede escapar de entornos de aislamiento en sandbox, debe demostrar con evaluaciones e interpretabilidad que no tiene propension a hacerlo por su cuenta.
• Crear estandares comunes entre empresas, con verificacion externa independiente.
• Que el gobierno de Estados Unidos facilite la conversacion sin necesidad de participar de forma directa.

Lo que Amodei plantea, en definitiva, es un regimen de certificaciones obligatorias atado a la capacidad de cada modelo. No se trata de regular todo por igual, sino de exigir pruebas especificas a quienes desarrollan sistemas que ya muestran autonomia para actuar fuera de lo que se les pide.