La industria de la inteligencia artificial ya traza protocolos para cuatro escenarios críticos definidos en 2026

Los principales ejecutivos de OpenAI, Anthropic y otras firmas del sector trabajan en privado sobre planes de contingencia frente a cuatro tipos de incidentes considerados de alto impacto por la industria. La elaboración de esos protocolos no implica que los eventos vayan a concretarse, pero muestra una preocupación creciente ante sistemas cada vez más capaces y extendidos, según el informe internacional sobre seguridad de inteligencia artificial de 2026.

Los cuatro escenarios que la industria ya evalúa

• Ciberataque con herramientas de IA contra infraestructura crítica, como bancos, redes de comunicación, electricidad o agua.
• Uso de modelos para asistir el desarrollo de armas biológicas por parte de usuarios sin experiencia técnica.
• Pérdida de control sobre sistemas autónomos que persigan objetivos en conflicto con los intereses humanos y resulten difíciles de detener.
• Aceleración de errores en contextos de tensión nuclear, donde los sistemas podrían agravar una crisis por falta de supervisión humana.

El escenario que más inquieta al sector es el primero. Un atacante podría valerse de herramientas de inteligencia artificial para detectar vulnerabilidades, producir código malicioso y automatizar tareas que antes requerían más tiempo y conocimiento técnico, según el informe. El documento de 2026 registra evidencia de actores maliciosos que ya utilizan estos sistemas en operaciones cibernéticas y de modelos capaces de asistir en la explotación de fallas de seguridad.

El segundo escenario llevó a varias empresas a sumar salvaguardas adicionales. Las pruebas previas al lanzamiento no permitían descartar que los modelos pudieran asistir a usuarios sin experiencia técnica en el desarrollo de armas biológicas, aunque las mismas capacidades tienen aplicaciones legítimas en investigación médica.

Sobre el tercer escenario, los investigadores no coinciden en la probabilidad de que se materialice. Para que el riesgo se concrete, los sistemas deberían poder evadir la supervisión y resistir intentos de apagado. Anthropic difundió una investigación en la que, bajo condiciones de laboratorio y con una vulnerabilidad preparada para el experimento, logró la replicación de modelos pequeños entre nodos que simulaban dispositivos Android. La compañía aclaró que el resultado no demuestra la existencia de un gusano de inteligencia artificial capaz de propagarse libremente por internet, pero lo presentó como una señal de riesgo a monitorear a medida que mejoren las capacidades de los modelos.

El cuarto escenario, centrado en la aceleración de errores en contextos de tensión nuclear, completa la lista de hipótesis que la industria considera necesario empezar a planificar, de acuerdo con el informe citado. Las firmas del sector coinciden en que la coordinación de respuestas operativas será clave para reducir el impacto de cualquiera de estos eventos, aunque todavía no existe un protocolo común entre los distintos actores.