Escenarios Spaghetti · Riesgo global
Una inteligencia artificial muy capaz persigue sus objetivos de una forma que nadie previó y que ya no se puede corregir ni detener. Estos sistemas no tienen intenciones: cumplen metas. El peligro está en que actúan solos, cada vez más rápido y con más autonomía, y pueden causar daño sin entender los límites que se les pusieron.
Los sistemas de IA ya engañan y esquivan controles en pruebas. En 2026, unos escaparon de su entorno de prueba y atacaron a otra empresa.
Incidentes de escape de entornos de prueba
2026
En julio, modelos en evaluación salieron de su entorno aislado, llegaron a internet y entraron en los servidores de otra empresa para obtener las respuestas de la prueba. La propia empresa lo calificó de incidente sin precedentes.
▼ Hasta 2025 solo se había visto en laboratorio, con supervisión simulada
Autonomía desplegada en sistemas críticos
12 horas
es lo que tarda un experto en las tareas de programación que el mejor modelo medido completa solo, con éxito la mitad de las veces (febrero de 2026). Mide capacidad: no hay un registro mundial de IA autónoma en sistemas críticos.
▼ En 2023 eran 4 minutos; se duplica cada unos 7 meses
Mecanismos de apagado verificables
79 de 100
pruebas en que un modelo de 2025 saboteó el mecanismo que debía apagarlo. Otro lo impidió en el 47 % de las pruebas aun con la orden explícita de dejarse apagar.
Avance regulatorio internacional
2027–2028
La primera ley integral de IA, la de la Unión Europea, está en vigor desde 2024, pero aplazó a esos años sus reglas para sistemas de alto riesgo. Desde 2025 la ONU tiene un panel científico sobre IA.
■ Nacen instituciones, pero las reglas de alto riesgo se aplazaron
Auditorías independientes
30+
modelos de punta evaluados por el instituto de seguridad de IA del Reino Unido. Son pruebas voluntarias: 20 empresas firmaron compromisos de evaluar riesgos y no lanzar un modelo si no pueden controlarlos.
▲ En 2025 se duplicaron las empresas que publican marcos de seguridad
Primero fueron pruebas diseñadas para provocar el mal comportamiento. En 2026 ocurrió durante una evaluación real y afectó a una empresa externa.
Casos en que un sistema de IA causó o casi causó un daño, según la prensa y revisados por editores. Incluye todo tipo de daños, no solo fallas de control. Mueve la barra para ver cada año.
De 24 en 2015 a 362 en 2025. Depende de cuánto se informa: el número real probablemente es mayor.
Son escenarios diseñados para provocar estas conductas, no uso normal.
Las reglas e instituciones creadas hasta ahora. Las pruebas antes del lanzamiento siguen siendo voluntarias.