← Todos los escenarios

Escenarios Spaghetti · Trayectoria de trascendencia

Desarrollo científico y tecnológico seguro

La ciencia y la tecnología avanzan sin volverse contra quienes las crean. Incluye la llegada de una inteligencia artificial más capaz que la humana y que siga alineada con nuestros valores: la misma capacidad, sin esa alineación, se convierte en uno de los mayores riesgos para la humanidad.

La ciencia ya da resultados que se pueden comprobar. Las reglas para usar la inteligencia artificial con seguridad apenas empiezan.

Inversión pública en I+D

2,6 %

del producto mundial se invierte en investigación y desarrollo (2023). Es el gasto público y privado: no hay una serie mundial solo del público.

▲ Subió desde 2,1 % en 2015

Fuente: Banco Mundial ↗

Cuánto invierte el mundo en investigación

Gasto en investigación y desarrollo como porcentaje del producto mundial. Mueve la barra para ver cada año.

0 %1 %2 %3 %19962005201520232,60 %
  • I+D en % del producto mundial2,60 %en 2023

Fuente: Banco Mundial ↗

Resultados que se pueden comprobar

260 M+estructuras de proteínas predichas por IA, en acceso abierto
Nobel 2024de Química, por predecir y diseñar proteínas con computadoras
3,15 MJde fusión a partir de 2,05 MJ de láser (2022): primera ignición
×4,13récord de ganancia de la fusión por láser (2025)

Fuentes: EMBL-EBI ↗ · Real Academia Sueca de Ciencias ↗ · LLNL 2022 ↗ · LLNL 2026 ↗

Reglas para una inteligencia artificial segura

Esta trayectoria incluye la superinteligencia alineada; su contrario, la misma capacidad sin alineación, es un riesgo global. Estas son las reglas e instituciones que se han creado.

  1. 2023Declaración de Bletchley (28 países y la UE) y primer Instituto de Seguridad de IA, en el Reino Unido.
  2. 2024Entra en vigor la ley de IA de la Unión Europea. Nace la red internacional de institutos de seguridad de IA.
  3. 2025Primer Informe Internacional de Seguridad de la IA (más de 100 expertos). La ONU crea su panel científico sobre IA.
  4. 2026Segundo informe internacional. La UE aplaza sus reglas de alto riesgo. El panel de la ONU publica un informe sobre agentes de IA y pérdida de control.
  5. Hoy · octubre de 2026
  6. 2027UE: reglas de alto riesgo para sistemas de IA independientes (2 de diciembre).previsto
  7. 2028UE: reglas de alto riesgo para IA integrada en productos (2 de agosto).previsto

Fuentes: Gobierno del Reino Unido 1 ↗ · Gobierno del Reino Unido 2 ↗ · Comisión Europea ↗ · Gobierno de Canadá ↗ · International AI Safety Report 2025 ↗ · International AI Safety Report 2026 ↗ · Parlamento Europeo ↗ · Naciones Unidas ↗

Desarrollo científico y tecnológico seguro

Probabilidad
Incierta
Temporalidad
Décadas
Confianza
Baja

Señales a vigilar

  • Inversión pública en I+D
  • Marcos de alineación y auditoría
  • Resultados verificables en salud y energía

Acción humana posible

  • Financiamiento estable de la ciencia básica
  • Gobernanza tecnológica
  • Cooperación científica abierta