Las predicciones de los expertos sobre AGI se han movido constantemente en una dirección: antes. No en todos los casos individuales, sino como una tendencia en toda la comunidad investigadora durante la última década. Comprender por qué esto sigue sucediendo y qué significa para la gobernanza es más importante que cualquier estimación de fecha específica.
Lo que realmente muestran las encuestas de predicción
Los datos más sistemáticos sobre las líneas de tiempo de AGI provienen de AI Impacts, que ha encuestado a investigadores de IA sobre cuándo esperan ver "inteligencia de máquina a nivel humano" (aproximadamente equivalente a AGI) a lo largo de varios años. Los resultados son instructivos.
En 2016, los investigadores encuestados colocaron la probabilidad media de HLMI en aproximadamente el 50% para 2061. Para 2022, antes de la publicación pública de GPT-4, esa mediana ya se había movido significativamente antes. Los investigadores que hacen estas predicciones no son agoreros ni publicistas. Son las personas que construyen los sistemas que predicen.
El patrón de los datos no es que las líneas de tiempo hayan convergido en una fecha específica. No lo han hecho. El patrón es que cada nueva encuesta (calibrada en función del desarrollo de capacidades reales) produce plazos más cortos que la anterior.
Cuatro años. Desde un texto que apenas se mantuvo unido hasta el desempeño en el decil superior de expertos humanos en medidas estandarizadas de competencia profesional. Este es el registro empírico con el que se deben calibrar las predicciones cronológicas.
Cada predicción analizada aquí (Metaculus, los laboratorios, las encuestas) en una línea de tiempo interactiva.
Lo que dicen las personas que construyen la IA
Las declaraciones públicas de los ejecutivos de los laboratorios fronterizos de IA no son lo mismo que sus supuestos de trabajo internos. Pero de todos modos son notables, porque las declaraciones públicas de personas que desempeñan estos roles son típicamente conservadoras, limitadas por las relaciones con los inversores, el escrutinio regulatorio y la norma profesional de cautela ante reclamaciones extraordinarias.
"Ahora estamos seguros de que sabemos cómo construir AGI como lo hemos entendido tradicionalmente".
Sam Altman, director ejecutivo de OpenAI · Enero de 2025
"Creo que podríamos estar a sólo unos años de distancia (tal vez incluso antes) de una IA que supere la inteligencia humana en todos los ámbitos".
Dario Amodei, CEO de Anthropic · Ensayo "Máquinas de Gracia Amorosa" · Octubre 2024
Estas no son declaraciones de personas que piensan que AGI es una perspectiva lejana. Son las comunicaciones públicas consideradas de las personas que toman decisiones de asignación de capital basadas en proyecciones internas que casi con certeza son más breves que lo que publican.
Cuando una empresa gasta decenas de miles de millones de dólares en infraestructura de IA basándose en la suposición interna de que la IA transformadora es inminente, el cronograma es operativamente real, independientemente de lo que diga el equipo de relaciones públicas sobre la incertidumbre.
Por qué la fecha es menos importante que la distribución
La respuesta natural a las discusiones sobre el cronograma del AGI es centrarse en una fecha específica: ¿será 2027? 2030? 2040? Este encuadre es comprensible pero engañoso. La pregunta que importa para la gobernanza no es "¿cuándo exactamente?" pero "¿cuál es la probabilidad de que AGI llegue dentro del horizonte de planificación de nuestras instituciones actuales?"
Considere lo que realmente requiere la construcción de una gobernanza adecuada de la IA:
- Las negociaciones de tratados internacionales suelen tardar varios años desde su inicio hasta su firma.
- La ratificación e implementación de acuerdos internacionales lleva años adicionales
- Se debe diseñar, financiar y desplegar la infraestructura técnica para la verificación y el seguimiento.
- Se debe aprobar legislación nacional en los principales países en desarrollo de IA
- Los marcos de gobernanza informática requieren mecanismos de cumplimiento de la industria creados a lo largo del tiempo.
Incluso con una voluntad política extraordinaria, un marco internacional significativo de gobernanza de la IA construido desde cero requiere un mínimo de cinco a diez años. Si la probabilidad de que AGI llegue dentro de una década no es trivial (y la evidencia sugiere que así es), entonces la gobernanza que comienza después de que AGI se vuelva "claramente inminente" no terminará a tiempo.
Éste ya es un problema actual. La ventana de gobernanza no es ilimitada ni estática. Se está estrechando.
La asimetría que facilita esta decisión
Existe una asimetría entre los dos tipos de error disponibles aquí. Si construimos marcos sólidos de gobernanza de la IA y AGI resulta estar más lejos de lo esperado, el costo será un esfuerzo desperdiciado, cierta fricción regulatoria para el desarrollo de la IA y un conjunto de instituciones internacionales que estarán listas cuando llegue el momento. Si esperamos tener certeza sobre los cronogramas antes de construir la gobernanza, y AGI llega antes de que la gobernanza esté establecida, el costo es potencialmente irrecuperable.
Esta asimetría es la misma que motivó la gobernanza nuclear antes de que se extendieran las armas, la protección del ozono antes de que colapsara la capa de ozono y la preparación para una pandemia antes de que llegara el siguiente brote. En cada caso, las instituciones construidas bajo la incertidumbre demostraron su valor cuando se materializó el escenario previsto.
"La humanidad tiene un historial pobre en la construcción de instituciones después del hecho, lo que requirió anticipación para construirlas antes del hecho".
Yoshua Bengio, Premio Turing y Premio Nobel · 2024
Los argumentos a favor de actuar ahora no dependen de creer en los plazos más agresivos del AGI. Sólo depende de tomar en serio toda la gama de estimaciones creíbles (incluidas las más breves) y responder a esa incertidumbre con medidas de gobernanza adecuadas.
¿Qué viene después de AGI?
AGI es el umbral de preocupación, no el término. Un sistema de rendimiento cognitivo a nivel humano en todos los dominios tiene la capacidad de mejorar su propio diseño, de automejorarse recursivamente de maneras que podrían comprimir la línea de tiempo desde AGI hasta superinteligencia artificial en meses, no en décadas.
Este es el escenario que ha motivado las advertencias más serias por parte de los investigadores más cercanos a la tecnología. No AGI en sí, sino la dinámica que puede seguir a AGI, incluida la posibilidad de pasar de un sistema controlable a uno incontrolable más rápido de lo que las instituciones humanas pueden responder.
La implicación para la gobernanza es directa: los marcos deben estar implementados antes de cruzar el umbral AGI, no después. El momento de negociar es ahora, mientras todas las partes todavía están avanzando hacia el umbral y ninguna lo ha cruzado. Las tres propuestas políticas del Nakada Foundation están diseñados exactamente para esta ventana.
Preguntas comunes.
¿Qué es AGI y en qué se diferencia de la IA actual?
AGI (inteligencia general artificial) se refiere a sistemas de IA capaces de realizar cualquier tarea cognitiva que pueda realizar un humano, sin estar entrenado específicamente para cada una de ellas. La IA actual es limitada: extremadamente capaz dentro de dominios definidos, incapaz de transferir esa capacidad a tareas fuera de su entrenamiento. AGI no tendría estos límites de dominio. Esa eliminación de fronteras es precisamente lo que introduce las propiedades autónomas de búsqueda de objetivos que hacen que la alineación y la gobernanza sean críticas.
¿Cuándo se desarrollará AGI?
No existe ninguna estimación puntual creíble. La afirmación más defendible es: AGI es plausible dentro de los horizontes de planificación de las instituciones de gobernanza actuales, lo que significa dentro de diez a veinte años, posiblemente mucho antes. Las predicciones de los expertos se han revisado constantemente a medida que se han desarrollado las capacidades. Los ejecutivos de los principales laboratorios de IA de vanguardia han descrito AGI en términos de años, no de décadas. Las encuestas de investigadores sobre AI Impacts muestran una tendencia de una década hacia plazos más cortos.
¿Podrían los plazos del AGI ser mucho más largos de lo que predicen los expertos?
Sí, y esta posibilidad debería tomarse en serio. Puede haber obstáculos fundamentales para la inteligencia general que las arquitecturas actuales no puedan superar. El debate sobre si el escalamiento por sí solo produce generalización no está resuelto. Pero la respuesta adecuada a la incertidumbre genuina es no esperar a tener certeza, especialmente cuando el costo de equivocarse en el lado corto es catastrófico y el costo de equivocarse en el lado largo es simplemente un conjunto de instituciones de gobernanza que llegan un poco antes.
¿Qué viene después de AGI?
Superinteligencia artificial (IA que supera el rendimiento a nivel humano en todos los dominios cognitivos por un margen significativo y que puede ser capaz de mejorar recursivamente su propio diseño). La transición de AGI a ASI puede ser rápida. Si los objetivos de la IA están desalineados en el umbral AGI, es posible que no sea posible corregirlos una vez que el sistema alcance la capacidad del nivel ASI. Esta es la razón por la que la gobernanza debe existir antes de que se cruce el umbral AGI, no después.