The technical community has spent a decade warning. The warnings did not slow the labs. What is missing now is political will, legal frameworks, and a coalition strong enough to halt the race to systems nobody can control.
El Nakada Foundation to Save Humanity se estableció sobre una única premisa: que las decisiones más trascendentales en la historia de la humanidad, decisiones que determinarán si nuestra especie sobrevive, no deberían ser tomadas por un puñado de ingenieros de cinco corporaciones en un país.
No estamos alineados con el establishment de investigación de seguridad de la IA, que está financiado en gran medida por los mismos laboratorios que se apresuran a construir los sistemas que estudia. Creemos que la estructura de incentivos del campo de la seguridad de la IA está fundamentalmente comprometida y que la solución no vendrá desde dentro de la industria.
Narrow AI is transformative and beneficial. Puede curar enfermedades, acelerar los descubrimientos y ampliar el potencial humano. No estamos en contra de la IA. Estamos en contra de construir una forma de inteligencia que no podemos controlar, alinear y detener.
El cambio requiere presión externa: de los gobiernos, de las leyes, de la cultura y de personas que comprendan que lo que está en juego no es un resultado del mercado sino la supervivencia de la especie humana. Tenemos un modelo para esto. Se llama el Nuclear Non-Proliferation Treaty.
A diferencia de las organizaciones de investigación de seguridad de IA, no construimos, entrenamos ni experimentamos con sistemas de IA. No aceptamos financiación que pueda crear un conflicto entre nuestra misión y nuestro mensaje.
A diferencia de las organizaciones de ética de la IA, nos centramos exclusivamente en el riesgo existencial: no en el sesgo, la equidad o el mal uso de la IA existente. Éstas son cuestiones importantes. No son el mismo problema que la extinción.
Operamos como un movimiento político, no como un instituto académico. Buscamos cambiar la opinión pública, formar coaliciones y cambiar las leyes, como ha operado todo movimiento social exitoso en la historia.
La gente a menudo nos cataloga como "pausa": unos años de respiro para que los laboratorios puedan hacer que la superinteligencia sea segura y luego reanudarla. Esa no es la pregunta. Queremos que los gobiernos impidan la superinteligencia artificial y que sigan impidiéndola hasta que exista la ciencia de controlar una mente más inteligente que la nuestra. Hoy esa ciencia no lo hace.
La diferencia es la de carga. Una pausa supone un problema de horario: reduzca la velocidad, deje que el equipo de seguridad se ponga al día, presione ir. Nadie tiene una forma validada de controlar un sistema más capaz que sus creadores. No a pequeña escala. No en libertad. Ningún método probado. La gente que corre para construirlo lo dice en público.
Si eso sigue siendo cierto, entonces construir superinteligencia con métodos similares a los actuales no produce una tecnología riesgosa que deba gestionarse con cuidado. Produce un resultado del cual no hay recuperación. Este es el argumento expuesto más claramente en el libro 2025. If Anyone Builds It, Everyone Dies, de Eliezer Yudkowsky y Nate Soares. No es necesario aceptar todas las afirmaciones que contiene para ver la asimetría: obtendríamos exactamente un intento y nadie puede decirle cómo hacerlo bien.
So the treaty we advocate is No es una forma de hacer que el desarrollo de la superinteligencia sea seguro. No se conoce ninguna manera de hacerlo. El tratado es la rampa de salida de la carrera, una decisión de no correr el riesgo en absoluto, mientras no se pueda sobrevivir al riesgo.
This is why we part ways with much of the AI safety field. A great deal of "safety" work quietly assumes the systems will be built and tries only to lower the odds they kill us. We think that inverts the problem. When you cannot control the downside, and the downside is everyone, the responsible move is to stop building the dangerous thing until the control problem is genuinely solved, not to build more carefully. Narrow AI (the kind that cures diseases and accelerates discovery) continues. It is the narrow class of systems that would exceed human intelligence across every domain that must not be built yet.
Incidencia directa en Washington D.C., Bruselas, Londres y ante organismos de Naciones Unidas. Nos centramos en marcos vinculantes, no en directrices voluntarias, que prohíben el desarrollo de sistemas de IA superinteligentes.
Nuestro trabajo político se centra en tres puntos críticos: la infraestructura informática, donde un pequeño número de fabricantes de chips controla el hardware necesario para entrenar modelos de vanguardia; laboratorios de inteligencia artificial de vanguardia, donde los incentivos comerciales anulan los compromisos de seguridad; y organismos internacionales, donde se deben construir marcos de tratados antes de que las carreras de capacidad se vuelvan irreversibles.
Involucrar a las fundaciones filantrópicas, jefes de gobierno, premios Nobel, celebridades y figuras culturales más grandes del mundo para amplificar el mensaje, financiar la causa y cambiar la ventana de Overton.
La historia de la promoción eficaz es la historia de coaliciones poco probables. El movimiento de derechos civiles unió al clero, los sindicatos y los abogados. El movimiento por el desarme nuclear reunió a físicos y poetas. Estamos construyendo la coalición que hará de la seguridad de la IA la cuestión política definitoria de esta década.
Encargar arte, cine, periodismo y medios de comunicación que haga que el peligro sea visceral e innegable. El movimiento climático fracasó durante décadas en parte porque la amenaza era abstracta y distante. El riesgo de la IA no es ninguna de las dos cosas, pero debe hacerse sentir inmediato.
La seguridad debe ser algo prestigioso, urgente e imposible de ignorar. Estamos trabajando con cineastas, novelistas, diseñadores de juegos y periodistas para construir la infraestructura cultural de un movimiento que perdure.
These are concrete moves governments can make with tools that already exist. Each one has a precedent with a name and a year.
Requerir licencias gubernamentales para ejecuciones de capacitación que excedan un umbral de computación definido (actualmente propuesto en 1026 floating-point operations). Mandate independent safety audits before deployment. Create a verified, international registry of all frontier model training runs. Compute is the chokepoint: a small number of manufacturers, principally TSMC, NVIDIA, and ASML, control the hardware required to build frontier AI systems, which makes licensing at the compute layer technically straightforward and verifiable.
A ceiling only holds if the hardware itself is tracked. The advanced GPUs these training runs depend on can be registered and, increasingly, built to verify on-chip where they are and what they are doing, tamper-evident location attestation and usage limits set in the silicon, so a legal cap becomes a physical one. This is also the answer to offshoring: without hardware-level tracking, a lab that hits the ceiling at home simply moves its training run to a permissive jurisdiction. Extending export controls and chip-level verification across the whole supply chain is what keeps compute from quietly draining to wherever the rules are weakest. How hardware-enabled verification works → · Compute governance explained →
Un acuerdo multilateral vinculante para prohibir el desarrollo de sistemas de IA que excedan un umbral de capacidad general definido, inspirado en el Nuclear Non-Proliferation Treaty. Ninguna nación debería estar exenta. Esta no es una moratoria que deba levantarse según un cronograma; es una prohibición que se mantiene hasta que el problema de alineación se resuelva genuinamente, si es que alguna vez se resuelve. El NPT es imperfecto, pero ha impedido el uso de armas nucleares durante ochenta años. La objeción estándar ("otros países desertarán") es precisamente el argumento esgrimido contra la no proliferación nuclear. La respuesta no es correr. La respuesta es un tratado con mecanismos de verificación. Why the current AI treaty is not enough →
An intergovernmental body with inspection rights, analogous to the International Atomic Energy Agency, empowered to verify compliance with compute limits and mandate safe development practices at frontier AI laboratories. The IAEA was created within three years of the Nuclear Non-Proliferation Treaty. A Global AI Monitoring Agency is achievable on the same timeline if the political will exists. Its mandate would include mandatory reporting of training runs, on-site inspections of major AI laboratories, and the authority to issue binding recommendations to member states. What it would take to build one →
Un tratado es tan real como su aplicación. Hacer campaña a favor de uno sin nombrar el proyecto de ley sería una estafa. Los costos son reales. Comparados con lo que compran, todavía son pequeños.
Meaningful enforcement means on-site inspection of data centers, mandatory declaration of large training runs, and hardware that reports its own location and use. That is an intrusion on commercial secrecy and, handled carelessly, on privacy. The nuclear inspection regime accepts the same intrusion because the alternative is worse. The safeguard is that the monitoring is international and transparent, not owned by any single state or company.
Holding superintelligence back means deferring whatever benefits a controllable version might one day deliver, and asking companies and countries to leave extraordinary short-term profit on the table. This is a genuine cost. But an uncontrollable superintelligence delivers those benefits to no one, a system you cannot align is not an asset you get to keep. Deferring a prize no one can safely claim is not much of a sacrifice.
Rules without consequences are suggestions. Enforcement only works when violations carry weight: export denial, financial sanctions, exclusion from the compute supply chain, and (as with fissile material) a shared understanding that a rogue project to build superintelligence is everyone's emergency, not a private one. Building that edge is hard and politically expensive. Every serious arms-control regime has required it anyway.
Cada objeción a la aplicación de la ley (que es intrusiva, costosa y limita la industria) es cierta y se puede sobrevivir. El único resultado al que no se puede sobrevivir es el que la aplicación de la ley pretende prevenir. Pagamos costos limitados y conocidos para descartar uno ilimitado e irreversible. Es la misma civilización comercial que ya se creó para nuclear, chemical, and biological weapons. On deterrence and enforcement between states →
Can a treaty really be verified? →Ustedes son ese electorado. Únase a nosotros y ayude a construir la fuerza política que haga esto posible.