El Nakada Foundation to Save Humanity existe para detener la superinteligencia artificial antes de que acabe con la historia humana. Los laboratorios seguirán construyendo hasta que la ley los detenga. La ley se gana en público, no en un trabajo de investigación.
Somos una campaña filantrópica, no un laboratorio ni una junta de ética. No entrenamos modelos. No escribimos artículos sobre el sesgo de los chatbots, aunque ese trabajo es importante en otros lugares. Nuestro expediente tiene un tema: sistemas que exceden la inteligencia humana y no pueden corregirse ni detenerse. La línea que sostenemos es simple: la humanidad nunca debe construir una superinteligencia.
Copiamos las campañas que ya conmovieron al mundo cuando la ciencia era clara y la política no: las minas terrestres, la no proliferación nuclear, la capa de ozono. En cada caso, los datos llegaron primero. La presión organizada acabó el trabajo. Esa es la máquina que estamos construyendo.
No recibimos dinero de los laboratorios de IA, de sus inversores ni de empresas cuyos libros dependen de competir en la frontera. No contamos con personal para el trabajo cuyo próximo trabajo requiera la buena voluntad de esos laboratorios. Sin independencia el resto es teatro.
Queremos una IA estrecha que diagnostique el cáncer y acelere el descubrimiento de fármacos. La lucha es contra los sistemas generales creados para superar y reemplazar el razonamiento humano en todos los ámbitos, no contra la "IA" como categoría completa.
La solución es política. La investigación de alineación ayuda y todavía no puede soportar la carga por sí sola. Lo que funciona es el derecho internacional con inspectores y costos por hacer trampa. Las armas nucleares, las armas químicas y la capa de ozono ya han demostrado la forma. Cuando ronald reagan vi la película de 1983 Otro, la guerra abstracta se convirtió en una guerra concreta, y más tarde firmó el tratado que acabó con toda una clase de misiles.
Nos sentamos fuera de la industria a propósito. El trabajo es una coalición que convierte la seguridad de una preferencia en ley, una defensa que impulsa lo que se considera serio y una cultura que hace que sea difícil ignorar la crisis.
La "seguridad de la IA" ha dejado de significar nada en particular. La frase cubre los chatbots que producen insultos y cubre la posibilidad de que una máquina más inteligente que cualquier persona acabe con la especie. Esos dos problemas comparten una etiqueta y casi nada más. El lenguaje amplio permite que todos asientan sin aceptar hacer nada difícil.
La mayoría de las fundaciones reciben el nombre de un método o campo de estudio. El lenguaje se mide. Está construido para no alarmar. Nadie que lo lea siente ninguna urgencia.
"Para salvar a la humanidad", dice el trabajo. Algunos de los investigadores que construyeron la IA moderna han calculado que la probabilidad de que provoque la extinción humana en este siglo es del diez al veinte por ciento. Un riesgo descrito en esos términos no merece un lenguaje institucional cuidadoso.
Es difícil malinterpretar el nombre. Véalo una vez y sabrá para qué sirve el trabajo.
El Nakada Foundation to Save Humanity fue establecido en 2025 por alguien con convicciones más que con credenciales. La mayoría de los movimientos comienzan de esa manera. Los abolicionistas rara vez tenían títulos de historia. Las sufragistas rara vez tenían títulos de derecho. Interpretaron correctamente lo que estaba en juego y se negaron a esperar a que terminara un seminario.
The AI safety community has spent a decade building consensus inside academia and inside the industry. That consensus now exists. Geoffrey Hinton, Yoshua Bengio, Stuart Russell, and hundreds of the most respected researchers in the world have concluded that the development of artificial superintelligence poses a genuine risk of human extinction. Their consensus has not produced binding law.
La razón es estructural. Los investigadores que comprenden el riesgo trabajan dentro o junto a los laboratorios que construyen la tecnología. La financiación, las carreras y los vínculos profesionales pasan por las mismas instituciones sobre las que advierten. La independencia es casi imposible dentro de esa estructura.
El Nakada Foundation fue fundado por Naoto Nakada, emprendedor y agencia de marketing fundador que ha vivido y trabajado en Tokio, Sydney, Los Ángeles, Londres y Singapur. Como creyente en el valor filantrópico de la IA limitada, la preocupación de Naoto son los sistemas creados para superar y reemplazar la inteligencia humana. Construye como un activista: derecho y cultura primero, artículos y conferencias después.
La historia humana es todavía corta. Sigue así.
No. Apoyamos la IA restringida: sistemas que hacen un trabajo y pueden corregirse. Nos oponemos a la inteligencia artificial general y a la superinteligencia artificial, sistemas cuyos objetivos abiertos los sitúan en una categoría diferente. Un teléfono inteligente, Internet e incluso una planta nuclear pueden regularse y cerrarse. Una superinteligencia desalineada no puede hacerlo.
Ésa es la objeción más común, y es el mismo tipo de argumento utilizado contra la no proliferación nuclear. El NPT es imperfecto y aún así funcionó: ningún uso nuclear en la guerra desde 1945, nueve estados nucleares cuando cientos podrían haberse unido. El riesgo de deserción es un motivo para la verificación, no un motivo para correr. La formación fronteriza todavía pasa por una breve lista de fabricantes de chips. Monitorear un umbral de cómputo es un problema político más que un problema de física.
Yes. They also have sales teams, investor relations departments, board members who represent shareholders, and competitive pressure to ship products faster than their rivals. Safety teams inside commercial AI labs answer to the same incentives as the rest of the company, and those incentives reward shipping capability over reducing risk. When OpenAI's safety team published concerns about moving too fast, the company moved faster anyway. At best an internal team complements external regulation. It cannot stand in for it.
El ganador del Premio Turing, Geoffrey Hinton, que dedicó su carrera a sentar las bases de la IA moderna y se encuentra entre las personas vivas más calificadas para emitir este juicio, estima que hay entre un 10 y un 20 por ciento de posibilidades de que la IA provoque la extinción humana dentro de este siglo. El premio Nobel Yoshua Bengio ha declarado públicamente que el riesgo es real y subestimado. La declaración de 2023 del Centro para la Seguridad de la IA, firmada por más de 500 científicos de IA, incluido Sam Altman, colocó el riesgo de extinción de la IA junto con la guerra nuclear y las pandemias como una prioridad global. Cuando las personas que construyeron la tecnología le tienen miedo, tómate ese miedo en serio.
Únase a la Fundación. Comparte nuestro mensaje con personas que no lo han escuchado. Comuníquese con su representante electo y pregúntele cuál es su posición sobre el riesgo de IA y qué legislación apoya. Si tiene recursos financieros, considere hacer una donación a la Fundación o a otras organizaciones que trabajan en la política de seguridad de la IA. Si tienes influencia cultural o mediática, úsala. Si trabaja dentro de un laboratorio de IA y tiene inquietudes, considere hablar en público. La voluntad política decide esta cuestión. Proviene de personas dispuestas a presionar, incluido usted.
Obtenga actualizaciones y ayude a generar la presión que esta causa necesita.