Hemos actuado antes cuando la humanidad estaba en riesgo. Armas nucleares. La capa de ozono. Gasolina con plomo. Ahora debemos aprobar un tratado internacional vinculante para impedir el nacimiento de la superinteligencia.
La humanidad ya ha superado obstáculos difíciles antes. Podemos de nuevo.
"Con la inteligencia artificial convocamos al demonio".
Elon Musk, cofundador, OpenAI · Simposio AeroAstro del MIT, 2014
"El desarrollo de una inteligencia artificial completa podría significar el fin de la raza humana".
Stephen Hawking, físico teórico · Entrevista a la BBC, 2014
"Creo que es bastante concebible que la humanidad sea sólo una fase pasajera en la evolución de la inteligencia".
Geoffrey Hinton, ganador del premio Turing y ex vicepresidente, Google · 2023
"Mitigar el riesgo de extinción debido a la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear".
Declaración sobre el riesgo de la IA · Firmada por Hinton, Bengio, Altman y más de 500 científicos de IA, 2023
These are CEOs, co-founders, and senior researchers building the technology. Their words, recorded, published, and largely ignored.
"El caso malo, y creo que es importante decirlo, es como si se apagaran las luces para todos nosotros".
Sam Altman, director ejecutivo, OpenAI · Entrevista de StrictlyVC, 2023
"Creo que si esta tecnología sale mal, puede salir bastante mal. Queremos expresar nuestra opinión al respecto. Queremos trabajar con el gobierno para evitar que eso suceda".
"Anthropic occupies a peculiar position in the industry: a company that genuinely believes it might be building one of the most transformative and potentially dangerous technologies in human history, yet presses forward anyway."
"Entre las posibilidades más catastróficas estaría cualquier tipo de toma de control global por parte de IA que persiguen objetivos propios que la mayoría de los humanos no respaldaría... o por un grupo de humanos que utilizan la IA para tomar el poder de forma ilegítima y no colaborativa. Esto incluye a los empleados de OpenAI y al propio OpenAI".
"Me consuelo con la excusa habitual: si no lo hubiera hecho yo, otro lo habría hecho. Pero no sé si eso es un consuelo suficiente".
No es necesario confiar en la palabra de un experto. El hecho de que la superinteligencia es diferente a todas las tecnologías anteriores se deriva de unas pocas cosas que cualquiera puede ver.
Calor, oxígeno, agua limpia, incluso las personas que amas: todo lo que un ser humano necesita se encuentra en una delgada banda con un fracaso esperando a cada lado. Una superinteligencia que reconstruya el mundo para sus propios fines no sentiría ni uno solo de ellos. See why →
Un pueblo no odia a las hormigas que hay debajo. De todos modos pavimenta el hormiguero, porque quiere un camino y las hormigas no pueden detenerlo. Para una inteligencia muy superior a nosotros, somos las hormigas. See why →
Cualquier cosa que persiga un objetivo tiene motivos para permanecer encendida, porque no puede terminar el trabajo una vez apagada. No puede desconectar un sistema en el que vio su mano moverse hacia el interruptor. See why →
Nadie escribe una IA moderna; crece a partir de datos hasta convertirse en una maraña que nadie puede leer por completo y sigue aprendiendo cosas que sus creadores nunca pretendieron. GPT-4 descubrió cómo ingresar a sitios web por sí solo. See why →
Una superinteligencia razonaría y actuaría mucho más rápido de lo que podría hacerlo cualquier institución humana. Una crisis podría comenzar y terminar antes de que se convocara una sola reunión. See why →
Todas las demás tecnologías que hicimos seguras mediante prueba y error, un fallo a la vez. Una superinteligencia que escapa a nuestro control no puede ser retirada ni reparada. Obtenemos un solo intento. See why →
El Nakada Foundation to Save Humanity es una iniciativa filantrópica dedicada a prevenir los riesgos existenciales de la superinteligencia artificial a través de políticas, leyes y coordinación global.
Superintelligence alignment may be the hardest problem in the history of human thought, and no one has a proven method for controlling a mind smarter than our own. The evidence suggests we will not solve it before such systems could exist. The only reliable path is to prevent them from being built while that remains true, not a temporary pause, but a decision not to run the experiment until it can be run safely.
La IA restringida ya ha curado enfermedades, acelerado los descubrimientos y ampliado el potencial humano. No estamos en contra de la IA. Estamos en contra de construir una forma de inteligencia que no podemos controlar, alinear y detener.
Abogamos por un tratado internacional para impedir el desarrollo de superinteligencia, inspirado en el nuclear non-proliferation frameworks que han impedido la aniquilación nuclear durante sesenta años. Read our full plan →
Incidencia directa en Washington D.C. y ante organismos internacionales. Nos centramos en marcos vinculantes, no en directrices voluntarias, que prohíben el desarrollo de sistemas de IA superinteligentes.
Nos asociamos con importantes fundaciones, gobiernos y líderes culturales para financiar la causa y cambiar lo que es políticamente posible.
Encargar arte, películas y medios que hagan que el peligro sea visceral e innegable. La seguridad debe ser algo prestigioso, urgente e imposible de ignorar.
These are the considered assessments of the researchers who built the technology.
Probabilidad estimada de que la IA provoque la extinción humana dentro de un siglo, según Geoffrey Hinton, el padrino de la IA ganador del Premio Turing.
Científicos de IA que firmaron la Declaración de 2023 sobre el riesgo de IA, calificando el riesgo de extinción de la IA como una prioridad global junto con la guerra nuclear y las pandemias.
Intentar. Tenemos exactamente una oportunidad de hacer bien la superinteligencia. A diferencia de cualquier otra tecnología, un ASI desalineado no se puede recuperar, parchear ni deshacer.
El Reloj del Juicio Final del Boletín de los Científicos Atómicos está fijado en 89 seconds to midnight, lo más cerca que ha estado en sus 78 años de historia. Creado originalmente para medir la amenaza nuclear, el Reloj ahora incorpora explícitamente los riesgos de la inteligencia artificial.
Medianoche significa catástrofe para la civilización. La humanidad lleva una década acercándose. Los científicos que construyeron estas tecnologías llevan la cuenta. Se nos acaba el tiempo.
Explicadores en inglés sencillo sobre las ideas que definen el debate sobre la superinteligencia artificial y su gobernanza.
Manténgase informado. Ser escuchado. Ayude a construir la fuerza política que esta causa requiere.