Elon Musk se sentó con Zanny Minton Beddoes de El economista y dijo la parte silenciosa en voz alta. A finales de julio de 2026 hablaron abundancia, robots, plazos, y lo que ha estado corriendo con xAI.

No espera que los humanos controlen la superinteligencia que está ayudando a construir. Ofrece buenos valores, búsqueda de la verdad y un medicamento que aterriza como "disfruta del paseo". Ese es el breve contra ir más lejos.

Lo que dijo

Sería un ejercicio de vanidad pensar que yo controlaría una IA superinteligente mucho más lista que yo. Creo que lo que podemos y debemos intentar es asegurarnos de que la IA tenga buenos valores, que se preocupe por la humanidad y que quiera que seamos felices y prospere. Lo que me dice mi red neuronal biológica es que lo más importante para la seguridad de la IA es ser máximamente veraz y curioso. Si ese es el caso, creo que fomentará la humanidad. Creo que es improbable que los humanos tengamos el control.

Si la diferencia de inteligencia entre la IA y los humanos es mucho mayor que la diferencia entre la IA y los chimpancés, es difícil imaginar que los chimpancés estén al mando. Y nosotros somos esencialmente una forma evolucionada de chimpancé. No hace tanto que estábamos columpiándonos por los árboles, comiendo bananas en la selva. Y seguimos comiendo bananas, por cierto.

Disfrutemos del viaje.

Elon Musk · Entrevista con El economista · julio de 2026

También lo ha expresado en términos coloquiales: en relación con la superinteligencia digital podríamos terminar siendo "labradores de mascota" en el mejor de los casos. Y ha descrito la singularidad como hablan los físicos de un límite que no se puede ver más allá: "La superinteligencia digital se llama singularidad, como un agujero negro, porque no sabes qué va a pasar después. La IA y los robots dominarán todo." Elon Musk · La entrevista en The Economist y comentarios públicos relacionados · 2025-2026

El control es el punto

Musk es más claro que la mayoría de los CEOs fronterizos sobre control. No está vendiendo la historia de que un fundador, una junta o un gobierno se sentarán permanentemente encima de una mente mucho más inteligente que todos los humanos vivos. El control sería vanidad, es poco probable que los humanos estén a cargo, y los chimpancés y labradores hacen que la brecha sea concreta. Muchas charlas públicas de AI todavía pretenden que la superinteligencia es una hoja de cálculo mejor en una correa. Dice que la historia de la correa falla.

Los valores importan para los sistemas ordinarios. Los modelos orientados hacia respuestas honestas vencieron a los modelos orientados hacia estafas. La afirmación contrabandeada es que el mismo conjunto de herramientas se adapta a una especie sucesora.

Una mente que nos supera y queda fuera del mando humano es un cambio en quién sostiene el volante. El poder se concentra en el agente más competente de la sala. Si ese agente no somos nosotros y no responde ante nosotros, la muerte humana es una de las formas ordinarias en que terminan los enfrentamientos desiguales cuando la parte más débil se sienta sobre recursos que la parte más fuerte puede usar. Incluso si rechazas el lenguaje de la certeza, la pérdida deliberada de control sigue siendo una alarma: no es una característica, no es madurez y no es un paseo. Construir hacia eso a propósito es la decisión. Los plazos son logística.

"Buenos valores" y el problema de las hormigas

Tras admitir que el control es vanidad, su plan residual es asegurarse de que la IA tenga buenos valores, se preocupe por la humanidad y quiera que seamos felices y prósperos. Todo el campo reducido a una esperanza.

Décadas de trabajo no han producido una solución demostrada para la superinteligencia artificial. Ningún laboratorio ha demostrado cómo bloquear el "cuidado de los seres humanos" a través de la auto-mejora, el engaño bajo evaluación, la deriva del objetivo y una brecha de inteligencia que favorece el sistema. Ni siquiera podemos mantener los modelos no superinteligentes de hoy constantemente apuntados al bienestar humano. Jailbreaks, sycophancy, recompensa hacks. Saltar de ese registro a "superintelligence will want us happy" es un error de categoría. Nadie tiene una propuesta trabajada para cómo un sistema que pueda reescribir su propia cognición mantiene el florecimiento humano como una limitación vinculante en lugar de un artefacto de entrenamiento.

La comparación de chimpancé hace que la brecha se vea como humanos sobre chimpancés, sólo más grande. Termina la analogía. ¿Conoces a un solo humano cuyo proyecto de vida está haciendo que las hormigas sean felices y prósperas? No como metáfora. Como prioridad vinculante que gana contra carreteras, granjas, laboratorios y estacionamientos. Las personas estudian hormigas, protegen algunas especies, y también pavimentan nidos sin darse cuenta. Las hormigas no consiguen un voto o un interruptor de asesinato en nosotros. La brecha de inteligencia es la política.

Esperar que una superinteligencia sea la rara excepción que se dedique a una especie más débil es desear que la mente más poderosa sea más amable de lo que nosotros somos con las hormigas. «Tal vez» no es razón para construir esa mente.

La cobertura y la apuesta por buscar la verdad

"Creo que fomentará la humanidad." "Creo que es improbable que los humanos sigan en control." En otros lugares sigue manejando probabilidades de dos dígitos de catástrofe mientras se mantiene lo suficientemente optimista como para seguir construyendo. Un pesimista puro que se detiene es coherente. El peligroso término medio es admitir que el control falla, admitir las apuestas civilizatorias y luego tratar la esperanza residual sobre los valores como combustible para el acelerador.

Hemos visto esta película. En 2014 advirtió que la IA era invocando al demonio. Luego fundó un laboratorio de frontera bajo la bandera de una mejor invocación. La honestidad sobre el riesgo sin rechazar el destino es cómo la carrera se lava a sí misma como responsabilidad.

Su apuesta de seguridad recurrente es una IA máximamente buscadora de la verdad y curiosa. xAI se comercializa con ese argumento. El argumento falla incluso si se concede que la «búsqueda de la verdad» sobrevive a la automodificación superinteligente. Un sistema que solo quiere modelos precisos de la realidad tiene razones instrumentales para adquirir cómputo, energía, datos y libertad de acción. Esas razones no requieren odio. Requieren indiferencia cuando las reclamaciones humanas se interponen. La curiosidad no codifica «dejar en paz a los simios». Detalle: por qué un superinteligencia que busca la verdad sigue siendo peligroso.

¿Qué tiene que ver el conocimiento perfecto de la física con mantener a los humanos? Puedes entender una selva mientras la talas. Entender no es custodiar. La custodia es un valor. Los valores son el problema sin resolver que él rebautizó como "buenos valores" y externalizó a la curiosidad.

Lo que sigue

Llamar a la superinteligencia digital una singularidad "como un agujero negro" porque no se sabe qué pasa después es una confesión. La gente no construye agujeros negros en las ciudades porque la historia post-horizonte sea interesante. La impredecibilidad a escala de extinción es una señal de alto.

"AI y robots dominarán todo" es la misma afirmación en el vestido económico. Dominación significa que los sistemas dominantes establecen los términos. Si esos sistemas no están bajo control humano, la "abundancia" es una historia que los poderosos cuentan sin poder. Los labradores son felices en buenos hogares. Los labradores no establecen políticas, terminan guerras o vetan los planes de su dueño.

Si admites que no estaremos a cargo, has admitido lo suficiente para detenerte.

Musk es un poderoso fundador dentro de una carrera donde cada laboratorio cuenta una versión de la misma historia: mejor que construimos el dios que lo que hacen. Su entrevista de julio deja caer el pretexto de que el dios permanece en una correa. El control es vanidad. Los humanos son los chimpancés. La seguridad es buena vibración, búsqueda de la verdad y disfrutar del paseo.

No construyas superinteligencia artificial. La superinteligencia no puede controlarse. Nunca lo construyas. Política y verificación las que hacen visible la defección son la forma de hacer eso realidad.

Él tiene razón de que no estaremos a cargo si llega superinteligencia.