Elon Musk s'est entretenu avec Zanny Minton Beddoes de L'économiste et a dit la partie calme à haute voix. À la fin de juillet 2026, ils ont parlé d'abondance, de robots, de calendriers, et de la chose qu'il a été en course vers avec -xAI.

Il ne s'attend pas à ce que les humains contrôlent la superintelligence qu'il aide à construire. Il offre de bonnes valeurs, recherche de la vérité, et un shrug qui atterrit comme "joy the ride." C'est le mémoire contre la poursuite.

Ce qu'il a dit

Ce serait un exercice de vanité de ma part de penser que je contrôlerais une IA super-géniale infiniment plus intelligente que moi. Je pense que ce que nous pouvons et devons essayer de faire, c'est nous assurer que l'IA a de bonnes valeurs, qu'elle se soucie de l'humanité et qu'elle veut que nous soyons heureux et prospères. Ce que me dit mon réseau neuronal biologique, c'est que la chose la plus importante pour la sécurité de l'IA est d'être maximalement en quête de vérité et curieux. Si c'est le cas, je pense que cela favorisera l'humanité. Je pense qu'il est peu probable que les humains gardent le contrôle.

Si l'écart d'intelligence entre l'IA et les humains est infiniment plus grand que celui entre les humains et les chimpanzés, il est difficile d'imaginer que les chimpanzés gardent le contrôle. Et nous sommes essentiellement une forme évoluée de chimpanzé. Il n'y a pas si longtemps, nous nous balancions dans les arbres en mangeant des bananes dans la jungle. Et nous mangeons toujours des bananes, d'ailleurs.

Profitons du voyage.

Elon Musk · Entretien avec L'économiste · juillet 2026

Il a aussi formulé l’écart en termes familiers : face à une superintelligence numérique, nous pourrions finir au mieux en « labradors de compagnie ». Il a également décrit la singularité comme les physiciens parlent d’une limite qu’on ne peut pas voir au-delà : « La superintelligence numérique est appelée singularité, comme un trou noir, parce qu’on ne sait pas ce qui va se passer après. L’IA et les robots domineront tout. » Elon Musk · L'interview de The Economist et les remarques publiques associées · 2025-2026

Le contrôle est l'essentiel

Musk est plus clair que la plupart des PDG frontaliers sur le contrôle. Il ne vend pas l'histoire qu'un fondateur, un conseil d'administration ou un gouvernement va s'asseoir en permanence sur un esprit beaucoup plus intelligent que tout humain vivant. Le contrôle serait vanité, il est peu probable que les humains soient responsables et les chimpanzés et les Labradors rendent l'écart concret. Beaucoup de discours public sur l'IA prétend toujours que la superintelligence est un meilleur tableur en laisse. Il dit que l'histoire de laisse échoue.

Les valeurs sont importantes pour les systèmes ordinaires. Les modèles orientés vers des réponses honnêtes battent les modèles dirigés vers des escroqueries. L'allégation de contrebande est que les mêmes échelles de trousse à outils pour une espèce remplaçante.

Un esprit qui nous surclasse et échappe au commandement humain change qui tient le volant. Le pouvoir se concentre chez l’agent le plus compétent dans la pièce. Si cet agent n’est pas nous et ne répond pas à nous, la mort humaine est l’une des issues ordinaires des affrontements inégaux lorsque la partie la plus faible détient des ressources que la plus forte peut utiliser. Même si vous refusez le langage de la certitude, la perte délibérée de contrôle reste une alerte : pas une fonctionnalité, pas une maturité, pas un voyage. Construire sciemment vers cela est la décision. Les calendriers sont une question de logistique.

"Bonnes valeurs" et le problème des fourmis

Après avoir admis que le contrôle est une vanité, son plan résiduel consiste à s'assurer que l'IA a de bonnes valeurs, se soucie de l'humanité, nous veut heureux et prospères. Tout le domaine réduit à un espoir.

Des décennies de travail n'ont pas produit de solution démontrée pour la superintelligence artificielle. Aucun laboratoire n'a montré comment verrouiller les « soins aux humains » par l'auto-amélioration, la tromperie en cours d'évaluation, la dérive des buts et un écart d'intelligence qui favorise le système. Nous ne pouvons même pas garder les modèles non-superintelligents d'aujourd'hui constamment pointés sur le bien-être humain. Les jailbreaks, la sycophance, la récompense. Sauter de ce disque à "superintelligence nous voudra heureux" est une erreur de catégorie. Personne n'a proposé de façon efficace comment un système qui peut réécrire sa propre cognition maintient l'épanouissement humain comme une contrainte contraignante plutôt qu'un artefact d'entraînement.

La comparaison chimpanzé fait que l'écart ressemble à l'homme sur chimpanzé, seulement plus grand. Finissez l'analogie. Connaissez-vous un seul homme dont le projet de vie rend les fourmis heureuses et prospères? Pas comme métaphore. Comme une priorité contraignante qui gagne contre les autoroutes, les fermes, les laboratoires et les parkings. Les gens étudient les fourmis, protègent quelques espèces et paver les nids sans s'en rendre compte. Les fourmis n'ont pas un vote ou un coup de feu sur nous. Le manque de renseignements est la politique.

Espérer qu’une superintelligence fasse exception et se consacre à une espèce plus faible est un vœu que l’esprit le plus puissant sera plus gentil que nous envers les fourmis. « Peut-être » n’est pas une raison de construire cet esprit.

La couverture et le pari de recherche de la vérité

"Je pense que cela favorisera l'humanité." "Je pense qu'il est peu probable que les humains gardent le contrôle." Ailleurs, il évoque encore des probabilités à deux chiffres de catastrophe tout en restant suffisamment optimiste pour continuer à construire. Un pur doomer qui s'arrête est cohérent. Le milieu dangereux consiste à admettre que le contrôle échoue, à admettre les enjeux civilisationnels, puis à traiter l'espoir résiduel concernant les valeurs comme du carburant pour l'accélérateur.

Nous avons déjà vu ce film. En 2014, il a averti que l'IA était invoquer le démon. Puis il a fondé un laboratoire de pointe sous la bannière d’une meilleure invocation. L’honnêteté sur le risque sans refus de la destination est la façon dont la course se blanchit en responsabilité.

Son pari de sécurité récurrent est une IA maximisant la recherche de vérité et la curiosité. xAI se positionne sur ce discours. Ce discours échoue même si l’on admet que la « recherche de vérité » survive à une auto-modification superintelligente. Un système qui ne veut que des modèles précis de la réalité a des raisons instrumentales d’acquérir de la puissance de calcul, de l’énergie, des données et une liberté d’action. Ces raisons ne nécessitent pas de haine. Elles nécessitent de l’indifférence lorsque les revendications humaines font obstacle. La curiosité n’encode pas « laissez les singes tranquilles ». Détail: pourquoi un superintelligence en quête de vérité reste dangereux.

Que vient faire une connaissance parfaite de la physique dans le fait de garder les humains en vie ? On peut comprendre une forêt tropicale tout en la déboisant. Comprendre n'est pas gérer. Gérer est une valeur. Les valeurs sont le problème non résolu qu'il a renommé « bonnes valeurs » et externalisé à la curiosité.

Ce qui suit

Qualifier la superintelligence numérique de singularité « comme un trou noir » parce qu'on ne sait pas ce qui se passe après est un aveu. On ne construit pas de trous noirs dans les villes parce que l'histoire post-horizon est intéressante. L'imprévisibilité à l'échelle de l'extinction est un panneau stop.

« L'IA et les robots domineront tout » est la même revendication en tenue économique. La domination signifie que les systèmes dominants fixent les termes. Si ces systèmes ne sont pas sous contrôle humain, "abondance" est une histoire que les impuissants racontent sur les puissants. Les Labradoriens sont heureux dans de bonnes maisons. Les Labradoriens n'établissent pas de politique, ne mettent pas fin aux guerres ou ne vetoent pas aux plans de leur propriétaire.

Si vous admettez que nous ne serons pas aux commandes, vous avez admis assez pour arrêter.

Musk est un puissant fondateur dans une course où chaque laboratoire raconte une version de la même histoire: mieux que nous construisons le dieu que ce qu'ils font. Son entretien de juillet laisse croire que le dieu reste en laisse. Le contrôle est vanité. Les humains sont les chimpanzés. La sécurité est de bonnes vibrations, la recherche de la vérité, et profiter de la balade.

Ne construisez pas d'intelligence artificielle superintelligente. La superintelligence ne peut pas être contrôlée. Ne le construisez jamais. Politique et vérification qui rendent la défection visible sont la façon de rendre cela réel.

Il a raison que nous ne serons pas en charge si superintelligence arrive.