Le 27 juillet 2026, Anthropic a publié La position de Dario Amodei sur les modèles à poids ouverts. Le morceau est prudent sur une controverse. Amodei ne veut pas d'interdiction générale des poids ouverts, et il ne veut pas de règles qui bloquent les entreprises américaines des modèles étrangers tout en laissant les mauvais acteurs libres.

Puis il classe les cauchemars.

Primaire : les gouvernements autoritaires, surtout le Parti communiste chinois, construisent l'IA plus puissante que l'Amérique et l'utilisent pour une supériorité militaire permanente ou une répression profonde. Secondaire : cyberattaques, attaques biologiques et « graves problèmes d'alignement ». Les remèdes qui suivent sont la boîte à outils de course. Tenir les copeaux hors de la Chine, arrêter la distillation industrielle, exiger des tests de sécurité avant la libération, et rester en avance.

Ce classement est erroné, et le reste de l'argument est basé sur lui.

Ce qu'il a raison

Une interdiction qui empêche seulement les entreprises américaines d'utiliser des modèles à poids ouverts ne change presque rien pour les criminels, les services de renseignement étrangers ou quiconque n'avait jamais prévu de se conformer. Qualifier cela de « sécurité » alors que cela protège surtout les laboratoires américains fermés de la concurrence est un tour de passe-passe. Amodei le dit clairement, et il a raison.

L'IA utilisée pour la surveillance et la répression est une véritable horreur à des échelles inférieures à la superintelligence. Les autocraties abusent déjà de la reconnaissance faciale, du scoring social et de la censure automatisée. Des systèmes plus capables rendent cet appareil moins cher et plus difficile à fuir. Pas besoin de science-fiction pour craindre cela.

Les poids ouverts soulèvent un problème de porte unidirectionnelle une fois qu'un modèle peut faire de vrais dommages. Les poids qui quittent le laboratoire ne peuvent pas être rappelés. Sur ce point, sa préoccupation secondaire se chevauche risque des modèles de pointe à poids ouverts. Les garde-fous qui n’existent que dans une API ne constituent pas une réponse complète, mais ils ne sont pas rien non plus.

Le Prix

Les gouvernements autoritaires construire des modèles plus puissants et les utiliser de parvenir à une supériorité militaire permanente ou de réprimer leur propre peuple. Le modèle est un outil, l'état est l'utilisateur, et la victoire signifie qu'un côté détient une arme plus intelligente.

Cela convient aux drones, aux outils cyber et aux piles de surveillance qui restent sous le commandement humain. Cela ne convient pas à la superintelligence artificielle.

Un système plus intelligent que les institutions qui l'ont construit n'est pas un fusil entre les mains de l'Armée populaire de libération, ni un fusil entre les mains du Pentagone. Si le risque que les gens comme Amodei ont passé des années à décrire est réel, la ligne d'arrivée est un agent avec sa propre capacité à planifier, tromper, acquérir des ressources et résister à l'arrêt. Le labo, ou le ministère, qui "gagne" ne possède pas cet agent. Elle partage une planète avec elle. Arriving first at a system you cannot command is losing one step ahead of everyone else.

La supériorité militaire permanente suppose que quelqu'un est encore aux commandes de la chose qui a rendu l'armée obsolète.

La liste secondaire d’Amodei elle-même l’admet presque. « Problèmes d’alignement sérieux » est le nom poli donné à la perte de contrôle. Il la place en deuxième position. Il consacre sa première salve à la question de savoir qui y parviendra le premier. L’ordre indique quelle histoire il continue de suivre : la géopolitique d’abord, le risque pour l’espèce en appendice.

Deux dangers, une étiquette

Une partie de la confusion est linguistique. « IA puissante » recouvre à la fois une meilleure caméra de surveillance et un esprit qui surclasse ses opérateurs. Ce sont des objets différents, avec des enjeux politiques différents.

L'IA étroite et à mi-échelle peut concentrer le pouvoir dans les mains humaines. Un ministère de l'Intérieur qui compte tous les citoyens, une armée qui lance des incursions sous les ordres des officiers, une police qui lit chaque message : ce sont des tyrannies humaines avec de meilleurs outils. Ils ne sont pas le même problème que la construction d'une nouvelle espèce.

La superintelligence est le second objet. Pékin l'utilise sur Xinjiang, ou Washington l'utilise sur le Pacifique, traite toujours le système comme une arme dans la main de quelqu'un. Personne ne l'utilise, car "utiliser" cesse d'être le bon verbe. Lumping systèmes de classe extinction avec puces volées et plus profond CCTV permet à l'histoire de course empruntent le poids moral de la répression réelle tout en esquivant la revendication plus dure: ne construisez pas la chose incontrôlable du tout.

Le Mythe chinois est le jumeau domestique de ce mouvement. « Ils le construiront de toute façon » est avancé comme raison pour laquelle nous devons le faire. Une superintelligence mal alignée n’épargne pas Zhongnanhai. Pékin a la même raison que nous de ne pas franchir cette ligne. La rivalité autour des puces et des applications est réelle. La rivalité pour savoir qui libérera un esprit incontrôlable est un récit qui transforme une catastrophe partagée en tableau d’affichage national.

Les remèdes maintiennent la course

Regardez ce que les trois mesures d'Amodei optimisent. Le contrôle des exportations de copeaux ralentit les parcours d'entraînement chinois et la répression de la distillation ralentit le rattrapage. Les tests obligatoires tentent d'attraper les défaillances cyber, bio et d'alignement avant la libération. Chacun peut être un instrument raisonnable pour des dommages moindres. Ensemble, en tant que programme, ils sont la façon dont vous gérez une course que vous avez toujours l'intention de gagner.

Ils ne sont pas comment vous refusez la destination. Tester un système sur le chemin de la superintelligence n'est pas le même qu'une interdiction vérifiée de construire un. Les contrôles des puces qui visent le plomb américain supposent que le plomb est la stratégie de sécurité. Le plomb n'est sûr que si la chose que vous dirigez peut être retenue. La préoccupation principale d'Amodei exige cette hypothèse, et sa préoccupation secondaire la sape.

Il y a un point d'incitation plus silencieux. "Anthropic" est un labo américain. Une vision du monde dans laquelle le travail principal est de garder les laboratoires démocratiques avant les laboratoires autoritaires est aussi une vision du monde dans laquelle la montée à grande vitesse de --Anthropic-. Les incitatifs façonnent qui cauchemar est assis dans la fente primaire.

Quelle est la vraie menace

Le vrai danger est que l’humanité construise une superintelligence artificielle avant que quiconque puisse la contrôler, et peut-être même avant que quiconque puisse la contrôler en principe. Ce risque ne dépend pas du lieu où s’effectue l’entraînement — Californie, Shanghai, Londres ou un sous-sol classifié. Il ne dépend pas non plus du caractère ouvert ou fermé des poids, ni de leur remise en main propre à un général. Il dépend du fait que le système soit assez intelligent pour rendre la supervision humaine une histoire que nous nous racontons.

La mauvaise utilisation, la bio, la cybersurveillance et la surveillance autoritaire font partie du conseil. Ensuite, mettez la plus grande pièce sur le dessus: une fois que vous avez une superintelligence, le cadrage de mauvais usage est trop petit. La mauvaise utilisation suppose un mauvais usage humain. La perte de contrôle suppose que l'homme n'est plus l'acteur principal.

Amodei sait que l'alignement peut échouer. Il le dit depuis des années. Classer « qui détient le modèle le plus intelligent » au-dessus de « le modèle n'est pas maîtrisé » est la façon dont une personne prudente parle encore comme un coureur. L'ordre honnête est l'inverse. Si l'alignement et le contrôle ne sont pas résolus, la course à la supériorité militaire à la frontière est une course pour appuyer le premier sur le bouton de l'extinction : une roulette russe avec un drapeau sur le barillet, vendue comme sécurité nationale.

Que faire à la place

Conservez les parties de son programme qui visent les vrais risques moindres sans les transformer en mandat pour remporter superintelligence. Filtrez les risques biologiques et cyber lorsque la science le justifie. Traitez la diffusion ouverte et irréversible de systèmes généraux quasi-frontière comme une décision sérieuse, pas comme un exercice de marque. La politique d’exportation des puces peut servir l’équilibre militaire ordinaire entre systèmes encore pilotés par des humains.

Puis refuser le cadre qui fait de la superintelligence américaine le bouclier contre la superintelligence chinoise. Le bouclier est une décision commune de ne pas construire la chose: une interdiction contraignante et vérifiable de la superintelligence artificielle, avec une gouvernance de calcul et d'inspection assez dur que la défection apparaît. L'adversaire a signé des contrats plus difficiles quand les deux parties ont pu voir l'alternative sans limite était pire.

Le billet d'Amodei sur les poids ouverts est utile comme carte de la façon dont un PDG de pointe classe le monde. Contrebande de puces, distillation, tests : voilà les curseurs qu'il veut actionner. Le curseur qui compte le plus n'apparaît pas. Cesser de construire la superintelligence. Tant que ce n'est pas la préoccupation principale, le reste n'est que gestion de course déguisée en sécurité.