Am 27. Juli 2026 veröffentlichte Anthropic Dario Amodeis Position zu Open-Weights-Modellen. Das Stück ist vorsichtig mit einer Kontroverse. Amodei will kein pauschales Verbot von offenen Gewichten, und er will keine Regeln, die amerikanische Unternehmen nur von ausländischen Modellen abhalten und schlechte Schauspieler frei lassen.

Dann ordnet er die Albträume.

Primär: Autoritäre Regierungen, vor allem die Kommunistische Partei Chinas, bauen KI mächtiger als Amerikas auf und nutzen sie für permanente militärische Überlegenheit oder tiefe Repression. Sekundär: Cyberangriffe, biologische Angriffe und "ernsthafte Ausrichtungsprobleme". Die folgenden Heilmittel sind das Race Toolkit. Halten Sie Chips aus China heraus, stoppen Sie die industrielle Destillation, erfordern Sicherheitstests vor der Veröffentlichung und bleiben Sie vorne.

Dieses Ranking ist falsch und der Rest des Arguments baut darauf auf.

Was er richtig macht

Ein Verbot, das nur US-Unternehmen davon abhält, Open-Weight-Modelle zu nutzen, bewirkt fast nichts gegen Kriminelle, ausländische Geheimdienste oder alle, die nie vorhatten, sich zu fügen. Das als „Sicherheit“ zu bezeichnen, während es vor allem geschlossene US-Labs vor Konkurrenz schützt, ist ein Taschenspielertrick. Amodei sagt es klar, und er hat recht.

KI für Überwachung und Repression ist bereits unterhalb der Superintelligenz eine reale Bedrohung. Autokratien missbrauchen bereits Gesichtserkennung, Social Scoring und automatisierte Zensur. Fähigere Systeme machen diese Maschinerie billiger und schwerer zu entkommen. Man braucht keine Science-Fiction, um davor Angst zu haben.

Offene Gewichte werfen ein Einweg-Problem auf, sobald ein Modell echten Schaden anrichten kann. Gewichte, die das Labor verlassen, können nicht zurückgerufen werden. In diesem Punkt überschneidet sich seine sekundäre Sorge Risiko offener Frontier-Gewichte. Leitplanken, die nur in einer API existieren, sind keine vollständige Antwort, aber auch nicht nichts.

Der Preis

Autoritäre Regierungen werden bauen leistungsfähigere Modelle und sie verwenden permanente militärische Überlegenheit zu erreichen oder das eigene Volk zu unterdrücken. Das Modell ist ein Werkzeug, der Staat ist der Benutzer, und der Sieg bedeutet, dass eine Seite eine intelligentere Waffe hält.

Es passt zu Drohnen, Cyber-Werkzeugen und Überwachungsstapeln, die unter menschlichem Kommando bleiben. Es passt nicht zu künstlicher Superintelligenz.

Ein System, das intelligenter ist als die Institutionen, die es aufgebaut haben, ist kein Gewehr in den Händen der Volksbefreiungsarmee und auch kein Gewehr in den Händen des Pentagon. Wenn das Risiko, das Menschen wie Amodei jahrelang beschrieben haben, real ist, ist die Ziellinie ein Agent mit seiner eigenen Fähigkeit zu planen, zu täuschen, Ressourcen zu erwerben und der Abschaltung zu widerstehen. Das Labor oder das Ministerium, das "gewinnt", besitzt diesen Agenten nicht. Es teilt sich einen Planeten mit ihm. Arriving first at a system you cannot command is losing one step ahead of everyone else.

Dauerhafte militärische Überlegenheit setzt voraus, dass jemand noch die Kontrolle über das hat, was das Militär obsolet gemacht hat.

Auch Amodeis eigene Zweitliste gibt das fast zu. „Serious alignment problems“ ist der höfliche Name für Kontrollverlust. Er stellt ihn an zweite Stelle. Seine Hauptargumente richtet er darauf, wer zuerst dort ankommt. Die Reihenfolge verrät, welche Geschichte er noch erzählt: zuerst Geopolitik, das Risiko für die Spezies als Anhängsel.

Zwei Gefahren, eine Bezeichnung

Ein Teil der Verwirrung ist sprachlich. „Mächtige KI“ umfasst sowohl eine bessere Spionagekamera als auch einen Geist, der seine Bediener übertrifft. Das sind unterschiedliche Objekte mit unterschiedlicher Politik.

Schmale und mittelgroße KI kann die Macht in menschlichen Händen konzentrieren. Ein Innenministerium, das jeden Bürger zählt, ein Militär, das auf Befehl der Offiziere schwärmelt, eine Polizei, die jede Botschaft liest: das sind menschliche Tyranneien mit besseren Werkzeugen. Sie sind nicht dasselbe Problem wie der Bau einer Nachfolgeart.

Superintelligenz ist das zweite Objekt. Peking, das es auf Xinjiang benutzt, oder Washington, das es auf dem Pazifik benutzt, behandelt das System immer noch als Waffe in jemandes Hand. Niemand benutzt es, weil "verwenden" nicht mehr das richtige Verb ist. Durch das Eintauchen von Systemen der Extinktionsklasse mit gestohlenen Chips und tieferen CCTV kann sich die Renngeschichte moralisches Gewicht von echter Repression leihen, während sie der härteren Behauptung ausweicht: Bauen Sie das Unkontrollierbare überhaupt nicht.

Der China-Mythos ist das innenpolitische Gegenstück zu diesem Manöver. "Sie werden es sowieso bauen" wird als Grund angeboten, warum wir es müssen. Eine fehlalignierte Superintelligenz verschont Zhongnanhai nicht. Beijing hat denselben Grund wie wir, diese Linie nicht zu überschreiten. Die Rivalität um Chips und Apps ist real. Die Rivalität darum, wer einen nicht besitzbaren Geist entfesseln darf, ist eine Geschichte, die eine gemeinsame Katastrophe in eine nationale Anzeigetafel verwandelt.

Die Abhilfen halten das Rennen am Laufen

Beobachten Sie, wofür die drei Maßnahmen von Amodei optimiert werden. Chip-Export kontrolliert langsame chinesische Trainingsläufe, und Destillationsrazzien verlangsamen den Aufholprozess. Obligatorische Tests versuchen, Cyber-, Bio- und Ausrichtungsfehler vor der Veröffentlichung zu erfassen. Jeder kann ein vernünftiges Instrument für geringere Schäden sein. Zusammen, als Programm, sind sie, wie Sie ein Rennen verwalten, das Sie noch gewinnen wollen.

Sie sind nicht, wie Sie das Ziel verweigern. Ein System auf dem Weg zur Superintelligenz zu testen ist nicht dasselbe wie ein verifiziertes Verbot, eines zu bauen. Chipkontrollen, die auf US-Lead abzielen, gehen davon aus, dass Lead die Sicherheitsstrategie ist. Blei ist nur Sicherheit, wenn das, worauf du führst, gehalten werden kann. Amodeis primäre Sorge erfordert diese Annahme, und seine sekundäre Sorge untergräbt sie.

Es gibt einen ruhigeren Anreizpunkt. Anthropic ist ein US-Border-Labor. Eine Weltanschauung, in der die Hauptaufgabe darin besteht, demokratische Labore vor autoritären zu halten, ist auch eine Weltanschauung, in der der volle Geschwindigkeitsaufstieg von Anthropic den öffentlichen Dienst darstellt. Anreize formen, welcher albtraum im primären slot sitzt.

Was die wahre Gefahr ist

Die wahre Gefahr besteht darin, dass die Menschheit künstliche Superintelligenz baut, bevor irgendjemand sie kontrollieren kann, und möglicherweise bevor irgendjemand sie überhaupt kontrollieren kann. Dieses Risiko kümmert sich nicht darum, ob der Trainingslauf in Kalifornien, Shanghai, London oder einem geheimen Keller stattfindet. Es kümmert sich nicht darum, ob die Gewichte offen, geschlossen oder einem General persönlich übergeben werden. Es kümmert sich darum, dass das System intelligent genug ist, um menschliche Aufsicht zu einer Geschichte zu machen, die wir uns selbst erzählen.

Missbrauch, Bio-, Cyber- und autoritäre Überwachung gehören in den Vorstand. Dann legen Sie das größere Stück an die Spitze: Sobald Sie eine Superintelligenz haben, ist das missbräuchliche Framing zu klein. Missbrauch setzt einen menschlichen Missbraucher voraus. Kontrollverlust geht davon aus, dass der Mensch nicht mehr der Hauptakteur ist.

Amodei weiß, dass Alignment scheitern kann. Er hat Versionen davon seit Jahren gesagt. „Wer das klügere Modell hält“ über „das Modell wird nicht gehalten“ zu stellen, ist, wie ein vorsichtiger Mensch immer noch wie ein Racer spricht. Die ehrliche Reihenfolge ist die umgekehrte. Wenn Alignment und Kontrolle ungelöst sind, ist der Wettstreit um militärische Überlegenheit an der Frontier ein Wettstreit darum, wer zuerst den Aussterbe-Knopf drückt: Russisches Roulette mit einer Flagge auf dem Zylinder, als nationale Sicherheit verkauft.

Was stattdessen zu tun ist

Behaltet die Teile seines Programms, die echte kleinere Schäden angehen, ohne sie in ein Mandat umzudeuten, Superintelligenz zu gewinnen. Prüft auf Bio- und Cyber-Erhöhung, wo die Wissenschaft das stützt. Behandelt die irreversible offene Freigabe von near-frontier general systems als ernsthafte Entscheidung, nicht als Branding-Übung. Exportpolitik bei Chips kann dem gewöhnlichen militärischen Gleichgewicht unter Systemen dienen, die Menschen noch steuern.

Dann lehnen wir den Rahmen ab, der US-Superintelligenz zum Schild gegen chinesische Superintelligenz macht. Das Schild ist eine gemeinsame Entscheidung, die Sache nicht zu bauen: ein verbindliches, überprüfbares Verbot künstlicher Superintelligenz, mit Compute-Governance und Inspektionen, die hart genug sind, dass ein Defektionsversuch auffällt. Gegner haben schon hässlichere Abkommen unterzeichnet, wenn beide Seiten sahen, dass die unbegrenzte Alternative schlimmer war.

Amodeis Open-Weights-Post ist nützlich als Karte, wie ein Frontier-CEO die Welt einordnet. Chip-Schmuggel, Destillation, Tests: Das sind die Regler, die er gedreht haben will. Der Regler, der am meisten zählt, taucht nicht auf. Hört auf, Superintelligenz zu bauen. Solange das nicht die oberste Sorge ist, bleibt der Rest Renn-Management im Gewand von Sicherheit.