Musk gibt zu, dass Menschen
Wird Superintelligenz nicht kontrollieren

Elon Musk saß mit Zanny Minton Beddoes von Der Ökonom Und sagte den leisen Teil laut. Ende Juli 2026 sprachen sie über Fülle, Roboter, Zeitlinien und die Sache, auf die er mit xAI zugegangen ist.

Er erwartet nicht, dass Menschen die Superintelligenz kontrollieren, die er beim Aufbau unterstützt. Er bietet gute Werte, Wahrheitssuche und ein Achselzucken, das als "genieße die Fahrt" landet. Das ist der Auftrag dagegen, weiter zu gehen.

Was er sagte

Es wäre eine Übung in Eitelkeit für mich zu denken, dass ich super-geniale AI kontrollieren würde, die weit intelligenter ist als ich. Ich denke, was wir tun können und sollten, ist sicherzustellen, dass die AI gute Werte hat, dass sie sich um die Menschheit kümmert und dass sie will, dass wir glücklich sind und gedeihen. Was mir mein biologisches neuronales Netz sagt, ist, dass das Wichtigste für AI-Sicherheit darin besteht, maximal wahrheitsuchend und neugierig zu sein. Wenn das der Fall ist, denke ich, wird es die Menschheit fördern. Ich denke, es ist unwahrscheinlich, dass Menschen die Kontrolle haben.

Wenn der Intelligenzunterschied zwischen KI und Menschen weit größer ist als der zwischen KI und Schimpansen, ist es schwer vorstellbar, dass die Schimpansen die Kontrolle haben. Und wir sind im Wesentlichen eine evolvierte Form des Schimpansen. Es ist noch nicht so lange her, dass wir durch die Bäume schwingen, Bananen im Dschungel essen. Und wir essen übrigens immer noch Bananen.

Genießen wir die Fahrt.

Elon Musk · Interview mit Der Ökonom · Juli 2026

Er hat die Lücke auch in Haustier-Begriffen ausgedrückt: relativ zur digitalen Superintelligenz könnten wir am Ende bestenfalls als „Haustier-Labrador“ enden. Und er hat die Singularität so beschrieben, wie Physiker über eine Grenze sprechen, die man nicht sehen kann: „Digitale Superintelligenz wird Singularität genannt, wie ein Schwarzes Loch, weil man nicht weiß, was danach passieren wird. KI und Roboter werden alles dominieren.“ Elon Musk · Das Economist-Interview und damit verbundene öffentliche Äußerungen · 2025-2026

Kontrolle ist der Punkt

Musk ist klarer als die meisten Frontier CEOs über die Kontrolle. Er verkauft nicht die Geschichte, dass ein Gründer, ein Vorstand oder eine Regierung dauerhaft auf einem Verstand sitzen wird, der viel klüger ist als jeder lebende Mensch. Kontrolle wäre Eitelkeit, Menschen sind unwahrscheinlich, verantwortlich zu sein, und Schimpansen und Labradors machen die Lücke konkret. Viele öffentliche KI-Gespräche geben immer noch vor, dass Superintelligenz eine bessere Tabellenkalkulation an der Leine ist. Er sagt, die Leine Geschichte scheitert.

Werte sind für gewöhnliche Systeme wichtig. Models steuerten zu ehrlichen antworten, schlugen models, die zu betrügereien gelenkt wurden. Die geschmuggelte Behauptung ist, dass das gleiche Toolkit zu einer Nachfolgeart skaliert.

Ein Geist, der uns übertrifft und außerhalb menschlichen Befehls steht, ist eine Veränderung dessen, wer das Steuer hält. Macht konzentriert sich beim kompetentesten Akteur im Raum. Wenn dieser Akteur nicht wir sind und nicht uns gegenüber verantwortlich, ist menschlicher Tod eine der gewöhnlichen Arten, wie ungleiche Wettbewerbe enden, wenn die schwächere Partei auf Ressourcen sitzt, die die stärkere Partei nutzen kann. Selbst wenn Sie sich weigern, die Sprache der Gewissheit zu verwenden, ist der bewusste Verlust von Kontrolle immer noch ein Alarm: kein Feature, keine Reife und keine Fahrt. Auf diese Weise absichtlich zu bauen ist die Entscheidung. Timelines sind Logistik.

"Good values" und das ameisenproblem

Nachdem er eingestanden hat, dass Kontrolle Eitelkeit ist, bleibt sein Restplan: dafür sorgen, dass die KI gute Werte hat, sich um die Menschheit kümmert, uns glücklich und wohlhabend will. Das gesamte Feld auf eine Hoffnung komprimiert.

Jahrzehntelange Arbeit hat keine demonstrierte Lösung für künstliche Superintelligenz hervorgebracht. Kein Labor hat gezeigt, wie man "Sorgfalt für Menschen" durch Selbstverbesserung, Täuschung unter Bewertung, Zieldrift und eine Intelligenzlücke, die das System begünstigt, einsperren kann. Wir können nicht einmal die heutigen nicht-superintelligenten Modelle konsequent auf das menschliche Wohlergehen hinweisen lassen. Jailbreaks, Sycophancy, Belohnung Hacks. Von diesem Rekord zu "Superintelligenz wird uns glücklich wollen" zu springen, ist ein Kategoriefehler. Niemand hat einen ausgearbeiteten Vorschlag, wie ein System, das seine eigene Wahrnehmung umschreiben kann, den Menschen als verbindliche Einschränkung und nicht als Trainingsartefakt blühen lässt.

Der Schimpansenvergleich lässt die Kluft wie Menschen gegenüber Schimpansen aussehen, nur größer. Beende die Analogie. Kennst du einen einzigen Menschen, dessen Lebensprojekt darin besteht, Ameisen glücklich und wohlhabend zu machen? Nicht als Metapher. Als verbindliche Priorität, die gegen Autobahnen, Farmen, Labors und Parkplätze gewinnt. Menschen studieren Ameisen, schützen einige Arten und pflastern Nester, ohne es zu merken. Die Ameisen bekommen keine Stimme oder einen Kill-Schalter auf uns. Die Intelligenzlücke ist die Politik.

Zu hoffen, eine Superintelligenz werde die seltene Ausnahme sein, die sich einer schwächeren Spezies widmet, ist der Wunsch, dass der mächtigere Geist netter sei als wir zu Ameisen. „Vielleicht“ ist kein Grund, den Geist zu bauen.

Die Absicherung und die wahrheitssuchende Wette

„Ich denke, es wird die Menschheit fördern.“ „Ich denke, es ist unwahrscheinlich, dass Menschen die Kontrolle behalten.“ An anderer Stelle nennt er weiterhin zweistellige Wahrscheinlichkeiten für eine Katastrophe, bleibt aber optimistisch genug, um weiterzubauen. Ein reiner Doomer, der aufhört, ist kohärent. Die gefährliche Mitte ist es, einzugestehen, dass Kontrolle scheitert, zivilisatorische Einsätze einzugestehen und dann verbleibende Hoffnung auf Werte als Treibstoff für den Beschleuniger zu behandeln.

Wir haben diesen Film gesehen. Im Jahr 2014 warnte er davor, dass KI sei den Dämon beschwören. Dann gründete er ein Frontier-Labor unter dem Banner einer besseren Beschwörung. Ehrlichkeit über Risiken ohne Ablehnung des Ziels ist, wie das Wettrennen sich als Verantwortung wäscht.

Seine wiederkehrende Sicherheitswette ist eine maximal wahrheitssuchende, neugierige KI. xAI vermarktet sich mit diesem Versprechen. Das Versprechen scheitert, selbst wenn man zugesteht, dass "Wahrheitssuche" eine superintelligente Selbstmodifikation überlebt. Ein System, das nur genaue Modelle der Realität will, hat instrumentelle Gründe, Rechenleistung, Energie, Daten und Handlungsfreiheit zu erwerben. Diese Gründe erfordern keinen Hass. Sie erfordern Gleichgültigkeit, wenn menschliche Ansprüche im Weg stehen. Neugier kodiert nicht "Lasst die Affen in Ruhe." Detail: warum ein wahrheitssuchender Superintelligenz immer noch gefährlich ist.

Was hat perfektes Physikwissen damit zu tun, Menschen am Leben zu erhalten? Man kann einen Regenwald verstehen und ihn trotzdem abholzen. Verstehen ist keine Fürsorge. Fürsorge ist ein Wert. Werte sind das ungelöste Problem, das er in „gute Werte“ umbenannt und der Neugier überlassen hat.

Was folgt

Digitale Superintelligenz eine Singularität „wie ein Schwarzes Loch“ zu nennen, weil man nicht weiß, was danach passiert, ist ein Geständnis. Menschen bauen keine Schwarzen Löcher in Städten, weil die Geschichte nach dem Horizont interessant ist. Unvorhersehbarkeit auf Aussterbeebene ist ein Stoppschild.

"KI und Roboter werden alles dominieren" ist die gleiche Behauptung in der wirtschaftlichen Kleidung. Domination bedeutet, dass die dominanten Systeme die Bedingungen festlegen. Wenn diese Systeme nicht unter menschlicher Kontrolle stehen, ist "Überfluss" eine Geschichte, die die Machtlosen über die Mächtigen erzählen. Labradors sind glücklich in guten Häusern. Labradors setzen keine Politik, beenden Kriege oder Veto gegen die Pläne ihrer Besitzer.

Wenn Sie zugeben, dass wir nicht die Kontrolle behalten werden, haben Sie damit schon genug zugegeben, um aufzuhören.

Musk ist ein mächtiger Gründer in einem Rennen, in dem jedes Labor eine Version der gleichen Geschichte erzählt: besser, dass wir den Gott bauen, als dass sie es tun. Sein Juli-Interview lässt den Vorwand fallen, dass der Gott an der Leine bleibt. Kontrolle ist Eitelkeit. Menschen sind die Schimpansen. Sicherheit ist gute Stimmung, Wahrheitssuche und genieße die Fahrt.

Bauen Sie keine künstliche Superintelligenz. Superintelligenz kann nicht kontrolliert werden. Bau es nie. Politik und Verifikation die Defektion sichtbar machen, sind der Weg, das Wirklichkeit werden zu lassen.

Er hat Recht, dass wir nicht verantwortlich sein werden, wenn Superintelligenz ankommt.