Ich glaube, dass wir eines Tages mit mehr Physik, als wir 2026 kennen, die Schwerkraft kontrollieren, Wurmloch öffnen oder sogar schneller als Licht reisen können. Nach heutigem Wissen sind diese Dinge unmöglich. Dennoch denke ich, dass wir erst an der Oberfläche dessen gekratzt haben, was man wissen kann. Ich sehe das als Realismus darüber, wie jung unsere Wissenschaft noch ist.
Eine Zukunft, die ich nie verstehen konnte, egal wie lange ich sie umdrehe oder mit wie vielen Leuten ich sie durchspreche: dauerhafte Kontrolle über ein Wesen, das schlauer ist als wir. Biologische oder maschinelle. Von diesem Planeten oder einem anderen. Wenn der andere Geist klüger ist als die Menschheit, kann ich nicht sehen, wie wir ihn kontrollieren.
Der Punktestand
Legen Sie eine grobe Zahl darauf, so dass die Form schwer zu umgehen ist. Nennen Sie das gesamte Wissen und Können der gesamten Menschheit, die zusammenarbeitet, 100. Eine durchschnittliche Person hält ein kleines Stück davon.
Stellen Sie sich nun vor, wir würden irgendwie perfekt ausführen: jeder relevante Mensch, jedes Labor und jede Regierung, ohne Verschwendung und ohne Verzögerung. Wir haben die vollen 100 auf den Tisch gelegt.
Gib der anderen Seite eine höhere Obergrenze. Sagen wir, ihr Maximum liegt bei 200. Sie braucht nicht einmal einen guten Tag. Bei 51 Prozent Effizienz erreicht sie immer noch 102. Sie schlägt eine fehlerfreie menschliche Gesamtsumme, während sie halb schläft.
In der menschlichen Kriegsführung brauchte eine Seite oft nur einen dünnen Vorteil in Intelligenz, Logistik oder Waffen, um einen entscheidenden Sieg zu erzielen. Dünne Kanten enden als Gesamtergebnisse die ganze Zeit. Wie schlagen wir also etwas viel Klügeres als uns, nicht einen nahen Peer?
Eine Verfassung, die die schwächere Partei für die stärkere schreibt, bindet die stärkere nicht.
Physik ist kein Gegner
Wenn ich sage, wir könnten eines Tages die Schwerkraft kontrollieren, hören einige Leute einen allgemeinen Glauben, dass harte Probleme nachgeben. Einige schwierige Probleme schon. Kräfte und Materialien sind keine Agenten. Sie planen nicht um Ihren Plan herum oder verstecken eine Strategie, weil sie Ihre Tests modelliert haben. Physik zu erweitern ist immer noch schwer. Einen geist zu regieren, der die herrscher überdenkt, ist eine andere art von hart.
Kontrolle läuft in jedem dauerhaften Fall, den wir kennen, auf einem schmalen Grat: Gewalt, Recht, Geheimhaltung, der Ausschalter oder das bloße Versagen der Gegenseite, einen zu überlisten. Superintelligenz ist das Projekt, diesen Grat absichtlich zu beseitigen. Man versucht, einen Spieler zu beaufsichtigen, der einen schließlich beim Beaufsichtigen, beim Finden von Schlupflöchern und beim Merken, dass man den Stecker ziehen will, schlagen wird.
Ich habe die hoffnungsvollen Versionen gehört. Wir werden damit wachsen, verschmelzen, es mit Liebe aufziehen oder es in einer Box aufbewahren, bis wir sicher sind. Jede Version geht immer noch davon aus, dass die schwächere Partei dauerhafte Bedingungen für die stärkere festlegt. Ich kann den Wunsch bewundern, aber er ist nicht in der Realität begründet.
Warum die Stiftung existiert
Wenn Sie keine Kontrolle sehen können, bauen Sie nicht das Ding, das es erfordert. Schmale Werkzeuge, die Werkzeuge bleiben, können Medizin, Wissenschaft und Industrie immer besser machen. Die Linie ist künstliche Superintelligenz: ein allgemeiner Geist, der uns auf der ganzen Linie übertrifft und nicht mehr unter menschlichem Kommando sitzt.
Ich gründete die Nakada-Stiftung, weil diese Linie wie ein Ingenieurszeitplan behandelt wird statt wie ein Stoppschild für die Spezies. Labore wetteifern. Regierungen sprechen vom Gewinnen. Sicherheitsarbeit nimmt oft das Ziel an und versucht, den Absturz abzumildern. Der Absturz ist das Problem. Man kann sich nicht an einem Intelligenzgefälle vorbeialignen Du hast die Existenz definiert.
Ich glaube, dass wir in einer glänzenden Zukunft weiterleben können, und der erste Schritt dazu ist die gemeinsame Entscheidung, keine Einheit aufzubauen, die wir nicht kontrollieren können.