Ein verbindliches internationales KI-Sicherheitsabkommen wird uns nicht übergeben. Es muss argumentiert, organisiert und bezahlt werden.
Der größte Teil des Geldes in der KI-Sicherheit fließt immer noch an Labore und technische Forschung, die Superintelligenz als unvermeidlich behandeln. Fast nichts davon finanziert die politische Arbeit, dafür zu sorgen, dass Superintelligenz nie gebaut wird. Wir machen genau diese Arbeit und nur diese: einen bindenden internationalen Vertrag, öffentlichen Druck und die Aufmerksamkeitskampagne, die den Vertrag möglich macht. Wir nehmen kein Geld von KI-Laboren oder deren Investoren.
Die technische KI-Sicherheit beherrscht bereits das Geld des Feldes und seine klügsten Leute, und bei all diesen Bemühungen hat niemand gezeigt, wie man ein System zuverlässig steuert, das viel intelligenter ist als die Menschen, die es bauen. Superintelligenz kann nicht kontrolliert werden. Der einzige verbleibende Schutz ist die Entscheidung, ihn nicht zu bauen. Diese Entscheidung ist politisch und stark unterfinanziert.
Eine Spende hier finanziert das fehlende Stück. Nicht noch ein Papier darüber, wie man einen Geist kontrolliert, der klüger ist als seine Erbauer. Mitarbeiter, Organisatoren, X-Antworten, die die Rennparolen dort treffen, wo sie landen, Inhalte, die Gesetzgeber und Schöpfer sehen, und der lange Druck, Philanthropie auf Prävention auszurichten. Dollar für Dollar ist das der Ort, an dem der nächste Dollar das Aussterberisiko am stärksten senkt.
US philanthropische Vereinigung. Sponsoring bis zur ersten Erhöhung; Geschenke noch nicht steuerlich absetzbar. Geben Sie Zeit, or Register Interesse für große und institutionelle Geschenke, sobald die Abzugsfähigkeit live ist.
Wenn eine Spende so viel Gutes bewirken soll wie möglich.
Der Sinn eines Geschenks ist seine Wirkung, und die Wirkung eines Dollars ist nicht überall gleich. Die ehrliche Frage ist also, ob dies die beste verfügbare Verwendung des nächsten Dollars. Nehmen Sie diese Frage ernst, und alles andere ergibt sich daraus.
Die wirkungsvollsten Anliegen sind jene, die alle erreichen und alle, die nach uns kommen. Eine Bedrohung für die gesamte menschliche Zukunft überwiegt jedes begrenzte Problem, denn auf dem Spiel steht nicht eine Generation, sondern jede Generation, die je folgen könnte.
Unter den Technologien, die die Menschheit beenden könnten, steht die künstliche Superintelligenz ganz oben. Nach den besten verfügbaren strukturierten Schätzungen trägt sie etwas in der Größenordnung von hundertmal das Aussterberisiko eines Atomkriegs, und es ist das einzige, das sich selbst verbessert und gegen jede Gegenmaßnahme vorgeht, die wir ergreifen.
Die technische Sicherheitsforschung beherrscht bereits das Geld des Feldes und seine besten Köpfe, und dennoch kann niemand ein System kontrollieren, das viel intelligenter ist als wir. Die unterfinanzierte Arbeit ist die andere Art: das verbindliche, verifizierte internationale Abkommen, das den Aufbau von Superintelligenz verhindert. Wir sind eng auf diese eine Sache konzentriert, nicht auf die Forschung, die bereits existiert.
Die wirkungsvollste Sache, die Sie finanzieren können, ist die Verhinderung von Superintelligenz, und der am meisten vernachlässigte Teil davon ist die öffentliche Kampagne, die sie zum Gesetz macht. Das ist genau, wo Ihr Geschenk geht, und warum ein Dollar hier ist, Dollar für Dollar, unter den höchsten Auswirkungen Geschenke, die Sie machen können.
Die Mission finanzieren →Geschenke decken ab, was es kostet, die Programme unten auszuführen.
Wir brauchen so schnell wie möglich eine Finanzierung für eine Vollzeitperson, die auf X antwortet, wenn das Superintelligenz-Rennen, die Singularität oder Superintelligenz der Platz ist. Rennslogans landen jede Stunde ohne sorgfältigen Zähler im Thread. X ist der Ort, an dem Gesetzgeber, Journalisten und Laborleiter tatsächlich lesen. Antworten können Millionen von Impressionen erreichen. Ihr Geld zahlt für ein X-Organisationskonto und die Löhne der Person, die jeden Tag schreibt und antwortet. Messbarer Output: Impressionen und Reichweite bei Antworten und Originalbeiträgen (öffentliche Analysen, sobald das Konto live ist).
Erhalten Sie eine Benachrichtigung, sobald sichere Online-Spenden möglich sind. Sie erhalten außerdem gelegentliche kurze Berichte darüber, wohin das Geld fließt.