爆弾は製造され、狙いを定められましたが、これまでのところ、1945 年以降、再び都市に対して使用されることはありませんでした。「これまで」という考えを定着させた人々、冷戦時代に実験禁止、ホットライン、恐ろしい対立が最終的なものにならないように検証体制を構築した人々は、前世紀の最も重要な仕事の一部を行いました。彼らのほとんどは決して有名になることはありません。予防は本質的に静かです。それが機能すれば何も起こりませんし、記念碑に載せるのは何も難しいことではありません。

同じ形、新しい武器

私たちが新冷戦を生きていると言うとき、私は同じ状況を意味している。米国と中国は、どちらも相手に先に到達させることのできない技術を目指して競争しており、うまくいかなければ人類の物語が終わりを告げる可能性があり、競争している誰も正直に制御できると主張できない。水爆を人工超知能に置き換えると、1958 年と 2026 年になります。

私だけがその残響を聞いているわけではない。六月、CIA長官はワシントンの聴衆に対し、今日の最先端AIの能力をそう呼ぶのは的外れではないと語った。 "デジタル核兵器。"

違いは誤った方向に進む

当時と今には本当の違いがあり、それが私を夜も眠れなくさせる部分だ。そのほとんどすべてが、我々の状況をより良くではなく、より困難にしている。核兵器は人間の手の中に留まる。超知能は しないだろう. 。核物質は物理的であるため採掘・計数可能だ。一方、AIの入力はチップとコードであり、目に見えにくく隠しやすい。ただし、 統治不可能ではない. 。そして冷戦が参加者に与えたのは、時間という、私たちが得られないかもしれないものだった。世界は広島を消化し、恐怖を腹の底に感じ、対応する制度を築くのに何年もかかった。AI能力は、私たちが持つどの制度よりも速く複合している。

冷戦が実際に証明したこと

しかし同じ時代が、加速論者たちが最も依拠する主張を打ち砕きました。すなわち、互いを信用しないライバル同士は決して足を止めることに合意できないというものです。ワシントンとモスクワは互いを全く信用していませんでしたが、それでも拘束力があり検証可能な軍備管理協定に署名しました。両国とも、無制限の競争が双方を等しく縛る規則よりも悪化させることを理解していたからです。不信こそが条約の理由であって、障害ではありませんでした。数万発の核弾頭を互いの都市に向け合っていた二国がその論理を見出せたなら、米国と中国がAIについて同じことをできないという自信たっぷりの主張は、冷徹な現実主義を装った、継続への言い訳にすぎません。

なぜ財団が存在するのか

私は、自分自身を狙うことができる兵器を開発し、そこに至るまでずっと、それが選択の余地がないと自分自身に言い聞かせた世代の一員であることを拒否します。

冷戦の最悪の事態を防いだ人々は、どんなに「現実を知らない」と非難されても、「ある種の技術は競争に任せるには危険すぎる」と主張し続けました。彼らは当時正しかった。今、唯一重要な仕事は、再び正しく、そして間に合うように正しくあることです。