国際的な人工超知能統治に対する最も一般的な反論は「実現不可能」というものだ。しかし、1世紀にわたる条約がそれを否定している。共有する絶滅リスクに関する協調はこれまでにもあり、深刻な国家の記録された習慣であって、ユートピアではない。
核兵器。化学兵器。オゾン層。生存の脅威に対する世界的な調整は、人類の成果として文書化されています。 人工超知能にとっての問題は、初期の訴訟で求められていた政治的意志を踏まえて、それを間に合うかどうかだ。
人類が協調した実存的脅威に直面するたびに、同じ反対意見が繰り返されてきた。問題が複雑すぎる、敵対者が多すぎる、検証が難しすぎる、裏切りが起きやすい——。しかし、そうした反対を押し切った人々が、不完全ながらも壊滅的な結果を防ぐ枠組みを築いてきた。
脅威が明確で、科学が信頼でき、擁護活動が組織化されていれば、たとえ時間がかかり、議論があったとしても、国際的な調整は可能です。
人工超知能 の脅威は文書化され、科学的警告が公表され、擁護活動が拡大しています。まだ欠けているのは、調整を強制するのに十分な強い政治的圧力です。
以下の 4 つのケースは、一国だけでは解決できない脅威に直面したときに人類文明が何を達成できるかを示す決定的な例です。いずれも、今日人工超知能ガバナンス批判者が提案しているのと同じ解雇から始まった。
核兵器は1945年に戦争で使用されました。数年以内に複数の国が開発または開発中でした。数十カ国が核兵器を保有する可能性は、文明を終わらせるリスクを意味していました。批評家は核不拡散条約は不可能だと言いました。あまりに多くのアクター、あまりに多くの国益、遵守を検証する方法がない、と。
核拡散防止条約は1968年に署名開放され、1970年に発効した。大半の国が核兵器を開発しない代わりに民生用原子力技術へのアクセスを得る枠組みを創設した。国際原子力機関を通じた検証体制が遵守を監視した。
現在、核兵器を保有している国は9か国です。数百か国が作れたはずなのにです。核兵器が戦争で使われたのは1945年以来一度もありません。核拡散防止条約は不完全であり、すべての拡散を防いだわけではありませんが、批評家が避けられないと主張した壊滅的なシナリオは防いできました。80年にわたる核の平和は偶然ではありませんでした。
国際原子力機関は1957年に設立され、平和的な原子力利用を推進しつつ兵器への転用を防ぐ使命を帯びています。その査察・保障措置制度により、国際査察官は申告施設の核物質が民生目的を超えて濃縮されていないことを検証できます。
この監視体制が機能するのは、核物質がAIの計算資源と同様に、特定可能なチョークポイントを通るからだ。ウランは特定の施設で濃縮されなければならない。遠心分離機は追跡可能である。国際原子力機関は、二重利用の可能性が実存的リスクをもたらす技術を監視するための技術的メカニズムを開発した。
AIの場合も事情は同じだ。最先端AIモデルの学習に必要なハードウェア、特にNVIDIAが製造するGPUクラスターや、ASMLのリソグラフィ装置を使ってTSMCが製造する先端半導体は、監視が技術的に可能な形で集中している。少数の企業がチョークポイントを握っており、すでに輸出管理でこれらのチップの追跡が試みられている。
国際原子力機関が示しているのは、二重用途技術の国際監視がすでに機能する実践であるということだ。同機関は約70年にわたり、数十カ国で数千回の査察を実施してきた。AI計算についても同様のことを行うためのインフラは存在する。必要なのは技術革新ではなく、政治的意思である。
1970年代半ば、科学者たちは冷媒やエアロゾル、工業プロセスに使われていたクロロフルオロカーボン（CFC）が、地球を紫外線から守るオゾン層を破壊していることを突き止めた。オゾン層がなければ、地球上の生命は壊滅的な結果に直面する。業界はCFCの廃止は経済的に不可能だと主張した。
モントリオール議定書は 1987 年に 46 か国によって署名され、1989 年に発効しました。 オゾン層破壊物質の生産と消費を拘束力のある国際的なスケジュールに基づいて段階的に廃止した。 発展途上国は期限の延長と財政支援を受けました。 地球上のすべての国がこの条約を批准しており、世界各国が批准する唯一の国際条約です。
オゾン層は回復している。科学的評価は、今世紀半ばまでに1980年の水準に戻ると予測している。モントリオール議定書は、歴史上最も成功した環境条約と広く評されている。当初反対していた化学産業は代替化合物を作り、利益を上げ続けている。「不可能」は不可能ではなかった。
化学兵器は第一次世界大戦、植民地紛争、1980年代のイラン・イラク戦争で使用された。1993年に署名開放され1997年に発効した化学兵器禁止条約は、化学兵器の開発、生産、貯蔵、使用を禁止し、既存の備蓄の検証済み破壊を義務付けた。
190カ国以上がこの条約を批准しています。化学兵器の大量保有国である米国やロシアを含む各国は、2013年にノーベル平和賞を受賞した化学兵器禁止機関の国際監視のもとで、兵器を廃棄しました。
化学兵器禁止条約は、各国が数十年にわたり数十億ドルを投じて開発した兵器の検証付き廃棄を国際合意で達成できることを示しています。条約で求められれば戦略的優位を放棄しないという反論は、現代史で最も敵対的な関係においても、繰り返し覆されてきました。
条約違反は発生し、国際的な制裁を招く。この枠組みは完璧な道具ではない。しかし、化学兵器の使用を「規範に反する行為」として世界的な非難と対応を引き起こすものに変えた。条約以前には、軍事上の選択肢として争われていたものが、国際規範の変化という形でガバナンスの成果を上げている。
この四つの事例には共通の構造がある。いずれも当初、脅威は国際ガバナンスにはあまりに投機的、あるいは技術的に複雑すぎると退けられた。いずれも関連業界は規制は経済的に不可能だと主張した。いずれも検証は幻想だとされた。いずれも最終的に合意が成立し、検証メカニズムが構築され、脅威は実質的に低減した。
人工超知能 のガバナンスは、今日、同じ種類の関係者から、同じ形で、同じ反対意見のすべてに直面しています。テクノロジー企業らは、規制がイノベーションを抑制すると主張している。国家安全保障機関は、敵対者は寝返るだろうと述べている。コメンテーターらは、この問題は技術的に複雑すぎて議員が理解できないと述べている。これらの議論は古く、間違っていることが示されて久しいです。彼らに頼っている人は誰でも、どの前例を無視しているのか尋ねるべきです。
人工超知能ガバナンスをこれらの前例と区別する特徴は緊急性である。核拡散防止条約は核兵器庫が拡大しながらも人間が制御している間に何年もかけて交渉された。モントリオール議定書はオゾン層が薄くなり続けながらも回復可能である間に数十年にわたって実施された。AI開発はより速く進んでおり、十分に進んだシステムは、オゾン分子や核弾頭にはできない方法でガバナンスに抵抗する可能性がある。
先例は、待つのではなく、より早く行動する理由になります。業界の反対にもかかわらず、調整、検証、合意が行われたことはすべてこれまでにも行われてきました。私たちが依然として必要としているのは、リスクを理解し、待つことを拒否する人々によって構築される、スケジュールを圧縮する政治的意志です。
人工超知能統治を可能にする政治的連合を築いている人々に加わろう。