198は覚えておくべき数字だ。オゾン層を破壊する物質に関するモントリオール議定書の締約国数——地球上のすべての承認された国家で、北朝鮮、南スーダン、クック諸島のような意外な参加国を含む。他のUN条約でこれほど普遍的な批准に達したものはない。
モントリオール議定書は、地球上のすべての国によって批准された唯一の《UN》条約であり、解決するために書かれた問題を解決し、そのアーキテクチャはまさに人工超知能ガバナンスが現在直面している状況に合わせて設計されました。
数字の背後にある実体は無視しにくい。1987年、各国政府は、当時世界中のほぼすべての冷蔵庫、エアゾール缶、エアコンに使用されていた収益性の高い広く使われた工業技術（クロロフルオロカーボン）を、最悪の被害が発生する前に段階的に廃止することを約束した。条約は1989年に発効した。オゾンホールは10年間縮小を続けている。きれいな回復は今世紀半ば頃、つまり有害物質の放出が停止されてからおよそ人間の一生後に予想されている。
拘束力のあるAI条約は非現実的だという主張をする人にとって、モントリオールは都合の悪い反例だ。国際システムは できる 不確実性の下で、競合する経済圏全体で危険なテクノロジーを十分な速さで抑制する。モントリオールのどの特徴がそれを機能させたのか、また、人工超知能 の統治体制がゼロから法律を作らずに活用できるのはどの特徴なのか。
条約が実際に何をしたのか
オゾン層を破壊する物質に関する議定書は、特定された化学物質の生産と消費について拘束力のある削減スケジュールを定めた。一度にすべてを禁止したわけではない。最も有害な物質について、特定の日付までに特定のパーセント削減という軌道を設定し、科学が確かになるにつれてその軌道を繰り返し厳しくした。最初はCFCが標的となり、次にHCFCが続いた。2016年のキガリ改正では、代替物質であるHFC——それ自体が強力な温室効果ガスであることが判明した——が追加された。どの tightening も、条約を新たに批准し直すことなくすべての締約国を拘束した。
義務が意図的に差別化されていた。途上国には猶予期間と遵守のための財政支援が与えられ、問題の大部分を引き起こしたのは自分たちではなく、移行費用を単独で負担できないという認識に基づく。AI条約もまた、フロンティアラボを持つ少数の国と持たない大多数の国との間で、同じ公平性の問題に直面するだろう。
コピーする価値のある3つの設計特徴
フレームワークから始め、後で厳格化する
1985年のオゾン層保護のためのウィーン条約は、制度の枠組みを先に作った。数値目標で合意する前に、協力・監視・報告の義務を定めたのである。拘束力のある削減目標は2年後のモントリオール議定書で合意され、その後少なくとも9回にわたって強化された。人工超知能ガバナンスも、薄い枠組み条約から始め、能力と証拠の蓄積に応じて内容を加えていく形で進められる。この順序なら、行動を先送りせずに時間を稼げる。
再批准なしで調整
条約の最大の妙手は調整メカニズムである。加盟国は、条約を再批准することなく、適格多数決で段階的廃止スケジュールを加速でき、その決定は全加盟国を拘束する。これにより、条約は新たな科学に対応しつつ、十年単位の批准サイクルに縛られずに済んだ。能力が数ヶ月で変化しうるAIのような急速に進む技術にとって、静的な条約は到着した時点で陳腐化する。批准をやり直さずに拘束力のある義務を更新できる能力は、存続のための要件である。
不参加を高くつけるようにする
モントリオール議定書は、非締約国との規制物質の貿易を禁止しました。この一つの条項が、離脱を検討する国家の計算を一変させました。外に留まることは市場アクセスを失うことを意味したため、参加が合理的選択となったのです。計算資源と半導体サプライチェーンは、AIにとって構造的に類似したチョークポイントを提供しており、フロンティア開発に必要な投入を少数の企業と少数の国が握っています。
コンセンサスを買った資金メカニズム
1990年に締約国は多国間基金を設立し、先進国が拠出して途上国の遵守にかかる合意された増分費用を負担した。これは外国援助ではなかった。普遍的参加の代償だった。中国とインドは、基金が遵守を現実的にしたことで締約国となった。1996年までに基金は数億ドルを支出し、すべての途上国締約国が第I期の義務を達成または超過した。
AIへの教訓は直接的です。グローバルサウスに対し、変革的な技術を放棄させたり、自国のインフラを侵襲的に監視させたりする条約は、寛大さから参加されるものではありません。参加する方が拒否するより安上がりになる——能力構築、特定の分野での技術アクセス、制約の見返りとしての補償——という取引が成立したときに参加されるのです。多国間基金のテンプレートは、そのまま参考にできます。
類推が限界を迎えるところ
前例は完璧ではありません。懐疑論を公平に述べるならこうなります。オゾン層破壊には明確で測定可能な指標（大気中の塩素濃度が特定の閾値を超えること）と、少数の企業が生産する代替可能な化学物質がわずかしかありませんでした。一方、フロンティアAIの能力は定義しにくく、測定も難しく、はるかに強い戦略的離脱インセンティブを持つ主体によって開発されています。CFC代替物質は商業的に魅力的で、置き換え自体が売れました。超知能禁止の向こう側に、同等の商業製品が待っているわけではありません。
これらの違いは、人工超知能ガバナンスをより困難にするが、不可能にするわけではない。どこに作業が必要かを示している。大気中の塩素に相当する測定可能な閾値を定義する。オゾン監視がすでに備えていた検証ツール（オゾンの場合は公開可能なデータを伴う機能する全球センサーネットワーク）を構築する。参加が合理的選択となるよう、計算資源のサプライチェーンと市場アクセスを通じてインセンティブ構造を設計する。モントリオール議定書が成功したのは問題が簡単だったからではない。困難な問題に知的に適合するよう条約が設計されたからである。それが基準となった。
何が持ち越され、何を再構築しなければならないか
枠組みから始めて徐々に拘束力を強める順序、特定多数決による調整メカニズム、サプライチェーンのボトルネック、多国間基金の構造——これらはすべて移植可能だ。移植できないのは、科学的な明確さの基盤である。モントリオール議定書が機能した一因は、大気化学者たちが、どの物質がどれだけ損害を与えているかを再現可能な数値で正確に示せた点にある。AI能力に関しては、そうした共有された認識基盤はまだ存在しない。
これを構築するのは前提条件であり、オプションではありません。モデルが定義された能力の閾値を超えたと現場が再現可能な数字で言えるようになるまで、条約の閾値の文言はあらゆる紛争で争われることになるだろう。モントリオール議定書によってオゾン測定インフラが整備されたわけではありません。それは 30 年にわたる大気化学の成果を受け継いだものです。 AI に関する条約は、まず同等のものを委託する必要がある。さもなければ、一部の条約が科学への投資を何倍にもして返済しているという教訓を取り入れる必要があるだろう。
モントリオールのポータブルな部分はまだ設計されています。スケジュールを調整し、サプライチェーンにアクセスし、コンプライアンスに合わせて資金を調達します。 AIにはより厳しい検証が必要だ。ゼロからガバナンスを生み出す必要はありません。