国際的な人工超知能ガバナンスが不可能であると人々が主張するとき、彼らが到達する最も一般的な構造的議論の1つはG 0安全保障理事会です。反対派によると、中国とロシアは、AI開発に対する拘束力のある制約を拒否するだけだという。G 0は行動できません。したがって、バインディング人工超知能ガバナンスは発生しません。

人工超知能の執行を安全保障理事会経由にすると、どちらの国も完全に阻止できる。 この制約を前提にすると、有効な人工超知能ガバナンスの形と、あり得ない形が見えてくる。

この主張は、国際統治が実際にどのように機能するかを誤解している。安全保障理事会の拒否権は現実的で重大だが、それが適用される決定の範囲は、ほとんどの人が想定するよりはるかに狭い。拒否権が何を覆い、何を覆わないかを正確に理解することが、中国とロシアが自らのAI開発を自発的に制約しない世界で実際に機能する人工超知能統治アーキテクチャを設計するための前提条件である。

安全保障理事会の拒否権が実際にカバーするもの

UN安全保障理事会は、国際の平和と安全が脅かされていると判断した場合、UN憲章第7章に基づき強制措置を承認する権限を持ちます。これには経済制裁、武器禁輸、軍事力行使の承認が含まれます。常任理事国である米国、英国、フランス、中国、ロシアの5か国は、いずれも第7章決議に対して拒否権を有します。

拒否権がカバーしていないのは、条約の交渉と批准です。国家は、個別のプロセスを通じて条約を交渉し、二国間または多国間で署名し、安全保障理事会の役割を持たずに国内の立法府を通じて批准します。中国は化学兵器禁止条約に拒否権を行使することはできない。ロシアは核不拡散条約に拒否権を行使することはできない。 どちらの国も、他の国がAI安全条約を交渉して批准することを妨げることはできません。

拒否権が問題になるのは条約段階ではなく、執行段階だ。ある国が条約に違反し、被害を受けた当事国が安全保障理事会に執行措置の承認を求めても、常任理事国の拒否権で阻止され得る。これは条約設計にとって本質的な問題である。安全保障理事会の執行に依存するガバナンス構造は、執行が必要なまさにその瞬間にP5の妨害を受けやすい。

解決策は安全保障理事会の執行に依存しないことだ。

成功した条約が拒否権を回避する方法

化学兵器禁止条約（1993年）は最も示唆に富む前例である。ハーグに本部を置く化学兵器禁止機関は、加盟国の化学施設に対する定期査察を実施し、違反の申し立てを調査する。その統治機関である締約国会議は、違反の責任を特定し、違反国の権利・特権の停止を含む結果に関する決定を下すことができる。これらのプロセスはいずれも安全保障理事会の承認を必要としない。

2013年および2017年・2018年にシリアが化学兵器を使用した際、化学兵器禁止機関は調査を行い、責任を特定し、シリアの組織内権利を停止した。ロシアはシリアの化学兵器使用に関する安全保障理事会決議に繰り返し拒否権を行使した。しかしロシアの拒否権は、化学兵器禁止機関の事実認定や、締約国会議が自らの手続きを通じて課した制裁を覆すことはできなかった。安全保障理事会からの運用上の独立性こそが、P5の妨害に直面しても化学兵器禁止機関を機能させた理由である。

化学兵器禁止機関設計の教訓

化学兵器禁止機関の設立条約は、検証・帰属・結果の権限を安全保障理事会ではなく組織自身の統治機関内に意図的に置いた。ロシアがシリアの化学兵器使用に対する安全保障理事会の行動を阻止したときも、化学兵器禁止機関の調査と説明責任のプロセスは自らの手続きを通じて継続した。この設計選択により、CWC体制は安全保障理事会依存の設計では崩壊していたであろう政治的状況下で機能した。

国際原子力機関は同様の二重構造を採用している。国際原子力機関の理事会は、保障措置義務の不履行を認定して安全保障理事会に報告できる。ただし理事会の認定は、安全保障理事会がどう扱おうと有効である。2005年にイランが不履行と認定された際、国際原子力機関理事会の決議は、安全保障理事会が行動を起こす前から法的・政治的に重要な事実だった。国際原子力機関は不履行をUN総会にも報告する。総会には執行権限はないが、独自の決議を通じて政治的圧力を増幅できる。

国連総会代替案

UN総会には193の加盟国があり、その決議は安全保障理事会の決議のように法的拘束力を持たないが、無関係とは程遠い。国際社会のコンセンサスを示す立場であり、条約交渉や国内法、慣習国際法上の国家義務に関する司法判断に規範的枠組みを提供する。

国連総会はすでに人工超知能ガバナンスに関与し始めています。2024年3月、総会は「安全で確実かつ信頼できる人工知能の機会を持続可能な開発のために活用する」決議をコンセンサスで採択しました。これは拘束力のある統治文書ではありませんでしたが、責任あるAI開発の性格について国際的に合意された表現を初めて確立した総会決議でした。これらの決議の文言は、条約交渉の出発点となります。

平和のための結集手続き（1950年）は、安全保障理事会が拒否権で機能不全に陥った場合、総会が緊急特別会期を招集して国際の平和と安全に関する事項を審議できると定めた。この手続きは複数回発動されており、2022年のロシアによるウクライナ侵攻でも用いられた。理論上、安全保障理事会の行き詰まりがAI関連の惨事への対応を阻んだ場合、この手続きで審議を総会に移すことは可能だ。法的拘束力のある執行権限は生まないが、政治的・規範的な重みを持つ反応は得られる。

拒否権問題を回避する条約アーキテクチャ

UNSCの拒否権による妨害が存在する世界で機能するよう設計された人工超知能ガバナンス条約は、既存の最も効果的な軍備管理・軍縮レジームと複数の特徴を共有する。

検証権限は安全保障理事会ではなく条約機関に置かれるべきである。条約は化学兵器禁止機関や国際原子力機関に類似した独立した組織を設立し、独自の理事会、査察機関、違反の発見と制裁を課すための意思決定手続きを備えることになる。条約機関が利用できる制裁には、加盟権の停止、公的帰属報告を通じた名指しと非難、技術協力プログラムからの排除が含まれる。これらの制裁は安全保障理事会の承認を必要としない。

条約機関は調査結果を安全保障理事会に報告するが、その報告自体に独立した意義がある。人工超知能ガバナンス条約機関が、ある国が義務に違反したと正式に認定すれば、それが安全保障理事会がその後執行を承認するかどうかにかかわらず、重要な政治的・法的事実となる。これが国際原子力機関モデルである。理事会の理事会から安全保障理事会への付託は単なる手続きではなく、理事会が行動するかどうかにかかわらず独立して作用する政治的圧力を生み出す。

条約を批准する国家は、独立した紛争解決メカニズムの管轄権を受け入れる。貿易法はここで有用なモデルを提供する。世界貿易機関の紛争解決制度は、報復的貿易措置を認可でき、安全保障理事会から独立して機能する。WTO加盟国は、加盟の条件としてこの管轄権を受け入れている。人工超知能ガバナンス条約も同様の規定を含め、安全保障理事会の拒否権が及ばない貿易上の結果を通じた執行メカニズムを創設できる。

「拒否権の問題は現実です。しかし、それは人々が思っているより狭い範囲のガバナンスに当てはまります。最も効果的な軍備管理体制は、安全保障理事会の承認とは独立して機能する検証、帰属、および結果のメカニズムを構築しています。人工超知能ガバナンスも同じアーキテクチャロジックに従うことができます。」

より困難な問題：非当事者の統治

安全保障理事会の拒否権を迂回することで、条約締約国が義務違反した場合の統治問題は解決する。ただし、最初から条約に参加しない国家を統治するという、より困難な問題は解決しない。

中国またはロシアが 人工超知能 ガバナンス条約の批准を拒否した場合、彼らの AI プログラムはその義務の対象となりません。非締約国には、いかなる査察体制も、いかなる条約機関も、いかなる紛争解決メカニズムも適用されない。この場合、問題の国は条約の枠組みから完全に外れているため、安全保障理事会の拒否権の問題は無関係になる。

これは、安全保障理事会の拒否権問題と混同されることがある人工超知能ガバナンスにとっての本質的な構造的課題です。異なる解決策が必要です。市場アクセス条件（AIの輸出入の条件として安全基準の遵守を要求する）、不参加をコストのかかるものにするための連合形成、そして枠組みの外に留まる政治的コストを高める総会やその他の多国間フォーラムを通じた規範設定プロセスです。これらは、米国、中国、ロシアの不参加にもかかわらず、地雷禁止条約や国際刑事裁判所を意味のある手段に変えた戦略です。

安全保障理事会の拒否権は、拘束力のある国際人工超知能統治がどのような形になるかに対する genuine な制約である。しかし、拘束力のある国際人工超知能統治が可能かどうかの制約ではない。大量破壊兵器を成功裏に統治してきた制度は、慎重な条約設計、独立検証機関、安全保障理事会の承認に依存しない執行メカニズムを通じてこの制約を回避してきた。人工超知能統治の設計者はそれらの設計を研究すべきであって、拒否権を達成可能なものの恒久的な上限として受け入れるべきではない。