AI安全条約とは
交渉はこう見えるだろう。

1968年、核不拡散条約は、何年にもわたる作業部会、行き詰まり、国内闘争を経て、草案の文言から署名された文書になりました。「AI条約が必要だ」と言う人は、その機械を想像することはめったにありません。彼らはそうすべきです。その願いと批准されたテキストの間のギャップは、ほとんどの計画が死ぬ場所です。

国際条約交渉は、外交使節団、法曹専門家、技術顧問が何年にもわたり技術的議論を重ねる長期プロセスだ。

国際条約交渉の仕組み

現代の多国間条約の多くは、政治的授権から始まります。通常はUN総会決議か、多国間機関による交渉開始を命じる決定です。これにより、交渉会議やジュネーブの軍縮会議のような既存のフォーラム内常設委員会の正式な基盤が作られます。この政治的授権がなければ、条約に関する議論は準備的・非公式なものに留まります。授権があれば、条約文書を作成する権限を持つ正式な交渉プロセスとなります。

交渉機関は通常、年に数週間の会期で会合し、正式な会期の合間には技術作業部会が会期間の作業を行います。作業部会は定義、検証メカニズム、制度的手配、実施義務、財政的措置といった具体的な課題に並行して取り組みます。各作業部会は草案を作成し、連続する会期を通じて条約全体のローリング草案に統合されます。

条約案はコンセンサス方式で交渉される。つまり、すべての参加国が同意するまで、いかなる条項も確定しない。これは多数決よりも高いハードルだが、受け入れがたい条項で自国が否決されることがないため、より永続的な正当性と幅広い参加を生む。代償は、コンセンサスに時間がかかることであり、そのペースは最も異論の多い代表団に左右される。

条文が確定すると署名のために開放される。署名は政治的な支持行為であり、法的拘束力を持つものではない。法的拘束力は、各国が自国の憲法手続きを通じて条約を批准した時点で生じる。ほとんどの条約は、法的効力が生じる前に必要な批准数の最低基準を定めている。

フロンティアAI条約に必要なワーキンググループ

フロンティアAI開発を統制するための条約には、国際法に定まった答えのない問題を中心に組織された作業部会が必要となる。主要なものは：:

定義。 条約は、どのAIシステムを対象とするかを明記する必要がある。これは核兵器や化学剤を定義するよりも難しい。なぜならAIは、危険なバージョンと安全なバージョンの間に明確な区別がない連続的な能力スペクトラムだからだ。提案の中心は、代理指標としてのコンピュート閾値である。指定された計算規模を超える訓練実行が条約上の義務をトリガーする。閾値には技術的正当性が必要であり、コンピュートコストの低下に伴う定期的な改訂と、境界付近のケースのための紛争解決メカニズムが必要となる。

対象システム開発者の義務。 定義された閾値を超えた場合、どのような行動が求められるのか。ほとんどの提案には、訓練実行の前または最中に監視機関への事前通知、訓練されたシステムに対する指定された安全基準での必須評価、評価結果の報告、基準に適合しなかったシステムの展開制限が含まれる。これらはいずれも、十分な遵守とは何かを定義する必要があり、それは単一の交渉セッションが始まる前の技術的・法的論争そのものである。

検証メカニズム。 独立機関は、宣言された活動が実際の活動と一致していることをどのように確認するのでしょうか?これは技術的に最も要求の厳しい作業グループになります。流通している提案は、特定の仕様を超える売上を追跡するチップメーカーとの協力によるハードウェアレベルの監視、大規模な計算クラスターを訪問する権利による施設検査、トレーニングログと評価記録に対する監査権を組み合わせたものである。それぞれの要素は、商業上の機密保持と国家安全保障の分類に関する問題を引き起こしますが、これらは簡単には解決できません。

制度的構造。 どの機関が条約を管理するのか。新たに条約に基づいて設立される化学兵器禁止機関に類する組織が、ガバナンス上の価値は最も高いものの、政治的努力と資源を最も必要とします。既存機関への委任は政治的コストが低い一方で、任務や技術的専門性を十分に備えていない可能性があります。国際原子力機関はデュアルユース技術の監視経験があり、ITUはAI関連問題について一定の管轄権を主張しています。各選択肢で資源面の含意も、大国からの政治的独立性の歴史も異なります。

発効要件。 条約が法的効力を持つ前に批准しなければならない国を明記する必要がある。US、中国、UKのいずれかが批准せずに発効した条約は、フロンティアAI開発を担う組織を拘束しない。核拡散防止条約は特定の国家グループによる批准を要件とした。AI条約にも同様の仕組みが必要だが、USと中国の批准を要件とすれば両国に条約の存続に対する拒否権を与えるという明らかな難点がある。

段階を踏んだ交渉プロセス

予測可能な障害点

類似の交渉の経験から、予測可能な形で生じるいくつかの紛争と、それを最初から設計に織り込んでおく必要がある理由を挙げる。

検証と機密保持の緊張関係。最先端AIプログラムを持つ国や企業は、商業的または軍事的に機密性の高い情報の開示を求める検証メカニズムに抵抗する。AI能力は競争優位性を表す。検証制度を信頼できるものにする検査権は、遵守が条約の意味を左右する当事者自身によって拒否される。核体制は、核物質の転用を検証しつつ兵器設計情報の開示を求めない、慎重に範囲を限定した保障措置協定によってこの問題を解決した。人工超知能ガバナンスにも同様の範囲限定作業が必要になる。

閾値定義をめぐる争い。対象システムを定義するために用いる計算量閾値は、どのようなものであれ争われることになる。閾値のすぐ下の当事者はそれをより低くすべきだと主張し、すぐ上の当事者は低すぎると主張する。また、固定された閾値は計算コストが低下するにつれて陳腐化し、政治的に争われる改正メカニズムを必要とする。他の条約で用いられている一つのアプローチは、固定数を条約本文に埋め込むのではなく、技術機関に閾値設定を委ね、条約改正なしに改訂できるようにすることだ。

中国の参加問題だ。中国抜きで発効する条約は、US以外で最も重要なAI開発を担う組織を規制しない。中国にフロンティアAI開発に関する拘束力ある義務を受け入れさせるには、相互の深い疑念の下で、信頼できる見返り（技術アクセス保証とUS開発に対する対称的な制約の組み合わせが有力）を提示する必要がある。これは条約設計だけでは完全に解決できない外交問題である。

民間主体の問題。最先端AIは主に民間企業によって開発されている。条約は国家を拘束し、国家が国内法を通じて企業に義務を適用する形になる。これは、核・化学兵器条約が主に国家プログラムを扱っていたのとは異なり、規制の複雑さをもたらす。最先端AI条約は、国家の義務が企業の義務にどのように翻訳され、企業の違反がそれをホストする国家当事者にどのように帰属されるかを明確に規定する必要がある。

「主要な軍備管理条約はどれも、交渉されるまでは不可能に見えた。問題は常に、政治的条件が熟して、行動を続けているコストが合意のコストを上回るようになったかどうかだ」

フロンティアAI安全条約は、まだ正式に始まっていない持続的な政治プロセスの産物であって、単一の出来事ではない。現在進行中のAI安全サミット、二国間政府協議、国家安全保障研究所、学術的なガバナンス枠組み提案などは準備段階である。それを正式な交渉委任事項に変換し、条約文にし、批准に至らせるのは何年もの作業だ。緊急性は、統治される能力が統治プロセスより速く発展する可能性があることにある。その緊急性が、今こそ本格的に始めるべき理由である。

あらゆる主要な武器条約は、不作為の代償が増大するまでは不可能に見えた。準備作業は存在します。欠けているのは、新しい語彙ではなく、国民の需要と産業の影響によって強制される政治的意志です。