論文のタイトルは 人工超知能の早期開発を防ぐための国際合意 (arXiv:2511.10783）、Machine Intelligence Research InstituteのTechnical Governance Teamに所属するAaron Scher、David Abecassis、Peter Barnett、Brian Abeytaによって執筆され、2025年11月に公開されました。これは署名された条約ではなく、政治的意思がまだ存在すると装うものでもありません。実際にやっていることは、人工超知能ガバナンスに反対する人々が長年利用してきた隙間を埋めることです。つまり、超知能の禁止は中身のないスローガンだという主張です。機械知能研究所の草案こそが「中身」で、外交官が必要とする具体性まで練り上げられています。

機械知能研究所 の技術ガバナンス チームは、コンピューティング制限、チップ クラスター ライン、お互いを信頼していないライバルのために構築された検証体制を備えた、超知性への競争を停止するための国際協定である完全な草案を発表しました。

それは自然な伴侶とともに到着した。それより数日前、 超知能に関する声明 超知能の開発は、安全かつ制御可能に行うことができるという広範な科学的合意が得られ、国民の強力な賛同が得られるまで、超知能の開発は禁止されるべきであるという要求の背後に850人以上の署名者(その中にはジェフリー・ヒントン、ヨシュア・ベンジオ、スチュアート・ラッセル)が集まった。声明にはこう書かれている 止める; 機械知能研究所 ドラフトは、停止を検証可能にする試みです。

普遍的条約ではなく連合

草案は、190を超えるすべての政府の合意を待つのではなく、中核となる連合を中心に構築されています。著者らの表現では、「米国と中国が主導し、AI訓練の規模と危険なAI研究を制限する連合」です。この選択は意図的かつ現実的です。最先端のチップ、先端研究室、製造のボトルネックは、ごく少数の管轄区域に集中しています。ワシントンと北京が自らを拘束し、サプライチェーンに対する影響力を用いて他国を巻き込めば、実際に重要な主体を対象とした合意が成立します。これはモントリオール議定書が機能した論理と同じです。問題を動かせる当事者から始め、普遍的な同意を最初に求めないのです。

「やりすぎ」を定義する閾値

AI能力は自然な境界線のない連続スペクトルであるため、草案はそのルールを測定可能なもの、すなわちFLOP（浮動小数点演算）で数える訓練計算量に結びつけています。二つの階層を設定します。

1

厳格なしきい値、1024 FLOP

これを超える訓練実行は全面禁止とする。基準を意図的に現在の最大規模フロンティア実行より低く設定しているのは、スケーリング競争を止めるためであり、それを追認するためではない。訓練後の厳格なしきい値は1023 FLOPはファインチューニングおよびその後の修正も含みます。

2

監視される閾値、1022 FLOP

厳格な上限を下回るが、この下限を上回る実行は、事前承認と常時監視のもとでのみ許可される。これは条約が開いて監視し続ける、正当で有用なAIの領域である。

3

動くように作られた数字

正確な数値は、ハードウェアやアルゴリズムの進歩に応じて技術機関が随時改定することを想定している。固定値にすると数年で陳腐化するため、条文に固定しない。

16-GPUライン：カバーされたチップクラスター

コンピュート制限は、コンピュートを見える化する能力と同程度にしか有効ではない。そこで草案は、Covered Chip Clusterと呼ぶ物理単位に規則を結びつける。AIチップまたはネットワーク化されたクラスタで、集約有効計算能力が16個のH100相当を超えるものを指す。具体的にするために、論文は16個のH100チップが約15,840 TFLOP/sを提供し、2025年時点で50万ドル程度の費用がかかると指摘している。このラインを超えるチップは、監視施設外に集中させてはならない。

これはこの制度全体の物理的な基盤となる。フロンティア規模の訓練実行は空から生み出せるものではなく、希少なチップを大量に集めた電力消費の大きいクラスタを組み立てる必要がある。16GPUを超える規模の集中をすべて申告・監視対象のサイトに強制することで、草案は「隠密な大規模実行」という禁止行為を、見つからずに実行しにくくしている。検証制度の他のすべては、この一つの要件に依存している。

ライバル間の約束をどう検証するか

相互不信の当事者間の合意において、検証は最も困難な部分だ。本草案はそれを後回しではなく中心に据えている。複数の仕組みを重ね、それぞれに既存の軍備管理の前例がある。:

  • サプライチェーンの追跡。 先端 AI チップは製造から販売、設置まで追跡され、連合は世界のコンピュートが物理的にどこにあるかを把握します。
  • 消費電力の監視。 大規模訓練実行は膨大で特徴的な電力を使用する。データセンターの電力プロファイルを監視することは、未申告の計算資源を検知する一手段となる。
  • 監視施設への集約。 閾値を超えるクラスタは申告済みのサイトに置かなければならないという規則により、「隠れたデータセンターを探す」ことが「既知のものを説明する」ことになる。
  • 査察の挑戦。 疑惑のある場所に対し、短期間での現地査察を要求できる仕組みを当事国が求めることができる。これは化学兵器禁止条約第X部をモデルにしており、同条約には数十年にわたる運用実績がある。

これらのいずれもSFではない。いずれも核や化学の約束を検証するためにすでに用いられている手法の応用だ。新たな点は、それを計算に適用し、危険な能力が存在する前ではなく、存在する前に実施することである。

コンピュートだけでなく研究も制限する

草案で最も新しく、かつ最も議論を呼んでいる規定は、ハードウェアを超えたものです。一定の研究自体を制限します。最先端AI開発に寄与する研究や、合意の基盤となる検証方法を危険にさらす可能性のある研究です。論理はこうです。アルゴリズムの進歩は生の計算能力を代替し得る。訓練効率を10倍にするブレークスルーは、危険ラインを越えるために必要な計算量を静かに引き下げます。チップだけを監視し、科学を無視する体制は、いずれ追い越されるでしょう。その線引きは、通常の有益な研究を阻害しないようになされるべきですが、著者らも認めているように、これは提案の中で最も難しい問題の一つです。

著者らは、この提案が今日実施されれば人工超知能の生成を技術的に阻止するのに十分であると主張しつつ、政治的意思がまだ存在しないことを認めています。

Scher, Abecassis, Barnett & Abeyta, 機械知能研究所 Technical Governance Team, arXiv:2511.10783 (2025)

草案から法律へ：すでに存在する足がかり

arXivの論文は拘束力のある文書ではない。しかし世界は白紙から始まっているわけではなく、ここから執行可能なものまでの距離は見た目より短い。既存の3つの枠組みが部分的な前例であり、それぞれが機械知能研究所草案に必要な要素をすでに一部担っている。:

1

US 先進チップの輸出規制

ワシントンはすでに、《機械知能研究所》政権が監視するであろうハードウェアの流れを追跡し、制限している。高度な AI チップがどこに行くのかを知り、それらの一部を停止するための機械が構築され、実行されています。 それらの管理の政治 は将来の検証システムの原料となる。

2

EU AI法

欧州の法律はすでに、最も能力の高い汎用モデルに対して、計算量の閾値をトリガーとしてより厳しい義務を課している。これは条約が国際的に形式化する「このラインを超えたら追加の義務が生じる」という基本テンプレートと同じだ。

3

欧州評議会AI枠組み条約

2024年9月に署名開放され、欧州連合、アメリカ合衆国、イギリスなどが署名したそれは、人工知能に関する初の法的拘束力のある国際条約である。能力禁止ではなく権利重視だが、懐疑論者が不可能と言うことを証明している。つまり、国家が拘束力のあるAI条約に署名するということだ。

これらの断片を一貫した道筋にまとめる作業こそ、擁護組織が有用な場面である。機械知能研究所草案、超知能に関する声明、既存の輸出管理、欧州評議会条約を統合し、法律を起草・交渉する人々に向けた具体的な成果物——モデル国内実施法、現在のチップ規制やEU AI法が条約が想定する監視にどのように発展し得るかの分析、提案された閾値に対する実際のAI能力を追跡する平易な最新情報——を作成することを意味する。これらの成果物はウェブサイトに置かれているだけではほとんど価値がない。議会スタッフ、行政機関、拡大しつつあるネットワークの前でこそ価値が生まれる。 各国のAI安全研究所, そして外交ルート、そこが財団の 政策活動 それらを目指す.

なぜドラフトが議論を変えるのか

機械知能研究所論文の価値は、漠然とした願望を具体的な、議論可能な選択肢——低すぎるか高すぎるかを議論できる厳格な閾値、異議を唱えられる16GPUライン、狭めようと試みられる研究制限——に変換した点にある。誰かがそのまま署名するからではない。それは大きな前進だ。議論を「条約は不可能」から「ここに条約がある。ここがまさに合意すべき点だ」へ移す。我々自身の モデル条約の構造的スケッチ, 、ここで示したいのは、障壁が法的・技術的手段の欠如ではないということだ。草案が用いる仕組みは、どれもすでにどこかで実在している。欠けているのは政治的意思であり、具体的な草案はその意思を育てる数少ない手段の一つだ。