超知能はワシントン、ブリュッセル、北京で周縁的な話題ではなくなった。残された問いは速度だ。政府が統治すべきシステムより速く動けるかどうか。
2023 年 11 月、28 か国がブレッチリー宣言に署名しました。これは、高度な AI が「潜在的に壊滅的な」リスクをもたらすことを認めた最初の国際協定です。署名者には、米国、中国、英国、欧州連合、アジア、アフリカ、南米諸国が含まれます。この合意は単なる補助文書ではなかった。国家元首と上級大臣が署名した。
UKはブレッチリー・パークで初のAI安全サミットを主催した。二回目はソウルで開催され、三回目はパリで続いた。政府系AI研究所の国際ネットワークもすでに存在し、当初はAI Safety Institutesとして発足し、UKではAI Security Institute、USではCenter for AI Standards and Innovationと改称された。米国、英国、欧州連合に拠点があり、研究を共有しリスク枠組みを調整している。四年前にはどれも存在しなかった。
米国上院では、AIリスクは数少ない本物の超党派問題の一つとなっている。Chuck Schumerは2023年にAI Insight Forumsを招集した。Josh Hawleyはスーパーインテリジェンスを「人類史上最も危険な技術」と呼んだ。Marco RubioはAIリスクを標的とした法案を提出した。脅威がイデオロギーを尊重しないため、懸念は党派を超えて広がっている。
欧州連合は2024年にAI Actを可決した。これはリスクレベルごとにAIシステムを規制する世界初の包括的法的枠組みだ。最も能力の高いフロンティアモデルには最も厳しい要件が課される。不完全な法律ではある。だが、規制当局が巨額の罰金を科す権限を持つ、拘束力のある法律でもある。
中国はアルゴリズムの透明性やコンテンツのラベル付けを義務づけるなど、独自の人工超知能ガバナンス規制を公布している。中国はBletchleyサミットとSeoulサミットにも参加した。中国を 人工超知能ガバナンスに関与しない は間違っている。
2025年、ワシントンは2023年のAI安全行政命令を取り消し、加速を中心に構築されたAI行動計画を発表しました。G 1研究所は、AI標準イノベーションセンターとなりました。カリフォルニア州はフロンティア開示法を可決しました。G 0法が適用され始めた。インドは2026年のサミットを主催しました。それでも、スーパーインテリジェンスを構築することを禁止する法律はありません。
2026年の政治情勢は2020年のそれとは全く異なる。この変化は人々が働きかけた結果だ。この変化は今後も続き得るし、構築中のシステムがガバナンスの問題を答えられないものにする前に、必ず続けなければならない。
US、UK、EU、中国を含む28カ国が、先進AIが「潜在的に壊滅的」なリスクをもたらすことを認める初の国際合意に署名しました。ブレッチリー・パークでのAI安全サミットは、最先端AIのリスク評価に関する共通の枠組みを生み出しました。
欧州連合は世界初の包括的なAI規制枠組みを可決し、最も能力の高いフロンティアモデルに厳しい要件を課した。違反には全世界売上高の最大3％の罰金が科される。この法律は27加盟国で拘束力を持ち、EU内で展開されるあらゆるAIシステムに適用される。
US上院は、OpenAIのサム・アルトマンをはじめとする主要研究者や政策専門家を招いたAIリスクに関する超党派公聴会を開催する。この公聴会は、AIの実存的リスクがUSの立法監督の最高レベルで実質的に議論される初めての機会となった。
G 1、G 2、G 0は、展開前にフロンティアAIシステムの壊滅的なリスクを評価する権限を持つAI安全研究所を設立します。これらの機関は、スーパーインテリジェンスのリスク評価のための最初の正式な政府インフラストラクチャを表しています。G 2機関は現在、AIセキュリティ研究所となっています。G 1団体は現在、AI標準イノベーションセンターとなっています。評価作業は、禁止事項ではなく、基準とセキュリティの概要の下で継続されます。
ワシントンは2023年のAI安全行政命令を取り消し、開発の加速を中心に構築された国家計画を発表した。連邦安全研究所の名称が変更され、タスクが変更されました。どれもスーパーインテリジェンスを禁止するものではありません。
各国政府はニューデリーで会合を開きます。パブリックアウトプットは開発第一です。参加政府は、スーパーインテリジェンスを禁止することに同意していません。
OpenAI、グーグル、マイクロソフト、メタ、そしてAmazonは2023年と2024年にワシントンで数億ドル規模のロビー活動を行いました。テクノロジー産業は米国で最大の企業ロビー勢力です。彼らは元規制当局者、元議員、元ホワイトハウス高官を雇用しています。これが、どんな人工超知能ガバナンスの取り組みも克服しなければならない力です。
ロビイングは無差別ではなく、標的を絞っている。超知能開発を制約し得る具体的な立法メカニズム——計算量閾値、必須安全評価、責任枠組み——に狙いを定める。本当の説明責任を生むあらゆる措置が、資金力のあるキャンペーンで弱体化・阻止される。
AI能力はGPT-2から、ほとんどの認知ベンチマークで大多数の人間を上回るシステムへ、六年足らずで到達しました。主要な立法は通常、提出から成立まで四年から八年の歳月を要します。技術はガバナンスが追いつくのを待ってくれません。
この不一致は、立法の緊急性を最優先事項として扱い、タイムラインを短縮する政策活動に資金を投じ、迅速な行動を促す世論を築くことを主張する。速度の不一致は物理法則ではなく政治的問題だ。
安全規制は通常、災害の後に作られ、前に作られることはない。シートベルト法は交通事故死が何十年も続いた後にできた。金融規制は危機の後に強化された。予防的な規制を政治的に行う仕組みは、ほとんどの民主主義国で未発達のままだ。
超知能の場合、災害優先モデルは受け入れられない。非整合的な超知能には修正の期間など存在しない。だからこそ、予防的ガバナンスが、 核不拡散 危機後の規制ではなく、 が適切な枠組みだ。過去に機能した。再度機能させるための政治的基盤を築く必要がある。
たばこ業界はたばこ広告の規制は不可能だと主張した。自動車業界はシートベルト義務化で販売が壊滅すると言った。化学業界はCFCの禁止で現代の製造業が終わるだろうと主張した。いずれの場合も「不可能」という主張はロビー活動の立場であって事実ではなかった。いずれの場合も規制は結局実施された。
AI リスクに関するオーバートンのウィンドウは、歴史上のどの同等のテクノロジー問題よりも速く変化しています。 2020 年、超知性リスクは主に学術論文やオンライン フォーラムで議論されたトピックでした。 2026 年には、それがすべての G7 政府の議題となっています。上級国家元首は演説で「存立的脅威」という言葉を使う。この変化は、この問題を無視することを拒否した研究者、ジャーナリスト、市民による持続的な擁護の結果です。
AIの安全性を求める政治連合が形成されつつある。その中には、国家安全保障や少数の企業への権力の集中を懸念する保守派も含まれている。その中には、歴史上最も重要なテクノロジーに関する決定に対する民主的な監視の欠如を懸念する進歩主義者も含まれています。そこには信仰コミュニティ、科学者、芸術家、そして親が含まれます。
国際的な機運は本物だ。ブレッチリー・プロセス、AI研究所の国際ネットワーク、そして新たに始まったUNガバナンス議論は、どの技術分野よりも速く構築されている国際AI政策インフラを表している。部品は集まりつつある。問題は、それらが十分に速く集まるかどうかであり、それは十分な人々が押し続けるかどうかにかかっている。
私たちに加わり、行動しないことが政治的に不可能になるような圧力を築く手助けをしてほしい。