スーパーインテリジェンスの統治:
政策立案者向けの概要
国際的なAI安全保障ガバナンスの事例：問題点、必要なもの、そしてそれが可能であることを示す前例。
前例のない技術にガバナンスの枠組みがない
人工超知能（あらゆる領域で人間の知能を超えるシステム）は、最小限の規制監督の下で活動する民間企業によって積極的に開発されている。主要なAI研究所は、内部でこの閾値が今後10年以内に到達するとの見方を示している。
これまでの技術的リスクとは異なり、超知能には既存の国際ガバナンス構造が存在しない。条約も、検証機関も、多国間の安全基準も、警告兆候が出た場合に開発を停止する仕組みもない。ガバナンスの空白は完全だ。
効果的なガバナンスのための窓は閉じつつある
国際的なガバナンス枠組みの確立には何年もの交渉が必要だ。核拡散防止条約は初の核実験から10年の外交を要した。モントリオール議定書は多国間採択に至るまで、持続的な科学的合意形成を必要とした。
AI能力開発は加速している。かつて何年もかかっていた改善が、今では数ヶ月で実現する。十分に能力のあるシステムが存在するようになれば、有意義な制約を課すには遅すぎるかもしれない。ガバナンスは能力に先行しなければならず、後から追いつくものではない。
前例：我々は以前にこれを成し遂げた
推奨される政策措置
- 展開前の必須安全評価 by independent government bodies before any frontier AI system is released, equivalent to clinical trials for pharmaceuticals.
- コンピュート監視とライセンス供与 定義された能力閾値を超える訓練実行に対して。計算量は能力の測定可能な代理指標であり、追跡・規制が可能だ。
- 国際AI安全機関 検査権限を備え、国際原子力機関をモデルに、各国管轄区域にわたる合意済み安全基準の遵守を検証する。
- インシデント報告要件 訓練や展開中に観察された危険な行動について。現在は自発的で、ラボ間で一貫性がない。
- 国内のAI安全法制 不十分にテストされたAIシステムによる予見可能な危害に対する法的責任を確立し、慎重さを促す市場インセンティブを適切に創出する.
- 多国間交渉 能力の閾値に達する前に国際基準を確立する。後ではなく、今、窓が開いているうちに始めよう。
これは科学的コンセンサスであり、少数派の見解ではない
ノーベル賞受賞者のジェフリー・ヒントン、ヨシュア・ベンジオをはじめとする500人以上のAI科学者、そしてOpenAIとディープマインドのCEOらが、2023年に「絶滅レベルのAIリスク」を「パンデミックや核戦争と並ぶ世界的な優先事項」とする声明に署名した。
UK政府は2023年に世界初のAI Safety Institute（現AI Security Institute）を設立しました。EUのAI法はAIシステムに必須のリスク分類を導入しました。USの大統領令はフロンティアモデルに安全評価を義務付けました。国際枠組みはまだ存在しませんが、政治的意思は形成されつつあります。今こそ行動する時です。
nakadafoundation.org
人類を救う中田財団は国際的なAI安全保障ガバナンスを提唱する。我々は政策専門知識、市民教育、 advocacy支援を提供する。貴官またはスタッフ向けのブリーフィングの手配についてはご連絡ください。