2025年10月22日、Future of Life Instituteは「」というタイトルの公開書簡を発表した 超知能に関する声明. 。通常、このような瞬間に付随する膨大なマニフェストとは異なり、手紙の全文は次のとおりです。

私たちは超知能の開発を禁止することを求める。それは、安全かつ制御可能に実現できるという幅広い科学的コンセンサスと、強い国民的合意が得られるまで解除されない。

超知能に関する声明、Future of Life Institute · 2025年10月

これは超知能を決して作るべきではないと言っているのではありません。AIそのものを非難しているのでもありません。一つの条件（実際には二つ）を設定し、それが満たされるまで開発を停止するよう求めています。この控えめな要請が本当の意味で議論の転換点になる理由を理解するには、何を要求し、誰が名を連ねたのかを知る必要があります。

声明が実際に求めているもの

その表現は正確です。2023年の大規模訓練ランに対する6ヶ月停止を求めるよく知られた書簡を含む、以前の公開書簡と区別する三つの特徴があります。

  • それは特に超知能を対象としている。 狭い AI ではなく、チャットボットでも、すでに日常生活に組み込まれている AI ツールでもありません。 禁止事項が適用されるのは、 本質的にすべての認知領域にわたって人間の能力を超えるシステム. 。この正確さは、安全擁護派が有益な技術を停止させたいという通常の反対意見を和らげます。彼らは、特定の、特に危険なフロンティアを阻止したいと考えています。
  • それは条件付きの禁止であって、永久的な禁止ではない。 禁止は 2 つのしきい値を超えた瞬間に解除されます。今日のデフォルトは、超知能を構築し、可能であればその後の安全性を確立することです。このステートメントはそれを逆転させています。まず安全性を確立してから構築します。立証責任は開発者に移り、（このような結果をもたらすテクノロジーに関しては）おそらく開発者がそれに属することになる。
  • 専門家の承認だけでなく、国民の支持が必要だ。 二つ目の条件は技術的ではなく民主的だ。仮に科学者たちがいつか超知能を制御可能だと合意したとしても、声明は一般市民の同意を必須とする。これは現在の一握りの民間研究所が文明を変える決定を全員の代理で行っている状況への直接的な挑戦であり、私たちが 誰が超知能を制御するのか.

なぜ文言よりも署名者が重要なのか

オープンレターは安いです。この1つの土地を作ったのは連合軍でした。発売時に850人以上が署名しましたが、このリストはその長さではなく 範囲. 。パブリックカウントはそれ以来70,000を超えています。

頂点にはその分野を築いた科学者たちがいた。 ヨシュア・ベンジオ と ジェフリー・ヒントン （ともにチューリング賞受賞者で、現代AIのゴッドファーザーと呼ばれる）も署名し、Berkeleyの スチュアート・ラッセル, 標準的なAI教科書の著者。技術の存在に最も責任を持つ人々が、その最も強力な形態を構築する前に世界に停止を求めるのは、証言であって、活動ではない。

次に建設業者や著名人がやって来ました。アップルの共同創設者 Steve Wozniak そしてVirginの創業者 Richard Branson. 歴史家 Yuval Noah Harari, 俳優 Stephen Fry, そしてミュージシャン ウィル・アイ・アム. Retired national-security leaders including former Joint Chiefs chairman Admiral Mike Mullen および元国家安全保障顧問 Susan Rice. 。そして最も示唆的なのは、ほとんど何も同意しない人物たち：: プリンス・ハリーとメーガン と並んで Steve Bannon と Glenn Beck.

最後の詳細は、議論全体のミニチュアです。英国王室夫妻とMAGAメディア戦略家が同じ声明に名を連ねたとき、この問題は通常のイデオロギー的な分類を逃れた。スーパーインテリジェンスへの懸念は、2025年から2026年にかけて真の党派を超えた影響力を持つ数少ないポジションの1つであり、それはまさに、左派でも右派でもなく、体制やポピュリストでもなく、拘束力のある政策を可能にする種類の連合である。

声明が述べていること、そして述べていないこと

限界について冷静に認識しておくことが重要だ。公の声明は何も禁止しない。規制当局を指揮せず、企業を拘束せず、政府を制約しない。それを法律とみなす読者は誤っている。

それがするのは を動かすことです オーバートン・ウィンドウ, 、主流と見なされ、口にできる立場の範囲である。二年前、AIのある種のクラスに対する禁止を求めることは、極端な主張として退けられただろう。2025年10月以降、それはノーベル賞級の科学者、象徴的な起業家、さまざまな政治的立場の人々が公に表明する立場となっている。言えることが敬意を払われるものになるというこの変化が、その後に続くすべての前提条件となる。政治家はすでに人気のある立場を取るのであり、めったに先導はしない。この声明の機能は、指導者が行動できるほど禁止を人気のあるものにすることだ。

これがまさに、初期の技術ガバナンス運動の始まり方である。The パグウォッシュ会議 核軍備管理を支える知的・道徳的コンセンサスを築くのに20年を費やした。声明や宣言は滑走路を整備するものであり、ゴールラインではない。

声明から条約へ

声明と現実のギャップこそ、中田財団が埋めるべきものです。声明は禁止が望ましく正当であることを示しますが、それを強制する仕組みまでは作りません。その仕組みには、声明があえて明記していない三つの要素が必要です。:

超知能に関する声明は、貴重な事実を証明した。意志は存在し、通常人々を分けるあらゆる境界を越えている。私たちの 計画 それは、その意志をコンピューティング制御、監視機関、そして声明に必要な力を与える国際条約に変換することです。同意する場合、次にできる最も有益なことは、それを政策に変える連合の構築を支援することです。