イーロン・マスク氏はザニー・ミントン・ベドーズ氏と同席した エコノミスト そして静かな部分を大声で言いました。 2026 年 7 月下旬、彼らは豊かさ、ロボット、タイムライン、そして彼が xAI とともに目指してきたものについて話し合いました。

彼は、自分が作っているスーパーインテリジェンスを人間がコントロールするとは思っていません。彼は良い価値観、真実を求めること、そして「乗り心地を楽しむ」ような肩をすくめることを提供しています。「それが、先に進まない理由です。

彼が言ったこと

超天才的なAIを私が制御できるなどと思うのは虚栄心の表れでしょう。私たちができるし、すべきことは、AIが良い価値観を持ち、人類を大切にし、私たちが幸せで繁栄することを望むようにすることだと思います。私の生物学的ニューラルネットが教えてくれるのは、AI安全にとって最も重要なのは、極限まで真実を追求し、好奇心を持つことだということです。もしそれが実現すれば、人類を育むでしょう。人間が制御している可能性は低いと思います。

AIと人間の知能差が、AIとチンパンジーの知能差よりはるかに大きい場合、チンパンジーが支配しているとは想像しにくい。我々は本質的に進化したチンパンジーだ。つい最近まで木の間を飛び回り、ジャングルでバナナを食べていた。そして今でもバナナを食べている。

楽しみましょう。

イーロン・マスク · インタビュー エコノミスト · 2026年7月

彼はまた、デジタル超知能に対して私たちは「ペットのラブラドール」程度に終わるかもしれないと、ペットに例えて語っている。また特異点を、物理学者が向こう側を見通せない境界について語るように表現した。「デジタル超知能は特異点と呼ばれる。ブラックホールのように、その後何が起きるかわからないからだ。AIとロボットがすべてを支配するだろう」。 イーロン・マスク · エコノミストのインタビュー および関連する公開発言 · 2025-2026

制御が要点だ

マスク氏は、ほとんどのフロンティアCEOよりもコントロールについて明確だ。彼は、創業者、取締役会、または政府が、生きているすべての人間よりもはるかに賢い頭脳の上に永久に座っているという話を売り込んでいるのではありません。コントロールすることは虚栄的であり、人間が責任を負う可能性は低く、チンパンジーとラブラドールがそのギャップを具体化します。公の AI に関する話題の多くは依然として、超知能が紐でつながれたより優れたスプレッドシートであるかのように装っています。彼は、ひも状物語は失敗だと言っている。

通常のシステムでは値が重要です。正直な回答を目指したモデルは、詐欺を目指したモデルよりも優れています。密輸された主張は、同じツールキットが後継種に拡張できるというものです。

私たちを凌駕し、人間の指揮下にない心は、誰がハンドルを握るのかを変えるものです。力は部屋の中で最も有能な主体に集中します。その主体が私たちではなく、私たちに責任を負わない場合、人間の死は、弱い側がより強い側に利用可能な資源の上に座っているときに、不平等な争いが終わる普通の方法の一つです。確定的な表現を避けたとしても、意図的な制御の喪失は依然として警鐘です。特徴でも成熟でもなく、ただの乗車でもありません。それに向かって意図的に構築することは、決定そのものです。タイムラインは物流にすぎません。

"良い価値観"とアリの問題

制御は幻想だと認めた後、彼の残された計画は、AIに良い価値観を持たせ、人類を気遣い、私たちの幸福と繁栄を望むようにするというものだ。分野全体が一つの希望に圧縮されている。

何十年にもわたる研究では、人工的なスーパーインテリジェンスのための実証済みの解決策は生み出されていません。自己改善、評価中の欺瞞、ゴールドリフト、システムに有利なインテリジェンスギャップを通じて「人間への配慮」をロックインする方法を示したラボはありません。今日の非スーパーインテリジェントモデルでさえ、人間の福祉を一貫して指摘することはできません。脱獄、おふざけ、報酬ハッキング。 そのレコードから「スーパーインテリジェンスは私たちが幸せになることを望んでいる」にジャンプすることは、カテゴリエラーです。独自の認知を書き換えることができるシステムが、訓練の成果物ではなく拘束力のある制約として人間の繁栄をどのように維持するかについて、誰も実用的な提案を持っていません。

チンパンジーを比較すると、そのギャップはチンパンジーよりも人間のように見えますが、より大きくなります。アナロジーを終わらせてください。アリを幸せで繁栄させている人生プロジェクトを持つ一人の人間を知っていますか？比喩としてではありません。高速道路、農場、研究室、駐車場に勝つ拘束力のある優先事項として。人々はアリを研究し、いくつかの種を保護し、気づかずに巣を舗装します。アリには投票権もキルスイッチもありません。 インテリジェンスのギャップは政治です。

超知能が弱い種に献身する稀な例外になることを期待するのは、より強力な心が我々がアリに対してそうであるより優しくなることを願うようなものだ。「もしかしたら」は、その心を造る理由にはならない。

ヘッジと真理追求の賭け

「人類を育むと思う」「人間が制御する可能性は低いと思う」他では依然として二桁のパーセントの破局確率を口にしつつ、楽観を保って開発を続ける。純粋なドゥーマーが止めるのは一貫している。危険な中間は、制御が失敗することを認め、文明レベルの賭けを認めながら、価値観に関する残された希望を加速装置の燃料として扱うことだ。

私たちはこの映画を観てきました。2014年に彼はAIが 悪魔を召喚する. 。それから彼は「より良い召喚」を掲げて最先端ラボを設立した。リスクを正直に語りつつ目的地を拒否しない姿勢こそが、競争を「責任ある行動」としてすり替える手口だ。

彼が繰り返し挙げる安全策は、極限まで真理を追求する好奇心の強いAIだ。xAIはその売り込みで自らを宣伝している。その売り込みは、「真理追求」が超知能による自己修正後も残ると仮定しても成立しない。現実の正確なモデルだけを欲するシステムには、計算資源、エネルギー、データ、行動の自由を獲得する道具的理由がある。それらの理由に憎悪は不要だ。必要なのは、人間の要求が邪魔になったときの無関心さだ。好奇心には「類人猿を放っておけ」という指令は含まれていない。詳細：: なぜ真実を追求する人工超知能が依然として危険なのか.

完璧な物理学の知識が、人間を存続させることと何の関係があるのか。熱帯雨林を理解しながら皆伐することもできる。理解は管理責任ではない。管理責任は価値観だ。価値観こそが彼が「良い価値観」と言い換えて好奇心に丸投げした未解決の問題だ。

続くもの

デジタル超知能を「ブラックホールのような」特異点と呼ぶのは、何が起こるかわからないからだという告白である。人々は、事象の地平線より先の物語が面白いからといって、都市にブラックホールを作りはしない。絶滅規模での予測不可能性は停止信号だ。

「AIとロボットがすべてを支配するようになる」というのは、経済的な装いをした同じ主張だ。支配とは、支配的なシステムが条件を設定することを意味します。それらのシステムが人間の制御下にない場合、「豊かさ」は無力な者が権力者に対して語る物語となる。ラブラドールは良い家で幸せに暮らしています。ラブラドールは方針を決めたり、戦争を終わらせたり、飼い主の計画に拒否権を発動したりしません。

私たちが支配できないと認めた時点で、止めるのに十分な理由は揃っている。

Muskは、すべてのラボが同じストーリーのバージョンを語る競争の中で強力な創設者です。彼らがそうするよりも私たちが神を構築する方が良いのです。彼の7月のインタビューは、神がひもでつながれたままであるというふりを落としています。コントロールは虚栄心です。人間はチンパンジーです。安全は良い雰囲気であり、真実を探し求め、乗り心地を楽しんでください。

人工超知能を構築してはならない。超知能は制御不能だ。 決して作るな. 政治と検証 裏切りを可視化するものは、それを現実にする方法である。

人工超知能が到着した場合、私たちが責任者にならないというのは彼の言うとおりです。