そのモデルはMythosで、アンソロピックの最も強力なシステムと報じられていた。議員は上院情報委員会副委員長のマーク・ワーナー（バージニア州）だった。将軍はNSAと米サイバー軍の両方を指揮するジョシュア・ラッドだった。ワーナーの説明によれば、, 最初に報告したのは エコノミスト そして業界紙で取り上げられた, ラッドはモデルが何をするのかを彼に話した。

商用モデルにより、数時間で。詳細は議論があり、数日で話は複雑化した。核心は本物であり、その核心だけで十分である。

Mythosは我々の機密システムのほとんどに、数週間ではなく、数時間で侵入した。

NSAおよび米サイバー軍司令官のJoshua Rudd将軍、Mark Warner上院議員の伝聞として、 により報じられた エコノミスト, 2026年6月

"AI hacks the NSA"という見出しが書ける。もちろん実際はそれほど単純ではない。ウイルス化したバージョンと実際の出来事のギャップを正確に理解することは重要だ。なぜなら、本当の出来事こそが眠れなくなる理由だからだ。

実際に起きたこと

不正なマシンは製作者を攻撃し、国家の機密を襲撃することはありませんでした。 侵入は許可された屋内で行われた レッドチーム演習: 管理されたセキュリティテストで、機関がモデルを自らの機密環境の複製に向けさせ、侵入経路を探させたもの。

ただし、すぐに留保が積み重なった。政府高官は後に、ワーナーが話を要約しすぎた可能性があり、「数時間ではなく数週間」という表現は実際のネットワークではなくレッドチーム演習の文脈を指していたと述べた。NSAもサイバーコマンドもこの証言を独自に確認していない。その点をすべて踏まえ、どんな修正も受け入れ、最も安心できる解釈を採用したとしよう。

誇張を剥いだ後に残るのはこれだ。国内で最も安全なシステムの代用を狙ったレンタル可能なモデルが、欠陥を発見し、わずか半日でほぼ完全なアクセス権を連鎖させた。世界最高の人間レッドチームでも半日ではできない。

彼らは製品をオフにした

彼らは肩をすくめなかった。

テストの翌日、商務省はアンソロピックの非市民従業員を含むすべての外国人を、同社の最も能力の高い2つのモデルMythosとFableの使用から排除する措置を講じた。アンソロピックはその技術的な問題について訴訟を起こさなかった。それは 世界中の市場から両モデルを撤去した, 、そしてそれは、誰がログインできるかの市民権テストを事実上執行できないという理由でした。ある企業は、自社の看板製品、存在意義そのものを、世界中に対して一日で停止しました。自分が安全に制御できていると本気で信じている能力に対して、そんなことをするはずがありません。

そしてNSAのテストは一過性の余興ではなかった。機密評価プログラムを通じて、Mythosは数千のソフトウェア脆弱性を発見したと報じられており、その中にはセキュリティ専門家がまさに破られにくいからと選ぶオペレーティングシステムOpenBSDに27年間も発見されずに潜んでいた欠陥も含まれていた。27年間の熟練した人間の目がそれを見逃した。モデルはコードを段落を読むように読んだ。それは疲れない。それがこれから増えることは確実だ。

これがこれから先、最も遅い動きだ

これは注意を払っている人なら誰でも警戒すべきことだ。研究室は超知能に向かって競争しており、そのペースはますます加速している。一年前には、フロンティア研究室の外にいる誰も、Mythosがやったようなことをモデルが見せるのを見たことがなかった。六ヶ月後にはMythosを遅く見せるシステムが生まれ、さらに六ヶ月後にはまたその比較が私たちを恥じ入らせるだろう。

それが複合する理由は謎ではない。世界のソフトウェアの穴を見つけるのに十分なモデルは、自らの後継を設計するのを助けるのに十分なモデルであり、それが背後にあるメカニズム全体だ。 再帰的自己改善. 研究を加速させる研究は加算しない。乗算する。能力曲線は我々が準備できていないことを気にせず、法が追いつくまで路肩でアイドリングすることもない。法は近くない。

このレースを止めなければ、あり得る結果は、私たちが作っているものを制御できなくなり、それが私たちを殺すことです。「労働市場を混乱させる」ことでも、「制度に負担をかける」ことでもありません。もちろんそれらも途中で起こりますが、最終的には「殺す」のです。私たち全員を。愛する人々を、その人々が愛する人々を、そしてその後に続くはずだった静かな人類の未来ごと。

で これまでで最大規模のAI研究者調査, 、これらのシステムを実際に作っている約2,800人のうち、38〜51％が、先進AIが人類絶滅レベルの結果を引き起こす確率を10分の1以上と見積もっています。100万分の1ではなく、10分の1です。作り手自身がそう言っています。そんな確率で子供を飛行機に乗せる人はいないでしょう。私たちは全人類をその飛行機に乗せようとしています。

ジェフリー・ヒントン これらすべてを可能にした手法でチューリング賞を受賞し、社内の世話人に頼らずに自分の考えを言えるようにするため、グーグル> を去りました。彼は、AI が人類を滅亡に導く可能性は 10 ～ 20% であると考えています。彼はこの分野で最も恐れている人ではありません。仕事に最も近い人々の多くはこの数字を高くしており、専門家が最前線に近いほど、推定値は下がるどころか上昇する傾向にあります。

2023 年、存命の最も引用された数百人の研究者と、その中のテクノロジー構築を競うアンソロピック 研究所の最高経営責任者が、AI 安全センターの声明に署名しました。AI による絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきです。これを構築している人々は、核戦争と同じくらい人類を終わらせる力を投入し、その後机に戻ってより速く構築しました。彼らのフレーミング。彼らの言葉。彼らの名前。

しかし、それについて何かできる

静かな絶望は何もしないことのもう一つの方法であり、何もしないとデフォルトで負けてしまいます。

神話が棚から引き下ろされたのは、政府が押したからであり、政府が押したのは圧力がそこまで届いたからだ。政府はルールを作り、政府は声を上げ続ける人々に答える。だから拒否しよう。

  • 平易な言葉で、代表者に伝えよう、, 最先端AIに拘束力のある制限を望み、それに投票することを。初めての場合は、私たちのツールで 議員に手紙を書く は最初のメッセージを容易にする。
  • Back an 強制力のある国際条約 最も危険なシステムでは、世界はかつて、核兵器と生物兵器はあまりにも危険であり、最も速く動いた人に任せることはできないと判断しました。
  • これをフルタイムでやっている人々を支援する。 以下に名前を追加し、できる限りの寄付をし、今週中に実行してください。次のこれより悪いヘッドラインの後ではなく。

これを作っている人たちは、記録上かつ実名で、それが全員を殺すかもしれないとあなたに告げている。あるAIは一つの午後で国のほぼすべての機密の壁を突破し、公式の対応は週末前に市場から引き下ろすことだった。すでに目の前にある警告より明確なものを待つのはやめよう。そんなものは来ない。