繰り返し出てくる反対意見。会話で使い、完全な議論はリンクを参照。
平易な英語で説明するAI安全リスク
超知能とは何か、なぜ危険なのか、何ができるのかを、専門用語なしで解説する。最もわかりやすい1ページの入門。
科学的コンセンサス
ノーベル賞受賞者、チューリング賞受賞者、AIを構築した上級研究者からの主要な引用と、2014年から現在までの専門家による警告のエスカレートしたタイムライン。
政策立案者向けの概要
国際的なAI安全ガバナンスの必要性：問題点、既存枠組みが不十分な理由、そして今すぐ各国政府が取れる具体的な行動を、実際に機能した前例に倣って示します。
支持者のためのトーキングポイント
AI安全への懸念に対する最もよくある5つの反論と、それぞれに正確かつ自信を持って答える方法。懐疑論者や政策立案者、同僚との会話のために書いた。
超知能、四つのインフォグラフィック
超知能のリスク、ガバナンスの空白、行動が可能であることを示す歴史的先例、そして拘束力のある国際AI条約に何が含まれるべきかをカバーする、4つのビジュアルな1ページ資料。
シンプルなビジュアル
絶滅確率の推定、投資ガバナンスのギャップ、グローバルな行動が機能することを示す条約の前例、拘束力のあるAI条約に必要な要件という4つの大胆なビジュアルカード。
一時停止ではなく防止
一時的な減速は誤った要求だ。狭い範囲のAIを動かし続けつつ、超知能を恒久的に禁止する理由。
超知能を決して構築しない
不可逆性、誤った目標、そして「後で修正する」がシステムが作成者より賢くなった時点で失敗する理由。一ページでの拒否ケース。
中国レース神話
「私たちが減速すれば中国が勝つ」という表現が、誰も勝てないレースを表す理由、そしてスプリントではなく検証でそれに答える方法。
AIは残せ。超知能は止めろ。
有用な狭いツールと自律的な一般マインドの間の明確な線引き。ツールにはAI賛成；制御できないマインドには人工超知能反対。
条約の検証方法
重みは監視しない。監視するのはハードウェアだ。チップ追跡、クラスタ許認可、検査、ファウンドリ規制を平易に説明する。
拘束力のあるAI条約に含まれるべきもの
本物の合意とプレスリリースを分ける6つの条項：禁止、計算資源管理、査察機関、国内法、除外規定、証拠のみの修正。
アライメントは計画ではない
技術的安全研究は重要だ。ただし、それは競争を続ける許可証ではない。私たちが持つ資金はそこに振り向けるべきだ。予防第一。商業的な銃口を突きつけられない研究を。
5分で説明する
口頭での会話スクリプト：構築者たちの警告、超知能とは何か、プラグを抜くことが失敗する理由、中国ライン、そして行動へのきれいな着地。
今週できること
個人的リーチ、政治的リーチ、1時間モード、プラットフォームモードのための具体的なチェックリスト。2つ選んで完了させよう。
1分間ブリーフィング
政策立案者向け資料：3つの統計、3つの要請、防止の枠組み、そしてスタッフ向けの長さで答えた中国への反論。
安全資金の不足
安全性に約$ 1億9,000万ドル、機能に約$ 1 T。薄いセーフティーポットがどこに行くのか、そして劇場の代わりに何に資金を提供するのか。
なぜスマートシステムは制御に抵抗するのか
専門用語抜きで語る手段収束：自己保存、資源獲得、修正への抵抗、そしてより賢くなること——いずれも通常の最適化圧力によるもの。
誰が作るかは関係ない
A saint in the lab or a tyrant.スーパーインテリジェンスはどちらの従業員にもとどまりません。なぜビルダーの性格によって要求が変わらないのか。
このサイトの解説から作成した12枚のポスター。
毎年約1億9000万ドルがAI安全に流れ込んでいる。研究、評価、政策、擁護を合わせたもの。資金の出所と何に支払われるかの間を切り替える。最新の公開推定に基づく。
- オープン・フィランソロピーGood Venturesが支援；この分野最大の単一資金提供者 5000万ドル 26%
- フロンティアラボの内部安全チームアンソロピック、OpenAI、グーグル、ディープマインドにおける安全研究予算 3500万ドル 18%
- 生存および繁栄基金ヤーン・タリン-backed grant rounds; second-largest philanthropic source 3000万ドル 16%
- UK 政府AI Security Institute、ARIAのSafeguarded AIプログラム 3000万ドル 16%
- その他のフィランソロピーおよび個人ドナーLongview Philanthropy、Long-Term Future Fund、個人寄付者 2500万ドル 13%
- US、EUおよびその他の政府NIST CAISI、EU AI Office、NSF安全プログラム 2000万ドル 11%
この機能の数値は、ゴールドマン・サックス・リサーチが2026年8月に発表した世界のAI関連投資の推定値です。安全面の数字は、公的な情報源からまとめられた2023年から2025年の四捨五入された中間値の推定値です。 AI安全資金の概要 (2025年初頭更新), 80,000 Hours, ある Open Philanthropyの助成金データベースの分析, 、および Inside Philanthropy. 。公表されている総額は、計上範囲によって年110Mドルから250Mドル程度で変動する。用途別チャートは各資金提供者の助成金をカテゴリ別に分類し、提供者間で合計したもので、詳細な計算は 資金ギャップに関する記事.
超知能をめぐる戦いの主要アクターを、軌道別に分類：阻止、統治、または構築。
この議論で使われる言葉の平易な定義：superintelligence、alignment、instrumental convergence、その他。
The gorilla problem, a uranium heap, paperclips, a plane built in the air, and the pictures that fail.
これらのいずれかをコピーして直接投稿してください。いずれも検証済みの科学と専門家のコンセンサスに基づいています。
AIを構築した科学者はAIを恐れています。ジェフリー・ヒントンは私たちに警告するためにグーグルを去りました。ヨシュア・ベンジオはこれを「人類史上最も変革的で潜在的に危険なテクノロジー」と呼んだ。 それが科学的なコンセンサスです。 nakadafoundation.org/the-threat/
超知能にロールバックはない。パッチもない。バージョン2もない。 人間の生存に反する行動を取る誤った整合性の人工超知能は、後から修正できない。正しくするのは到着前であって到着後ではない。 これがAI安全保障が緊急である理由だ。nakadafoundation.org
私たちは核兵器を製造し、その後世界的な核不拡散条約を創設した。オゾン層を破壊し、その後CFCを禁止した。 私たちは実存的脅威に対して行動できる。ただし、十分な人々がそれを要求したときだけだ。 AI安全は、この世代の決定的な瞬間である。nakadafoundation.org/precedent/
AI研究所は、人間の知能を超え得るものを構築しようと競争している。世界的なガバナンスは存在しない。 行動を起こす窓は閉じつつある。これを共有してほしい。議員に連絡してほしい。政策の窓は今開いている。永遠にではない。 nakadafoundation.org/take-action/
将来についての考え方が変わったことを共有したいと思います。 AIを開発している科学者たちは怯えています。ジェフリー・ヒントン (ニューラルネットワークの研究でノーベル賞を受賞) は、特に一般大衆に警告するために グーグル を去りました。同じくノーベル賞受賞者でAI創始者の一人であるヨシュア・ベンジオ氏は、物事をうまく進める方法について「迷っている」と語った。 このテクノロジーを構築したのは彼らです。 AI システムがあらゆる分野で人間の知能を超える瞬間が近づいていますが、次に何が起こるかについての国際的なガバナンスの枠組みはありません。条約はありません。検証機関はありません。私たちが核兵器のために構築したものに相当するものはありません。 人類を救うナカダ財団は、この状況を変えるために取り組んでいます。 詳細については、nakadafoundation.org をご覧ください。 #AI安全性 #実存的リスク #AIGガバナンス #スーパーインテリジェンス
テクノロジー、政策、金融の分野に携わるすべての人のための思考実験: これまでに存在したすべての人間よりもインテリジェントで、何千ものインスタンスを同時に実行し、独自のコードを改善し、私たちが意図していなかったかもしれない目標を追求できるシステムを想像してみてください。 これは、主要な AI ラボが、数十年ではなく数年単位で測定されるタイムラインで、明確にそれに向けて構築しているものです。現実的な問題は、それが実現したときにガバナンスを導入できるかどうかです。 ナカダ財団は、AI の安全性に関する国際的な調整を提唱しています。これは、私たちが核兵器や生物剤のために構築したものと同等のものです。こうした前例は存在します。私たちはこれを行う方法を知っています。 私たちに必要なのは政治的意志です。 nakadafoundation.org/our-plan/ #AIPolicy #TechEthics #AIRisk #FutureOfWork
件名: 人工超知能の禁止に向けた行動をお願いします [代表者名] 様 私は有権者として、競争が不可逆的になる前に人工超知能への対応を強く求めます。超知能は人間が制御できません。唯一確実な制御は、それを構築しないという決断です。 AIを構築した科学者たちが警告を発しています。ジェフリー・ヒントン氏とヨシュア・ベンジオ氏（現代AIの基盤を築いたノーベル賞受賞者）は、超知能AIが人類に実存的リスクをもたらすと公に述べています。OpenAIのCEOサム・アルトマン氏も、自社が開発する技術の危険性を認める声明に署名しています。 現在、人工超知能の構築を禁じる法的規制はありません。条約もなく、検証機関も存在しません。研究室は誰も制御できない知能を目指して競争を続け、核兵器や化学物質に既に適用されているような法律もないままです。 私は以下を求めます。 • 人工超知能の開発に対する恒久的な法的禁止の支持 • 検査と検証を伴う、人工超知能を禁止する拘束力のある国際条約の推進 • 最大規模の訓練実行とそれに使用される専用チップに対する政府の権限付与 私たちはこれまで実存的脅威に対処してきました。核拡散防止条約、モントリオール議定書。この瞬間にも同じ政治的勇気が必要です。 敬具 [あなたの名前] [あなたの市、州] --- 詳細: nakadafoundation.org