AI安全がどのように
年間10億ドル

まずは実際の状況から始めましょう。 第1部 すべての慈善助成金、すべての政府の安全プログラム、フロンティアラボが独自の安全チームに費やすすべてのドルを合計すると、年間約1億9000万$になりました。これに対して、世界はAIの能力を高めるために年間約1兆$を投入しており、その数字は上昇し続けています。これらのシステムをより強力にするために費やされる1千ドルごとに、それらを安全にするために1ドル未満が費やされます。

年間十億ドルは、その算術を変え始めます。そしてそれは、思われるほど大きな金額ではありません。業界がすでに能力開発に費やしている金額の二日分にも満たず、米国が国防に支出する金額の約0.1パーセントです。気候変動分野のフィランソロピーが毎年動かす金額の十分の一であり、気候変動のフィランソロピーは lavish とは見なされていません。十億ドルが何であれ、技術を構築している人々が自らの名で文書に pandemic や核戦争に例えてきた問題に対しては、大きな金額ではありません。

だから、この分野が資金不足な理由は、10億ドルを見つけるのが難しいからではない。世界はすでにその何倍もの金額を、同じオフィスビルの数フィート先、反対側で使っている。お金はある。欠けているのは、その一部を動かすという決断だ。

資金はすでに存在する。世界がAIをより強力にするために費やしている金額の、わずか1.5日分程度だ。足りないのは、その一部を逆方向に動かそうとする意志だけだ。

10億は最低ラインだ

なぜ10億ドルで、3億ドルではないのか。概ねその水準を下回ると、分野は一度に一つのことしかできないからだ。1億9000万ドルでは、数字が残酷な選別を強いる。技術研究とモデル評価が全体の約3分の2を吸収し、提言（研究結果を政府や企業に行動させる活動）は約5パーセント、年間1000万ドル程度に留まり、大手テクノロジー企業1社が一つの首都でロビー活動に費やす額を下回る。10億ドルあれば、この選別を終わらせられる。安全保障分野は現在研究所が吸収している人材に競争力ある報酬を支払え、一つの財団に依存する分野を多様化でき、単に記録するだけでなく結果を変える政治活動に資金を充てられる。

年間10億ドルは、適合する歴史的な事例と比べても控えめな額だ。ヒトゲノム計画は約30億ドルかかり、米国がこれまでに行った最良の公共投資の一つとして記憶されている。自らの開発者が核戦争に匹敵すると位置づけるリスクに対して、年間10億ドルは決して手厚い数字ではない。それを「払えるかどうか」議論していること自体が奇妙なことだ。

その10億ドルの本当の出所

どれも新しい発明や並外れた寛大さを必要としない。4つの普通の源泉を同時にオンにするだけでいい。そのうちの2つを本気でやれば、目標は達成できる。

出典	1年あたり妥当
多様化したフィランソロピー現在、一つの財団が安全分野の慈善資金の半分以上を供給している。一方、気候変動分野の慈善活動は、複数の寄付者を通じて年間100億ドル以上を動かしている。200億ドルの基金一つで、利子だけで年間10億ドルを生む。気候分野の総額の十分の一に達するには、おそらく五〜十の本格的な資金提供者が必要だ。	3億ドル
政府の安全予算国家安全保障研究所はすでにUK、USなどで存在する。USは国立衛生研究所に年間約470億ドルを支出している。その1％をAI安全専用に充てれば、それだけで約5億ドル規模になる。	3億ドル
コンピュートへの業界課税製薬会社は、FDAの医薬品審査の約4分の3にユーザー料金で資金を提供しています。原子力産業は、規制当局のほぼすべてに資金を提供しています。コンピューティングとインフラストラクチャーのフロンティアでは、AIがすでに購入している1 ％の10分の4 （年間約1兆$ ）だけで、全体の10億ドルを調達しています。	3億ドル超
振り向けられた慈善資本ドナー・アドバイザード・ファンドはすでに2,000億ドル以上を慈善活動に充てるようコミットしているが、まだ支出されていない。大学の寄付基金と拡大する効果的寄付の基盤がさらに加わる。ここで求められているのは、新たな富ではなく再配分だ。	1億ドル
合計	約10億ドル超

三つ目の行が最も重要である。なぜなら、誰かの善意に依存しない唯一の財源だからだ。慈善資金は、主要な資金提供者が技術安全助成金を2年で半分以上削減したように、寄付者の考えが変われば蒸発する。政府予算は選挙で変わる。リスクを生み出している業界に法定課徴金を課す方式は、耐久性があり、比例的であり、完全に前例がある。すでに医薬品、航空、原子力の監視機関の費用を賄う方法である。ハザードを生み出す計算資源に安全資金のわずかな部分を紐づけることは、監視の必要性を自然に拡張したものである。 コンピュート・ガバナンス.

リスクが明確になると、お金は素早く動く

この点については歴史が明確に示しています。危険が一般市民や政府に理解されるようになると、資金は現在の細々とした流れが「制約ではなく選択」だったことを露呈する速さで集まります。オゾン層を蝕む化学物質は、 モントリオール議定書, 、その基金はその後、何十億ドルもの資金を途上国での移行を可能にするために投じてきた。COVIDが到来したとき、世界はわずか数ヶ月で数百億ドル規模のワクチン開発を立ち上げた。天然痘、オゾン、ポリオ：いずれの場合も制約となったのは資金ではなかった。認識だった。

AI安全はまだその認識の瞬間を迎えていない。その理由は資金ではなく構造的なものだ。警告されている被害はまだ起きていない。患者も水没した町も、顔を付けるべき遺族も存在せず、取り組みが成功すれば永遠に存在しない。支持基盤のないリスクには、予算を握る人々に働きかける者もいない。より良いスプレッドシートでは解決しない。

これは動員の問題だ

つまり十億ドルへの道筋は、本質的に資金調達計画ではなく、リスクを明確にし、それを真剣に扱うことを名誉あることだと位置づける計画だ。その作業は三つの線に沿って進む。

目に見えるようにせよ。 人々がイメージできる脅威は、人々が資金を提供する脅威です。抽象的な確率を議員や寄付者が感じられるものに変えるジャーナリズム、映画、データ、公の議論、気候変動や核軍備管理のための本格的な資金の前にあったのと同じ文化的基盤です。

それを権威あるものに。 当ノーベル賞受賞者や元国家元首、信頼できる公人が、ある問題を深刻に扱えば、規範も資金もその背後に動く。AIリスクに関する科学的コンセンサスはすでに存在する。遅れているのは、資産や地位のある人々がそれを堂々と口に出して行動するための社会的許可だ。

義務化する。 一生懸命に推し進められた自発的な寄付は、年間3億から4億ドルに達する可能性があります。完全な10億ドル（そして、より重要な点では、単一のドナーの心の変化を超えてその存続）へのストレッチは、法律から来ています：課税、ラインアイテム、条約上の義務。当財団は、以下を目的としています。 拘束力のあるルール そして説得だけではない。寛大さは歓迎されるが、それだけでは基盤にできない。

だから、年間10億ドルを「本気で取り組む野心的な額」と考える考えは一旦脇に置いてください。それは最低限の額です。私たちがすでに問題を悪化させるために使っている額の2日分にも満たず、3000年にわたって人々を殺してきた病気を世界から根絶するために一度だけかかった額のごく一部にすぎません。金額が問題なのではありません。本当に不足しているのは、この規模のリスクを自分たちの警告を信じているかのように扱うという決断です。

その決定は世論の圧力, 、政府が彼らが答える人々から聞くこと、そして私たちの十分な人がこれを科学が言う優先順位として扱うかどうかです。

しかし、世界がすでにこの技術の構築に費やしている額や、人類が深刻に受け止めた危険に過去に費やしてきた額と比べると、10億ドルは野心的とは見えなくなる。最低限やるべきことのように見え始め、手の届く範囲にある。