私はビジネスを経営しており、自由市場を信じています。価格、競争、そして何か新しいことを試す権利のおかげで、これまで読んだどの 5 か年計画よりも多くの普通の生活がより良くなりました。私は人工超知能を断固として止めてほしい。私は資本家の議論をしているのですが、それは自由市場のスローガンが通常無視する区別から始まります。

市場は、悪い賭けのダウンサイドが局所的である場合に資本を効率的に配分する。レストランが潰れれば大家がスペースを再賃貸する。ガジェットが失敗すれば投資家が損失計上する。銀行が過大に膨張しても、機能するシステムでは種の絶滅を招かずに処理できる。損失は我々が描ける円の中に留まる。

超知能はそんな賭けではない。それを構築している人々は、公の場で、自分たちより賢いシステムを全面的に制御する方法がわからないと述べている。そのシステムを最初に送り出すための競争は「創造的破壊」ではない。それは、すべての人間の命を賭金とする、一度きりの不可逆的な賭けを競うことだ。その種の賭けに対するバックストップのない資本主義は、工場がさらに多くの薬室を作り続けるロシアンルーレットであって、資本主義ではない。

競争を急ぐ理由

革新的な化合物。遅れは毎年、治療法、科学の進歩、国家の利益を犠牲にします。政府は不器用だ。条約が漏れる。一方の国がペースを緩めれば、ライバルもペースを緩めることはなく、用心深い側はリードなし、安全なしという二重の損失を被ります。唯一の現実的な道は、他の誰よりも早く構築し、味方の手にリードを保ち、途中で調整を修正することです。

それは、製品に価格を付けていないときに行う議論です。リードは、自分が構築したものをまだ保持している場合にのみ重要です。ずれたスーパーインテリジェンスは、資金調達ラウンドに署名した人々よりも優れたエージェントであり、取締役会を管理できるポートフォリオ企業でも、狙いを定めるミサイルでもありません。先にそこに到達するということは、もしあなたが操縦できない場合には、最初に交代されることを意味します。絶滅した後には出口もシリーズBもありません。

「資本が実際に必要とするもの」

資本は継続する世界を必要とする。裁判所、財産、顧客、そして契約が依然として意味を持つ未来を必要とする。それらすべてを終わらせることができる技術は、「ただのもう一つのプラットフォーム」ではない。デモがチャットウィンドウのように見えるからといって消費者向けアプリのように扱うのは、死者数を伴うカテゴリーエラーだ。

「私たちが超知能の構築をやめれば、他の誰かがそうするでしょう。」それは、100 の部屋での会話の主役です。地理とゲーム理論のような気がします。多くの場合、これはビルドが避けられないとしながらもビルドを続ける方法です。すでに扱っている技術で同じ形状を試してみましょう。 「もし私たちがフロンガス冷蔵庫の製造をやめたら、他の誰かが冷蔵庫を作り続けることになるでしょう。」

市場はリスクを進歩に変える機械です。それは自殺協定ではありません。一つの種類の賭けを拒否することが、ゲームを続けさせる方法です。

インフラとしての規制

人々は「規制」と聞くと、スタートアップに課される事務負担を想像する。ルールが愚かであれば、それは当然だ。私が重視するルールは、むしろ資本市場を可能にしたものに近い。詐欺の株式を売ってはならない。工場の隣の川に毒を捨ててはならない。スライドデッキで魅力的に見えるからといって、地下室に原子炉を建設してはならない。

チップとトレーニングが実際に実行されている場所を検証する人工的なスーパーインテリジェンスの作成を禁止する国際条約は、その規則の1つです。それは文明のためのインフラです。それがなければ、すべての研究所は囚人のジレンマに陥り、慎重さを罰することになります。これにより、資本は取締役会を食い尽くす半分の資金を調達することなく、AIの有用な半分の資金を調達し続けることができます。

私は自社の企業が、顧客がまだ存在する世紀に繁栄し続けることを望む。それが市場に求められる最低限の条件だ。もしあなたが資本主義者を名乗りながら、誰も所有できないものを競って作ろうとしているなら、それは資本主義を守っていることにはならない。台帳に火をつけて、その輝きを成長と呼んでいるだけだ。