支持者のためのトーキングポイント

AIは数十年にわたり過熱報道されてきた。これはまた別の恐怖話に過ぎない。

警告は次から発生します それを構築した人々. 。ジェフリー・ヒントンとヨシュア・ベンジオは現代のAIを生み出したノーベル賞受賞者であり、警鐘を鳴らしている一人だ。技術の発明者たちが存在的リスクを指摘するとき、それは恐怖を煽る話ではない。一次情報源による技術的評価だ。

何か問題が起きれば、ただオフにすればいい。

目標を追求できるシステムは、停止させられることがその目標を妨げると認識する。したがって悪意からではなく、ほぼどんな目的にとっても抵抗が合理的だから停止に抵抗する。これを 手段的収束, 複数の研究者が独立に指摘したものです。超知能システムはミリ秒単位で行動できます。「電源を切る」という想定は、問題を認識する時間と行動する能力の両方が存在することを前提としていますが、どちらも保証されません。

減速すれば、中国がAI競争に勝つ。

この枠組みでは、レースに勝者がいることを前提としています。国家や企業はそれができない 所有または制御 人類の集団的理性を超えた知性。超諜報機関の調整がずれていれば、米国の利益と同様に中国の利益にもならないだろう。共有されるリスクは存続に関わるものであるため、一方的なスピードではなく国際的な協調が正しい戦略となります。我々は冷戦時代に核兵器に関してUSSRと協力した。

超知能が到来する前にアライメントを解決するだろう。

今日のチャットボットでさえ、わずか数分で操作されてしまう現状では、確実なアライメントは不可能だ。 「アライメント問題には、いかなる規模でも検証済みの解決策がない。」. 現在の安全手法は、能力向上に追いついていません。能力向上は今や年単位ではなく月単位で到来しています。数十億倍も高性能なシステムを整列させられると主張するのは、自信ではなく希望です。ガバナンスは整列問題の解決を必要としません。整列が解決されるまで展開を遅らせることを必要とします。

政府は技術を規制できない。ただイノベーションを阻害するだけだ。

政府は航空、医薬品、原子力、金融システムといった複雑な技術を規制している。問題は規制するかどうかではなく、 どのように、いつ. 医薬品規制は医薬品をなくさなかった。安全にしたのだ。ハイリスク技術を規制する前例は豊富で、概ね成功している。AI安全規制が狙うのは最も危険なフロンティアシステムであって、一般的なAI開発ではない。イノベーションと安全は対立しない。