参考資料 · 2026
科学的コンセンサス
AIリスクについて
人工知能を構築した人々は私たちに警告しています。
「人類が知能の進化における一過性の段階に過ぎないことは十分あり得ると思う」ジェフリー・ヒントン 2024年ノーベル物理学賞 · 2018年チューリング賞
元副社長兼エンジニアリングフェロー、グーグル · 2023
「AIの安全策が不十分なまま加速的に展開される強力な力がある中で、何をすれば事態を好転させられるのか、途方に暮れています。」ヨシュア・ベンジオ 2024年ノーベル物理学賞 · 2018年チューリング賞
科学研究ディレクター、Mila · 2023
「AIの標準モデル、目的を定義しAIがそれを最適化するものは、おそらく私たちの終わりになるだろう。」スチュアート・ラッセル カリフォルニア大学バークレー校 コンピュータサイエンス教授
標準AI教科書の共著者
「私はますます、この問題がAI安全保障が解決可能かどうか、そしてどのようなタイムラインであれ、今世紀で最も重要な問題かもしれないと確信している。」イリヤ・サツキバー Co-founder, OpenAI · Chief Scientist 2015-2024
現代のディープラーニングの設計者の一人
"我々は人類史上最も変革的で潜在的に危険な技術の一つを構築しているのに、ポーズボタンを押すことができないようだ。"ヨシュア・ベンジオ ノーベル賞受賞者 · Mila · 2023
"AIの安全性は気候変動よりも重要です。"ジェフリー・ヒントン ノーベル賞受賞者 · Former グーグル
グローバルプラットフォーム声明、2024
エスカレートする専門家警告のタイムライン
2014
ニック・ボストロム 出版 超知能, 、人工超知能による実存的リスクに関する初の厳密な学術的分析。オックスフォード大学の哲学者。イーロン・マスクとビル・ゲイツが必読書として挙げている。
2018
Hinton、Bengio、LeCunが現代の深層学習の基礎を築いた功績でチューリング賞を受賞。その後3人とも、自分たちが生み出した技術の安全性について懸念を表明する。
2023
Center for AI SafetyがAI絶滅リスク声明を発表。500人以上の科学者が署名。一方、Future of Life Instituteが開発一時停止を求める公開書簡を発表し、チューリング賞受賞者を含む3万3000人以上が署名した。
2024
HintonとBengioがノーベル物理学賞を受賞。両者とも世界的な舞台を活用してAI安全警告を強調した。Hintonは安全は今や「気候変動より重要」と述べた。