How does AI risk compare?
Asteroides, guerra nuclear, pandemias, cambio climático, ¿cómo se compara el riesgo de la superinteligencia artificial con otras formas en que este siglo podría salir catastróficamente mal? Estas son las estimaciones del filósofo Toby Ord a partir de The Precipice. Configure el número de IA según su propia vista y observe cómo cambia la clasificación.
…
Si se suma todo, la estimación general de Ord sobre la catástrofe existencial de este siglo es de aproximadamente one in six, las probabilidades de una sola ronda de ruleta rusa. Los riesgos antropogénicos, liderados por la IA, representan casi la totalidad; Los riesgos naturales a los que nuestra especie sobrevivió durante 200.000 años son ahora un error de redondeo.
The estimates are from Toby Ord's El precipicio: riesgo existencial y el futuro de la humanidad (2020), Tabla 6.1, sus mejores conjeturas sobre la probabilidad de que cada amenaza cause una catástrofe existencial en los próximos 100 años. Ord es filósofo del Future of Humanity Institute de Oxford y cofundador del movimiento altruismo efectivo.
Son juicios deliberadamente aproximados, de orden de magnitud, no mediciones; Ord enfatiza que podrían estar equivocados por un factor de unos pocos. Su propósito es mostrar la shape del panorama de riesgos: que las mayores amenazas ahora son las que nosotros mismos creamos y que la IA ocupa el primer lugar.
La figura de la IA es la única que puede cambiar aquí, porque es la más controvertida y la que esta fundación pretende abordar. Los demás se mantienen según los valores de Ord.
The biggest risks are the ones we build.
A lo largo de la historia, las amenazas a la humanidad provinieron de la naturaleza. Eso ha cambiado. Los riesgos existenciales más graves de este siglo los hemos creado nosotros mismos, y la IA es el de más rápido crecimiento de ellos. Por eso existe esta fundación. Obtenga nuestras sesiones informativas sobre el riesgo y lo que se puede hacer.