Which AI labs take safety seriously?
Un puñado de empresas están compitiendo por construir sistemas más capaces que cualquier ser humano y no abordan el riesgo de la misma manera. Este cuadro de mando compara los laboratorios fronterizos en cuanto a aquello con lo que realmente se han comprometido: marcos de seguridad, compromisos de suspensión, pruebas gubernamentales y transparencia. Ordénalo, fíltralo y juzga por ti mismo.
Last reviewed · Actualizamos esto a medida que los laboratorios publican nuevos compromisos.
La división más clara no es la del Este contra el Oeste. Los compromisos de seguridad más fuertes (Anthropic y Google DeepMind) y algunos de los más débiles (xAI y Meta) son todos American. Mientras tanto, Zhipu AI de China firmó los mismos compromisos de seguridad en Seúl que OpenAI y Google, y todos los laboratorios chinos operan bajo reglas nacionales vinculantes de AI.
En otras palabras, la imprudencia no es una nacionalidad. Eso es importante, porque el argumento a favor de adelantarse normalmente se basa en la idea de que someone else (invariablemente China) no se puede confiar en que disminuya la velocidad. Lea el caso completo en nuestro China myth page.
Cada laboratorio recibe una puntuación de 0 a 2 (no cumplido/parcial/cumplido) en cinco dimensiones, para un total de 10: un publicado safety framework with capability thresholds; a halt commitment dejar de escalar si esos umbrales se cruzan de manera insegura; government testing access for national AI safety institutes; transparency mediante tarjetas de sistema y evaluaciones de riesgos; y en general safety governance (mission, structure, team stability).
Las puntuaciones reflejan compromisos disponibles públicamente a la fecha de revisión y son una evaluación de la Fundación, no una auditoría. ¿Crees que una calificación está desactualizada o es incorrecta? Tell us, we revise it.
La seguridad voluntaria es tan buena como su aplicación.
Incluso el laboratorio con mejores puntuaciones aquí califica sus propios deberes. Los marcos pueden revisarse, debilitarse o eliminarse silenciosamente cuando la competencia se intensifica. Es exactamente por eso que necesitamos barandillas externas vinculantes, no sólo promesas corporativas. Obtenga nuestros informes sobre la lucha por una supervisión real.