Un acuerdo internacional sobre seguridad de la IA no llegará por sí solo. Se construye política tras política, voto tras voto, conversación tras conversación. Elija su puesto a continuación para el trabajo que puede realizar hoy, no algún día.
Los fundadores, ejecutivos y operadores gozan de una credibilidad que los académicos y defensores no tienen. Tus elecciones (qué construyes, qué rechazas, con quién te asocias) son señales públicas que mueven los mercados y el comportamiento de tus pares por igual.
Haga que la posición de su empresa sea contractual, aprobada por la junta directiva y verificable, no en un lenguaje aspiracional en una publicación de blog. Comprométete a no construir nunca sistemas AGI o ASI. Un compromiso al que puedas atenerte es el único que cuenta.
Rechazar asociaciones, empresas conjuntas y contratos con laboratorios de inteligencia artificial de vanguardia que corren hacia AGI. Explique públicamente su razonamiento. Un líder empresarial que abandona un acuerdo y dice por qué envía un mensaje que ninguna cantidad de relaciones públicas puede fabricar.
La IA beneficiosa es posible sin construir sistemas que nadie pueda controlar. Si su empresa trabaja con IA, comprométala con aplicaciones con propósitos claros y delimitados. Demuestre con un ejemplo provechoso que lo seguro y lo útil no están en conflicto.
Tiene acceso a conferencias, publicaciones y redes de pares que la mayoría de los defensores no tienen. Hable con franqueza sobre lo que está en juego en esas plataformas. La credibilidad desde dentro del sector es insustituible, no se puede alquilar ni fabricar desde fuera.
Establezca políticas claras y escritas sobre qué capacidades de IA su organización desarrollará o adquirirá y no. Hacerlos vinculantes para proveedores y socios. Normalizar la expectativa de que las empresas serias tengan estándares de seguridad.
El Nakada Foundation está construyendo la infraestructura de promoción para aprobar un tratado internacional de seguridad de la IA. No somos un laboratorio de investigación. Somos un movimiento político que necesita recursos para ganar.
Ya sea que despliegue capital con fines de rentabilidad financiera o con fines filantrópicos, dispone de una de las palancas más directas disponibles. Desinvertir en la carrera y financiar la resistencia están disponibles para usted, y ambos son importantes.
Retire el capital de los laboratorios que persiguen explícitamente AGI y ASI. El capital retirado es cómputo, no se compra, no se contratan ingenieros, no se acortan los plazos. Esta es la intervención más directa disponible para un inversor y está disponible hoy.
Exigir compromisos de seguridad verificables, cumplimiento de la gobernanza informática y auditorías de terceros independientes como términos no negociables de cualquier inversión o subvención en IA. Si no están de acuerdo, eso indica algo importante sobre sus prioridades.
En las empresas en las que posee acciones o puestos en la junta directiva, incluya la seguridad de la IA en la agenda. Impulsar compromisos vinculantes, derechos de auditoría y cumplimiento de los estándares internacionales emergentes de gobernanza informática. Las juntas y los LP responden a grandes partes interesadas. Usa ese peso.
El campo de investigación de seguridad de la IA recibe miles de millones de los laboratorios que estudia, una estructura de incentivos comprometida. Las organizaciones independientes de defensa y políticas que trabajan por una ley aplicable no reciben casi nada. Un solo regalo importante puede cambiar el equilibrio del campo.
El periodismo de investigación sobre las prácticas de los laboratorios de IA, la investigación de políticas sobre los marcos de los tratados y el trabajo cultural que hace que el riesgo sea visceral e innegable, nada de esto es comercialmente atractivo de producir. El capital filantrópico es la única fuente de trabajo que es crítico pero no rentable.
Tiene acceso a donantes, juntas directivas de fundaciones, inversores institucionales y formuladores de políticas a los que los defensores no pueden llegar a través de una comunicación en frío. Convocarlos. Introduce esta causa. Una hora de su acceso vale un año de esfuerzo por parte de una organización sin fondos suficientes.
Los investigadores, ingenieros y personal técnico de los laboratorios de IA y las empresas de tecnología tienen información, acceso y apalancamiento que ningún defensor externo posee. La historia muestra que los trabajadores han cambiado instituciones que parecían imposibles de mover.
Plantear inquietudes a través de cualquier mecanismo formal que exista: equipos de seguridad, defensores del pueblo, revisión ética, acceso a la junta. Ponga cada comunicación por escrito. Cree un rastro en papel antes de que lo necesite, no después.
Usted no está solo. En todos los laboratorios importantes existen investigadores e ingenieros preocupados por la dirección del desarrollo de la IA de vanguardia. Encontrarse unos a otros. La acción colectiva del personal técnico ha cambiado el comportamiento corporativo en las empresas de IA antes, y puede hacerlo nuevamente.
Las personas que han revelado información sobre desarrollos inseguros lo han hecho a un costo personal significativo. Respaldelos pública y profesionalmente. Sus revelaciones presentan argumentos públicos que ningún defensor externo puede presentar por sí solo, porque sólo los de adentro saben lo que realmente está sucediendo.
En muchas jurisdicciones, existen protecciones para los empleados que revelan información sobre actividades que ponen en riesgo la seguridad pública. Comprenda sus derechos. Consulte con un abogado especializado en esta área. Conozca sus opciones mientras todavía tiene tiempo para prepararse.
Tienes habilidades que tienen una demanda extraordinaria. Puedes conseguir otro trabajo, probablemente uno mejor. Los investigadores e ingenieros que construyen sistemas de inteligencia artificial de vanguardia tienen más influencia sobre sus empleadores que casi cualquier fuerza laboral en la historia. La mayoría aún no lo ha usado. La pregunta es si lo harás.
Si trabaja en un laboratorio de inteligencia artificial de vanguardia y tiene motivos para creer que el desarrollo avanza de manera insegura (que no se cumplen los compromisos, que se minimizan los riesgos, que el cronograma es más corto de lo que se divulga públicamente), la pregunta de qué haría usted no es hipotética. Piénselo ahora.
Ninguna organización privada, por muy bien financiada que esté, puede obligar a los Estados soberanos a imponer límites al desarrollo de la IA. Sólo los gobiernos que negocian con los gobiernos pueden hacer eso. Los políticos, funcionarios públicos, diplomáticos y reguladores son las personas que redactarán la ley o no.
Requerir la aprobación del gobierno para las ejecuciones de entrenamiento de IA que excedan un umbral de cómputo definido, actualmente propuesto en 10²⁶ operaciones de punto flotante. Esto es técnicamente factible, verificable de forma independiente y tiene precedentes. Un pequeño número de fabricantes de chips controlan el hardware necesario para entrenar modelos de vanguardia. Licencia en ese cuello de botella.
Solicite formalmente que su gobierno presente una propuesta ante las Naciones Unidas o un organismo multilateral relevante para comenzar negociaciones sobre un tratado vinculante sobre seguridad de la IA. El Protocolo de Montreal pasó del consenso científico a la ratificación en menos de dos años. La ambición a esta escala tiene precedentes, no es ingenua.
El riesgo existencial de la IA aún no es un tema habitual en las audiencias parlamentarias o del Congreso. Ponlo en la agenda. Invite a investigadores y ex empleados del laboratorio de IA que estén dispuestos a hablar con franqueza. Crear el registro legislativo que requerirán acciones futuras y que la historia consultará para comprender si actuamos a tiempo.
Presionar para obtener recursos adecuados para las agencias de monitoreo de la IA, los auditores de seguridad independientes y el régimen de inspección internacional que requerirá un tratado eficaz. La Agencia Internacional de Energía Atómica se creó tres años después del NPT. Su equivalente en IA se puede lograr en el mismo plazo si existe voluntad política.
El riesgo existencial de la IA no es una cuestión de izquierda-derecha. Es una cuestión de civilización. Construir coaliciones entre partidos a nivel nacional. Comuníquese con sus homólogos en otras capitales. El tratado requerirá la participación de todas las principales naciones en desarrollo de IA para ser efectivo; esas conversaciones deben comenzar ahora, a nivel político.
Las empresas de IA gastan enormes recursos en lobby y acceso. Los marcos políticos que defienden están diseñados para preservar la libertad de acción comercial, no para proteger al público. Requerir evidencia independiente. Sea escéptico respecto de las normas de seguridad redactadas por las entidades que deben limitar.
Artistas, periodistas, cineastas, músicos, escritores, celebridades y creadores con plataformas, ustedes son las personas que hacen que las amenazas abstractas parezcan reales y urgentes. La opinión pública es a lo que responden los políticos. Tú haces la opinión pública.
Las estadísticas y los documentos políticos no conmueven a la gente. Las historias sí. Haga un trabajo (en cualquier medio que sea el suyo) que haga que su audiencia sienta lo que está en juego: lo que significaría hacerlo mal, para ellos mismos, para las personas que aman, para cada generación siguiente.
Entreviste a investigadores de IA, ex empleados de laboratorio dispuestos a hablar con franqueza y defensores de políticas que trabajan en estos temas. Su alcance puede darle a su mensaje una escala que los artículos académicos y los comunicados de prensa no pueden lograr por sí solos. Una entrevista puede abarcar más de cien informes de políticas.
Si tiene una plataforma (lectores, seguidores, audiencia), úsela para decir claramente que este es el tema más importante de su vida. No ablandado para mayor palatabilidad. No cubierto por motivos comerciales. Claramente. El público respeta la franqueza de las personas que tienen algo que perder siendo directas.
Rechazar asociaciones, patrocinios y contenido patrocinado que beneficien a los laboratorios de IA de vanguardia sin compromisos de seguridad vinculantes. Si un laboratorio le ofrece un trato, rechazarlo públicamente envía un mensaje de que no pueden comprarlo. Necesitan su audiencia y su credibilidad. Utilice esa influencia explícitamente.
La ciencia ficción ha hecho más para moldear la conciencia pública sobre la tecnología que cualquier documento político en la historia. El movimiento climático construyó su caso cultural a través del arte antes de construirlo a través de la ley. Si haces cosas (escribe, dirige, compones, ilustras), haz el trabajo que haga que la gente tenga en cuenta lo que estamos construyendo.
El Nakada Foundation está desarrollando una campaña mediática para cambiar la opinión pública sobre la seguridad internacional de la IA. Queremos trabajar con creadores que entiendan su plataforma como una forma de poder político. Get in touch.
Los jóvenes construyeron todos los movimientos sociales importantes del siglo XX. Este también los necesita a ustedes, no como espectadores sino como organizadores, futuros candidatos y tomadores de decisiones cuyos valores y redes se están formando ahora mismo.
Inicie o únase a una organización estudiantil de seguridad de IA. Haga campaña para que su universidad se deshaga de los laboratorios de IA de vanguardia y adopte pautas de investigación de IA responsables. La presión estudiantil ha movido a las universidades antes: en Sudáfrica, en los combustibles fósiles, en las prácticas laborales. Puede moverlos nuevamente.
El derecho, la política, la diplomacia, el periodismo y el gobierno son los campos que determinarán si un tratado se negocia y se aplica. El movimiento de seguridad de la IA necesita desesperadamente personas en estas profesiones que comprendan los riesgos técnicos. Su carrera es una de las decisiones más importantes que jamás tomará. Haz que cuente.
Los laboratorios de inteligencia artificial de Frontier reclutan agresivamente en las mejores universidades. Rechazar una oferta (y explicar públicamente por qué) tiene más peso que cualquier compromiso voluntario que haga un laboratorio sobre seguridad. Su decisión de ir a otra parte es una forma de discurso político que no pueden contrarrestar.
Sus compañeros de clase son la generación que tomará decisiones importantes sobre la política de IA dentro de diez o veinte años. Las conversaciones que tienes ahora dan forma a las intuiciones que transmiten más adelante. No espere a que esto se convierta en el problema de otra persona para abordarlo.
Los jóvenes están sistemáticamente infrarrepresentados en los contactos políticos y los funcionarios electos lo saben. Escribe, llama y preséntate. Dígales a sus representantes que la seguridad internacional de la IA es el tema definitorio de su generación y que votarán en consecuencia.
El Tratado de No Proliferación Nuclear, la Convención sobre Armas Químicas y el Protocolo de Montreal: cada uno tiene lecciones sobre cómo podría ser un tratado de seguridad de la IA y cómo podría verificarse. Estudia la historia. Conviértete en una de las personas calificadas para diseñar el siguiente.
Los políticos siguen a los votantes. Los votantes que hacen de la seguridad de la IA una cuestión de votación (que hacen la pregunta, se presentan a las audiencias y castigan la evasión en las urnas) son el electorado que hace posible cualquier otra acción en esta página.
Pregunte a cada candidato cuál es su posición respecto de la legislación sobre licencias informáticas y las negociaciones de tratados internacionales de seguridad de la IA. Si no conocen el problema, infórmeles. Si lo desestiman, que lo recuerden en las urnas. Los políticos responden exactamente a este tipo de presión y casi nadie la está aplicando todavía.
Las llamadas telefónicas, los correos electrónicos y las visitas en persona de los electores conmueven a los funcionarios electos de una manera que las peticiones en línea no lo hacen. Sea específico: pídales que apoyen la legislación sobre licencias informáticas y las negociaciones formales de tratados internacionales. Escribe hoy, no cuando sientas que es más urgente, porque para entonces puede que ya sea demasiado tarde.
Preséntese en persona. Pregunte a sus funcionarios electos si apoyan un tratado internacional sobre seguridad de la IA. La pregunta en sí es un acto de educación política, para el funcionario y para todos los demás presentes en la sala que la escuchan formulada y respondida.
Las mayorías políticas se construyen a través de las redes sociales, no de la publicidad. Habla con tu familia, tus compañeros, tus vecinos. Las conversaciones que se tienen este año dan forma a lo que los políticos se sienten seguros diciendo el próximo año y qué leyes se sienten capaces de aprobar el año siguiente.
Done, sea voluntario y busque candidatos que se tomen en serio el riesgo existencial de la IA. Las campañas políticas las ganan las personas que se presentan. Esta causa necesita personas dispuestas a presentarse a los candidatos que toman una posición sobre la seguridad de la IA antes de que sea la posición segura.
Si esto le pareció significativo, lo más valioso que puede hacer ahora es ampliar el grupo de votantes para esta causa. Envíe esto a una persona que aún no haya considerado estas preguntas. Así crecen los movimientos políticos: una conversación a la vez.
Enviamos informes cuando hay novedades en la política internacional de IA que requieren su atención y cuando hay acciones específicas que puede tomar. Sin ruido. Sólo señal.