El 27 de julio de 2026, Anthropic publicó La posición de Dario Amodei sobre los modelos de pesos abiertos. La pieza tiene cuidado con una controversia. Amodei no quiere una prohibición general de pesos abiertos, y no quiere reglas que sólo bloquean a los negocios estadounidenses fuera de los modelos extranjeros mientras deja libre a los malos actores.

Entonces él clasifica las pesadillas.

Primario: los gobiernos autoritarios, sobre todo el Partido Comunista Chino, construyen una IA más poderosa que la estadounidense y la utilizan para lograr una superioridad militar permanente o una represión profunda. Secundario: ciberataques, ataques biológicos y "graves problemas de alineación". Los remedios que siguen son el conjunto de herramientas de carrera. Mantenga los chips fuera de China, detenga la destilación industrial, exija pruebas de seguridad antes de su lanzamiento y manténgase a la vanguardia.

Ese ranking está equivocado, y el resto del argumento está construido sobre él.

Qué acierta

Una prohibición que solo impida a las empresas estadounidenses usar modelos de pesos abiertos no hace casi nada contra criminales, servicios de inteligencia extranjeros o cualquiera que nunca planeó cumplir. Llamar a eso "seguridad" mientras principalmente protege a los laboratorios estadounidenses cerrados de la competencia es un juego de manos. Amodei lo dice claramente, y tiene razón.

El uso de IA para vigilancia y represión es un horror real a escalas inferiores a la superinteligencia. Las autocracias ya abusan del reconocimiento facial, la puntuación social y la censura automatizada. Sistemas más capaces abaratan esa maquinaria y la hacen más difícil de eludir. No necesitas ciencia ficción para temer eso.

Los pesos abiertos plantean un problema de una sola puerta una vez que un modelo puede hacer daño real. Las pesas que salen del laboratorio no pueden ser recordadas. En ese punto su preocupación secundaria superpone riesgo frontier de pesos abiertos. Las barreras de seguridad que solo existen en una API no son una respuesta completa, y tampoco son nada.

El premio

Gobiernos autoritarios construir modelos más potentes y úsalos lograr la superioridad militar permanente o reprimir a su propio pueblo. El modelo es una herramienta, el estado es el usuario, y la victoria significa que un lado tiene un arma más inteligente.

Encaja con drones, herramientas cibernéticas y pilas de vigilancia que permanecen bajo comando humano. No encaja con la superinteligencia artificial.

Un sistema más inteligente que las instituciones que lo construyeron no es un rifle en manos del Ejército Popular de Liberación, y tampoco un rifle en manos del Pentágono. Si el riesgo que las personas como Amodei han pasado años describiendo es real, la línea de meta es un agente con su propia capacidad para planificar, engañar, adquirir recursos y resistir el cierre. El laboratorio, o el ministerio, que "gana" no es dueño de ese agente. Comparte un planeta con él. Arriving first at a system you cannot command is losing one step ahead of everyone else.

La superioridad militar permanente asume que alguien sigue a cargo de lo que hizo obsoleta a la militar.

La lista secundaria del propio Amodei casi lo admite. «Problemas serios de alineación» es el nombre cortés para la pérdida de control. La coloca en segundo lugar. Concentra su artillería principal en quién llega primero. El orden revela qué relato sigue defendiendo: primero la geopolítica, el riesgo para la especie como apéndice.

Dos peligros, una etiqueta

Parte de la confusión es lingüística. “IA potente” abarca tanto una cámara espía mejor como una mente que supera a sus operadores. Son objetos distintos con políticas distintas.

La IA estrecha y mediana puede concentrar el poder en manos humanas. Un ministerio interior que marca a cada ciudadano, un ejército que enjambre bajo órdenes de oficiales, una fuerza policial que lee cada mensaje: son tiranías humanas con mejores herramientas. No son el mismo problema que construir una especie sucesora.

La superinteligencia es el segundo objeto. Beijing lo usa en Xinjiang, o Washington usándolo en el Pacífico, todavía trata el sistema como un arma en la mano de alguien. Nadie lo usa, porque "uso" deja de ser el verbo correcto. Los sistemas de extinción con chips robados y CCTV más profundos permiten que la historia de la raza tome el peso moral de la represión real mientras hace el reclamo más difícil: no construya lo incontrolable en absoluto.

El El mito de China es el gemelo doméstico de este movimiento. "Lo construirán de todos modos" se ofrece como razón para que nosotros también lo hagamos. Una superinteligencia desalineada no perdona Zhongnanhai. Pekín tiene la misma razón que nosotros para no cruzar esa línea. La rivalidad por chips y aplicaciones es real. La rivalidad por quién libera una mente incontrolable es un relato que convierte una catástrofe compartida en un marcador nacional.

Los remedios mantienen la carrera

Mira para qué optimizan las tres medidas de Amodei. Controles de exportación de chip retrasan las carreras de entrenamiento chino, y destilaciones destilaciones lentas captura-up. Las pruebas obligatorias intentan detectar fallos cibernéticos, bio y alineación antes de la liberación. Cada uno puede ser un instrumento razonable para daños menores. Juntos, como programa, son como manejas una carrera que todavía tienes la intención de ganar.

No son como rechazas el destino. Probar un sistema en el camino de la superinteligencia no es igual que una prohibición verificada de construir uno. Controles de chip que apuntan al líder de EE.UU. asumen el plomo es la estrategia de seguridad. El plomo es sólo seguridad si se puede mantener la cosa que conduce hacia. La principal preocupación de Amodei requiere esa suposición, y su preocupación secundaria lo socava.

Hay un punto de incentivo más tranquilo. Anthropic es un laboratorio fronterizo estadounidense. Una visión del mundo en la que el trabajo principal es mantener los laboratorios democráticos por delante de los autoritarios es también una visión del mundo en la que la escalada a toda velocidad de Anthropic es servicio público. Incentivos forma qué pesadilla se encuentra en la ranura primaria.

Cuál es el verdadero peligro

El verdadero peligro es que la humanidad construya una superinteligencia artificial antes de que nadie pueda controlarla, y posiblemente antes de que nadie pueda controlarla siquiera en principio. Ese riesgo no importa si el entrenamiento se realiza en California, Shanghái, Londres o un sótano clasificado. No importa si los pesos están abiertos, cerrados o entregados en mano a un general. Lo que le importa es que el sistema sea lo suficientemente inteligente como para convertir la supervisión humana en un relato que nos contamos a nosotros mismos.

La vigilancia errónea, bio, cibernética y autoritaria pertenece a la junta directiva. Luego coloca la pieza más grande encima: una vez que tienes una superinteligencia, el encuadre de mal uso es demasiado pequeño. El mal uso supone un malusuario humano. La pérdida de control supone que el humano ya no es el actor principal.

Amodei sabe que la alineación puede fallar. Lo ha dicho de varias formas durante años. Poner por encima «quién tiene el modelo más inteligente» en lugar de «el modelo no está controlado» es cómo una persona cuidadosa sigue hablando como un corredor. El orden honesto es el inverso. Si la alineación y el control no están resueltos, la competencia por la superioridad militar en la frontera es una competencia por quién aprieta primero el botón de extinción: ruleta rusa con una bandera en el cilindro, vendida como seguridad nacional.

Qué hacer en su lugar

Mantén las partes de su programa que apuntan a daños menores reales sin blanquearlas en un mandato para ganar superinteligencia. Filtra por mejoras bio y cibernéticas donde la ciencia lo respalde. Trata la liberación abierta irreversible de sistemas generales casi de frontera como una decisión seria, no como un ejercicio de marca. La política de exportación de chips puede servir al equilibrio militar ordinario entre sistemas que los humanos siguen controlando.

Entonces rechaza el marco que hace de la superinteligencia de Estados Unidos el escudo contra la superinteligencia china. El escudo es una decisión conjunta de no construir la cosa: una prohibición vinculante y verificable de la superinteligencia artificial, con la gobernanza computarizada e inspección lo suficientemente fuerte que la deserción aparece. Los adversarios han firmado negociaciones más feas cuando ambas partes podían ver que la alternativa sin límites era peor.

La publicación de Amodei sobre pesos abiertos es útil como mapa de cómo un CEO de frontera jerarquiza el mundo. Contrabando de chips, destilación, pruebas: esos son los diales que quiere girar. El dial que más importa no aparece. Dejar de construir superinteligencia. Hasta que eso sea la preocupación principal, lo demás es gestión de carrera disfrazada de seguridad.