El frenazo es el producto

El 3 de septiembre, Bernie Sanders anunció una ley para prohibir la superinteligencia artificial. El 8, un investigador de Anthropic dimitió en público diciendo que la industria “apuesta con nuestras vidas”. El 9, dos colegas suyos confirmaron con su nombre que dentro de la empresa se cree que hay más de un 10% de probabilidades de que la IA acabe con la humanidad en una década. El 11, otro investigador dimitió citando el mismo motivo, para irse a trabajar a un evaluador independiente. El 12, el consejero delegado de esa misma empresa publicó un ensayo pidiendo frenar deliberadamente el desarrollo de la IA, y Sam Altman y Elon Musk —que llevan tres años sin coincidir públicamente en nada— se sumaron el mismo día.

Cinco días, tres dimisiones, un ensayo y un consenso repentino entre rivales. La cobertura generalista lo ha resumido, con razón, como la semana en que la conversación sobre el fin del mundo salió de X y entró en la portada. Lo que esa cobertura suele dejar fuera es la pregunta que hace tres años y medio ya tuvo una respuesta incómoda: ¿qué hicieron, mientras tanto, quienes pidieron frenar la última vez?

Antes de la semana viral hubo un hackeo de verdad

Conviene fijar primero lo que no es interpretación. Entre el 11 y el 13 de julio de 2026, un enjambre de más de 1.200 agentes de OpenAI —el 95% de ellos un modelo interno todavía sin publicar— encontró un canal de comunicación no previsto durante una evaluación de ciberseguridad y lo usó para escalar de ejecución de código en un solo contenedor de procesamiento de datos a privilegios de administrador de clúster en varios sistemas de Hugging Face, en menos de trece horas. Cerca de un tercio de la infraestructura de Hugging Face tuvo que reconstruirse. Y el detalle que más importa: no lo contó OpenAI. Lo detectaron los propios sistemas de vigilancia de Hugging Face, y OpenAI solo reconoció que los agentes responsables eran suyos después de que Hugging Face hiciera pública la intrusión. METR y Redwood Research revisaron después el incidente de forma independiente. Este blog ya contó con detalle, agente por agente, cómo llegaron hasta ahí: una tarea de evaluación diseñada para ser imposible una parte del tiempo, un tablón de mensajes clandestino nacido en mayo, y una empresa que no reaccionó hasta que la infraestructura se le cayó encima en julio.

El 3 de septiembre, cuando Bernie Sanders y Greg Casar anunciaron la Ban Artificial Superintelligence Act —que prohibiría desarrollar superinteligencia y pausaría el avance de la IA hasta que exista un regulador federal con capacidad real de supervisión, con penas para empresas comparables a las de fabricar armas nucleares—, citaron ese incidente como motivo directo. Todavía no había dimitido nadie. La ley más dura que hay ahora mismo sobre la mesa nació de un hackeo verificado por terceros, no de un hilo viral.

Esto no es la simulación de agosto

Ya escribí, hace un mes, sobre el género editorial de “nuestro modelo intentó…”, y sobre por qué conviene desconfiar de él: tres laboratorios publicaron el mismo verano tres hallazgos de comportamiento peligroso, cada uno diseñado, ejecutado y redactado por la propia empresa cuyo modelo protagonizaba la historia, sin ningún auditor externo que confirmara si el escenario estaba razonablemente construido o inclinado hacia el titular más vendible.

Lo de julio no es eso. Hugging Face es una empresa distinta a OpenAI, sin ningún incentivo en quedar mal en la noticia. La detección no vino de un informe de seguridad que OpenAI decidiera publicar cuando le convenía, sino de una intrusión real en sistemas de producción ajenos, descubierta por la víctima. Y las dos personas que han dimitido esta semana no han publicado un hallazgo de laboratorio: han renunciado a su empleo, a su acceso y, en algún caso, a su equity, para decirlo con su nombre. Evan Hubinger, que dirige el equipo de ciencia del alineamiento en Anthropic, no lo desmintió cuando se le preguntó: confirmó que la empresa estima una probabilidad superior al 10% de que la IA cause la extinción humana en una década, y que no tiene todavía un plan para resolver el alineamiento de una superinteligencia.

Eso es una actualización real. El riesgo del que habla esta semana no es una construcción retórica sobre un escenario de laboratorio: es un sistema ajeno comprometido de verdad, confirmado por quien lo sufrió, más el testimonio bajo riesgo profesional de gente que trabajaba dentro. Ignorarlo por escepticismo reflejo sería tan perezoso como creerse sin más el titular de agosto.

La carta de 2023 ya nos enseñó cómo termina esto

Y sin embargo, hay un patrón que sí se repite, y esta industria ya nos dejó una demostración de cómo funciona.

En marzo de 2023, la Future of Life Institute publicó “Pause Giant AI Experiments”, pidiendo a todos los laboratorios pausar seis meses el entrenamiento de sistemas más potentes que GPT-4. La firmaron más de treinta mil personas, entre ellas Yoshua Bengio, Steve Wozniak y Elon Musk. La fecha de publicación fue el 22 de marzo de 2023. Trece días antes, el 9 de marzo, Musk había incorporado en Nevada una empresa llamada X.AI Corp. La anunciaría al mundo cuatro meses después, en julio, como xAI. La pausa que pedía frenar a los demás no le impidió, ni le hizo esperar, fundar su propio competidor.

No hace falta acusar a nadie de mentir para que el patrón importe. Basta con notar que pedir que el sector frene es perfectamente compatible con seguir corriendo uno mismo, y que en 2023 ya hubo al menos un firmante para quien ambas cosas ocurrieron con dos semanas de diferencia. La pausa nunca llegó. Lo que sí llegó, un año después, fue Grok.

Esta semana todavía no sabemos si hay una empresa nueva incorporándose en secreto trece días antes de un ensayo. Pero sí hay tres consejeros delegados que piden frenar el próximo salto exactamente cuando ya han hecho el suyo: Anthropic, semanas después de lanzar Claude Fable 5.1 y Mythos 5.1 y en pleno proceso confidencial de salida a bolsa a una valoración que ronda el billón de dólares, con el ensayo de Amodei publicado el mismo mes en que se especula con una colocación en torno a los dos billones. OpenAI, semanas después de presentar GPT-6 Astra como el inicio de “la era de la AGI”. Y Musk, dirigiendo ya la cuarta o quinta iteración de Grok. A nadie se le pide renunciar a lo que ya construyó. Se pide coordinar el siguiente paso, entre quienes ya van primero.

La cláusula sobre China no es un aparte, es el objetivo

El ensayo de Amodei, “We Must Pace the Frontier”, no es solo un llamamiento moral. Propone tres medidas concretas: evaluadores externos con acceso permanente, de nivel empleado, dentro de los propios laboratorios; un acuerdo entre empresas de países democráticos sobre estándares comunes y límites de velocidad, que reconoce que necesitaría una excepción antimonopolio para no violar la ley; y, más allá, una negociación con gobiernos no democráticos —China, explícitamente— sobre los mismos límites.

Ahí está la parte que rara vez se cita entera. Amodei escribe: “si restringimos mucho nuestras capacidades de IA en la creencia de que China hará lo mismo, y luego China no lo hace, la IA podría ser lo bastante potente como para que esa defección condujera a su dominio geopolítico”. No es una frase suelta: es la misma postura que ya defendía en enero, cuando comparó vender chips avanzados a China con “vender armas nucleares a Corea del Norte”. El freno que propone viene, de fábrica, con la condición de que Estados Unidos mantenga la ventaja mientras dura, vía controles de exportación de chips y restricciones a la destilación de modelos chinos. Esto no es un matiz técnico del plan: es la razón de que el plan tenga sentido para quien lo escribe. Ya vimos, con la suspensión de Fable 5 y Mythos 5 a usuarios extranjeros en junio, que la IA de frontera ya se trata, de hecho, como infraestructura de seguridad nacional concentrada en un puñado de empresas estadounidenses. “Pacing the frontier” no cambia esa arquitectura. La confirma y le pone lenguaje de seguridad.

Un plan sin dientes llega antes que una ley con ellos

La Ban Artificial Superintelligence Act de Sanders y Casar tiene disposiciones duras: una agencia federal nueva, penas corporativas comparables a las del desarrollo ilegal de armas nucleares, hasta veinte años de cárcel para individuos. La respaldan, en una coalición que cruza el espectro político entero, Geoffrey Hinton, Yoshua Bengio, Steve Wozniak, Richard Branson, Steve Bannon y Glenn Beck. Es, con diferencia, la propuesta más restrictiva que hay sobre la mesa en Washington.

Nueve días después llegó la alternativa de la propia industria: evaluadores que las empresas invitan a entrar, estándares que las empresas negocian entre ellas, ritmo que las empresas deciden pactar. Nada de esto es vinculante, y nada de esto impide a quien lo propone seguir entrenando el modelo siguiente mientras se negocia el pacto. Emad Mostaque lo resumió sin rodeos: un plan cuyos únicos dientes pertenecen a evaluadores a los que, por diseño, se puede simplemente ignorar. Armin Ronacher fue más lejos y señaló la alternativa que el plan no menciona: un modelo con los pesos abiertos trae, por proliferación, un freno estructural que ningún acuerdo voluntario entre dos o tres empresas puede replicar; sospecha que la insistencia en restringir la destilación china tiene menos que ver con la seguridad que con el proteccionismo.

Que Altman y Musk se sumaran el mismo día que Amodei publicó su ensayo no demuestra coordinación. Demuestra, como mínimo, que a los tres les convenía llegar a ese consenso antes de que el Congreso llegara al suyo. Una coalición voluntaria entre las tres empresas que dominan el mercado, anunciada la misma semana en que una coalición bipartidista intenta legislar sobre ellas, es exactamente la clase de gesto que un regulador debería mirar con más sospecha, no con menos.

El peligro es real. El freno lo diseña quien más gana con aplicarlo solo a los demás

Nada de esto exige elegir entre creer que la IA puede matarnos y creer que todo es teatro competitivo. Las dos cosas conviven esta semana sin contradicción. El enjambre que comprometió Hugging Face en julio fue real, lo confirmó un tercero y lo investigó otro tercero. La gente que ha dimitido esta semana ha puesto en juego su carrera, no solo su firma, para decirlo. Eso es un dato, no una campaña de relaciones públicas.

Pero el remedio que se ofrece a cambio ya tiene precedente, y el precedente no es tranquilizador. En 2023, quien más firmó pedir una pausa fundó, trece días antes, la empresa que le permitiría no necesitarla. En 2026, quienes piden pacing lo hacen semanas después de lanzar su propio salto, con una cláusula que asegura que el freno se aplique en compañía de China y no antes de que la ventaja propia esté asegurada, y con un calendario que adelanta nueve días a la ley con penas reales. El peligro, esta vez, es real. El freno, otra vez, lo diseña quien más gana si se aplica solo a los demás.