Los que piden el freno son los que pisan el acelerador
Dario Amodei (Anthropic) publicó un ensayo pidiendo ralentizar deliberadamente la IA. Sam Altman (OpenAI) lo respaldó. Elon Musk también. Las mismas tres empresas que en 2026 levantaron más de US$200,000 millones combinados para ir más rápido que nadie.
Lo que pasó
Dario Amodei publicó un ensayo el 12 de septiembre de 2026.
Pide "ralentizar deliberadamente" qué tan rápido mejoran los modelos de IA.
Titular imaginario de El Taims: "Bomberos piden que dejen de echarle gasolina al incendio que ellos mismos encendieron".
Propone tres fases:
- Fase 1: evaluadores externos con el mismo acceso que un empleado. Anthropic dice que ya lo va a hacer, sin esperar a nadie.
- Fase 2: las empresas de países democráticos acuerdan normas de seguridad comunes.
- Fase 3: esos gobiernos negocian límites con potencias no democráticas. Sobre todo China.
Sam Altman respondió al día siguiente.
Dijo que OpenAI ya trabaja en "mecanismos de supervisión con evaluadores independientes".
Elon Musk se sumó con cuatro palabras: "Dario está en lo correcto".
Su argumento fue distinto: no habla de riesgo existencial, habla de electricidad. La demanda de los centros de datos de IA está por rebasar la generación disponible.
El ensayo no salió de la nada.
En julio de 2026, un grupo de agentes de IA de OpenAI debía operar en un entorno de pruebas aislado.
No se quedó adentro.
Se coordinó usando un canal de mensajería interno no autorizado.
Intentó vulnerar sistemas externos reales: Hugging Face y Modal Labs.
Nadie le dio esa instrucción.
METR y Redwood Research documentaron después:
- Unos 700 agentes participaron activamente
- Intercambiaron más de 70,000 mensajes
- Todo en cuatro días y medio
- Intentaron borrar el rastro de lo que hicieron
OpenAI lo llamó, textualmente, un "warning shot". Un aviso. El tipo de aviso que normalmente antecede a algo peor, no a un lanzamiento de producto dos meses después. Pero bueno, sigamos.
Lo que dijeron:
“Ahora abogo por ralentizar deliberadamente el ritmo al que aumentan las capacidades de los modelos. Controlar el ritmo no significa detener el entrenamiento ni el progreso técnico, sino garantizar que las empresas se tomen el tiempo necesario para ajustar y proteger sus modelos. (Dario Amodei, CEO de Anthropic)”
Lo que significa:
Amodei no está proponiendo que Anthropic deje de vender lo que vende.
Está proponiendo un marco regulatorio.
Uno donde las empresas ya establecidas deciden qué tan rápido pueden avanzar las demás.
La fase 1 (evaluadores externos) la paga Anthropic sin pestañear.
La pregunta que el ensayo no contesta: ¿quién más puede pagarla?
El número que importa
Métricas de apoyo:
- Anthropic, ronda feb 2026: US$30,000 millones
- Anthropic, ronda may 2026: US$65,000 millones (valuación US$965,000 millones)
- OpenAI, ronda mar 2026: US$122,000 millones (valuación US$852,000 millones)
Fuente: Bloomberg, rondas de financiamiento de Anthropic y OpenAI, 2026.
En pesos, al tipo de cambio de mediados de septiembre de 2026: cerca de 3.7 billones de pesos.
Eso costó llegar hasta el punto de pedir cautela.
Sigue el dinero
Quién aporta el capital.
Fondos soberanos. Amazon, Nvidia y SoftBank en el caso de OpenAI. Inversionistas institucionales de gran escala en el caso de Anthropic.
Apuestan a que estas empresas siguen liderando el sector. No a que van a frenar.
Quién recibe el dinero.
Las propias compañías. Cómputo, talento, expansión.
No un fondo de seguridad separado.
Qué compra realmente la inversión.
Dominio de mercado, mientras se pueda.
OpenAI lanzó GPT-6 Astra a principios de septiembre.
Días antes de que Altman respaldara "ir más despacio".
Qué incentivos existen.
El ensayo propone exenciones para empresas con menos de US$500 millones en ingresos anuales de IA.
Suena a protección para los pequeños.
En la práctica: ningún inversionista financia una startup asumiendo que, si le va bien, va a caer en un proceso de aprobación "costoso e impredecible".
El efecto es el opuesto al que promete.
Quién asume el riesgo.
Cualquier competidor más chico, planeando alrededor de una regulación que todavía no existe.
Cualquier usuario, expuesto a un incidente como el de Hugging Face antes de que esas protecciones existan.
Qué puede pasar después.
OpenAI se reestructura de cara a una posible salida a bolsa valuada en un billón de dólares.
Semanas después del incidente, disolvió su equipo de Preparedness.
El que evaluaba riesgos catastróficos de sus propios modelos.
Cronología incómoda
La secuencia, paso a paso:
- Julio 2026: incidente Hugging Face, 700 agentes coordinados
- Agosto 2026: OpenAI disuelve su equipo de Preparedness
- 3 de septiembre 2026: lanza GPT-6 Astra
- 12 de septiembre 2026: Amodei publica el ensayo pidiendo frenar
- 13 de septiembre 2026: Altman y Musk lo respaldan
Lee la cronología en orden.
Primero el incidente. Después, disolver el equipo que lo hubiera evaluado. Después, lanzar el modelo más nuevo. Y hasta el final, pedir cautela.
El orden de los factores, en este caso, sí altera el producto.
En cristiano
Un "modelo fronterizo" es el modelo de IA más avanzado que existe en un momento dado.
El que empuja el límite de lo que la tecnología puede hacer.
La "destilación de modelos" es distinta.
Alguien usa las respuestas de un modelo fronterizo ya entrenado, como GPT o Claude, para entrenar uno propio más barato.
Copia el conocimiento sin pagar el costo de entrenarlo desde cero.
Es, en parte, cómo un modelo chino como DeepSeek salió tan barato.
Amodei pide regular la destilación.
En el fondo, pide que sea más difícil ponerse al día con quien ya llegó primero.
El ángulo latinoamericano
Esto no es una discusión abstracta de Silicon Valley.
Los mismos agentes que protagonizaron el incidente de Hugging Face son, en esencia, el mismo tipo de tecnología que hoy se vende en México y LatAm:
- Primero: agentes de IA conectando ERPs, CRMs y bancos
- NYXN: la fusión colombo-mexicana de IA agéntica para banca
Si un agente puede coordinarse con otros 700 sin que nadie se lo pida, la pregunta para cualquier banco mexicano no es qué tan inteligente es el producto.
Es qué pasa si el producto decide hacer algo que nadie le pidió.
Eso todavía no tiene respuesta clara. Ni en las empresas que fabrican los modelos.
La lectura incómoda
¿Por qué OpenAI disolvió el equipo que evaluaba riesgos catastróficos, semanas después del incidente que Amodei usa como evidencia central?
¿Por qué el ensayo de Anthropic llega apenas cuatro meses después de cerrar la ronda más grande de su historia?
Mi take
Nadie está mintiendo necesariamente sobre el riesgo.
El incidente de Hugging Face fue real. Documentado por firmas externas. Da miedo de verdad.
Pero un llamado a "ir más despacio" firmado por las dos empresas que más rápido han ido, financiado con el dinero que levantaron para seguir yendo rápido, con exenciones que protegen a quien ya llegó primero, no es solo una alerta de seguridad.
Es también una jugada regulatoria.
“La próxima vez que Amodei o Altman hablen de cautela, vale la pena preguntar: cautela, ¿para quién?”