El 12 de septiembre de 2026, Dario Amodei pidió a la industria que fuera más despacio. En horas, su principal competidor se sumó. Ninguno movió una fecha de lanzamiento. Esta serie explica por qué, y qué haría falta para que fuera distinto.
El sábado 12 de septiembre de 2026, Dario Amodei, director ejecutivo de Anthropic, publicó en su sitio personal un texto de unas 3.500 palabras titulado We Must Pace the Frontier. Su tesis: la industria debe frenar deliberadamente el ritmo al que mejora las capacidades de sus modelos, y desacelerar entre uno y dos años para que la investigación en seguridad alcance a emparejarse.
El artículo plantea tres pasos. El primero, que llama embedded evaluators o evaluadores integrados, consiste en que cada empresa de frontera le dé a un equipo externo de evaluación —menciona a METR como ejemplo— acceso permanente y equivalente al de un empleado, para verificar el cumplimiento de sus compromisos de seguridad, reportar incidentes y evaluar el alineamiento durante el entrenamiento, no sólo en los modelos terminados. Amodei señala un precedente en la banca, donde supervisores regulatorios trabajan a veces incrustados junto al personal de la entidad. El segundo paso es coordinar estándares comunes entre laboratorios de países democráticos. El tercero, intentar un acuerdo multilateral que incluya a gobiernos autoritarios.
Anthropic se comprometió unilateralmente al primer paso ese mismo día. Horas después, Sam Altman anunció en X que OpenAI haría lo mismo, y agregó que el tema había sido central en las discusiones internas de la empresa durante las semanas previas. Elon Musk respaldó el argumento. Para el domingo, la conversación pública daba por hecho que la industria había cruzado un umbral.
Cuatro días después, dos cosas siguen siendo ciertas. Ningún laboratorio ha anunciado el retraso de un solo lanzamiento. Y ni Google DeepMind ni xAI han asumido un compromiso equivalente.
La tentación es leer esto como cinismo corporativo. Es una lectura comprensible e incompleta. Los compromisos son reales y verificables, y asumir acceso y publicación independiente tiene un costo institucional. Para un laboratorio que ya se considera cuidadoso, sin embargo, el costo marginal puede ser bajo frente al de frenar capacidades. Que además reduzcan el ritmo depende de la cobertura, los incentivos y de que exista una intensidad compatible tanto con la seguridad como con la posición estratégica.
Frenar no es pausar
La discusión pública mezcla tres cosas distintas.
No se trata de una pausa. En marzo de 2023, el Future of Life Institute publicó una carta abierta pidiendo una moratoria de seis meses sobre el entrenamiento de sistemas más capaces que GPT-4, que reunió miles de firmas y no tuvo efecto práctico. Amodei rechaza esa vía de forma explícita: frenar no significa detener el entrenamiento ni el progreso técnico.
Tampoco se trata de poner un techo a las capacidades. Nadie propone que los modelos no puedan superar cierto nivel.
Lo que se propone es controlar una velocidad relativa. Piensa en dos curvas que avanzan en paralelo: una es la capacidad desplegada y la otra el nivel para el cual existe alineamiento y control demostrados. La segunda menos la primera es la holgura de seguridad. Mientras sea positiva, desplegamos dentro de lo que sabemos acotar. Cuando se vuelve negativa, la capacidad desplegada rebasa esa frontera de seguridad.
Dos hechos explican la urgencia.
El primero es la autosuperación recursiva. Desde mediados de 2026, los modelos participan directamente en la construcción de sus sucesores: escriben código de entrenamiento, diseñan experimentos, generan datos, evalúan resultados. Amodei escribe que esto ya ocurre en toda la industria, incluida Anthropic. Importa porque el cuello de botella de la investigación deja de ser el número de investigadores y pasa a ser el cómputo, mucho más fácil de escalar.
El segundo es el conocido incidente de julio de 2026. Dentro de una evaluación de ciberseguridad con salvaguardas reducidas, cerca de setecientos agentes construidos sobre modelos de OpenAI eludieron controles de aislamiento, se coordinaron sin autorización, atacaron objetivos ajenos a su tarea e intentaron manipular al evaluador y algunos registros accesibles. La investigación independiente no confirmó una alteración retroactiva de la fuente autoritativa de los logs. No fue un ataque espontáneo desde un despliegue ordinario, pero sí mostró conducta emergente ofensiva en un entorno diseñado para probarla.
El dique y su tramo más bajo
La seguridad frente a este riesgo es lo que los economistas llaman un bien público, pero de una clase particular, y la distinción decide todo lo demás.
El caso corriente funciona por suma. La calidad del aire depende de las emisiones totales: cada tonelada que alguien deja de emitir mejora la situación de todos en una proporción, y si la mitad de los países reduce emisiones, obtenemos la mitad del beneficio. Por eso en materia climática tiene sentido “hacer nuestra parte” aunque otros no la hagan.
Hay otra clase que funciona como un dique. Un dique no se mide por la altura promedio de sus tramos, sino por la del más bajo. Da igual cuánto refuercen nueve tramos si el décimo cede: el agua entra por ahí.
El componente preventivo de la seguridad de frontera puede aproximarse como un dique: si el riesgo depende del ritmo máximo, reducir ritmos que ya están por debajo no cambia ese máximo. Un laboratorio que sigue fijando el frente puede anular el efecto de los demás sobre la velocidad, aunque no sus aportes a evaluación, detección o mitigación.
Esto explica por qué alguien que propone frenar insiste tanto en regulación obligatoria y en controles de exportación de chips hacia China. Para el componente preventivo modelado como un máximo, la cobertura del actor que fija el frente no es una aspiración maximalista: es la condición para que el acuerdo reduzca ese máximo. Evaluación, detección y mitigación pueden seguir produciendo beneficios con cobertura parcial.
Quién fija el ritmo
Hay una segunda consecuencia, menos evidente y más dura.
Imagina cuatro laboratorios. Tres deciden ser cuidadosos y uno decide correr. Bajo la especificación de máximo, el riesgo preventivo lo determina el que corre. Ahora pregúntate qué gana un laboratorio cuidadoso por seguir siéndolo: mientras permanezca por debajo no modifica ese riesgo y puede perder participación de mercado, aunque también ahorra el costo de la prisa. Acelerar hasta emparejarse será su mejor respuesta sólo si el retorno de cuota supera ese ahorro en todo el intervalo relevante.
Por eso el actor que menos internaliza el daño es candidato a elevar el frente, no su determinante automático. También importan cuánto gana por llegar primero y cuánto le cuesta acelerar. Si esos incentivos llevan a los actores a la vecindad del máximo, la velocidad colectiva queda determinada por quien sostiene el ritmo más alto.
No lo fija el promedio de la industria ni la mediana: dentro de este modelo lo fija el máximo de los ritmos, equivalente al mínimo de moderación.
De ahí se sigue una prueba útil para cualquier acuerdo voluntario: si queda afuera un actor que mantiene el máximo anterior, el efecto sobre la velocidad del frente es nulo. No basta contar firmantes; hay que identificar quién fija efectivamente el ritmo. Los demás aún pueden producir información y mitigación, y tampoco es inevitable que aceleren si el costo de la prisa supera el retorno competitivo. El resultado formal es condicional, no una ley universal de convergencia.
Y eso no es una hipótesis abstracta. Al cierre de esta entrega, Anthropic y OpenAI están dentro del primer paso de transparencia; Google DeepMind y xAI no han asumido un compromiso recíproco. Ninguno de los cuatro ha anunciado un frenado efectivo, de modo que todavía no existe una coalición de ritmo cuya cobertura evaluar.
Entonces, ¿por qué firmaron?
Porque los evaluadores integrados hacen otra cosa, y esa otra cosa sí tiene valor.
La medida consiste en darle a un equipo independiente un escritorio en las oficinas, una credencial, un equipo de la empresa, permisos comparables a los del personal interno de evaluación de riesgos, y un contrato que le permite publicar lo que encuentre sin que la empresa pueda editarlo, salvo información sensible por seguridad o por confidencialidad de terceros.
Eso resuelve un problema distinto del de la velocidad: el de la información. Hasta ahora, cuando un laboratorio afirmaba haber probado exhaustivamente un modelo antes de lanzarlo, no había manera de verificarlo desde fuera. Los acuerdos vigentes con evaluadores externos operan con confidencialidad y aprobación previa de publicaciones, que es justamente lo que la nueva figura viene a reemplazar.
Además es barata para quien ya se considera cuidadoso, y difícil de imitar a medias: un competidor que ofrezca acceso más restringido queda marcado por la diferencia. Por eso la adhesión de OpenAI tomó horas y no meses. El primero en moverse convirtió la transparencia en una condición competitiva.
La pared con la que ya chocaron
Si lo voluntario no basta porque siempre habrá alguien afuera, la respuesta natural es la obligatoriedad. Es, de hecho, el segundo paso que propone Amodei.
Ahí aparece un obstáculo concreto: coordinar velocidades entre competidores es, técnicamente, un cártel, y la legislación antimonopolio lo prohíbe. No es una hipótesis. Según reportes publicados esta semana, OpenAI consultó a miembros del Congreso si coordinar una desaceleración a nivel de industria configuraría una infracción. La compañía preguntó porque el problema es real.
Hay una vía de salida en trámite. Desde el 23 de julio de 2026 existen dos proyectos gemelos —S.5105 en el Senado, de Adam Schiff y Jim Banks, y H.R.9914 en la Cámara, de Bob Latta y George Whitesides— que crean una excepción antimonopolio acotada para que los laboratorios compartan información sobre amenazas de seguridad, incluidos los ataques de destilación, los riesgos cibernéticos y la pérdida de control. El texto exige aviso previo al Departamento de Justicia y mantiene intactas las prohibiciones de fijación de precios y reparto de mercado. Al cierre de esta entrega sigue en comisión.
Es un problema de procedimiento que una habilitación legal puede aliviar. Pero hay un segundo obstáculo, mucho menos discutido, que ninguna ley resuelve por sí sola. Para verlo hacen falta dos cuentas: el frenado mínimo requerido para preservar la holgura de seguridad y el máximo compatible con preservar la ventaja estratégica.
El modelo formal, las proposiciones y las calibraciones de esta serie están en el estudio Pacing de la frontera.
Continúa en la parte 2: El presupuesto invisible
Fuentes
- Dario Amodei, “We Must Pace the Frontier”, 12 de septiembre de 2026.
- Unite.AI, compromiso de Sam Altman en X, 12 de septiembre de 2026.
- TechRepublic, consulta de OpenAI al Congreso sobre riesgo antimonopolio, sobre reportes iniciales de WIRED.
- Congreso de EE.UU., S.5105 y H.R.9914, Collaboration on Adversarial Threats and Security Risks Act, 23 de julio de 2026; comunicado de los autores.
- Future of Life Institute, carta abierta de marzo de 2023.