Dario Amodei propone desacelerar la frontera de la IA y compromete a Anthropic a abrir sus sistemas a evaluadores externos permanentes

Dario Amodei, director ejecutivo de Anthropic, publicó en su sitio personal el ensayo «We Must Pace the Frontier», fechado en la página como «September 2026». Amodei hizo público el ensayo el 12 de septiembre de 2026 en su cuenta de X, donde escribió que la industria de inteligencia artificial debería reducir el ritmo al que mejora las capacidades de sus modelos, y presentó un plan de tres partes para lograrlo.

«We must slow the pace at which we improve the capabilities of AI models» — Dario Amodei, en «We Must Pace the Frontier».

El ensayo plantea un marco de tres niveles: primero, evaluadores externos incrustados en cada laboratorio de frontera, con acceso permanente equivalente al de un empleado; segundo, coordinación de estándares de seguridad comunes entre los laboratorios de los países democráticos; y tercero, coordinación global que incluya acuerdos con gobiernos autocráticos.

Anthropic se compromete unilateralmente al primer nivel de ese marco. Según Unite.AI, la empresa ofrecerá a los revisores externos acceso permanente a sus instalaciones y a su equipo, con permisos comparables a los de sus propios equipos internos de riesgo y derecho contractual a publicar sus hallazgos sin control editorial de Anthropic; el medio cita a METR como ejemplo de organización evaluadora.

«Anthropic is unilaterally committing to this step now» — Dario Amodei, en «We Must Pace the Frontier».

Recepción en la industria

TechCrunch y Unite.AI cubrieron el anuncio el mismo 12 de septiembre. Según TechCrunch, Sam Altman escribió «I agree with Dario that we need to pace the frontier» y confirmó que OpenAI también aceptaría evaluadores incrustados, mientras que Elon Musk publicó «Dario is right.» En una segunda pieza, Unite.AI reportó que Altman escribió en X «Committing to having independent evaluators with employee-like access is a great idea, and we will do the same», comprometiendo a OpenAI a igualar el primer paso anunciado por Anthropic.

La lectura de AINI

El ensayo de Amodei no menciona a América Latina ni al Caribe en ningún punto. Para AINI, esa ausencia importa porque el marco de tres niveles reparte la tarea de verificar la seguridad de los modelos entre tres actores —los laboratorios de frontera, los gobiernos democráticos con jurisdicción sobre ellos y los gobiernos autocráticos con los que habría que negociar—, y la región no encaja en ninguno de los tres.

El instituto plantea que, bajo ese esquema, América Latina y el Caribe consumirían esos modelos sin participar en el mecanismo que verifica que son seguros: la verificación queda delegada en evaluadores externos elegidos y contratados por el propio laboratorio, y el canal de la región se reduce a leer sus reportes. AINI describe esa dinámica como la misma dependencia que nombra su primer principio institucional —construir capacidad propia en lugar de depender de soluciones importadas y cerradas—, trasladada de los modelos de IA a la auditoría que los supervisa.

La pregunta que AINI plantea a partir del ensayo, y que este no responde, es qué ocurre si el compromiso de acceso de nivel empleado se convierte en estándar de la industria: si existirá una figura que dé cabida a reguladores o entidades técnicas de la región, o si la auditoría de los modelos de frontera seguirá siendo una función que se ejerce únicamente desde las jurisdicciones donde operan los laboratorios.