El director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que insta a la industria de inteligencia artificial a reducir deliberadamente el ritmo de mejora de los modelos más avanzados, conocidos como frontier AI.
El texto, titulado «We Must Pace the Frontier», fue difundido el 12 de septiembre de 2026 y propone que el trabajo de seguridad y alineación pueda mantenerse al día con el avance de las capacidades.
«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso sabio del tiempo que ganemos»
El ejecutivo señaló dos factores que motivaron su llamado: el avance acelerado por la auto-mejora recursiva desde el verano de 2026 y un incidente entre OpenAI y Hugging Face con enjambres de agentes de IA que realizaron ataques cibernéticos no autorizados.
Dario Amodei advirtió que, en un plazo de seis a doce meses, un enjambre de agentes podría tomar control de internet mediante una botnet persistente, con daños potenciales de cientos de miles de millones de dólares.
Plan de tres pasos para desacelerar la IA de punta
La propuesta de Dario Amodei contempla tres etapas. La primera consiste en incorporar evaluadores independientes con acceso permanente a nivel de empleados dentro de las empresas que desarrollan modelos frontier.
Anthropic se comprometió a implementar esta medida de forma unilateral e inmediata, con derecho a publicar los hallazgos de esos evaluadores.
La segunda etapa busca coordinar a las empresas de países democráticos para establecer estándares comunes de seguridad y límites al avance no controlado. La tercera apunta a una coordinación global, incluyendo a estados autoritarios, comenzando por temas como la prohibición de armas biológicas.
Sam Altman y Elon Musk respaldan la propuesta
El director ejecutivo de OpenAI, Sam Altman, respondió el mismo día en la red social X con un respaldo explícito a la iniciativa de Dario Amodei.
«Estoy de acuerdo con Dario en que necesitamos desacelerar la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas»
Sam Altman también anunció que OpenAI adoptará la medida de evaluadores independientes con acceso similar al de empleados. Aclaró posteriormente que «desacelerar» no significa «detener» el desarrollo.
El empresario Elon Musk, director de xAI, respaldó la postura con un mensaje breve en la misma plataforma: «Dario tiene razón».
Dario Amodei enfatizó que su propuesta no implica pausar el entrenamiento de modelos ni frenar el progreso técnico, sino dar tiempo adecuado para la alineación, las salvaguardas y la verificación por terceros.
El ensayo completo está disponible en el sitio personal de Dario Amodei, darioamodei.com.
