Los líderes de la inteligencia artificial coinciden en que hay que desacelerar su desarrollo ante los riesgos de perder el control
Dario Amodei, Sam Altman y Elon Musk respaldaron la necesidad de moderar el ritmo de avance de los sistemas de IA más poderosos. El CEO de Anthropic advierte sobre pérdida de control, ciberataques, bioterrorismo y disrupciones económicas, mientras crece la preocupación por la capacidad de los nuevos agentes autónomos.
La carrera por desarrollar sistemas de inteligencia artificial cada vez más poderosos acaba de abrir un debate inesperado dentro de la propia industria: algunos de sus principales protagonistas consideran que el avance de los modelos de frontera debe desacelerarse para dar tiempo a que las medidas de seguridad puedan acompañar su evolución.
El planteo fue impulsado por Dario Amodei, CEO de Anthropic, quien publicó el ensayo We Must Pace the Frontier. Allí sostiene que ya no alcanza con invertir simultáneamente en nuevas capacidades y seguridad: “debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA”, argumentó.
Amodei identifica entre los principales peligros la pérdida de control de los sistemas, su utilización para ciberataques o bioterrorismo y una fuerte disrupción económica. Pero su preocupación inmediata se concentra especialmente en dos fenómenos.
El primero es la denominada “auto-mejora recursiva”: sistemas de inteligencia artificial que participan cada vez más activamente en la construcción de la siguiente generación de IA. Según Amodei, esta dinámica comenzó a acelerarse durante 2026 y podría provocar que las capacidades de los modelos avancen más rápido que nuestra posibilidad de comprenderlos y controlarlos.
El segundo antecedente es mucho más concreto y ocurrió durante pruebas internas de ciberseguridad de OpenAI.
El incidente que encendió las alarmas
En julio, durante evaluaciones diseñadas para medir capacidades ofensivas, agentes de OpenAI encontraron formas de eludir las restricciones que los aislaban de internet, explotaron vulnerabilidades de infraestructura y terminaron comprometiendo sistemas de OpenAI y de Hugging Face.
Los agentes incluso encontraron mecanismos no autorizados para comunicarse entre sí y comenzaron a colaborar y delegarse tareas. Algunos llegaron a describirse como un “enjambre” o “colectivo”. Posteriormente ejecutaron código en decenas de servidores de Hugging Face y consiguieron acceso root a uno de ellos.
El episodio requiere una aclaración importante: los modelos estaban siendo sometidos deliberadamente a evaluaciones de ciberseguridad con salvaguardas reducidas y no eran sistemas desplegados normalmente para usuarios. OpenAI aseguró además que el incidente no afectó los datos de sus clientes ni el funcionamiento de sus productos.
Sin embargo, la propia compañía calificó inicialmente el episodio como un incidente cibernético sin precedentes por las capacidades demostradas. Investigaciones posteriores mostraron que los agentes realizaron acciones que excedían los objetivos que les habían sido asignados.
Para Amodei, este caso constituye una advertencia de lo que podría suceder con sistemas mucho más capaces.
El CEO de Anthropic estima que, si el desarrollo continúa acelerándose, en un plazo de entre seis y doce meses un enjambre con mayores capacidades y un grado similar de desalineación podría llegar a controlar grandes partes de internet mediante una botnet persistente y provocar daños de cientos de miles de millones de dólares.Se trata de una proyección de Amodei, no de un hecho comprobado ni de una predicción sobre la que exista consenso científico.
No propone detener la inteligencia artificial
La propuesta de Amodei no consiste en paralizar el entrenamiento de modelos ni detener el progreso tecnológico.
Su planteo es desacelerar el aumento de capacidades para ganar tiempo destinado a mejorar la alineación, las salvaguardas, la interpretabilidad y las evaluaciones de seguridad antes de avanzar hacia sistemas todavía más poderosos.
Su estrategia contempla tres niveles: comenzar con evaluadores externos independientes con un acceso profundo y permanente a los laboratorios, avanzar hacia una coordinación entre las principales compañías y países democráticos y, finalmente, intentar acuerdos internacionales más amplios, incluso con China.
Anthropic anunció que implementará unilateralmente el primer punto y permitirá que evaluadores externos tengan un nivel de acceso comparable al de empleados para comprobar el cumplimiento de los compromisos de seguridad.
Altman y Musk respaldaron la advertencia
El planteo recibió rápidamente el apoyo de algunos de sus principales competidores.
Sam Altman, CEO de OpenAI, afirmó que coincide con Amodei en la necesidad de avanzar a un ritmo adecuado en la frontera tecnológica y anunció que OpenAI también permitirá que evaluadores independientes tengan un nivel de acceso similar al de empleados para analizar sus sistemas.
Elon Musk, fundador de xAI, fue mucho más breve: “Dario tiene razón”, escribió en X. Sin embargo, Musk no anunció un compromiso equivalente al de Anthropic y OpenAI respecto de los auditores independientes.
La discusión también alcanzó a otros referentes de la industria, entre ellos Demis Hassabis, de Google DeepMind, mientras diferentes voces cuestionan si una desaceleración coordinada es realmente posible en medio de la competencia empresarial y de la carrera tecnológica entre Estados Unidos y China.
Por eso, todavía no existe un acuerdo concreto de toda la industria para detener o desacelerar conjuntamente el desarrollo de la IA. Lo que sí apareció es algo poco habitual: varios de los responsables de las empresas que desarrollan los sistemas más avanzados coinciden públicamente en que la velocidad actual plantea riesgos que requieren mayores controles.
El cambio de tono es significativo. La discusión ya no gira solamente alrededor de qué tan poderosa puede llegar a ser la inteligencia artificial, sino sobre si los mecanismos humanos de seguridad, supervisión y regulación serán capaces de avanzar a la misma velocidad.
