CEO de Google DeepMind reclama un organismo global que controle los modelos de IA

Demis Hassabis, cofundador y CEO de Google DeepMind, pidió que Estados Unidos lidere la creación de un organismo internacional encargado de supervisar los modelos de inteligencia artificial más avanzados antes de que sean publicados. Su propuesta representa un nuevo paso hacia la institucionalización global de una tecnología que, según el científico británico, podría alcanzar capacidades comparables con las humanas en apenas unos años.

El directivo presentó la iniciativa en un documento titulado A Framework for Frontier AI and the Dawning of a New Age. Allí sostiene que la inteligencia artificial general (AGI) constituirá una transformación comparable con el descubrimiento de la electricidad o el fuego, y no simplemente con innovaciones como Internet o los teléfonos móviles. “Esencialmente, encontramos una manera de hacer que la arena piense”, escribió Hassabis en referencia a los chips de silicio.

Sin embargo, el premio Nobel de Química de 2024 advierte que la velocidad de avance de la IA está superando la capacidad de los gobiernos y las sociedades para comprender sus consecuencias. Los modelos actuales ya presentan riesgos en materia de ciberseguridad, mientras que en los próximos años podrían adquirir capacidades vinculadas con amenazas biológicas, nucleares, manipulación o evasión de sus propios mecanismos de seguridad. 

Un regulador inspirado en Wall Street

La propuesta consiste en establecer una organización financiada principalmente por las compañías tecnológicas, pero supervisada por el Gobierno estadounidense y dotada de especialistas independientes. Su funcionamiento estaría inspirado en la Financial Industry Regulatory Authority (FINRA), la entidad privada que controla a los intermediarios de Wall Street bajo la órbita de la Comisión de Bolsa y Valores de Estados Unidos.

En una primera etapa, los grandes laboratorios —como Google DeepMind, OpenAI, Anthropic y xAI— entregarían voluntariamente sus nuevos modelos hasta 30 días antes de su lanzamiento. Durante ese período, el organismo evaluaría posibles capacidades peligrosas en áreas como ciberataques, desarrollo de agentes biológicos, engaño, autonomía y evasión de controles.

Si el sistema demuestra ser eficaz, la aprobación podría convertirse posteriormente en un requisito obligatorio para desplegar modelos de frontera en el mercado estadounidense. El organismo también tendría facultades para actualizar sus pruebas, solicitar evaluaciones externas y coordinar una desaceleración conjunta de la industria si detectara amenazas suficientemente graves.

El respaldo de Altman y Musk

La iniciativa recibió rápidamente el apoyo de otros protagonistas de la carrera tecnológica. Sam Altman, CEO de OpenAI, definió el planteo como “reflexivo”, mientras que Elon Musk sostuvo que representa “un buen punto de partida para las discusiones”, según informó Los Angeles Times.

Hassabis aseguró que lleva meses conversando con funcionarios de la administración de Donald Trump, autoridades europeas, especialistas técnicos y responsables de otros laboratorios. Su objetivo es que la nueva organización pueda comenzar a funcionar antes de que termine 2026, un plazo excepcionalmente corto para construir una institución con aspiraciones internacionales.

La propuesta se incorpora a un movimiento más amplio de institucionalización de la inteligencia artificial. Mientras China impulsa nuevos mecanismos multilaterales como la Organización Mundial de Cooperación en Inteligencia Artificial (WAICO), los países occidentales analizan modelos de supervisión capaces de establecer estándares comunes sin detener la innovación. En ese escenario, la discusión ya no pasa únicamente por decidir si la IA debe ser regulada, sino por determinar quién tendrá la autoridad técnica y política para controlar los sistemas más poderosos del mundo.

Para Hassabis, todavía existe una oportunidad de conducir ese proceso. Pero esa ventana se está cerrando: “Lo que hagamos colectivamente ahora determinará cómo se desarrollará la próxima fase de la civilización”, afirmó en su documento original.