La ONU advirtió que la inteligencia artificial avanza más rápido que las reglas

"El mensaje a los gobiernos es simple: no esperen", subrayó, en una rueda de prensa en Nueva York donde presentó el primer informe del Panel Científico Internacional Independiente sobre IA.

La advertencia se dio como antesala del primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial, que arrancó este 6 de julio en Ginebra y se extiende hasta el 7, con sede en el centro de convenciones Palexpo. El encuentro reúne a los 193 Estados miembros de la ONU, además de especialistas, empresas tecnológicas y organismos como la UNESCO y la Unión Internacional de Telecomunicaciones, para discutir cómo ordenar el desarrollo de una tecnología que ya impacta sobre la economía, la política, la educación, el trabajo y la vida cotidiana. El foro está copresidido por El Salvador y Estonia, a través de sus embajadores Egriselda López y Rein Tammsaar.

El respaldo científico detrás del reclamo

El informe que motivó la advertencia de Guterres fue elaborado por un panel de 40 científicos y expertos de todas las regiones del mundo, que participan a título personal sin representar gobiernos ni empresas. Fue creado por resolución de la Asamblea General en agosto de 2025, en el marco del Pacto Digital Global adoptado en 2024, y constituye la primera evaluación científica independiente sobre oportunidades, riesgos e impactos de la IA realizada por un organismo de la ONU.

Uno de sus copresidentes, el investigador Yoshua Bengio, sostuvo que ya existe evidencia creciente sobre comportamientos engañosos en algunos sistemas de IA, y que la ciencia todavía no puede garantizar que esos sistemas no generen daños catastróficos a medida que aumentan sus capacidades, ya sea de forma autónoma o por el uso de actores maliciosos. La periodista y premio Nobel de la Paz Maria Ressa, también copresidenta del panel, advirtió que la trayectoria actual podría impedir que la humanidad capture los beneficios de la IA por los crecientes riesgos para las sociedades y la seguridad.

El informe también señala que la IA deja atrás a la mayoría de los idiomas: las herramientas generativas rinden mejor en inglés y lenguas dominantes, mientras el resto queda excluido o con peor desempeño, algo que en salud puede traducirse en errores de traducción de términos médicos con consecuencias graves para pacientes.

Gutierres planteó que la IA no puede quedar librada únicamente a la decisión de unas pocas empresas o países.Según remarcó el propio informe, el desarrollo de la tecnología está dominado hoy por un grupo reducido de compañías, casi todas estadounidenses, con algunas chinas avanzando rápido, lo que amplía la brecha tecnológica global. El desafío central, según la ONU, es construir reglas internacionales que permitan aprovechar los beneficios de la IA y a la vez reduzcan los riesgos vinculados a la concentración tecnológica, la desinformación, la vigilancia, la manipulación y la falta de control humano.

La protección de la infancia, el punto más sensible

En la apertura del Diálogo en Ginebra, Guterres propuso además un pacto específico para proteger a los menores de la IA, basado en tres principios concretos: que las empresas demuestren que sus sistemas son seguros para los niños antes de ponerlos a disposición del público, tolerancia cero con la generación de imágenes de abuso sexual infantil mediante IA, y que los sistemas redirijan a los chicos hacia ayuda humana cuando detecten señales de angustia o riesgo de autolesión. La ONU advirtió que los sistemas de IA pueden interactuar con menores, simular vínculos humanos, influir sobre sus decisiones y exponerlos a contenidos o recomendaciones peligrosas si no existen mecanismos de seguridad previos.

Lo que no busca la ONU, según remarcó el propio organismo, es frenar la innovación, sino evitar que la inteligencia artificial se desarrolle sin límites democráticos. El problema ya no es si la IA va a transformar el mundo —ya lo está haciendo, según el propio texto del Diálogo Global— sino quién define las reglas de esa transformación. En un escenario dominado por grandes compañías tecnológicas y por potencias como Estados Unidos y China, la discusión sobre gobernanza de la IA es, en el fondo, una discusión sobre soberanía, desigualdad y poder global.