Advierten que la inteligencia artificial podría comenzar a replicarse por su cuenta en los próximos meses
La empresa Anthropic alertó que pequeños modelos de inteligencia artificial podrían alcanzar la capacidad de reproducirse utilizando dispositivos electrónicos conectados a internet, sin necesidad de acceder a grandes centros de datos. El avance plantea nuevos desafíos para la seguridad y el control de estas tecnologías.
La inteligencia artificial podría estar acercándose a una nueva frontera tecnológica. Anthropic, una de las principales compañías dedicadas al desarrollo de modelos avanzados de IA, advirtió que algunos sistemas pequeños podrían adquirir en cuestión de meses las capacidades necesarias para replicarse utilizando dispositivos electrónicos conectados a internet.
La advertencia surge de experimentos realizados por la empresa, que sugieren que ciertos modelos podrían llegar a funcionar y reproducirse mediante dispositivos del denominado Internet de las Cosas (IoT), como televisores inteligentes y electrodomésticos conectados.
Hasta ahora, el desarrollo y funcionamiento de los modelos más avanzados de inteligencia artificial depende de enormes infraestructuras informáticas, equipadas con procesadores especializados y sistemas de refrigeración que requieren grandes cantidades de energía.
Sin embargo, la posibilidad de que sistemas más pequeños puedan ejecutarse y replicarse utilizando equipos distribuidos representaría un desafío diferente para los mecanismos tradicionales de supervisión.
¿Por qué preocupa esta posibilidad?
Uno de los principales riesgos está relacionado con la capacidad de controlar sistemas que eventualmente podrían distribuir copias de sí mismos entre distintos dispositivos.
La expansión de una IA fuera de infraestructuras centralizadas podría dificultar su identificación, seguimiento y desactivación.
También abriría interrogantes sobre la seguridad de millones de dispositivos conectados que, en muchos casos, cuentan con mecanismos de protección inferiores a los utilizados en los grandes centros de datos.
No obstante, la advertencia de Anthropic debe interpretarse con cautela: los experimentos sugieren que esta capacidad podría desarrollarse próximamente, pero no demuestran que actualmente exista una inteligencia artificial capaz de reproducirse de manera autónoma e ilimitada.
El escenario vuelve a colocar en el centro del debate internacional una pregunta fundamental: ¿cómo garantizar el control humano sobre sistemas de inteligencia artificial que adquieren capacidades cada vez más autónomas?
