Santiago Siri alertó sobre el temor entre los investigadores de IA: “Vieron con sus propios ojos el abismo”
El divulgador tecnológico argentino describió un cambio en los mensajes de despedida de quienes abandonan las grandes empresas del sector. Detrás de su comentario aparece un debate creciente sobre la seguridad, la velocidad del desarrollo y el poder de las compañías de inteligencia artificial.
El programador y divulgador tecnológico argentino Santiago Siri se refirió al clima que atraviesan algunos investigadores y trabajadores vinculados con el desarrollo de inteligencia artificial en Silicon Valley.
Con ironía, Siri comparó las tradicionales despedidas laborales de la industria tecnológica con los mensajes publicados por especialistas que abandonan empresas dedicadas a crear los modelos de IA más avanzados.
“En Silicon Valley hay un chiste ahora: antes, cuando se iba de su trabajo, un programador simplemente tuiteaba y decía: ‘Agradezco haber trabajado en esta empresa, voy a mi próxima aventura’”, expresó.
Según el divulgador, esa clase de mensaje habría adquirido un tono mucho más inquietante entre quienes tuvieron acceso directo al desarrollo de sistemas avanzados.
“Los trabajadores o investigadores que trabajan en ámbitos de inteligencia artificial, cuando se van, tuitean que vieron con sus propios ojos el abismo, se van a vivir a la naturaleza y se dedican a escribir poesía”, afirmó Siri.
La frase funciona como una exageración humorística, pero apunta a un fenómeno real: varios investigadores de alto perfil abandonaron importantes compañías tecnológicas y luego manifestaron públicamente su preocupación por los riesgos de la inteligencia artificial.
Las advertencias de quienes desarrollan la tecnología
Uno de los casos más conocidos fue el de Geoffrey Hinton, considerado uno de los pioneros del aprendizaje profundo y ganador del Premio Nobel de Física en 2024.
Hinton dejó Google en 2023 para poder hablar públicamente sobre los peligros de la inteligencia artificial sin que sus declaraciones afectaran a la empresa. Desde entonces, advirtió sobre riesgos como la desinformación, los ciberataques, la concentración de la riqueza y la posibilidad de que sistemas futuros superen las capacidades humanas.
El científico aclaró que su salida no había tenido como objetivo cuestionar específicamente a Google, pero sostuvo que necesitaba libertad para expresarse acerca de una tecnología cuyo avance había resultado más rápido de lo que esperaba.
Otro episodio relevante ocurrió en 2024, cuando Jan Leike, quien codirigía el equipo de superalineación de OpenAI, dejó la compañía. Tras su salida, aseguró que la cultura y los procesos de seguridad habían quedado relegados frente al desarrollo de productos cada vez más atractivos.
También renunció Daniel Kokotajlo, exinvestigador de gobernanza de OpenAI, quien afirmó que había perdido la confianza en que la organización actuaría responsablemente ante la eventual aparición de sistemas de inteligencia artificial general.
Kokotajlo integró posteriormente un grupo de empleados y exempleados de empresas de IA que reclamó mayores protecciones para quienes advierten sobre posibles riesgos desde el interior de las compañías.
OpenAI respondió entonces que contaba con mecanismos para que sus trabajadores expresaran inquietudes y aseguró que consideraba fundamental mantener un debate riguroso sobre la seguridad de esta tecnología.
El debate sobre el “riesgo existencial”
Las preocupaciones dentro de la industria abarcan problemas que ya pueden observarse —como los fraudes, los sesgos, la desinformación y el desplazamiento de tareas laborales— y escenarios más inciertos relacionados con la posibilidad de perder el control sobre sistemas altamente autónomos.
En 2023, cientos de investigadores, académicos y ejecutivos tecnológicos firmaron una declaración del Center for AI Safety que pidió considerar la reducción del riesgo de extinción asociado con la IA como una prioridad mundial comparable con las pandemias y una guerra nuclear.
Entre los firmantes estuvieron Hinton, Yoshua Bengio y responsables de compañías como OpenAI, Google DeepMind y Anthropic.
Sin embargo, no existe consenso científico sobre la probabilidad de un escenario catastrófico ni sobre la cercanía de una inteligencia artificial capaz de superar ampliamente a los seres humanos. Otros especialistas sostienen que el debate sobre amenazas futuras puede desviar la atención de daños actuales y comprobables, como la discriminación algorítmica, la vigilancia masiva o la concentración del poder tecnológico.
Entre el entusiasmo y el temor
Las declaraciones de Siri reflejan una contradicción que atraviesa a Silicon Valley: las mismas personas que participan en el desarrollo de herramientas capaces de transformar la ciencia, la medicina, la educación y el trabajo también advierten sobre consecuencias difíciles de anticipar.
Cuanto más capaces se vuelven los modelos, mayor es la discusión sobre quién controla su desarrollo, qué límites deben establecerse y qué responsabilidad tienen las empresas que los ponen a disposición de millones de usuarios.
El “chiste” citado por Siri resume esa tensión: las despedidas de la industria tecnológica ya no siempre hablan de una nueva empresa o de la próxima aventura profesional. En algunos casos, se convirtieron en advertencias públicas de quienes afirman haber observado desde adentro una carrera tecnológica cuyas consecuencias todavía no pueden determinarse.
La inteligencia artificial continúa prometiendo avances extraordinarios. Pero, como sugirió el divulgador argentino, una parte de quienes mejor conocen su funcionamiento también parece estar entre quienes observan su evolución con mayor inquietud.
