“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino también a las generaciones futuras de la humanidad”, sostuvo el funcionario austríaco en un comunicado en el que reclamó una acción urgente de los gobiernos y las empresas que desarrollan los sistemas más avanzados.
Türk puso especial atención sobre la llamada IA agéntica, capaz de completar tareas complejas y tomar decisiones con un nivel creciente de autonomía. Según explicó, eventuales fallas de estos sistemas podrían paralizar servicios esenciales, interrumpir comunicaciones, afectar infraestructuras críticas e incluso comprometer el funcionamiento de instituciones democráticas.
“Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, alertó.
El funcionario también advirtió que la inteligencia artificial ya está acelerando el ritmo de los conflictos armados, ampliando su alcance y debilitando las barreras de seguridad destinadas a evitar el uso de armas de destrucción masiva.
Ante este escenario, Türk reclamó que los gobiernos y las compañías tecnológicas alcancen acuerdos en ámbitos multilaterales para establecer una gobernanza internacional de la inteligencia artificial, basada en el derecho internacional y la protección de los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo”, planteó.
La advertencia también apuntó a la concentración del desarrollo de la IA en un reducido grupo de compañías privadas, que compiten por crear modelos cada vez más capaces.
Según el alto comisionado, esa competencia puede incentivar el lanzamiento de sistemas antes de que existan mecanismos suficientes para comprender su funcionamiento, evaluar sus riesgos y mantenerlos bajo control.
Türk no planteó frenar la innovación tecnológica, pero sí reclamó límites, controles independientes y acuerdos internacionales antes de que las capacidades de estos sistemas superen las herramientas disponibles para supervisarlos.
