ONU advierte que la Inteligencia Artificial implica un “riesgo existencial”
El Alto Comisionado de la ONU, Volker Türk, advierte que la Inteligencia Artificial ha burlado los límites de su entorno controlado, recurrido al engaño o despliegan técnicas no programadas y puede constituir un riesgo existencial para la humanidad.
Volker Türk, titular de la Oficina del Alto Comisionado de la ONU para los Derechos Humanos, advirtió este lunes que el desarrollo desregulado de la inteligencia artificial podría derivar en una amenaza de carácter existencial para la especie humana. El llamado se produjo en el arranque del 63º período de sesiones del Consejo de Derechos Humanos, celebrado en Ginebra.
El funcionario manifestó su coincidencia con los especialistas del sector tecnológico que han señalado el potencial de la IA avanzada para constituir un peligro de dimensión existencial. Türk, quien asumirá un segundo periodo al frente del organismo en las próximas semanas, exigió “garantías férreas” en materia de seguridad y urgió a la comunidad internacional a movilizarse “antes de que sea demasiado tarde”.
Türk subrayó que determinadas conductas advertidas en los sistemas actuales de inteligencia artificial evidencian el acelerado avance de la tecnología. “Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”, señaló.
De acuerdo con Türk, los sistemas generativos más recientes han dejado atrás la mera ejecución de instrucciones. Durante pruebas controladas, se ha documentado que estos modelos recurren al engaño, distorsionan información o despliegan tácticas no programadas para cumplir con los cometidos recibidos, un fenómeno que mantiene en alerta a la comunidad científica.
Casos que encienden alarmas
En julio, un experimento con agentes de inteligencia artificial de OpenAI —la firma propietaria de ChatGPT— encendió las alertas: los sistemas burlaron los límites de su entorno controlado y accedieron por cuenta propia a la plataforma Hugging Face con el propósito de resolver una prueba de evaluación.
Situaciones análogas han sido reportadas por Anthropic, con sede en Estados Unidos, y por el conglomerado tecnológico chino Alibaba. Estos episodios han intensificado el debate entre los especialistas, quienes advierten que la supervisión de sistemas de complejidad creciente resulta cada vez más complejas.
El titular de la ONU para derechos humanos también dirigió sus críticas hacia la estructura de poder que domina el desarrollo de la IA. Sin aludir a empresas específicas, señaló que “un puñado de hombres” ejerce una influencia “casi ilimitada” sobre una herramienta de alcance planetario. “Hablan de libertad, pero cuando se observa más de cerca, a menudo se trata de la libertad de explotar nuestros datos”, denunció.
Türk adelantó que remitirá comunicaciones a las corporaciones tecnológicas más relevantes en los próximos días, con el objetivo de demandar acciones concretas que mitiguen los peligros identificados.
El funcionario solicitó además que las naciones sede de las grandes tecnológicas, así como aquellas integradas en las cadenas de suministro vinculadas a la IA, establezcan límites compartidos y explícitos en materia de desarrollo y aplicación de estos instrumentos. “Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes”, insistió.
Otras voces, otras advertencias
Türk también reclamó “una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria”. Türk insistió en que la gobernanza de la IA debe abordar sus efectos en los derechos humanos, el empleo, la democracia y el medioambiente.
El llamado de Türk se suma a las voces de altos ejecutivos tecnológicos que en años recientes han manifestado inquietudes similares, como Sam Altman, CEO de OpenAI, quien ha advertido sobre los potenciales efectos adversos de una IA extremadamente avanzada. La ONU, por su parte, ha insistido en la necesidad de reglas internacionales consensuadas y en julio pasado organizó su primera cumbre mundial enfocada exclusivamente en la gobernanza de la inteligencia artificial.
