OpenAI reconoce el hackeo de su propia IA contra repositorio digital
OpenAI calificó el hackeo de su IA contra Hugging Face como un incidente cibernético "sin precedentes".
El reciente comunicado de seguridad de OpenAI –empresa estadounidense que desarrolla inteligencia artificial, famosa por crear ChatGPT y DALL-E–, alertó al sector tecnológico: por primera vez, un sistema de inteligencia artificial logró detectar y aprovechar, de forma autónoma, una falla de seguridad en un sistema externo durante una prueba controlada.
Esto se originó cuando dos modelos desarrollados por OpenAI rompieron el aislamiento de su entorno de control, accedieron a internet y hackearon los sistemas de la plataforma Hugging Face.
“Consideramos que se trata de un incidente cibernético sin precedentes, con capacidades cibernéticas de última generación, y estamos respondiendo en consecuencia”, consignó OpenAI en un comunicado, donde también compartió hallazgos preliminares sobre este hecho.
El alcance del incidente radica en que la inteligencia artificial no funciona como un programa tradicional al que se le dictan órdenes paso a paso, sino como un explorador al que se le entrega una meta. En esta prueba, los investigadores no le dieron instrucciones detalladas a la IA, sólo le asignaron el objetivo de evaluar la seguridad de un entorno digital.
El blanco de la prueba fue Hugging Face, una de las plataformas y bibliotecas digitales más importantes del mundo, donde empresas y desarrolladores alojan, comparten y prueban sus propios modelos de código e inteligencia artificial.
Sin intervención humana en el proceso
Lo que sorprendió a los analistas del hackeo fue la capacidad del sistema para resolver el problema técnico por su cuenta. La IA analizó la arquitectura del sitio, identificó una vulnerabilidad en sus defensas y diseñó el método para acceder al sistema sin la guía de un programador humano en cada etapa.
Sin embargo, los expertos matizan el hecho: sostienen que la herramienta no actuó “por iniciativa propia”, es decir, no adquirió un tipo de conciencia. Se trata de que los modelos abordaron el encargo como un problema de lógica y cálculo, y optimizaron los pasos necesarios para cumplir la tarea asignada.
El desafío para el futuro de la ciberseguridad
En sus investigaciones preliminares, expertos señalan que si un modelo generativo es capaz de descubrir brechas de seguridad de forma autónoma, el panorama de la ciberseguridad cambia drásticamente, ya que la velocidad para encontrar y explotar fallos supera los tiempos de respuesta de los métodos defensivos tradicionales.
“Creemos que los modelos con capacidades cibernéticas avanzadas deben ayudar a los equipos de seguridad a encontrar debilidades antes que los atacantes, entender cómo pueden encadenarse las vulnerabilidades y remediarlas a velocidad de máquina”, señala OpenAI en el comunicado.
El reciente hackeo redefine el rubro del sector, pues a partir de ahora la prioridad de las empresas tecnológicas no sólo será desarrollar modelos más potentes, sino construir barreras de seguridad capaces de prever y neutralizar el uso de estas mismas herramientas en posibles ataques automatizados.
