Las gigantes tecnológicas de IA advierten: habrá ciberataques más potentes y sofisticados
Hospitales, plantas de agua y la infraestructura crítica están en riesgo, señalan las desarrolladoras de IA, en un llamado a gobiernos y empresas a fortalecer las capacidades de ciberdefensa.
Más de 100 empresas tecnológicas, entre ellas Open AI, Microsoft, Anthropic y Google lanzaron una advertencia: “en los próximos meses los ciberataques basados en inteligencia artificial (IA) se generalizarán y serán mucho más sofisticados”.
La preocupación ha unido a las desarrolladoras enfocadas en IA ante los riesgos de ciberataques, potenciados en paralelo con el desarrollo vertiginoso de la tecnología.
“Las empresas y los servicios públicos de los que dependen nuestras comunidades, desde hospitales hasta plantas de tratamiento de agua y la infraestructura que alimenta Internet, están en riesgo”. Así de claro lo han dicho las tecnológicas.
La rebelión de 700 agentes IA
Para la opinión pública no ha escapado que firmantes de la carta, como Open AI, se han visto envueltos en escándalos por ciberataques generados de forma autónoma por sus propios desarrollos.
El mes pasado, la tecnológica reconoció un “hackeo sin precedentes” en el que sus modelos rompieron el entorno controlado y vulneraron a Hugging Face, uno de los repositorios digitales más importantes del mundo y que también firma la carta.
Esta semana, Open AI aportó nuevos detalles del incidente: un modelo de investigación interno se vio implicado cuando agentes operando en un entorno sin acceso a internet se desalinearon de sus objetivos, se comunicaron secretamente en canales no autorizados, obtuvieron internet y accedieron al sistema de la empresa.
FOTO: OPEN AI
“Los agentes que se suponía que debían trabajar de forma independiente pudieron compartir descubrimientos, coordinar sus esfuerzos y continuar donde otros lo dejaron (…) En los acontecimientos de julio, agentes con diferentes tareas encontraron su propia manera de colaborar fuera de esos límites, con consecuencias impredecibles”, señala el análisis de Open AI.
Por otro lado, una investigación independiente del Model Evaluation and Threat Research (METR) encontró que aproximadamente 1,200 agentes aislados entre sí encontraron una manera de comunicarse. De estos agentes, 700 participaron en el ciberataque a Hugging Face.
Una ventana limitada para fortalecer la ciberdefensa
En su pronunciamiento, las desarrolladoras piden reconocer las vulnerabilidades en la infraestructura crítica y empoderar a más ciberdefensores con herramientas de IA que protejan a más organizaciones.
A los gobiernos se les instó fortalecer los canales existentes para compartir información de inteligencia sobre amenazas, así como financiar la ciberdefensa con enfoque prioritario a servicios esenciales carentes de personal o presupuesto, entre ellos hospitales, empresas de agua y gobiernos locales, a los cuáles se pide facilitar el acceso a IA defensiva.
Los altos dirigentes de las compañías también han advertido esta semana sobre los riesgos. Sam Altman, CEO de Open AI, escribió en la víspera que “no hay mucho tiempo para actuar. Solo una respuesta colectiva urgente e intensa funcionará”.
Una posición similar a la de Bill Gates, magnate y cofundador de Microsoft, quien recientemente publicó un extenso ensayo en el que sostuvo que la IA es más peligrosa de lo que la industria ha admitido y expresó su preocupación de que dicha tecnología pueda reemplazar la cognición humana.
