Expertos en IA llaman a penalizar pornografía infantil y contenidos falsos creados con esa tecnología
Especialistas alertaron a los gobierno del mundo sobre las 'deepfakes' y su uso como arma política durante elecciones o para generar pornografía infanti.
Más de 400 expertos en inteligencia artificial llamaron a gobiernos de todo el mundo a tomar medidas contra los contenidos audiovisuales creados con esa tecnología, pues representan una “amenaza creciente contra la sociedad”.
En un manifiesto público titulado Disrupting the Deepfake Supply Chain (Romper la cadena de suministro de deepfakes), exhortaron a los gobiernos a “imponer obligaciones en toda la cadena de suministro para detener su proliferación”.
El término deepfake se refiere a los contenidos que, parten de videos, audios imágenes de personas reales pero que, a través de algoritmos generativos y de aprendizaje, pueden simular situaciones ficticias con extremo realismo.
El llamado, suscrito por especialistas de países como Estados Unidos, Brasil, China, Reino Unidos, México, Venezuela, Estados Unidos, Canadá, Australia, Japón, Italia y China, destacó tres aspectos fundamentales respecto a la creación de deepfakes, que deberían ser:
- Penalizar por completo la pornografía infantil producida con esta tecnología, incluso cuando solo se representen niños ficticios.
- Establecer sanciones penales para cualquiera que, a sabiendas, cree o facilite deliberadamente la difusión de contenidos dañinos y falsos creados con IA.
- Exigir a los desarrolladores y distribuidores de software que impidan que sus productos audiovisuales creen deepfakes. Las empresas como OpenAI, Google y Microsoft deben ser consideradas como responsables si sus medidas preventivas y de contención se eluden con facilidad.
Entre los firmantes está Yoshua Bengio, uno de los pioneros en esta tecnología, así como investigadores de Google DeepMind, OpenAI y Skype.
La carta publicada este martes 21 de febrero explica que no todos los puntos son apoyados de manera unánime, pero sí coinciden en varios de ellos los firmantes. A todos preocupa, por ejemplo, la pornografía no consensual ante su rápido crecimiento, en la que las personas menores de edad son un blanco frecuente; también el fraude, por ser una amenaza tanto para las personas como para las empresas; el riesgo para las elecciones, debido a que más de la mitad del mundo votará por cambios en sus dirigentes. Otro tema en que merece la atención de expertos y desarrolladores es la protección a artistas pues la tecnología “desplazará injustamente a las personas cuyas obras se utilizaron para ‘entrenar’ a la IA en primer lugar”.
“Si se diseñan sabiamente, dichas leyes podrían fomentar empresas socialmente responsables y no tendrían por qué ser excesivamente costosas”, concluye la carta.
