- /

Excelsior | España | 19 Sep 2023 - 14:43hrs

En España ha iniciado un acalorado debate alrededor de las inteligencias artificiales luego de que once muchachas adolescentes denunciaron la circulación de fotos suyas desnudas elaboradas con una aplicación de inteligencia artificial.

"Tenemos ahora once declaraciones de víctimas menores de edad en la localidad de Almendralejo", explicó una portavoz de la policía sobre el caso de los desnudos que circularon.

Los presuntos autores de estas imágenes, que en algunos casos fueron identificados, "han manipulado fotos de niñas, menores de edad", superponiendo sus caras a cuerpos desnudos "de otras personas", añadió.

Fuentes policiales informaron que las imágenes falsas se generaron utilizando una aplicación de inteligencia artificial (IA) capaz de producir fotomontajes de gran realismo.

"Son conductas gravísimas, muy graves, y no debe caber impunidad ni aunque se trate de imágenes manipuladas", dijo a la prensa la ministra de Justicia en funciones, Pilar Llop.

La investigación se abrió por un presunto delito de invasión de la intimidad. La fiscalía indicó que también podría considerarse el delito de pornografía infantil, dada la edad de las víctimas y el hecho de que se trata de desnudos explícitos.

Según los medios de comunicación españoles, una veintena de niñas podrían haber sido víctimas de estas fotos manipuladas.

Miriam Al Adib, madre de una de las chicas, denunció en Instagram esta "barbaridad".

"Cuando llegué a casa, una de mis hijas, con un disgusto tremendo, me ha dicho: 'mira que han hecho' (...) Han cogido una foto suya y la han puesto como si estuviera desnuda", explicó.

Al Adib contó que la policía le avisó de que las fotos pueden haber acabado en sitios pornográficos. La madre española divulgo el caso en su cuenta de Instagram, desde donde ha hecho n llamado a legislar penas respecto a estos casos.

Otra madre declaró a la televisión pública de España que intentaron chantajear a su hija reclamándole dinero para no difundir las imágenes de los desnudos falsos.

IA abre debate
La inteligencia artificial está causando una creciente preocupación en todo el mundo por sus posibles usos malintencionados, como en el caso de los "deepfakes" pornográficos. En España este no es el primer caso.

Las deepfakes consisten en fotomontajes ralizados con aplicación de edición de fotos y, más recientemente, con IA´s.

Las deepfakes han generado un amplio debate por varias razones; desde la autoría de las imágenes, su uso en sitios pornográficos y hasta desacreditar a personas colocándolas en situación falsas.

Según un estudio de 2019 de la empresa holandesa de inteligencia artificial Sensity, el 96 por ciento de los vídeos falsos en línea son pornografía no consentida y en la mayoría de ellos aparecen mujeres.