'Deep Fakes' Violentaron a Rosalía y Cualquiera Está en la Mira

Rosalía se ha convertido en la víctima famosa más reciente: un par de imágenes que circula en redes sociales se han visto alteradas y su modificación resultó en “nudes” que, por supuesto, ella no autorizó.

Las deep fakes se están convirtiendo en una nueva forma de ataque hacia personas de cualquier ámbito social, sus consecuencias no solo ponen en riesgo a personalidades, cualquier persona puede sufrir los graves estragos por el mal uso ya sea de inteligencia artificial o programas de edición.

Víctor Merchand Benítez, integrante de Punto Focal en México del Programa Global de Ciberdelito, de la Oficina de las Naciones Unidas contra la Droga y el Delito (UNODC), alerta por los daños que puede generar en una persona este tipo de actividades y emite una serie de recomendaciones, sin embargo, primero hace una diferenciación entre fake news y deep fakes para familiarizarse con el tema.

Las deep fakes, que engloban esta palabra de deep, de profundidad, significan todo aquello que tiene un detalle muy alto en su creación, que es muy similar a lo que puede encontrarse en la vida real y por ello llegar a confundir. Las fake news son toda esa desinformación que nos encontramos, que no se valida o porque consultamos fuentes (de información) que no son las adecuadas, y muchas de ellas son producto de deep fakes

Rosalía no ha sido la única famosa víctima de “nudes” no consensuados producto de deep fakes. El 27 de abril pasado, la usuaria @rache.Izh5 subió un video en TikTok, donde tiene más de 60 mil seguidores y 2.4 millones de Me Gusta, para informar que había sido víctima de deep fakes.

Señaló que una persona, vía Instagram, sin seguidores ni imagen de perfil, le escribió para enviarle fotografías de ella en las que aparecía su rostro sobre un cuerpo desnudo.

Yo publiqué esas fotos completamente vestida. Ellos básicamente me ‘photoshopearon’ para desnudarme

En la grabación, @rache.Izh5 señala que en las imágenes que le enviaron el abdomen que aparece tiene un tatuaje con el que ella no cuenta y, además, aclara que en ningún lado ha publicado o vendido contenido que la muestre desnuda.

Merchand Benítez alerta que las consecuencias de este tipo de violencia incluyen daño psicológico, moral, físico y económico.

Las personas pueden ser violentadas producto de estas imágenes, se puede generar odio, pero también se puede acabar con sus carreras, si es que son generadoras de contenido. Una deep fake puede hacer que todo se venga abajo

Rosalía envió un mensaje a su violentador a través de su cuenta de Twitter: “Ir a buscar clout (influencia) faltando el respeto y sexualizando a alguien es un tipo de violencia”.

Sin embargo, JC Reyes, el cantante que difundió las imágenes que muestran el rostro de Rosalía en un cuerpo en “topless”, contestó que todo había sido Photoshop y dio a entender que se valió de esas imágenes para anunciar su próximo sencillo que, precisamente, lleva por nombre Rosalía.

Diversos delitos y violencias las que se cometen

En México, la Ley Olimpia reconoce la violencia digital como un tipo de delito y se sanciona con multas económicas o penas de cárcel para quien viole la intimidad sexual de las personas a través de medios digitales (ciberviolencia).

Derivado de esta reforma a la ley, en México ya se han dado sentencias en estados como Coahuila, Sonora o Oaxaca.

Víctor Merchand explica que tomar un fragmento de una imagen o un audio, para después reproducirlo o usarlo con el fin de hacer daño, por supuesto que es un delito.

Puede haber usurpación de identidad, daño moral, difamación, en fin, dependerá del contexto y la situación (…) porque no solo hablamos de la parte que se creó a partir de la tecnología, sino que se está difundiendo algo que a una persona se le ocurrió y al final se usa una cara que sí existe y (se modifica) una imagen que sí es real

La mano que mueve los hilos

Víctor Merchand señala que las personas autoras de deep fakes pueden escudarse en que están difundiendo un material que no coincide con la realidad o, peor aún, que lo creó una inteligencia artificial, sin embargo, aclara que alguien está detrás de esa imagen o audio.

“Al final, una persona está dando la orden a la máquina para llevar a cabo esa acción, entonces, esa persona es la responsable, por supuesto, además, termina por utilizar una imagen o audio sin consentimiento para dañar”.

Candados de seguridad

En abril pasado, Brian Hood, un alcalde australiano, fue víctima también de las deep fakes. Chat GPT lo señalaba como responsable de sobornos y por ello estuvo condenado a 30 meses de cárcel, lo cual resultó falso.

En el caso de Chat GPT, esta inteligencia artificial se alimenta de lo que encuentra en la web para emitir una respuesta a las peticiones de las personas, por lo cual se prende un foco en torno a la información personal que puede circular en internet.

Merchand Benítez explica que la vida en la web puede verse como un espejo de la vida cotidiana, se deben considerar las mismas medidas de seguridad y de prevención para evitar ser víctimas de algún delito.

Hay que tener mucho cuidado con qué subimos a nuestras redes sociales, con cuáles permisos les damos a las plataformas a la hora de navegar, incluso qué candados de seguridad tenemos para evitar no solo ser víctimas de deep fakes sino que se haga mal uso de nuestro información

Además, recomienda siempre verificar las fuentes de consulta, contrastar la información con distintos medios y con ello tener la certeza de que lo que se consume, y además se llega a compartir, es verídico.

Tras el mensaje de Rosalía, sus seguidores salieron a arroparla, además de las muestras de apoyo le recomendaron proceder legalmente contra JC Reyes, sin embargo, el mar turbulento por el que navegan las deep fakes muestra el tamaño de su extensión con el número de resultados que los buscadores arrojan acerca de “nudes” de celebridades que fueron hechos con inteligencia artificial.

Víctor Merchand remata: “Hemos vivido varios procesos evolutivos de tecnología, si bien la inteligencia artificial no es nueva, ha tomado relevancia actualmente por la velocidad con la que está avanzando”, y llama a inclinar la balanza hacia su uso responsable y benéfico para habitar un internet más seguro.