Ataques a Taylor Swift reviven el debate sobre el deepfake y el uso indebido de la IA

Imágenes explícitas de Taylor Swift creadas con Inteligencia Artificial (IA) inundaron las internet en las últimas semanas, reavivando el debate sobre el derecho a la imagen propia y el deepfake, la tecnología utilizada para realizar las composiciones.

El “deepfake” o “ultrafalso” es una tecnología que, a través de herramientas de la Inteligencia Artificial, permite crear imágenes o videos falsos que parecen auténticos, permitiendo, por ejemplo, colocar el rostro de una persona sobre el cuerpo de otra, o convertir una foto de una persona con ropa en otra sin ropa, entre otras aplicaciones.

“El deepfake utiliza inteligencia artificial para generar imágenes y videos falsos que parecen auténticos. Esto implica que se puede tomar el rostro de una persona y colocarlo en el cuerpo de otra, creando así una apariencia engañosa”, señala William Llanos, docente de la carrera de Derecho de la Universidad Franz Tamayo, Unifranz.

El experto agrega que, si bien esta tecnología puede resultar fascinante, desde el punto de vista técnico, también plantea diversos desafíos éticos y legales relacionados con el derecho a la propia imagen.

Taylor Swift AI

A finales del mes pasado comenzaron a proliferar en internet imágenes pornográficas de Taylor Swift generadas con modelos de IA generativa. Una de las más virales, aparecida en X, atrajo 45 millones de visitas, 24.000 republicaciones y cientos de miles de "Me gusta". La cuenta de uno de los responsables de difundir estas imágenes, Zvbear, es ahora privada, pero esa publicación se mantuvo pública durante unas 18 horas antes de desaparecer.

A pesar de que la publicación original desapareció, las imágenes se difundieron a través de múltiples cuentas. Muchas de ellas permanecen disponibles y a partir de todo esto han aparecido nuevas imágenes falsas con contenido explícito sobre la cantante. El término "Taylor Swift AI" se ha convertido en tendencia, lo que ha hecho que esas búsquedas sean aún más populares.

Debido a esto, X comenzó a bloquear las búsquedas relacionadas con Taylor Swift en la plataforma. En Threads, Instagram o Reddit también se han activado similares medidas.

​

Potencial destructivo

Llanos apunta que, uno de los aspectos más preocupantes del deepfake es su potencial para el uso indebido en difamación, extorsión o incluso campañas de desinformación. 

El suceso ha ganado especial notoriedad por estar centrado en Taylor Swift, probablemente la cantante más popular de este siglo. Es además un potencial anticipo de lo que está por venir: una amenaza para muchas personas –y especialmente, mujeres– que se verán atacadas con deepfakes pornográficos o de otro tipo.

“Por ejemplo, una persona malintencionada podría crear un video falso de un político pronunciando discursos ofensivos o comprometedores, con el fin de dañar su reputación. Esto no solo afectaría la imagen de la persona involucrada, sino que también podría influir en la percepción pública y en la toma de decisiones”, dice.

En este contexto, el profesional advierte que es fundamental analizar cómo se protege el derecho a la propia imagen en relación con estas nuevas tecnologías.

“El derecho a la propia imagen es un derecho fundamental reconocido en muchos países, que garantiza a las personas el control sobre el uso de su imagen y evita su explotación sin consentimiento. Sin embargo, con la aparición del deepfake, resulta cada vez más difícil determinar la veracidad de una imagen o un video”, agrega el docente.

El especialista manifiesta que el deepfake también plantea interrogantes éticos relacionados con la privacidad y la manipulación de la información. 

“Si una persona puede ser fácilmente representada en un video haciendo algo que nunca hizo, ¿cómo podemos confiar en la veracidad de lo que vemos en línea? Esto puede tener un impacto significativo en nuestra percepción de la realidad y en nuestra confianza en los medios de comunicación”, puntualiza.

Por su parte, el decano de la Facultad de Ciencias Jurídicas y Sociales de la Universidad Franz Tamayo, Luis Enrique Paez , la IA tiene el potencial de revolucionar nuestro mundo, pero también puede ser usado para la destrucción.

“La Inteligencia Artificial (IA) tiene el potencial de revolucionar nuestro mundo de manera que apenas podemos imaginar, como efectivamente está ocurriendo. Sin embargo, el rápido, vertiginoso desarrollo y despliegue de tecnologías de IA también ha planteado serias preocupaciones éticas. Una de las principales preocupaciones es que la IA se utilice de manera injusta, inequitativa y fraudulenta”, afirma Paez.

Estos episodios plantean preguntas sobre los límites de esta tecnología y también cuestionamientos sobre la seguridad de nuestros datos.

​

¿Qué leyes protegen nuestra imagen?

En Bolivia, el artículo 21 de la Constitución Política del Estado (CPE), reconoce explícitamente el derecho a la propia imagen, junto al derecho a la intimidad y al honor. En caso de vulneración de este derecho, se prevé para la víctima el derecho a la indemnización, reparación y resarcimiento de daños y perjuicios en forma oportuna.

Por otra parte, el artículo 16 del Código Civil también resguarda el derecho a la imagen señalando que, cuando se comercie, publique, exhiba o exponga la imagen de una persona lesionando su reputación o decoro, el juez deba hacer cesar el hecho lesivo, extendiéndose este resguardo a la voz de la persona.

Sin embargo, al momento no existe legislación específica sobre el uso de las inteligencias artificiales y el deepfake en posibles delitos contra el honor y la imagen personal.

“Frente a las nuevas tecnologías, es necesario que los legisladores y los expertos en tecnología trabajen en conjunto para desarrollar regulaciones que aborden estos desafíos. Una posible solución podría ser la implementación de leyes que prohíban la creación y difusión de deepfakes sin el consentimiento de las personas involucradas. Además, también se pueden establecer mecanismos de detección de deepfakes, utilizando la misma tecnología de inteligencia artificial, para identificar y combatir su propagación”, agrega Llanos.