20 de agosto de 2023, 4:00 AM
20 de agosto de 2023, 4:00 AM


A finales de junio pasado, la máxima autoridad política del departamento de Santa Cruz -quien está, abusivamente, privada de libertad- emitió un cuestionable mensaje a través de sus redes sociales con su voz recreada por la Inteligencia Artificial (IA). Hace un par de días, circuló un tercer video de un prófugo de la justicia -acusado de narcotraficante-, que también usó la IA para emitir un mensaje a sus perseguidores.

En el primer caso, por tratarse de cuentas oficiales -donde además el emisor, así lo advierte al inicio-, tenemos la certeza de que el mensaje corresponde a quien lo emite. En el segundo caso, no hay ninguna posibilidad de afirmar ni asegurar su procedencia o autenticidad.

El gran público, receptor de estas emisiones audiovisuales, sin todavía entender los alcances de la nueva tecnología de clonación de voz, cree casi todo lo que ve y escucha; y, por lo tanto, es fácil sujeto de manipulación, engaño, trampa o fraude. Lo del gobernador me pareció una equivocación porque abre la peligrosa posibilidad de que otros, usando estos mismos recursos y herramientas (AI Voice Cloning), puedan generar discursos y situaciones contrarias a los intereses de una autoridad electa por el pueblo.

AI Voice Cloning es un deepfake de clonación de voz que analiza y replica la voz humana. Es decir, clona literalmente la voz de cualquiera y luego la replica diciendo el texto o guion que se le ordene. Lo único que se requiere son breves muestras de la voz humana que se desea replicar y la IA la “aprende” al instante. Con algunos ajustes y configuraciones se logra el tono vocal exacto que se está buscando. Con la misma dicción, modulación, entonación y pronunciación se puede hacer decir, a cualquier persona, lo que uno quiera y no habrá posibilidades de que alguien note diferencias. Con viejos mensajes o grabaciones, se puede llegar al extremo de resucitar las voces de los muertos: crear audios de personas fallecidas haciéndoles decir, con una “autenticidad” irrebatible, lo que nunca dijeron.

Los deepfakes son una combinación de deep learning (aprendizaje profundo) y fake (falso). Reproducen videos, imágenes o audios manipulados mediante algoritmos de IA para crear contenidos convincentes y aparentemente genuinos, pero falsos. En esta aterradora primera ola disruptiva, todo lo que se escucha o se ve podría ponerse en duda o cuestión. Los deepfakes engañan al público y socavan la confianza en la información porque pueden imitar todo con una sorprendente precisión. Reconfiguran la realidad a través de la tecnología.

Estas nuevas técnicas permiten “poner palabras en tu boca”, alterar y superponer rostros y acciones en videos, creando resultados persuasivos y embusteros. Los deepfakes representan una doble cara de la innovación tecnológica: son herramientas altamente creativas y con grandes potencialidades en su uso; pero, también plantean desafíos significativos en términos de veracidad, seguridad, suplantación de identidad y aspectos éticos y legales.

Será necesario educar a la sociedad sobre cómo identificar y combatir estas manipulaciones y encontrar el sano equilibrio entre la libertad creativa y la responsabilidad social. En esta era, donde no todo es lo que parece, la realidad y la ficción bailan un tango digital.

Tags