DeepFake

¿Qué consecuencias negativas podría tener la inteligencia artificial en nuestra sociedad?

El Deepfake es un claro ejemplo. Se trata de una tecnología que podría usarse para cosas tan alarmantes como quitarles el trabajo a los humanos, pero muchos no se pararon a pensar que también serviría para engañar y crear confusión entre la sociedad.

La palabra Deepfake es una composición de los términos deep learning y fake, es decir: aprendizaje profundo, una de las ramas de la inteligencia artificial, y la palabra falso. Esta tecnología basada en la Inteligencia Artificial consigue superponer el rostro de una persona en el de otra y falsificar sus gestos para hacernos creer que están haciendo o diciendo algo que no ha pasado en realidad.

Emma Watson en un video fake

Los primeros vídeos falsificados con esta tecnología son del 2016. En ellos, rostros falsificados de varias actrices internacionales, como Natalie Portman o Emma Watson, encajados en cuerpos de actrices de la industria pornográfica.

Reddit ya los prohibió, calificándolos como una forma inaceptable de «pornografía involuntaria».

Mientras las celebridades afectadas del mundo de Hollywood pueden defenderse ante los juzgados, debido a los buenos abogados que pueden permitirse, el problema surgirá cuando esta tecnología comience a afectar a las clases medias.

Hace un par de años un hombre australiano fue sentenciado a 12 meses de cárcel por usar Photoshop para superponer una imagen de la cara de su hijastra adolescente sobre imágenes de mujeres realizando actos sexuales.

De este modo surgió FaceApp, una app publicada por un usuario en Reddit que permitía hacer todo lo antes mencionado.

El rápido desarrollo de la tecnología hace difícil proteger a las víctimas.

Hoy conocemos una nueva app, llamada ZAO. De tecnología china (y por el momento solo esta disponible en la app store de china). Existe la app para iOS y para Android, aunque como dije antes están la app store de China (y en chino). Además hace falta un número de teléfono de china para verificar la identidad. En este enlace tenéis los pasos que han seguido en xatakandroid para lograrlo desde fuera de China.

En este momento la app no permite mofidicar cualquier video con la cara que queramos. Tiene una selección de clips predeterminada que podemos utilizar y poner caras diferentes.

Hubó un problema por la privacidad de los usuarios que utilizan ZAO porque los usuarios ceden los derechos de todo el contenido generado por el usuario, por una de las cláusulas que aceptas para usar la app, de forma “gratuita, irrevocable, permanente, transferible y con licencia

Sin embargo, la empresa dueña de ZAO realizaron un comunicado explicando que han revisado los términos de uso y aseguran que los contenidos generados con la aplicación no se usarán para otros propósitos sin el consentimiento del usuario.