novedades #tecno
Qué son los deepfakes y cómo hablar de esto con los más chicos
Con el desarrollo de las tecnologías, cada vez es más complicado establecer el límite entre la realidad y la ilusión. Como consecuencia, resulta más fácil utilizar las tecnologías para actividades perjudiciales, como el acoso. Te contamos qué son los deepfakes y cómo hablar de ellos con los chicos.
Los deepfakes (del inglés “deep”: profundo y “fake”: falso) utilizan el aprendizaje profundo (una forma de aprendizaje automático) para crear imágenes, videos o audios que falsifican acontecimientos.
Suelen duplicar la voz y/o los rasgos faciales de un individuo para luego pegarlos en una grabación o fotografía existente. El resultado muestra a las personas en situaciones en las que nunca estuvieron realmente implicadas; por eso también los deepfakes pueden utilizarse contra las personas como medio de burla e incluso de acoso. Se pueden encontrar fácilmente videos de Mark Zuckerberg hablando sobre robar los datos de la gente, o de Tom Cruise haciendo trucos de magia.
“Imagina que eres un niño tímido que se siente intimidado por sus compañeros. Un día, un grupo de chicos se ríe de ti y no entiendes bien el motivo. Luego te muestran un video de la película Forest Gump donde el rostro del protagonista fue reemplazado por el tuyo. El video es, por supuesto, falso, o más concretamente, un “deepfake”. Las versiones más simples de deepfakes se pueden confeccionar fácilmente utilizando aplicaciones móviles, como FaceApp o FaceSwap, pero los más complejos suelen requerir cierta habilidad y un equipo técnico especializado", comenta Camilo Gutiérrez, Jefe del Laboratorio de Investigación de ESET Latinoamérica, empresa de seguridad informática.
Desde Digipadres dicen que aunque se suele hablar sobre este tema, es raro que se hable de cómo ponen en peligro a los niños.
Con el desarrollo de apps que ponen los deepfakes en manos de una gran variedad de personas, los videos sintetizados han llegado a las escuelas y se han convertido en un medio para el acoso, por ejemplo, incluir el rostro de una chica tímida en un video musical de mujeres con poca ropa bailando provocativamente. Aunque los creadores de estos videos pueden considerar sus acciones como una fuente inocente de entretenimiento, los deepfakes pueden hacer que el infante al que van dirigidos experimente vergüenza y pueden dañar fácilmente su relación con la escuela por la desagradable experiencia.
Sin embargo, los deepfakes también pueden utilizarse para el bien. Por ejemplo, al permitir que los niños se conviertan en protagonistas de sus programas, videojuegos y películas favoritos. El Museo Dalí de Florida ha utilizado los deepfakes para generar videos interactivos del artista catalán. El deepfake de Dalí ahora puede saludar a los visitantes e incluso responderles, haciendo el museo más atractivo para el público joven. Por eso, Gutiérrez Amaya de ESET señala que: “como ocurre con otras tecnologías, sería precipitado juzgar los deepfakes como algo puramente negativo sin tener en cuenta sus posibles beneficios. Aun así, hay que tomar medidas para evitar el uso malicioso de los deepfakes contra los niños y niñas”.
La empresa de seguridad informática ESET recomienda:
- Ver juntos algunos videos deepfake y empezar a conversar,
- Intentar descubrir juntos las diferencias entre los videos deepfake y los reales,
- Hablar con los niños acerca de lo que comparten online,
- Explorar juntos y encontrar medidas preventivas.
