Deepfake es el nombre que recibe la técnica que permite recrear la apariencia o voz humana con la ayuda de la inteligencia artificial. Con la tecnología, es posible simular que las personas hablen o actúen como nunca lo harían.
La palabra sería una combinación de los términos deep learning (una rama del aprendizaje automático o machine learning, en portugués) y fake (falso). El concepto habría surgido en 2022, en referencia a un usuario de Reddit con el apodo deepfakes.
Según los informes, utilizó tecnología de aprendizaje profundo para superponer los rostros de celebridades y personas en películas pornográficas. Desde entonces, el método se ha vuelto cada vez más realista y accesible.
preparó una guía para que entiendas mejor qué es y cómo funciona la función de edición que ha estado dominando Internet. Consulte también los riesgos que ofrece y cómo protegerse.
¿Cómo funciona el deepfake?
Para crear un video falso, se utilizan dos algoritmos de inteligencia artificial que compiten entre sí, llamados generador y discriminador. Según el sitio web Whatis.com, la función del primero es crear videos falsos y, del segundo, identificarlos como reales o no.
Cuando el discriminador encuentra contenido falso, el generador aprende qué no hacer. Y así, crearás el próximo video de una manera mejorada. Al actuar en conjunto, generador y discriminador generan la denominada red generativa antagónica (GAN).
¿Cómo crear un video deepfake?
¡No vas a creer lo que dice Obama en este video! 😉Para montar una película del género es necesario tener un vídeo fuente, preferiblemente lo más sencillo posible. Por ello, se suelen utilizar discursos políticos, en los que el fondo es neutro y básicamente se realizan movimientos de cabeza.
Por lo tanto, debe combinar dos conjuntos de datos. Si el personaje del video gira la cabeza hacia la izquierda y abre la boca, es necesario tener imágenes de quién lo reemplazará en las mismas posiciones. Esto puede requerir un gran banco de imágenes.
Entonces le toca al programa basado en inteligencia artificial hacer el trabajo. Después de muchas pruebas, errores y éxitos, la red adversarial generativa incorporará una cara a la otra con la mayor precisión posible.
El video de arriba es uno de los más famosos de deepfake. En él, los movimientos y la voz del expresidente estadounidense Barack Obama se superponen a los del comediante Jordan Peele.
¿Cuáles son los riesgos del deepfake?
A pesar de parecer inofensivo, el deepfake ha sido controvertido desde su aparición en 2022 en Reddit. La técnica fue muy utilizada para superponer rostros de actrices y personas en videos pornográficos.
A medida que se desarrolla, la técnica se vuelve más realista y los contenidos acaban viralizándose como si fueran reales. Este es uno de los grandes peligros del recurso: la difusión de contenidos falsos como auténticos.
En 2022, Facebook se vio envuelto en un escándalo tras la filtración de datos de usuarios por parte de una empresa de aplicaciones de terceros. Poco después, un video de Mark Zuckerberg se volvió viral y preocupó a mucha gente.
En el cortometraje, el CEO de Facebook insinúa que controla el futuro al tener el dominio de miles de millones de datos. El contenido no era más que un producto deepfake creado por Bill Poster para la empresa Spectre.
Ver esta publicación en Instagram
Una publicación compartida por Bill Posters (@bill_posters_uk) el 13 de junio de 2022 a las 5:18 a. m. PDT
Otro problema previsto es la pérdida de credibilidad de cualquier tipo de material publicado en Internet. La tecnología hace cada vez más difícil identificar y filtrar qué tipo de noticias son verdaderas o simplemente creadas por computadora. Lo que sus ojos y oídos ven y oyen puede no ser más que un producto de software.
Con la popularización de los programas que permiten a los legos crear videos del género, es posible que la gente común también sea cada vez más objetivo de este tipo de montaje.
Los resultados pueden variar desde simular la participación en películas para adultos hasta crear pruebas falsas contra alguien.
Como es un fenómeno reciente, los gobiernos aún no cuentan con leyes específicas para combatir los delitos relacionados con el deepfake. En el Reino Unido, el productor de dicho contenido puede ser acusado de acoso.
En los Estados Unidos, los cargos pueden variar desde robo de identidad, acoso cibernético y pornografía vengativa. En nuestro país, aún no existe una regulación específica sobre el tema.
¿Cómo identificar un deepfake?
A pesar de la evolución de la técnica, la mayoría de los deepfakes aficionados todavía se pueden identificar a simple vista. En estos casos, es posible identificar una falta de naturalidad en el parpadeo de los ojos, el movimiento de los labios o la presencia de sombras en lugares inadecuados.
Sin embargo, la preocupación por el futuro es real. En los Estados Unidos, la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) ya está invirtiendo en formas de identificar mejor los videos.
Por ahora, la mejor medida es estar siempre alerta a lo que recibe y ser consciente de las fuentes de intercambio.
¿Qué es ZAO?
Anunciada en septiembre de 2022 en la App Store de China, la aplicación ZAO fue noticia en todo el mundo. El programa se volvió viral por tomar teléfonos inteligentes para crear deepfakes a partir de una foto en solo 8 segundos.
El resultado roza la perfección y fue compartido en Twitter por el usuario @AllanXia. El rostro del actor Leonardo DiCaprio fue reemplazado por el suyo en varias escenas y la expresividad es impresionante.
El lanzamiento de la app reabrió el debate sobre tecnología y privacidad. En primer lugar porque, según las condiciones de uso del programa, al utilizarlo estarías otorgando a la empresa el derecho a utilizar tus datos y rostro para usos comerciales de forma gratuita e irrevocable.
Después de muchas quejas, la empresa responsable cambió el término. Ahora, establece que el contenido solo será utilizado por los desarrolladores con el fin de mejorar la aplicación y la tecnología utilizada.
Otro problema preocupante es el hecho de que la aplicación simplifica aún más la creación de superposiciones con las imágenes de cualquier persona. Y con creciente realismo. Esto podría facilitar que las víctimas de videos falsos se vean como reales.
Otras aplicaciones de deepfake
Pero esta no es la primera vez que los programas deepfake se vuelven virales. El primero de ellos fue el fakeapp, lanzado en enero de 2022 para escritorio. Le permitió crear y compartir videos con caras reemplazadas con relativa facilidad.
La principal dificultad fue reunir una gran cantidad de material visual de la persona que se insertaría, para que el resultado fuera satisfactorio. Actualmente, ya no es posible encontrar el programa disponible.
recomienda:
- Cómo saber si un sitio web es seguro y confiable para comprar en línea
- Apps súper divertidas para cambiar tu voz
