Deepfake: entiende qué es, cómo identificarlo y qué riesgos ofrece

Quien soy
Carlos Laforet Coll
@carloslaforetcoll
Autor y referencias

Deepfake es el nombre que recibe la t√©cnica que permite recrear la apariencia o voz humana con la ayuda de la inteligencia artificial. Con la tecnolog√≠a, es posible simular que las personas hablen o act√ļen como nunca lo har√≠an.

La palabra sería una combinación de los términos deep learning (una rama del aprendizaje automático o machine learning, en portugués) y fake (falso). El concepto habría surgido en 2022, en referencia a un usuario de Reddit con el apodo deepfakes.


Seg√ļn los informes, utiliz√≥ tecnolog√≠a de aprendizaje profundo para superponer los rostros de celebridades y personas en pel√≠culas pornogr√°ficas. Desde entonces, el m√©todo se ha vuelto cada vez m√°s realista y accesible.


preparó una guía para que entiendas mejor qué es y cómo funciona la función de edición que ha estado dominando Internet. Consulte también los riesgos que ofrece y cómo protegerse.

¬ŅC√≥mo funciona el deepfake?

La cara de la actriz Michelle Adams es reemplazada por la del actor Nicolas Cage (Reproducciónb/Wikipedia)

Para crear un video falso, se utilizan dos algoritmos de inteligencia artificial que compiten entre s√≠, llamados generador y discriminador. Seg√ļn el sitio web Whatis.com, la funci√≥n del primero es crear videos falsos y, del segundo, identificarlos como reales o no.

Cuando el discriminador encuentra contenido falso, el generador aprende qué no hacer. Y así, crearás el próximo video de una manera mejorada. Al actuar en conjunto, generador y discriminador generan la denominada red generativa antagónica (GAN).

¬ŅC√≥mo crear un video deepfake?

¬°No vas a creer lo que dice Obama en este video! ūüėČ

Para montar una película del género es necesario tener un vídeo fuente, preferiblemente lo más sencillo posible. Por ello, se suelen utilizar discursos políticos, en los que el fondo es neutro y básicamente se realizan movimientos de cabeza.



Por lo tanto, debe combinar dos conjuntos de datos. Si el personaje del video gira la cabeza hacia la izquierda y abre la boca, es necesario tener imágenes de quién lo reemplazará en las mismas posiciones. Esto puede requerir un gran banco de imágenes.

Entonces le toca al programa basado en inteligencia artificial hacer el trabajo. Después de muchas pruebas, errores y éxitos, la red adversarial generativa incorporará una cara a la otra con la mayor precisión posible.

El video de arriba es uno de los más famosos de deepfake. En él, los movimientos y la voz del expresidente estadounidense Barack Obama se superponen a los del comediante Jordan Peele.

¬ŅCu√°les son los riesgos del deepfake?

A pesar de parecer inofensivo, el deepfake ha sido controvertido desde su aparición en 2022 en Reddit. La técnica fue muy utilizada para superponer rostros de actrices y personas en videos pornográficos.

A medida que se desarrolla, la técnica se vuelve más realista y los contenidos acaban viralizándose como si fueran reales. Este es uno de los grandes peligros del recurso: la difusión de contenidos falsos como auténticos.

En 2022, Facebook se vio envuelto en un escándalo tras la filtración de datos de usuarios por parte de una empresa de aplicaciones de terceros. Poco después, un video de Mark Zuckerberg se volvió viral y preocupó a mucha gente.

En el cortometraje, el CEO de Facebook insin√ļa que controla el futuro al tener el dominio de miles de millones de datos. El contenido no era m√°s que un producto deepfake creado por Bill Poster para la empresa Spectre.


Ver esta publicación en Instagram

Una publicación compartida por Bill Posters (@bill_posters_uk) el 13 de junio de 2022 a las 5:18 a. m. PDT

Otro problema previsto es la pérdida de credibilidad de cualquier tipo de material publicado en Internet. La tecnología hace cada vez más difícil identificar y filtrar qué tipo de noticias son verdaderas o simplemente creadas por computadora. Lo que sus ojos y oídos ven y oyen puede no ser más que un producto de software.


Con la popularizaci√≥n de los programas que permiten a los legos crear videos del g√©nero, es posible que la gente com√ļn tambi√©n sea cada vez m√°s objetivo de este tipo de montaje.

Los resultados pueden variar desde simular la participación en películas para adultos hasta crear pruebas falsas contra alguien.

Como es un fen√≥meno reciente, los gobiernos a√ļn no cuentan con leyes espec√≠ficas para combatir los delitos relacionados con el deepfake. En el Reino Unido, el productor de dicho contenido puede ser acusado de acoso.

En los Estados Unidos, los cargos pueden variar desde robo de identidad, acoso cibern√©tico y pornograf√≠a vengativa. En nuestro pa√≠s, a√ļn no existe una regulaci√≥n espec√≠fica sobre el tema.

¬ŅC√≥mo identificar un deepfake?

Vía Cheezburger

A pesar de la evolución de la técnica, la mayoría de los deepfakes aficionados todavía se pueden identificar a simple vista. En estos casos, es posible identificar una falta de naturalidad en el parpadeo de los ojos, el movimiento de los labios o la presencia de sombras en lugares inadecuados.


Sin embargo, la preocupación por el futuro es real. En los Estados Unidos, la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) ya está invirtiendo en formas de identificar mejor los videos.

Por ahora, la mejor medida es estar siempre alerta a lo que recibe y ser consciente de las fuentes de intercambio.

¬ŅQu√© es ZAO?

Anunciada en septiembre de 2022 en la App Store de China, la aplicación ZAO fue noticia en todo el mundo. El programa se volvió viral por tomar teléfonos inteligentes para crear deepfakes a partir de una foto en solo 8 segundos.

El resultado roza la perfección y fue compartido en Twitter por el usuario @AllanXia. El rostro del actor Leonardo DiCaprio fue reemplazado por el suyo en varias escenas y la expresividad es impresionante.


El lanzamiento de la app reabri√≥ el debate sobre tecnolog√≠a y privacidad. En primer lugar porque, seg√ļn las condiciones de uso del programa, al utilizarlo estar√≠as otorgando a la empresa el derecho a utilizar tus datos y rostro para usos comerciales de forma gratuita e irrevocable.

Después de muchas quejas, la empresa responsable cambió el término. Ahora, establece que el contenido solo será utilizado por los desarrolladores con el fin de mejorar la aplicación y la tecnología utilizada.

Otro problema preocupante es el hecho de que la aplicaci√≥n simplifica a√ļn m√°s la creaci√≥n de superposiciones con las im√°genes de cualquier persona. Y con creciente realismo. Esto podr√≠a facilitar que las v√≠ctimas de videos falsos se vean como reales.

Otras aplicaciones de deepfake

Pero esta no es la primera vez que los programas deepfake se vuelven virales. El primero de ellos fue el fakeapp, lanzado en enero de 2022 para escritorio. Le permitió crear y compartir videos con caras reemplazadas con relativa facilidad.

La principal dificultad fue reunir una gran cantidad de material visual de la persona que se insertaría, para que el resultado fuera satisfactorio. Actualmente, ya no es posible encontrar el programa disponible.

recomienda:

  • C√≥mo saber si un sitio web es seguro y confiable para comprar en l√≠nea
  • Apps s√ļper divertidas para cambiar tu voz
A√Īade un comentario de Deepfake: entiende qu√© es, c√≥mo identificarlo y qu√© riesgos ofrece
¡Comentario enviado con éxito! Lo revisaremos en las próximas horas.