Andina

Deepfake, la controversial inteligencia artificial que asombra en internet

En los últimos siete meses, se duplicó el número de videos deepfake.

07:00 | Lima, oct. 27.

Por Maira Flores

Un video del actor Jim Carrey imitando a Jack Nicholson en una escena de la película ‘El resplandor’ se hizo viral en las redes sociales en los últimos meses. Sin embargo, el intérprete de 'La Máscara' nunca hizo tal imitación. Todo se trató de un video deepfake. Aquí te explicamos qué es y por qué ha generado controversia en el mundo.

El Deepfake es una técnica de inteligencia artificial que permite generar videos falsos, aparentemente reales, a través del uso de redes neuronales artificiales. Estas redes son un conjunto de operaciones sistemáticas que resuelven problemas de visión computacional. En el caso del deepfake, genera rostros a partir de otras imágenes.


El doctor César Beltran, fundador y líder del Grupo de Inteligencia Artificial PUCP (IA-PUCP), explicó a la Agencia Andina que generar un rostro falso requiere que el programa cuente con redes neuronales generativas adversarias ( Generative Adversarial Networks o GAN por sus siglas en inglés).

“Se llaman modelos generativos adversarios o adversariales porque tienes un red neuronal que está entrenada para reconocer rostros y tienes otra que las genera”, dijo.

La primera red neuronal –la que reconoce- funciona como evaluadora porque ya sabe identificar las caras de las personas dentro de una página. Un ejemplo de esto son las etiquetas de Facebook: mientras más fotografías publiques de una persona en esta red social, la plataforma se va “entrenando” para reconocer su rostro y te sugiere las etiquetas en cada imagen. 

Por otro lado, la segunda red neuronal –la que genera- consultará a la primera red si lo que está produciendo es un rostro o no. 

Lee también: Premiarán a los mejores proyectos de innovación del país

Para entrenar esta arquitectura de redes neuronales es necesario un conjunto de datos reales, es decir, una gran cantidad de imágenes o videos reales para imitar el movimiento.  

En un comienzo, la segunda red generará imágenes aleatorias que ni lucirán como rostros humanos. Pero a medida que ambas redes se vayan entrenando, es decir aprendiendo, irán produciendo imágenes más parecidas a las reales. Cuando el rostro fake ya logró completarse, se procede a reemplazar sobre la cara de la otra persona en el video.

Contenido falso en la red

Aunque el uso de las redes neuronales data de hace 60 años atrás,  los videos falsos de políticos y otros deepfake de contenido sexual han despertado el debate entorno a cómo se utiliza esta técnica.

De acuerdo con la investigación realizada por la empresa de ciberseguridad Deeptrace, en los últimos siete meses, el número de videos deepfake se duplicó a 14,678. Además, el 96% de estos videos son contenido pornográfico. Durante ese periodo, los cuatro sitios web más populares dedicados a la pornografía falsa recibieron más de 134 millones de visitas.

El doctor Beltrán precisó que los más propensos a aparecer en este tipo de videos -además de celebridades (como la actriz Scarlett Johansson o el fundador de Facebook Mark Zuckerberg)-, son los personajes políticos, como el caso de deepfake de Barack Obama que advierte del riesgo. En el video, se utiliza su rostro para compartir un discurso que nunca hubiera pronunciado. 


“Los políticos son más susceptibles a estos casos porque están más expuestos. Encontrarás miles de fotos y videos que pueden servir como conjunto de datos para entrenar la red. En cambio, cuando la persona no tiene esa exposición es más complicado”, advirtió.

En su opinión, la legislación peruana no contempla una regulación sobre el uso de este tipo de tecnología para evitar que casos como el de Obama ocurran en el Perú. Este tema ya se está discutiendo en otros países. “Una manera de hacer seguimiento a estos videos es que todo material publicado en la web cuente con una firma digital. Así se podría saber si la procedencia es regular o no. Pero el tema sigue en discusión”, agregó.

Si bien es difícil reconocer si un video es deepfake o no debido a que las redes neuronales son cada vez más sofisticadas, el especialista indicó que el uso del antispoofing podría ayudar a detectarlos. Esta técnica permite identificar y descartar paquetes de datos que tienen una dirección de origen falsa, y ayudaría a identificar si un rostro es fake (falso) o no. 

Uso responsable de la inteligencia artificial

El Grupo de Inteligencia Artificial PUCP (IA-PUCP) utiliza la redes neuronales generativas adversarias -las mismas que se emplean para los deepfake- para mejorar las imágenes satelitales y así detectar cuerpos de agua, entre otros fenómenos. 

“El satélite peruano pasa por un sitio cada 26 días. Si ocurriera un fenómeno ahora y el satélite aún no recorre esa zona, habremos perdido esas imágenes. Sin embargo, otros satélites sí las están captando aunque con menor resolución", detalló. Con esta tecnología se puede mejorar la calidad de las imágenes.

Otra de las aplicaciones que hace este grupo de investigación es la reconstrucción de color de imágenes antiguas y de piezas arqueológicas. 

En el primer caso, las redes generativas permiten obtener un color muy cercano al real, ya que se entrena el sistema con fotografías de la época y otra red con imágenes en alta resolución a color. Luego, la red podrá ubicar los mejores colores en la imagen antigua.


Para la reconstrucción de objetos arqueológicos, los integrantes del Grupo IA-PUCP aplican las redes neuronales y el escaneo 3D. Usando el mismo procedimiento que los deepfake, la red "que genera" consulta a la red "evaluadora" si la pieza que se está produciendo está completa y si lo hace de forma correcta. Ese fue el trabajo que realizaron con piezas expuestas en el Museo Larco y ahora repetirán esa iniciativa en los museos de la Pontificia Universidad Católica del Perú. 

El experto también reveló que su grupo está trabajando más a fondo en esta técnica de inteligencia artificial para, próximamente, producir animaciones con personajes históricos peruanos. “Con esta herramienta, podríamos crear videos con Francisco Bolognesi y él mismo nos contaría su historia. Solo se requerirá imágenes de él y con las redes neuronales podríamos darle movimiento”, añadió. 

Esta tecnología ya está en uso. Los “Dalí lives” en el Salvador Dalí Museum, en Florida (Estados Unidos), son ejemplo de ello. La agencia Goodby Silverstein & Partners, en conjunto con el museo, desarrolló esta innovadora experiencia.


Si bien se reconoce la importancia de los avances tecnológicos, estos también ponen sobre la mesa la necesidad de contar con reglas éticas para su aplicación para evitar casos de desinformación.  

Lee más noticias de ciencia, tecnología e innovación en la Agencia Andina.

Más en Andina:


(FIN) MFR/SPV

Video: Ingenieros peruanos y lo que hay detrás del “deepfake” de Jim Carrey
portada
Publicado: 27/10/2019
Loading...