La inteligencia artificial (IA) también está siendo aprovechada por ciberdelincuentes para fines maliciosos. Una de estas modalidades es el uso de redes generativas adversarias conocidas como GAN (del inglés Generative Adversarial Network). A través de esta tecnología, que se basa en algoritmos de Deep Learning, los cibercriminales pueden crear rostros realistas y otros tipo de imágenes, incluso audios o videos.
Esta tecnología, creada en el año 2014 por Ian Goodfellow y su equipo de colegas, funciona en base al entrenamiento de imágenes. Para que funcione, se necesita ingresar datos de entrada, como imágenes de rostros reales de diferentes personas. Con esta información, el modelo ofrece como resultado nuevos rostros con nuevas características de apariencia real.
“Si bien los
rostros GAN son de gran ayuda para industrias como la de los
videojuegos para la generación de rostros para los personajes, o para efectos visuales que luego son utilizados en películas, también pueden ser utilizados con fines malintencionados”, comenta Camilo Gutiérrez Amaya, jefe del Laboratorio de Investigación de ESET Latinoamérica.
A fines de 2021, algunas
investigaciones ya daban cuenta de que las imágenes generadas con
Inteligencia Artificial son cada vez más convincentes y que existe un
50% de posibilidades de confundir un rostro falso con uno real.
Esta herramienta está siendo utilizada por actores malintencionados para engañar a las personas. La compañía de ciberseguridad ESET alerta de algunas modalidades del uso de esta tecnología con fines maliciosos:
Perfiles falsos
Con las redes GAN, los cibercriminales pueden crear imágenes o incluso videos de personas conocidas, o no, para engañar a las víctimas y persuadirlas para que revelen datos personales y confidenciales, como nombres de usuario y contraseñas, o hasta incluso los números de tarjetas de crédito.
Por ejemplo, podrían generar rostros de personas ficticias que luego son utilizados para armar perfiles de supuestos representantes de servicio al cliente de una empresa. Estos perfiles luego envían correos electrónicos de phishing a los clientes de esa empresa para engañarlos y hacer que revelen información personal.
Noticias falsas
Con el avance de las tecnologías de
machine learning el desafío de discernir entre información real y falsa es mayor. El problema es aún maps grave cuando la noticia falsa se acompaña con videos o imágenes que se hacen pasar por personas reales.
Ya se han observado casos en los que se han creado deepfakes haciéndose pasar por políticos para distribuir noticias falsas, como en el caso del presidente de Ucrania, Volodymyr Zelensky, y un video falso difundido en internet en el que aparecía llamando a los soldados ucranianos a bajar las armas.
Robo de identidad
Tener una herramienta para crear rostros similares a los de personas públicas o celebridades puede facilitar los fraudes de robo o suplantación de identidad. Además, los rostros GAN pueden ser usados como instrumentos para sortear los métodos de autenticación a través de reconocimiento facial para acceder a las cuentas de terceros.
Fraude en las apps de citas y redes sociales
Con el avance de tecnologías como las redes GAN, los cibercriminales pueden crear rostros que son utilizados para crear perfiles falsos en aplicaciones de citas y/o perfiles de redes sociales como parte de su estrategia para engañar y luego extorsionar a las víctimas.
¿Cómo evitar caer en estas estafas?
Para evitar ser víctima de fraudes relacionados con la generación de imágenes y videos GAN, Eset brinda las siguientes recomendaciones:
- Verifica y asegúrate de que la fuente de la imagen sea confiable y veraz. Puedes usar herramientas como Google Reverse Image Search para corroborar la autenticidad de imágenes.
- “No todo lo que brilla es oro”. Desconfía de las imágenes que parecen demasiado perfectas. Mayormente las fotografías generadas por este tipo de tecnología tienen un aspecto pulcro y sin defectos, por lo que es importante desconfiar de ellas. Si sospechas de una imagen o video, busca más información al respecto en otras fuentes confiables.
- Mantén los sistemas de seguridad actualizados para estar protegidos contra las estafas y el malware.
- Instala un software antivirus de buena reputación. Esto no solo ayudará a detectar código malicioso, sino a identificar sitios falsos o sospechosos.
- No compartas información confidencial, personal o financiera con nadie que no conozcas.
Más en Andina (FIN) NDP/ KCP/SPV
Publicado: 12/4/2023