Hace unos meses, OpenAI, empresa desarrolladora de la tecnología ChatGPT, anunció el lanzamiento de la nueva versión de su modelo de lenguaje natural, GPT-4. Sin embargo, lo que ha preocupado a expertos y usuarios de todo el mundo es el potencial de esta tecnología para ser usada con fines delictivos. Un estudio revela que los expertos detectaron hasta 118 intentos de ataques diarios relacionados con la plataforma de inteligencia artificial.
A fin de cuantificar el índice de riesgos, investigadores de la compañía Palo Alto Networks (Unit 42) están monitoreando tendencias, dominios recién registrados y dominios ocupados relacionados con ChatGPT, una de las aplicaciones de consumo más populares y con mayor crecimiento de la historia que también atrae la atención de los estafadores.
Así, entre noviembre de 2022 y principios de abril de 2023, se produjo un aumento del 910 % en los registros mensuales de dominios relacionados con ChatGPT.
Adicionalmente, se pudo observar un crecimiento del 17,818 % en dominios maliciosos relacionados con registros de seguridad DNS en este periodo de tiempo.
Los investigadores también descubrieron que era posible detectar hasta
118 intentos diarios de URL maliciosas relacionadas con
ChatGPT.
“Hemos detectado un número creciente de productos sospechosos que utilizan la API oficial de OpenAI para ChatGPT, por lo que exhortamos a los usuarios mantenerse alertas frente a los potenciales riesgos de seguridad”, advirtió Kenneth Tovar Roca, Country Manager de Palo Alto Networks para Perú y Bolivia.
Tendencias de actividad sospechosa relacionada con ChatGPT
Mientras OpenAI iniciaba su rápido ascenso para convertirse en una de las marcas más famosas dentro de la
inteligencia artificial, se observaron varios casos de actores de amenazas que registraban y utilizaban dominios fraudulentos en el ciberespacio teniendo ‘OpenAI’ y ‘ChatGPT’ como nombre de dominio (por ejemplo, openai[.]us, openai[.]xyz y chatgpt[.]jobs).
En términos de
ciberseguridad, la mayoría de estos dominios
no han alojado nada malicioso desde principios de abril de 2023, pero es preocupante que no estén controlados por OpenAI u otras empresas auténticas de gestión de dominios, y que estén siempre en el límite de ocasionar daños.
“Descubrimos un incremento notable en los registros diarios de dominios durante el período de nuestra investigación. Posteriormente a que Microsoft anunciara su nueva versión de Bing en febrero, se registraron más de 300 dominios relacionados con ChatGPT”, afirma Tovar. En ese sentido, la popularidad de esta
IA se ha traducido en un aumento significativo de detección de amenazas por parte de la compañía.
Unit 42 también realizó una investigación de keywords en el tráfico desde el Sistema de Filtrado Avanzado de URL, y fue posible identificar dos grandes picos de búsqueda con las palabras ‘ChatGPT y GPT-4’ el día en que OpenAI publicó la API oficial.
Estafas que usan el nombre de ChatGPT como anzuelo
Al realizar la investigación, se pudieron observar varias URL de phishing que intentaban hacerse pasar por sitios web oficiales de OpenAI. Normalmente, los estafadores crean un sitio web falso que imita la apariencia del sitio web oficial de ChatGPT y luego engañan a los usuarios para que descarguen malware o compartan información confidencial.
Una técnica habitual que utilizan los estafadores para distribuir malware es presentar a los usuarios un falso botón de ‘DESCARGA PARA WINDOWS’, que, una vez pulsado, descarga un troyano, el cual es un programa malicioso que infecta dispositivos sin que las víctimas perciban el riesgo.
Además, los estafadores pueden utilizar ingeniería social relacionada con ChatGPT para el robo de identidad o el fraude financiero. A pesar de que OpenAI ofrece a los usuarios una versión gratuita de ChatGPT, los estafadores conducen a las víctimas a sitios web fraudulentos, alegando que deben pagar por estos servicios o brindar información confidencial.
Los especialistas de Unit 42 también han observado que algunos estafadores se aprovechan de la creciente popularidad de OpenAI para obtener criptomonedas. Se pudo identificar a un estafador que abusaba del logotipo de OpenAI y del nombre de Elon Musk para atraer a las víctimas a un evento fraudulento de distribución de criptodivisas.
Los riesgos de los chatbots imitadores
Aunque ChatGPT se ha convertido en una de las aplicaciones más populares de este año, también han aparecido en el mercado un número cada vez mayor de aplicaciones de chatbot imitadoras de la IA. Algunas de estas aplicaciones ofrecen sus propios modelos de lenguaje, y otras afirman que ofrecen servicios ChatGPT a través de la API pública anunciada el 1 de marzo. Sin embargo, el uso de chatbots imitadores puede aumentar los riesgos de seguridad.
Antes de la publicación de la API de ChatGPT, existían varios proyectos de código abierto que permitían a los usuarios conectarse a ChatGPT a través de diversas herramientas de automatización.
Dado que ChatGPT no es accesible en determinados países o regiones, los sitios web creados mediante estas herramientas de automatización o API pueden atraer a un número considerable de usuarios de estas zonas. Esto también brinda a ciertos usuarios la oportunidad de monetizar ChatGPT mediante su servicio.
Por estas razones, los expertos en ciberseguridad destacan la importancia de mantenerse alertas ante posibles fraudes relacionados a esta tecnología, así como contar con soluciones de seguridad que brinden protección ante diversos ciberataques.
Más en Andina: (FIN) NDP/IVM
Published: 5/4/2023