Los adolescentes tienen una configuración de mensajes más estricta en Instagram y Facebook para que no puedan recibir mensajes de nadie con quien no estén conectados. Esta es una de las acciones que toma Meta para evitar la sextorsión o el grooming en sus redes sociales. Ahora, se sumarán nuevas funciones como la protección contra desnudos o imágenes íntimas, que son detectadas mediante inteligencia artificial.
Estas actualizaciones se basan en el trabajo que Meta viene desarrollando desde hace años para ayudar a proteger a los jóvenes de contactos no deseados o potencialmente dañinos.
Actualmente, Facebook e Instagram muestran avisos de seguridad a los adolescentes que ya están en contacto con cuentas potencialmente fraudulentas y ofrecen una opción específica para denunciar los mensajes que amenazan con compartir imágenes privadas.
Aunque la mensajería es uno de los medios favoritos de los usuarios para compartir lo que les gusta con sus amigos, familiares o creadores favoritos, los estafadores de la extorsión sexual también pueden utilizar los mensajes privados para compartir o pedir imágenes íntimas.
Por ello, Meta comenzará a probar su nueva función de protección contra desnudos en Instagram, que difumina las imágenes detectadas que contiene desnudos y disuade a las personas de enviar imágenes de desnudos. Esta función está diseñada no solo para proteger a las personas de ver desnudos no deseados en sus mensajes privados, sino también para protegerlos de los estafadores que pueden enviar imágenes de desnudos para engañar a las personas para que envíen sus propias imágenes a cambio.
La protección contra desnudos en Instagram se activará automáticamente para los adolescentes menores de 18 años en la mayoría de los países, e Instagram mostrará una notificación a los adultos animándolos a activarla.
Cuando la protección contra desnudos está activada, los usuarios que envíen imágenes que contengan desnudos verán un mensaje que les recordará que sean cautelosos al enviar fotos sensibles y que pueden anular el envío de estas fotos si han cambiado de opinión. Asimismo, cualquiera que intente reenviar una imagen de desnudo que haya recibido verá un mensaje a animándole a pensarlo dos veces.
Por otro lado, cuando alguien reciba una imagen que contenga desnudos, esta se difuminará automáticamente bajo una pantalla de advertencia, lo que ayudará al destinatario a evitar una imagen de desnudos y elegir si la ve o no. También se mostrará un mensaje animando a las personas a no sentirse presionadas para responder, con la opción de bloquear al remitente y denunciar el chat.
Al enviar o recibir estas imágenes, los usuarios recibirán consejos de seguridad, elaborados con la ayuda de expertos, sobre los posibles riesgos que implica esta práctica. Estos consejos incluyen recordatorios de que las personas pueden tomar capturas de pantalla o reenviar imágenes sin tu consentimiento, que tu relación con la persona puede cambiar en el futuro y que debes revisar los perfiles cuidadosamente en caso de que no sean quienes dicen ser.
Para ello, se trabaja con el Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) en el desarrollo de Take It Down, una plataforma que permite a los jóvenes recuperar el control de sus imágenes íntimas y ayuda a evitar que se compartan en línea, restando poder a los estafadores.
Estos consejos de seguridad también enlazan con una serie de recursos, como el Centro de Seguridad de Meta o StopNCII.org para mayores de 18 años y Take It Down para menores de 18 años.
La protección contra desnudos utiliza el aprendizaje automático (inteligencia artificial) en el dispositivo para detectar si una imagen enviada en un mensaje a través de Instagram tiene contenido explícito sexual.
Como las imágenes se analizan en propio celular del usuario, la protección contra desnudos funcionará en chat cifrados de extremo a extremo, donde Meta no tendrá acceso a esas imágenes, salvo que el usuario decida reportarlas.
¿Qué hace Facebook o Instagram cuando detecta un acosador?
Meta tomará medidas severas cuando tenga conocimiento de personas que se dedican a la sextorsión; por ejemplo, eliminará su cuenta y evitará que cree otras nuevas, además de denunciarlas a las fuerzas de seguridad y al National Center for Missing and Exploited Children (NCMEC), una corporación privada cuya misión es ayudar a encontrar a los niños perdidos y reducir la explotación sexual infantil.
El equipo de expertos de Meta también trabaja para investigar y desbaratar las redes de estos delincuentes cibernéticos e inutilizar sus cuentas.
También está desarrollando una tecnología para ayudar a identificar las cuentas que podrían estar participando en estafas de sextorsión, basándose en una serie de señales que podrían sugerir un comportamiento de sextorsión.
Una forma de conseguirlo es dificultar aún más que las posibles cuentas de extorsión sexual envíen mensajes o interactúen con otras personas. Ahora, todas las solicitudes de mensajes que intenten enviar las cuentas de extorsión sexual irán directamente a la carpeta de solicitudes ocultas del destinatario, lo que significa que no se les notificará el mensaje y que nunca tendrán que verlo.
Para aquellos que ya están chateando con posibles cuentas de estafa o sextorsión, Instagram mostrará avisos de seguridad animándolos a denunciar cualquier amenaza de compartir sus imágenes privadas, y recordándoles que pueden decir que no a cualquier cosa que les haga sentir incómodos.
Las medidas de protección a los adolescentes son más severas. Ahora Instagram impide que los adultos inicien conversaciones por mensajes directos con adolescentes que no les siguen, y en enero Meta anunció mensajes más estrictos para los adolescentes, lo que significa que sólo pueden recibir mensajes de personas con las que ya están conectados.
Ahora no se muestra la opción «Mensaje» del perfil de un adolescente a posibles cuentas de extorsión sexual, aunque ya estén conectadas. La empresa tecnológica también está probando ocultar a los adolescentes de estas cuentas en las listas de seguidores, seguidos y me gusta de las personas, y a dificultar que encuentren cuentas de adolescentes en los resultados de búsqueda.
En noviembre, Meta anunció que era miembro fundador de Lantern, un programa dirigido por la Tech Coalition que permite a las empresas tecnológicas compartir señales sobre cuentas y comportamientos que infringen sus políticas de seguridad infantil.
Esta cooperación del sector es fundamental, porque los depredadores no se limitan a una sola plataforma, y lo mismo ocurre con los estafadores que practican la sextorsión. Estos delincuentes atacan a sus víctimas a través de las distintas aplicaciones que utilizan, a menudo trasladando sus conversaciones de una aplicación a otra.
Por eso Meta ha empezado a compartir más señales específicas de la extorsión sexual con Lantern, para aprovechar esta importante cooperación e intentar detener las estafas de extorsión sexual no solo en plataformas individuales, sino en todo Internet.
(FIN) NDP/ DSV
Publicado: 16/4/2024