Meta implementará tecnología de reconocimiento facial para combatir estafas en redes sociales y proteger la imagen de las celebridades.
Meta se pone firme contra las estafas: nueva tecnología de reconocimiento facial en camino. Foto: Meta.
La empresa detrás de Facebook e Instagram, Meta, reveló que, ante el aumento de estafas cibernéticas desde el inicio de la pandemia, está testeando una innovadora tecnología de reconocimiento facial. Esta herramienta tiene como objetivo identificar publicaciones fraudulentas que utilizan la imagen de famosos.
Monika Bickert, vicepresidenta de políticas de contenido de Meta, expuso la gravedad de este problema que afecta a millones de usuarios, amenazando tanto su privacidad como la reputación de las celebridades que no desean ser usadas para estafar a sus seguidores.
Para detectar los deepfakes —esos videos falsos que manipulan la imagen de las celebridades— Meta empleará su sistema de revisión de anuncios. Este sistema analiza millones de publicaciones diarias en sus plataformas, utilizando aprendizaje automático que estudia texto, imagen y video de cantantes, deportistas y otros famosos.
El celebbait comienza cuando los estafadores, desde diversas partes del mundo, manipulan imágenes y videos de figuras públicas para engañar a sus seguidores. Estos son dirigidos a sitios web fraudulentos donde son convencidos de compartir información confidencial, como contraseñas o datos bancarios, lo que puede resultar en robos millonarios.
Si los sistemas de Meta detectan una publicación sospechosa, comparan automáticamente el material con las fotos de perfiles verificados de las celebridades, utilizando una tecnología única de reconocimiento facial en Instagram y Facebook.
“Si confirmamos que el anuncio es una estafa, lo bloquearemos y eliminaremos cualquier dato facial generado por esta comparación. Nunca utilizaremos este material para otro propósito”, asegura Bickert.
Por ahora, esta tecnología está siendo probada con un grupo selecto de celebridades a nivel mundial, aunque está excluida de la Unión Europea por razones regulatorias. Se espera que, en las próximas semanas, más famosos que han sido víctimas de deepfakes sean notificados para que den su consentimiento y se sumen a este proyecto.
Otra de las problemáticas en el ámbito digital es la suplantación de cuentas de famosos por estafadores, quienes convencen a sus seguidores de realizar transferencias de dinero. “Los estafadores pueden afirmar que una celebridad respalda una inversión específica o que está pidiendo información personal a cambio de un regalo”, indicó Bickert.
Para combatir esto, la compañía está investigando nuevas formas de identificar estas cuentas fraudulentas más rápidamente, aunque aún no se ha iniciado la fase de pruebas.
En un esfuerzo por ayudar a los usuarios a recuperar sus cuentas de Instagram y Facebook, ya sea por olvido de contraseñas, pérdida del dispositivo o intentos de ciberataques, Meta está probando un sistema de reconocimiento facial que implica tomar una selfie para restablecer la cuenta.
“Si creemos que una cuenta ha sido comprometida, le pedimos al propietario que verifique su identidad compartiendo un documento de identificación oficial que incluya su nombre”, explicó Bickert, al ser consultada sobre cómo evitar que alguien suplante la selfie del dueño.
Además, Meta confirmó que la selfie de recuperación nunca aparecerá en el perfil del usuario y será eliminada junto con cualquier otro dato generado en este proceso.
