Emma Watson a été le protagoniste d’une campagne de faux profond dans lequel l’actrice voit comment son visage modifié numériquement a été intégré dans une vidéo à caractère pornographique. Le clip est apparu sur les réseaux ces derniers jours comme Facebook Et Instagrampréciser les caractéristiques d’une application, grand visage, qui vous permet de remplacer le visage d’une personne dans n’importe quelle vidéo grâce à l’intelligence artificielle. Les médias sociaux ont été inondés de faux clips mettant en vedette le visage de Watson ou elle-même Scarlett Johansson.
Une campagne depuis une application faux profond qui revient à mettre en garde contre les vidéos pornographiques d’intelligence artificielle
En moins de 24 heures, les séquences de contenus à caractère sexuel ont commencé à apparaître sur des réseaux tels que Facebook et Instagram. dans le cadre d’un campagne publicitaire par une application deepfake connue sous le nom de grand visage. De nombreux utilisateurs ont attiré l’attention des gestionnaires de contenu des réseaux sociaux sur ce qui se passait, les modérateurs ont tiré la sonnette d’alarme et expliqué que l’application utilise du contenu sexuel avec les visages de Watson ou Scarlet Johansson, entre autres, pour promouvoir les capacités de l’outil.
La technologie n’est pas particulièrement avancée, mais c’est dû à la vitesse de l’application et aux techniques utilisées dans l’algorithme de remplacement du visage difficile à distinguer d’une image réelle. Cela s’est déjà produit avec le deepfake controversé de Tom Cruise qui a dérouté des millions de personnes. Dans ce cas particulier, la situation est encore plus dangereuse puisque Les visages de plusieurs actrices célèbres ont été utilisés sans leur consentement pour les introduire dans des clips à fort contenu sexuelIl. Comme ils l’expliquent dans Nouvelles de la BNC La situation était telle qu’en quelques heures des publicités montraient partout qu’ilLes filtres de la société de Mark Zuckerberg ne fonctionnent pas comme ils le prétendent.
“
L’application vous permet de créer des vidéos porno deepfake très réalistes avec un abonnement de 8 $ par mois
FaceMega est une application d’abonnement qui permet aux utilisateurs d’échanger les visages de tout le monde dans une vidéo pour 8 $ par semaine. avec des photos chargées dans l’application. L’outil utilise l’appel apprentissage automatique et l’intelligence artificielle pour recréer des traits humains avec un grand réalisme à partir de photographies, de micro-gestes et des expressions de centaines d’acteurs et d’actrices. Dans des bandes comme Star Wars ou dans des séries comme choses étranges, dans lequel une actrice est rajeunie pour ressembler à la jeune Millie Bobby Brown, sont les meilleures pratiques. Mais il peut aussi être utilisé à des fins malveillantes façon de porter atteinte à la vie privée et à l’honneur d’une personne. Apparemment, FaceMega a supprimé l’application de plusieurs magasins, elle ne peut plus être téléchargée depuis l’App Store sur iPhone ou iPad, mais est toujours disponible sur le Google Play Store.
“Le pourrait être utilisé avec les élèves des écoles publiques qui sont victimes d’intimidation. pourrait gâcher la vie de quelqu’un Vous pourriez avoir des ennuis au travail. Et c’est simple et gratuit. Tout ce que j’avais à faire était de télécharger une photo de mon visage et j’avais accès à 50 modèles gratuits”, ont commenté des utilisateurs, cités par Nouvelles de la BNC. Bien que l’application insiste sur le fait qu’elle ne doit être utilisée que pour des clips amusants et non des vidéos destinées à blesser ou à tromper, la promotion de l’outil semble faire exactement le contraire. Meta a souligné que cette application d’origine chinoise a été restreinte après avoir enquêté sur l’affaire sur le réseau social.
