Pour contrer la prolifération des deep fakes , Microsoft a publié un nouvel outil d’authentification vidéo qui peut être utilisé pour analyser une image fixe ou une vidéo afin de déterminer un pourcentage de probabilité qu’un support ait été artificiellement manipulé.
Dans le cas d’une vidéo, Microsoft a déclaré que ce pourcentage pourrait être fourni en temps réel pour chaque image pendant la lecture de la vidéo. Détecte la ligne de mélange d’éléments profonds et subtils en niveaux de gris ou en fondu qui peuvent ne pas être visibles à l’œil humain.
Les faux profonds ou les médias synthétiques peuvent être des photos, des vidéos ou des fichiers audio qui sont manipulés par une intelligence artificielle (IA). La détection des faux profonds est vitale pour les prochaines élections américaines, selon Microsoft.
Vidéo YouTube: Microsoft annonce un authentificateur vidéo pour identifier les « deepfakes »
La technologie a été créée en utilisant un ensemble de données publiques de Face Forensic ++. Microsoft a déclaré qu’elle a été testée avec le jeu de données DeepFake Detection Challenge, qui est considéré comme le modèle leader. pour former et tester les technologies de détection des contrefaçons entrantes.
« Nous prévoyons que les méthodes de génération de médias synthétiques continueront de croître en complexité. Comme toutes les méthodes de détection de l’IA ont des taux d’erreur, nous devons comprendre et être prêts à réagir aux faux profondément ancrés qui passent à travers les méthodes de détection », a déclaré la société dans un billet de blog.
« À long terme, nous devons donc chercher des moyens plus solides de maintenir et de certifier l’authenticité des articles d’actualité et d’autres médias. »
Avec quelques outils disponibles, Microsoft a également introduit une nouvelle technologie qui peut détecter le contenu trafiqué et s’assurer que le média que vous regardez est authentique.
La technologie se compose de deux éléments. Le premier est un outil intégré à Microsoft Azure qui permet à un producteur de contenu d’ajouter des hachages et des certificats numériques au contenu.
« Les hachages et les certificats vivent avec le contenu en tant que métadonnées, où qu’il soit en ligne », a déclaré Microsoft.
Le second est un lecteur qui peut être inclus dans une extension de navigateur qui vérifie les certificats et compare les hachages aux correspondances pour déterminer l’authenticité.
Microsoft a également établi un partenariat avec la Fondation AI dans sa lutte contre les faux-fuyants profonds. Dans le cadre de ce partenariat, les deux parties fourniront des authentificateurs vidéo aux organisations impliquées dans le processus démocratique, y compris les organisations de presse et les campagnes politiques, par le biais de l’initiative Reality Defender 2020 de la fondation.
L’authentificateur vidéo ne sera initialement disponible que par le biais de l’initiative.
Un autre partenariat avec un consortium de sociétés de médias connu sous le nom de Project Origin teste la technologie d’authentification de Microsoft. Une initiative de plusieurs éditeurs et sociétés de médias sociaux, la Trusted News Initiative, a également accepté de travailler avec Microsoft pour tester leur technologie.
L’Université de Washington, In-House Counterfeit Detection Sensitivity et USA Today ont également fait équipe avec Microsoft pour améliorer la connaissance des médias.
« En améliorant la connaissance des médias, les gens peuvent éliminer la désinformation basée sur des événements réels et gérer les risques de faux bon marché et profonds », a déclaré Microsoft. « Connaître les médias peut nous permettre à tous de réfléchir de manière critique au contexte médiatique et de devenir des citoyens plus engagés tout en appréciant la satire et la parodie. »
Dans le cadre de ce partenariat, il y aura une campagne d’annonces de service public qui invitera les gens à « faire une pause pour réfléchir » et à vérifier que l’information provient d’un organisme d’information réputé avant de la partager ou de la promouvoir. sur les médias sociaux avant les élections.
Les partis ont également lancé un questionnaire pour les électeurs américains afin d’en savoir plus sur les médias synthétiques.
