Para contrarrestar la proliferación de falsificaciones profundas , Microsoft ha lanzado una nueva herramienta de autentificación de vídeo que puede utilizarse para analizar una imagen fija o un vídeo y determinar un porcentaje de probabilidad de que un medio haya sido manipulado artificialmente.
En el caso de un vídeo, Microsoft afirmó que este porcentaje podría proporcionarse en tiempo real para cada fotograma mientras se reproduce el vídeo. Detecta la línea de mezcla de elementos profundos y sutiles en escala de grises o desvanecidos que pueden no ser visibles para el ojo humano.
Las falsificaciones profundas o medios sintéticos pueden ser fotos, vídeos o archivos de audio manipulados por la inteligencia artificial (IA). La detección de falsificaciones profundas es vital en las próximas elecciones estadounidenses, según Microsoft.
La tecnología fue creada utilizando un conjunto de datos públicos de Face Forensic ++. Microsoft dijo que se probó con el conjunto de datos DeepFake Detection Challenge, que se cree que es el modelo líder. para entrenar y probar las tecnologías de detección de falsificaciones entrantes.
«Anticipamos que los métodos de generación de medios sintéticos continuarán creciendo en complejidad. Dado que todos los métodos de detección de IA tienen tasas de error, debemos entender y estar preparados para reaccionar ante falsificaciones profundas que pasen por los métodos de detección», dijo la compañía en una entrada de blog.
«A largo plazo, por lo tanto, debemos buscar formas más fuertes de mantener y certificar la autenticidad de los artículos de noticias y otros medios de comunicación».
Con algunas herramientas disponibles, Microsoft también ha presentado una nueva tecnología que puede detectar el contenido manipulado y garantizar que los medios de comunicación que está viendo son genuinos.
La tecnología consta de dos componentes. El primero es una herramienta integrada en Microsoft Azure que permite a un productor de contenidos añadir hashes y certificados digitales al contenido.
«Los hashes y los certificados conviven con el contenido como metadatos, dondequiera que esté en línea», dijo Microsoft.
El segundo es un lector que puede incluirse en una extensión del navegador que verifica los certificados y compara los hashes con las coincidencias para determinar la autenticidad.
Microsoft también se ha asociado con la AI Foundation en su batalla contra la falsedad profunda. Como parte de la asociación, ambas partes proporcionarán autentificadores de vídeo a las organizaciones que participan en el proceso democrático, incluidas las organizaciones de noticias y las campañas políticas, a través de la iniciativa Reality Defender 2020 de la fundación.
El autentificador de vídeo sólo estará disponible inicialmente a través de la iniciativa.
Otra asociación con un consorcio de empresas de medios de comunicación conocido como Project Origin está probando la tecnología de autenticidad de Microsoft. Una iniciativa de varios editores y empresas de medios sociales, la Trusted News Initiative, también ha acordado trabajar con Microsoft para probar su tecnología.
Vídeo de YouTube: Microsoft anuncia un autentificador de vídeo para identificar deepfakes
La Universidad de Washington, In-House Counterfeit Detection Sensitivity y USA Today también se han asociado con Microsoft para mejorar el conocimiento de los medios de comunicación.
«Al mejorar el conocimiento de los medios de comunicación, la gente puede eliminar la desinformación basada en hechos reales y gestionar los riesgos de las falsificaciones baratas y profundas», dijo Microsoft. «Conocer los medios de comunicación puede permitirnos a todos pensar de forma crítica sobre el contexto mediático y convertirnos en ciudadanos más comprometidos mientras disfrutamos de la sátira y la parodia».
Como parte de esta asociación, habrá una campaña de anuncios de servicio público que invitará a la gente a «hacer una pausa para reflexionar» y verificar que la información proviene de una organización de noticias de buena reputación antes de compartirla o promocionarla. en las redes sociales antes de las elecciones.
Los partidos también lanzaron un cuestionario para que los votantes estadounidenses aprendan más sobre los medios sintéticos.
