Para contrariar a proliferação de falsificações profundas , a Microsoft lançou uma nova ferramenta de autenticação de vídeo que pode ser usada para analisar uma imagem fixa ou vídeo para determinar uma percentagem de probabilidade de um meio ter sido manipulado artificialmente.
No caso de um vídeo, a Microsoft afirmou que esta percentagem poderia ser fornecida em tempo real para cada frame enquanto o vídeo estiver sendo reproduzido. Detecta a linha de mistura de elementos profundos, subtis em tons de cinza ou desvanecimento que podem não ser visíveis ao olho humano.
Deepfakes ou mídia sintética podem ser fotos, vídeos ou arquivos de áudio que são manipulados pela inteligência artificial (IA). Detecting Deep Forgeries Vital in Upcoming Elections, de acordo com Microsoft.
A tecnologia foi criada usando um conjunto de dados públicos da Face Forensic ++. A Microsoft disse que foi testada com o conjunto de dados do DeepFake Detection Challenge, que se acredita ser o modelo líder. para treinar e testar as tecnologias de detecção de falsificações recebidas.
“Prevemos que os métodos de geração de mídia sintética continuarão a crescer em complexidade. Como todos os métodos de detecção de IA têm taxas de erro, devemos entender e estar preparados para reagir a falsificações profundas que passam pelos métodos de detecção”, disse a empresa em um post de blog.
“A longo prazo, portanto, devemos procurar maneiras mais fortes de manter e certificar a autenticidade dos artigos de notícias e outros meios de comunicação”.
Com algumas ferramentas disponíveis, a Microsoft também introduziu uma nova tecnologia que pode detectar conteúdo falsificado e garantir que os meios de comunicação que você está observando sejam genuínos.
A tecnologia consiste em dois componentes. O primeiro é uma ferramenta integrada no Microsoft Azure que permite a um produtor de conteúdo adicionar hashes e certificados digitais ao conteúdo.
“Hashes e certificados vivem com conteúdo como metadados, onde quer que esteja online”, disse a Microsoft.
O segundo é um leitor que pode ser incluído em uma extensão de navegador que verifica certificados e compara hashes contra correspondências para determinar a autenticidade.
A Microsoft também fez uma parceria com a AI Foundation na sua profunda batalha contra a fraude. Como parte da parceria, ambas as partes fornecerão autenticadores de vídeo para organizações envolvidas no processo democrático, incluindo organizações de notícias e campanhas políticas, através da iniciativa Reality Defender 2020 da fundação.
O autenticador de vídeo estará inicialmente disponível apenas através da iniciativa.
Outra parceria com um consórcio de empresas de mídia conhecido como Project Origin está testando a tecnologia de autenticidade da Microsoft. Uma iniciativa de várias editoras e empresas de mídia social, a Trusted News Initiative, também concordou em trabalhar com a Microsoft para testar sua tecnologia.
A Universidade de Washington, In-House Counterfeit Detection Sensitivity, e USA Today também se uniram à Microsoft para melhorar a alfabetização midiática.
YouTube video: Microsoft anuncia autenticador de vídeo para identificar falsificações profundas.
“Ao melhorar a alfabetização midiática, as pessoas podem eliminar a desinformação baseada em eventos reais e gerenciar os riscos de falsificações baratas e profundas”, disse a Microsoft. “Conhecer a mídia pode nos permitir a todos pensar criticamente sobre o contexto da mídia e nos tornar cidadãos mais engajados enquanto desfrutam de sátira e paródia”.
Como parte desta parceria, haverá uma campanha de anúncio de serviço público que convidará as pessoas a “parar para reflexão” e verificar se a informação vem de uma organização jornalística respeitável antes de compartilhá-la ou promovê-la. sobre mídia social antes das eleições.
Os partidos também lançaram um questionário para os eleitores americanos aprenderem mais sobre mídia sintética.
