Per contrastare la proliferazione di fake profondi , Microsoft ha rilasciato un nuovo strumento di autenticazione video che può essere utilizzato per analizzare un’immagine fissa o un video per determinare una percentuale di probabilità che un mezzo sia stato manipolato artificialmente.
Nel caso di un video, Microsoft ha dichiarato che questa percentuale potrebbe essere fornita in tempo reale per ogni fotogramma mentre il video è in riproduzione. Rileva la linea di fusione di elementi profondi, sottili in scala di grigi o in dissolvenza che potrebbero non essere visibili all’occhio umano.
I deepfakes o media sintetici possono essere foto, video o file audio che sono manipolati dall’intelligenza artificiale (AI). Rilevare le falsificazioni profonde è vitale nelle prossime elezioni americane, secondo Microsoft.
La tecnologia è stata creata utilizzando un set di dati pubblici da Face Forensic ++. Microsoft ha detto che è stato testato con il dataset DeepFake Detection Challenge, che si ritiene essere il modello principale. per addestrare e testare le tecnologie di rilevamento della contraffazione in arrivo.
“Prevediamo che i metodi di generazione di media sintetici continueranno a crescere in complessità. Poiché tutti i metodi di rilevamento AI hanno tassi di errore, dobbiamo capire ed essere preparati a reagire a falsi radicati che passano attraverso i metodi di rilevamento”, ha detto la società in un post sul blog.
“A lungo termine, quindi, dobbiamo cercare modi più forti per mantenere e certificare l’autenticità degli articoli di notizie e altri media.”
Con alcuni strumenti disponibili, Microsoft ha anche introdotto una nuova tecnologia che può rilevare contenuti manomessi e garantire che i media che si stanno guardando sono autentici.
La tecnologia consiste di due componenti. Il primo è uno strumento integrato in Microsoft Azure che consente a un produttore di contenuti di aggiungere hash digitali e certificati al contenuto.
“Hashes e certificati vivono con il contenuto come metadati, ovunque sia online”, ha detto Microsoft.
Il secondo è un lettore che può essere incluso in un’estensione del browser che verifica i certificati e confronta gli hash con le partite per determinare l’autenticità.
Microsoft ha anche collaborato con l’AI Foundation nella sua battaglia deep sham. Come parte della partnership, entrambe le parti forniranno autenticatori video alle organizzazioni coinvolte nel processo democratico, comprese le organizzazioni di notizie e le campagne politiche, attraverso l’iniziativa Reality Defender 2020 della fondazione.
L’autenticatore video sarà inizialmente disponibile solo attraverso l’iniziativa.
Un’altra partnership con un consorzio di aziende di media noto come Project Origin sta testando la tecnologia di autenticità di Microsoft. Un’iniziativa di diversi editori e società di social media, la Trusted News Initiative, ha anche accettato di lavorare con Microsoft per testare la loro tecnologia.
YouTube video: Microsoft annuncia un autenticatore video per identificare i deepfakes
L’Università di Washington, In-House Counterfeit Detection Sensitivity, e USA Today hanno anche collaborato con Microsoft per migliorare l’alfabetizzazione dei media.
“Migliorando l’alfabetizzazione dei media, le persone possono eliminare la disinformazione basata su eventi reali e gestire i rischi di falsi economici e profondi,” ha detto Microsoft. “Conoscere i media può permettere a tutti noi di pensare criticamente al contesto dei media e diventare cittadini più impegnati mentre si godono la satira e la parodia.”
Come parte di questa partnership, ci sarà una campagna di annunci di servizio pubblico che inviterà le persone a “fermarsi a riflettere” e verificare che l’informazione provenga da un’organizzazione di notizie rispettabile prima di condividerla o promuoverla. sui social media prima delle elezioni.
I partiti hanno anche lanciato un questionario per gli elettori americani per saperne di più sui media sintetici.
