Om de proliferatie van diepe vervalsingen tegen te gaan, heeft Microsoft een nieuw video-authenticatiehulpmiddel vrijgegeven waarmee een stilstaand beeld of video kan worden geanalyseerd om een procentuele waarschijnlijkheid te bepalen dat een medium kunstmatig is gemanipuleerd.
In het geval van een video stelt Microsoft dat dit percentage in real-time kan worden verstrekt voor elk frame terwijl de video wordt afgespeeld. Detecteert de menglijn van diepe, subtiele grijstinten of vervagende elementen die mogelijk niet zichtbaar zijn voor het menselijk oog.
Diepe vervalsingen of synthetische media kunnen foto’s, video’s of audiobestanden zijn die door kunstmatige intelligentie (AI) zijn gemanipuleerd. Het detecteren van diepe vervalsingen van vitaal belang bij komende Amerikaanse verkiezingen, volgens Microsoft.
De technologie is gemaakt met behulp van een openbare dataset van Face Forensic ++. Microsoft zei dat het werd getest met de DeepFake Detection Challenge-dataset, waarvan wordt aangenomen dat het het toonaangevende model is. om inkomende technologieën voor het detecteren van vervalsingen te trainen en te testen.
“We verwachten dat methoden voor het genereren van synthetische media zullen blijven groeien in complexiteit. Aangezien alle AI-detectiemethoden foutenpercentages hebben, moeten we begrijpen en voorbereid zijn om te reageren op diepgewortelde vervalsingen die de detectiemethoden passeren. “zei het bedrijf in een blogpost.
“Op de lange termijn moeten we daarom op zoek naar sterkere manieren om de authenticiteit van nieuwsartikelen en andere media te behouden en te certificeren.”
Met een paar beschikbare hulpmiddelen heeft Microsoft ook een nieuwe technologie geïntroduceerd die geknoeide inhoud kan detecteren en ervoor kan zorgen dat de media die u bekijkt echt is.
De technologie bestaat uit twee componenten. De eerste is een tool ingebouwd in Microsoft Azure waarmee een contentproducent digitale hashes en certificaten kan toevoegen aan content.
“Hashes en certificaten leven met content als metadata, waar het zich ook online bevindt”, aldus Microsoft.
De tweede is een reader die kan worden opgenomen in een browserextensie die certificaten verifieert en hashes vergelijkt met matches om authenticiteit te bepalen.
YouTube video: Microsoft kondigt video authenticator aan om deepfakes te identificeren.
Microsoft is ook een partnerschap aangegaan met de AI Foundation in zijn diepe schijngevechten. Als onderdeel van het partnerschap zullen beide partijen video-authenticators leveren aan organisaties die betrokken zijn bij het democratische proces, waaronder nieuwsorganisaties en politieke campagnes, via het Reality Defender 2020-initiatief van de stichting.
De video-authenticator zal aanvankelijk alleen beschikbaar zijn via het initiatief.
Een ander partnerschap met een consortium van mediabedrijven, bekend als Project Origin, test de authenticiteitstechnologie van Microsoft. Een initiatief van verschillende uitgevers en sociale mediabedrijven, het Trusted News Initiative, heeft ook afgesproken om met Microsoft samen te werken om hun technologie te testen.
De Universiteit van Washington, In-House Counterfeit Detection Sensitivity, en USA Today hebben ook samengewerkt met Microsoft om mediageletterdheid te verbeteren.
“Door de mediageletterdheid te verbeteren, kunnen mensen verkeerde informatie op basis van echte gebeurtenissen elimineren en de risico’s van goedkope en diepe vervalsingen beheren,” aldus Microsoft. “Kennis van de media kan ons allemaal in staat stellen kritisch na te denken over de mediacontext en meer betrokken burgers te worden terwijl we genieten van satire en parodie.”
Als onderdeel van dit partnerschap zal er een publieke aankondigingscampagne zijn die mensen zal uitnodigen om “even stil te staan” en te verifiëren of de informatie afkomstig is van een gerenommeerde nieuwsorganisatie voordat ze deze delen of promoten. op sociale media voor de verkiezingen.
De partijen lanceerden ook een vragenlijst voor Amerikaanse kiezers om meer te weten te komen over synthetische media.
