Um der Verbreitung von Tiefenfälschungen entgegenzuwirken, hat Microsoft ein neues Video-Authentifizierungstool veröffentlicht, mit dem ein Standbild oder ein Video analysiert werden kann, um eine prozentuale Wahrscheinlichkeit zu ermitteln, dass ein Medium künstlich manipuliert wurde.
Im Falle eines Videos kann dieser Prozentsatz laut Microsoft in Echtzeit für jedes Bild bereitgestellt werden, während das Video abgespielt wird. Erkennt die Überblendungslinie von tiefen, subtilen Graustufen oder verblassenden Elementen, die für das menschliche Auge möglicherweise nicht sichtbar sind.
Tiefe Fälschungen oder synthetische Medien können Fotos, Videos oder Audiodateien sein, die durch künstliche Intelligenz (KI) manipuliert wurden. Laut Microsoft ist die Erkennung von Deep Forgeries für die bevorstehenden US-Wahlen von entscheidender Bedeutung.
Die Technologie wurde anhand eines öffentlichen Datensatzes von Face Forensic ++ entwickelt. Laut Microsoft wurde sie mit dem DeepFake Detection Challenge-Datensatz getestet, der als führendes Modell gilt. um neue Technologien zur Erkennung von Fälschungen zu trainieren und zu testen.
„Wir gehen davon aus, dass die Methoden zur Erzeugung synthetischer Medien weiter an Komplexität gewinnen werden. Da alle KI-Erkennungsmethoden Fehlerquoten aufweisen, müssen wir verstehen und darauf vorbereitet sein, auf tief sitzende Fälschungen zu reagieren, die durch die Erkennungsmethoden hindurchgehen“, so das Unternehmen in einem Blogbeitrag.
„Langfristig müssen wir daher nach stärkeren Möglichkeiten suchen, um die Echtheit von Nachrichtenartikeln und anderen Medien zu erhalten und zu zertifizieren.“
Mit einigen Tools hat Microsoft auch eine neue Technologie eingeführt, die manipulierte Inhalte erkennen und sicherstellen kann, dass die Medien, die Sie sich ansehen, echt sind.
Die Technologie besteht aus zwei Komponenten. Die erste ist ein in Microsoft Azure integriertes Tool, mit dem ein Inhaltsproduzent digitale Hashes und Zertifikate zu den Inhalten hinzufügen kann.
„Hashes und Zertifikate leben mit den Inhalten als Metadaten, wo immer sie online sind“, so Microsoft.
Die zweite ist ein Leseprogramm, das in eine Browsererweiterung integriert werden kann, die Zertifikate verifiziert und Hashes mit Übereinstimmungen vergleicht, um die Authentizität zu bestimmen.
Microsoft hat sich außerdem mit der AI Foundation in seinem Kampf gegen Deep Sham zusammengeschlossen. Im Rahmen dieser Partnerschaft werden beide Parteien über die Initiative Reality Defender 2020 der Stiftung Videoauthentifikatoren für Organisationen bereitstellen, die am demokratischen Prozess beteiligt sind, darunter Nachrichtenorganisationen und politische Kampagnen.
Der Videoauthentifikator wird zunächst nur über die Initiative verfügbar sein.
Eine weitere Partnerschaft mit einem Konsortium von Medienunternehmen, bekannt als Project Origin, testet die Authentizitätstechnologie von Microsoft. Eine Initiative von mehreren Verlagen und Social-Media-Unternehmen, die Trusted News Initiative, hat sich ebenfalls bereit erklärt, mit Microsoft zusammenzuarbeiten, um ihre Technologie zu testen.
YouTube video: Microsoft kündigt Video-Authentifikator zur Erkennung von Fälschungen an
Die University of Washington, In-House Counterfeit Detection Sensitivity und USA Today haben sich ebenfalls mit Microsoft zusammengetan, um die Medienkompetenz zu verbessern.
„Durch die Verbesserung der Medienkompetenz können die Menschen Fehlinformationen, die auf realen Ereignissen beruhen, ausschließen und die Risiken von billigen und tiefgreifenden Fälschungen beherrschen“, so Microsoft. „Die Kenntnis der Medien kann es uns allen ermöglichen, kritisch über den Medienkontext nachzudenken und engagiertere Bürger zu werden, während wir uns an Satire und Parodie erfreuen.“
Als Teil dieser Partnerschaft wird es eine öffentliche Bekanntmachungskampagne geben, die die Menschen dazu auffordert, „eine Denkpause einzulegen“ und sich zu vergewissern, dass die Informationen von einer seriösen Nachrichtenorganisation stammen, bevor sie in den sozialen Medien vor den Wahlen geteilt oder verbreitet werden.
Die Parteien haben außerdem einen Fragebogen für amerikanische Wähler herausgegeben, um mehr über synthetische Medien zu erfahren.
