Microsoft představil ověřovač videí, který rozpoznává falešná videa

V rámci boje proti šíření hlubokých podvrhů společnost Microsoft vydala nový nástroj pro ověřování pravosti videa, který lze použít k analýze statického snímku nebo videa a určit procentuální pravděpodobnost, že médium bylo uměle zmanipulováno.

V případě videa společnost Microsoft uvedla, že toto procento lze poskytnout v reálném čase pro každý snímek během přehrávání videa. Detekuje linii prolínání hlubokých, jemných odstínů šedi nebo blednoucích prvků, které nemusí být lidským okem viditelné.

Deepfakes nebo syntetická média mohou být fotografie, videa nebo zvukové soubory, které jsou manipulovány umělou inteligencí (AI). Podle společnosti Microsoft je odhalování hlubokých padělků životně důležité při nadcházejících volbách v USA.

Technologie byla vytvořena s využitím veřejné sady dat společnosti Face Forensic ++. Společnost Microsoft uvedla, že byla testována s datovou sadou DeepFake Detection Challenge, která je považována za přední model. k trénování a testování přicházejících technologií pro detekci padělků.

YouTube video: Microsoft představil ověřovač videí, který rozpoznává falešná videa


„Předpokládáme, že metody generování syntetických médií budou nadále narůstat na složitosti. Vzhledem k tomu, že všechny metody detekce umělé inteligence mají chybovost, musíme pochopit a být připraveni reagovat na hluboce zakořeněné padělky, které projdou detekčními metodami,“ uvedla společnost v příspěvku na blogu.

„Z dlouhodobého hlediska proto musíme hledat silnější způsoby, jak udržet a osvědčit pravost zpravodajských článků a dalších médií.“

S několika dostupnými nástroji představila společnost Microsoft také novou technologii, která dokáže odhalit zfalšovaný obsah a zajistit, že sledovaná média jsou pravá.

Technologie se skládá ze dvou komponent. První z nich je nástroj integrovaný do Microsoft Azure, který umožňuje producentovi obsahu přidávat k obsahu digitální hashe a certifikáty.

„Hashe a certifikáty žijí s obsahem jako metadata, ať už je online kdekoli,“ uvedl Microsoft.

Druhou je čtečka, kterou lze zahrnout do rozšíření prohlížeče, jež ověřuje certifikáty a porovnává hashe se shodami, aby určila pravost.

Microsoft také spolupracuje s nadací AI Foundation v boji proti hlubokému podvodu. V rámci tohoto partnerství budou obě strany poskytovat ověřovače videa organizacím zapojeným do demokratického procesu, včetně zpravodajských organizací a politických kampaní, prostřednictvím iniciativy nadace Reality Defender 2020.

Ověřovač videa bude zpočátku k dispozici pouze prostřednictvím této iniciativy.

Další partnerství s konsorciem mediálních společností známým jako Project Origin testuje technologii ověřování pravosti od společnosti Microsoft. Na spolupráci se společností Microsoft při testování své technologie se dohodla také iniciativa několika vydavatelů a společností působících v oblasti sociálních médií Trusted News Initiative.

Společnosti Washingtonská univerzita, In-House Counterfeit Detection Sensitivity a USA Today se také spojily se společností Microsoft s cílem zlepšit mediální gramotnost.

„Zlepšením mediální gramotnosti mohou lidé eliminovat dezinformace založené na skutečných událostech a zvládat rizika levných a hlubokých podvrhů,“ uvedla společnost Microsoft. „Znalost médií nám všem může umožnit kriticky přemýšlet o mediálních souvislostech a stát se angažovanějšími občany a zároveň si užít satiru a parodii.“

V rámci tohoto partnerství bude probíhat kampaň s veřejným oznámením, která bude vyzývat lidi, aby se „pozastavili nad přemýšlením“ a ověřili si, že informace pochází od renomované zpravodajské organizace, než ji začnou sdílet nebo propagovat. na sociálních sítích před volbami.

Strany také spustily dotazník pro americké voliče, aby se dozvěděli více o syntetických médiích.

Mediální společnost Microsoft a Microsoft se dohodly, že se budou snažit získat více informací.

Rate article
Win-info | it novinky, recenze softwaru a nápověda k počítačům