Pentru a contracara proliferarea falsurilor profunde , Microsoft a lansat un nou instrument de autentificare video care poate fi folosit pentru a analiza o imagine statică sau video pentru a determina un procent de probabilitate ca un mediu să fi fost manipulat în mod artificial.
În cazul unui video, Microsoft a declarat că acest procent ar putea fi furnizat în timp real pentru fiecare cadru în timp ce videoclipul este redat. Detectează linia de îmbinare a unor elemente profunde, subtile în tonuri de gri sau a unor elemente de estompare care pot să nu fie vizibile pentru ochiul uman.
Deepfakes sau medii sintetice pot fi fotografii, videoclipuri sau fișiere audio care sunt manipulate de inteligența artificială (AI). Detectarea falsurilor profunde este vitală pentru viitoarele alegeri din SUA, potrivit Microsoft.
Tehnologia a fost creată folosind un set de date publice de la Face Forensic ++. Microsoft a declarat că a fost testată cu setul de date DeepFake Detection Challenge, care se crede că este modelul principal. pentru a antrena și testa tehnologiile de detectare a falsurilor primite.
„Anticipăm că metodele de generare a mediilor sintetice vor continua să crească în complexitate. Deoarece toate metodele de detectare a IA au rate de eroare, trebuie să înțelegem și să fim pregătiți să reacționăm la falsurile adânc înrădăcinate care trec prin metodele de detectare.” a declarat compania într-o postare pe blog.
„Pe termen lung, prin urmare, trebuie să căutăm modalități mai puternice de a menține și certifica autenticitatea articolelor de știri și a altor mijloace media.”
Cu câteva instrumente disponibile, Microsoft a introdus, de asemenea, o nouă tehnologie care poate detecta conținutul falsificat și se poate asigura că mijloacele media pe care le urmăriți sunt autentice.
Tehnologia este formată din două componente. Prima este un instrument integrat în Microsoft Azure care permite unui producător de conținut să adauge hașuri și certificate digitale la conținut.
„Hașurile și certificatele trăiesc cu conținutul ca metadate, oriunde s-ar afla online”, a declarat Microsoft.
A doua este un cititor care poate fi inclus într-o extensie de browser care verifică certificatele și compară hașurile cu potrivirile pentru a determina autenticitatea.
Microsoft a încheiat, de asemenea, un parteneriat cu Fundația AI în lupta sa cu deep sham. Ca parte a parteneriatului, ambele părți vor furniza autentificatoare video organizațiilor implicate în procesul democratic, inclusiv organizațiilor de știri și campaniilor politice, prin intermediul inițiativei Reality Defender 2020 a fundației.3>
Autentificatorul video va fi disponibil inițial doar prin intermediul inițiativei.3>
Un alt parteneriat cu un consorțiu de companii media cunoscut sub numele de Project Origin testează tehnologia de autenticitate a Microsoft. O inițiativă a mai multor editori și companii de social media, Trusted News Initiative, a fost, de asemenea, de acord să colaboreze cu Microsoft pentru a-și testa tehnologia.
Universitatea din Washington, In-House Counterfeit Detection Sensitivity și USA Today au făcut, de asemenea, echipă cu Microsoft pentru a îmbunătăți alfabetizarea media.
„Prin îmbunătățirea alfabetizării media, oamenii pot elimina dezinformarea bazată pe evenimente reale și pot gestiona riscurile legate de falsurile ieftine și profunde”, a declarat Microsoft. „Cunoașterea mass-media ne poate permite tuturor să ne gândim critic la contextul mediatic și să devenim cetățeni mai implicați, bucurându-ne în același timp de satiră și parodie.”
În cadrul acestui parteneriat, va exista o campanie de anunțuri de serviciu public care va invita oamenii să se „oprească pentru reflecție” și să verifice dacă informația provine de la o organizație de știri de încredere înainte de a o împărtăși sau promova. pe rețelele sociale înainte de alegeri.
Partidele au lansat, de asemenea, un chestionar pentru alegătorii americani pentru a afla mai multe despre mass-media sintetică.
