Для борьбы с распространением глубоких подделок компания Microsoft выпустила новый инструмент проверки подлинности видео, который может быть использован для анализа неподвижного изображения или видео для определения процентной вероятности того, что носитель был искусственно манипулирован.
В случае видео компания Microsoft заявила, что этот процент может быть предоставлен в режиме реального времени для каждого кадра во время воспроизведения видео. Обнаружение линии смешения глубоких, тонких градаций серого или выцветающих элементов, которые могут быть не видны человеческому глазу.
Глубокие подделки или синтетические носители могут быть фотографиями, видео или аудиофайлами, которыми манипулирует искусственный интеллект (ИИ). Обнаружение глубоких подделок жизненно важно для предстоящих выборов в США, утверждает Microsoft.
Технология была создана с использованием публичного набора данных Face Forensic ++. Microsoft заявила, что она была протестирована с набором данных DeepFake Detection Challenge, который считается ведущей моделью. для обучения и тестирования входящих технологий обнаружения подделок.
«Мы предполагаем, что методы создания синтетических носителей будут продолжать усложняться. Поскольку все методы обнаружения ИИ имеют погрешности, мы должны понимать и быть готовыми реагировать на глубоко законспирированные подделки, которые проходят через методы обнаружения», — говорится в сообщении компании в блоге.
«Поэтому в долгосрочной перспективе мы должны искать более надежные способы поддержания и подтверждения подлинности новостных статей и других средств массовой информации».
С помощью нескольких доступных инструментов Microsoft также представила новую технологию, которая может обнаружить фальсифицированный контент и гарантировать, что просматриваемые вами средства массовой информации являются подлинными.
Технология состоит из двух компонентов. Первый — это инструмент, встроенный в Microsoft Azure, который позволяет производителю контента добавлять цифровые хэши и сертификаты к контенту.
YouTube video: Microsoft анонсирует видео аутентификатор для выявления глубоких подделок
«Хэши и сертификаты живут с контентом как метаданные, где бы он ни находился в сети», — заявили в Microsoft.
Второй — это считыватель, который может быть включен в расширение браузера, проверяющее сертификаты и сравнивающее хэши с совпадениями для определения подлинности.
Microsoft также сотрудничает с Фондом ИИ в борьбе за глубокое притворство. В рамках партнерства обе стороны предоставят видео аутентификаторы организациям, участвующим в демократическом процессе, включая новостные организации и политические кампании, в рамках инициативы фонда «Защитник реальности 2020».
Первоначально видео аутентификатор будет доступен только в рамках этой инициативы.
В рамках другого партнерства с консорциумом медиакомпаний, известным как Project Origin, тестируется технология аутентификации Microsoft. Инициатива нескольких издателей и компаний социальных сетей, Trusted News Initiative, также согласилась сотрудничать с Microsoft для тестирования своей технологии.
Университет Вашингтона, In-House Counterfeit Detection Sensitivity и USA Today также объединились с Microsoft для повышения медиаграмотности.
«Повышая медиаграмотность, люди могут исключить дезинформацию, основанную на реальных событиях, и управлять рисками дешевых и глубоких подделок», — заявили в Microsoft. «Знание СМИ может позволить всем нам критически осмыслить контекст СМИ и стать более вовлеченными гражданами, наслаждаясь сатирой и пародией».
В рамках этого партнерства будет проведена кампания социальной рекламы, которая предложит людям «сделать паузу для размышлений» и проверить, что информация исходит от авторитетной новостной организации, прежде чем делиться ею или продвигать ее в социальных сетях перед выборами.
Партии также запустили анкету для американских избирателей, чтобы узнать больше о синтетических СМИ.
