FakeApp: DeepFake для широких масс

Чтобы создать DeepFake-видео, нужно получить большое количество разных снимков жертвы, проанализировать их с помощью GAN-алгоритмов, а потом с помощью специального ПО наложить эти лица на видеоролик. Дополнительно можно добавить к видео и текст, который будет «озвучивать» жертва – человек на видео.

Главная опасность DeepFake-технологии состоит в том, что инструменты, которые позволяют сделать все вышеописанное, стали доступны обычным людям. Для работы таких приложений нужны мощные компьютеры, но и это сегодня, в эпоху мощных серверов для майнинга криптовалют, установленных в обычных квартирах, не является проблемой.

Главным инструментом для создания DeepFake-видео является приложение FakeApp. Несмотря на блокировку оригинального сайта приложения http://www.fakeapp.org/ и различных упоминаний и обсуждений его использования, в Сети еще сохранились сайты-зеркала , а на Reddit есть раздел со ссылками на скачивание FakeApp со страниц файловых хостингов Google Drive и анонімного Mega, а также с инструкциями по его применению.

Вот несколько примеров использования FakeApp с Бараком Обамой:

И весьма грубая подделка с Марком Цукербергом:

Журналист The New York Times Кевин Роуз (Kevin Roose) протестировал  работу FakeApp и описал свой опыт. Для создания видео ему пришлось использовать удаленный сервер, арендованный через Google Cloud Platform, который обеспечил достаточную вычислительную мощность. Но даже и в этом случае удаленный сервер генерировал модели более 8 часов. Аренда сервера обошлась в $85,96. На обычном ноутбуке для такой задачи могут понадобиться дни или даже недели. В эксперименте для первого DeepFake-ролика использовались более 400 фото автора статьи и более тысячи снимков его двойника (актера Райана Гослинга). Хотя видео вышло весьма размытым.

Эксперимент журналиста был интересен еще и тем, что и его участник – пользователь Reddit, и разработчик FakeApp, прокомментировавший работу приложения, так и остались анонимными – они не назвали свои настоящие имена и общались с помощью ников и обезличенных адресов электронной почты.

ИсточникЮ www.stopfake.org