20 декабря глава отдела по кибербезопасности Facebook* Натаниэль Глейхер (Nathaniel Gleicher) поделился итогами расследования, в ходе которого были заблокированы несколько сотен поддельных аккаунтов Facebook* и Instagram*. Аккаунты, в том числе страницы и группы, создавались в целях дезинформации пользователей из Вьетнама и США. Сообщается, что эти ресурсы регулярно публиковали записи о политической обстановке в Соединённых Штатах, позиционируя себя как политических деятелей и СМИ.
В рамках широкомасштабной кампании по борьбе с манипуляциями общественным мнением было удалено 610 аккаунтов в Facebook* и 72 в Instagram*. Как сообщает The New York Times, учётные записи были связаны с компанией Epoch Media Group, являющейся издателем консервативной газеты The Epoch Times. Однако в своём письме изданию компания опровергла свою причастность к данной схеме.
Сотрудники Facebook* заявили, что идентифицировать фейковые аккаунты было предельно сложно, поскольку организаторы кампаний опирались на тип искусственного интеллекта, называемый генеративно-состязательными сетями (GAN). Данная технология способна создавать реалистичные изображения лиц с помощью алгоритма машинного обучения — процесса, выявляющего закономерности. Обучение происходит следующим образом: первая, генеративная нейронная сеть, создаёт образы, а вторая, дискриминативная, сопоставляет их с реальными объектами. Если сходство незначительно, процесс будет повторяться до тех пор, пока не будет найден эталонный образ. Эксперты из Лаборатории цифровой криминалистики Атлантического совета (DFRLab) совместно с компанией Graphika, специализирующейся на изучении дезинформации, подтвердили факт использования искусственного интеллекта в фотографиях профилей.
* Деятельность Meta* (соцсети Facebook* и Instagram*) запрещена в России как экстремистская.
