Gemini научился определять видео, сгенерированные при помощи ИИ от Google
В последнее время на просторах интернета появилось очень много сервисов, позволяющих генерировать видеозаписи по текстовым инструкциям — и некоторые из них создают настолько реалистичный контент, что отличить его невооруженным глазом от реальных кадров практически невозможно. Чтобы частично решить эту проблему, компания Google расширила свои инструменты, отвечающие за обеспечение прозрачности, чтобы пользователям было гораздо проще определять контент, сгенерированный искусственным интеллектом. Например, теперь юзер может проверить, было ли видео создано или сгенерировано при помощи ИИ-инструментов от Google непосредственно в приложении Gemini.
Для этого достаточно открыть приложение для взаимодействия с Gemini (в вебе или на мобильном устройстве), загрузить видеозапись в чат с искусственным интеллектом, а затем спросить что-то в духе «Это было сгенерировано с помощью искусственного интеллекта Google?». После этого алгоритмы Gemini просканируют аудио- и видеодорожки предоставленного материала на наличие невидимого водяного знака SynthID, а затем система сообщит, какие сегменты видео содержат элементы, сгенерированные при помощи искусственного интеллекта от компании Google. Например, Gemini может выдать что-то вроде «SynthID обнаружен в аудиодорожке между 10 и 20 секундами. В видеоряде SynthID не обнаружен».
Правда, в компании заявили, что пока что данная функция поддерживает исключительно файлы весом до 100 МБ и продолжительностью до 90 секунд. Учитывая, сколько ресурсов системе необходимо на то, чтобы проанализировать видеоряд, такой подход вполне понятен. Кроме того, и это тоже довольно важный момент, новая функция верификации контента доступна на всех языках и во всех странах, где поддерживается приложение Gemini. Это значит, что в регионах, где ИИ от Google не поддерживается, проверить видео на каком-то из языков будет невозможно.
И, конечно, стоит сделать акцент на том, что новые алгоритмы способны обнаружить сгенерированный контент в видеоролике только в том случае, если видеоряд был создан или изменён при помощи инструментов от Google. То есть если видео было создано при помощи ИИ-инструментов другого разработчика, Gemini, скорее всего, распознать искусственный контент не сможет, либо же будет выполнять поставленную задачу с низкой степенью точности.
