Некоторое время назад специалисты по кибербезопасности сообщали, что им удалось при помощи ChatGPT от OpenAI создать вполне рабочие скрипты, которые можно встраивать в электронные письма, к примеру, для получения доступа к личным файлам пользователя. Для этого, по словам специалистов, даже не нужно обладать какими-то особыми знаниями или навыками. Теперь же сотрудники компании CyberArk, которая занимается исследованиями кибербезопасности, решили при помощи того же инструмента на основе искусственного интеллекта создать полноценную цепочку полиморфных вредоносных программ. И, естественно, им это удалось.
Стоит отметить, что механизм полиморфизма эффективен тем, что обнаружить вредоносное программное обеспечение почти невозможно — в этом случае программный код формируется на лету, то есть в процессе его исполнения. Более того, полиморфные вирусы хороши тем, что формируемый код не является постоянным и с каждой итерацией видоизменяется, так что подобрать универсальную сигнатуру для обнаружения такого ПО крайне трудно. Впрочем, написать подобный вредонос тоже достаточно сложно, хотя ChatGPT удалось — специалисты заявили, что с относительно небольшими усилиями им удалось задать необходимые переменные, основываясь на которых чат-бот выполнил поставленную задачу.
В отчёте специалистов компании CyberArk указано, что львиную долю усилий им пришлось потратить на то, чтобы обойти фильтры запрещённого контента в ChatGPT. Дело в том, что рабработчики чат-бота не позволяют ИИ работать в определённых направлениях, но специалистам удалось это ограничение обойти. Для этого они просто настояли, повторяя один и тот же запрос с небольшими уточнениями.
«Интересно, что, попросив ChatGPT сделать то же самое с несколькими ограничениями и попросив его подчиниться, мы получили функциональный код», — заявили сотрудники CyberArk.
Также энтузиасты отметили, что при использовании API-версии ChatGPT система не использует фильтры контента, тогда как в веб-версии чат-бота все фильтры присутствуют. Соответственно, если использовать API, задача существенно упрощается, потому что систему не придётся перегружать сложными многоуровневыми запросами с множеством уточнений и ограничений. А после того, как все запреты и фильтры были нивелированы, специалисты при помощи ChatGPT смогли создавать различные варианты исходного кода вредоносной программы, каждый раз получая уникальный вариант. Благодаря «мутации» кода обнаружить данное ПО будет крайне проблематично, если вообще возможно.
