Специалисты команды Unit 42, специализирующейся на расследовании кибератак и анализе вредоносного программного обеспечения, опубликовали результаты исследования, посвящённого так называемому Phantom Squatting.
Те, кто хоть немного разбирается в области искусственного интеллекта, наверняка знают, что LLM-модели имеют один недостаток — они часто выдумывают несуществующие URL-адреса. Причём, как отмечают аналитики, некоторые адреса ИИ «галлюцинирует» значительно чаще других. Например, вместо name.com он может выдать name_download.com.
Злоумышленники решили использовать галлюцинации LLM в своих интересах. Они начали регистрировать доменные имена, которые чаще всего выдаёт искусственный интеллект, чтобы впоследствии использовать их для фишинга. Это напоминает typosquatting — практику регистрации доменов с опечатками в названии, например, goggle.com вместо google.com.
В результате мошенникам даже не приходится ничего делать: на фишинговые сайты пользователей фактически направляет сам ИИ. Но ещё больше настораживает масштаб проблемы. В ходе исследования выяснилось, что злоумышленники уже зарегистрировали более 13 000 доменных имён, основанных на галлюцинациях искусственного интеллекта.
