Microsoft предупредила, что ИИ-агенты в Windows 11 могут быть опасны для устройства
Несколько дней назад компания Microsoft сообщила об оптимизации ИИ-агентов в операционной системе Windows 11. При этом разработчики предупреждают о возможных уязвимостях в безопасности при включении подобного функционала.
Для тех кто не знает, ИИ-агенты — это встроенные интеллектуальные помощники, интегрированные в интерфейс операционной системы, которые предназначены для автоматизации рутинных задач. В последнем сообщении компания Microsoft заявила:
«После внедрения этих возможностей [ИИ-агентов — прим. ред.] искусственный интеллект по-прежнему может сталкиваться с функциональными ограничениями в плане своего поведения и иногда может галлюцинировать, выдавая неожиданные результаты».
К счастью для пользователей, сейчас ИИ-агенты не являются обязательным функционалом, и их можно активировать, включив переключать «Экспериментальные агентские функции» в разделе «Параметры» > «Система» в разделе «Компоненты ИИ». Переключатель появляется после установки сборки за номером 26220.7262.
При включении функции операционная системе выдаст предупреждение о том, что эти возможности являются экспериментальными и могут повлиять на устройство (на главном изображении). На практике самую большую опасность представляют угрозы безопасности. Уже выявлены случаи атак, связанные с работой агентов Windows 11, включая внедрение так называемых кросс-подсказок. В таких атаках вредоносные инструкции скрываются внутри обычных документов или элементов интерфейса, поэтому агент следует им вместо выполнения своей первоначальной задачи. Это может позволить агенту установить вредоносное ПО, раскрыть платёжные данные или выполнить другие вредоносные действия.
И хотя, как утверждают разработчики, ИИ-агенты работают в некоем подобие «песочницы», искусственный интеллект может работать с файлам (читать или записывать), расширяя потенциальную угрозу. Даже с ограниченными наборами действий и отдельными учётными записями эти настройки по умолчанию оставляют пробелы, пока Microsoft не внедрит более надёжную защиту, например, более детальные разрешения и надёжную защиту от внедрения подсказок.
