Компания Microsoft предупредила пользователей о возможных ошибках ИИ-агентов Copilot после запуска новой функции Cowork. Она предназначена для автоматизации рабочих процессов и может самостоятельно выполнять различные задачи, включая работу с приложениями и файлами. При этом компания подчёркивает, что полностью полагаться на результаты работы ИИ не стоит.
В Microsoft отдельно отмечают, что Copilot способен неправильно понять инструкцию, допустить ошибку или отреагировать на скрытые вредоносные указания. Поэтому пользователям рекомендуют внимательно проверять действия агента, особенно если они связаны с деньгами, личными данными или изменением информации в аккаунтах.
В Cowork также появилась функция «Утверждение действий». Она запрашивает разрешение перед выполнением потенциально чувствительных операций. Пользователь может подтвердить действие или отменить его, а при необходимости остановить выполнение задачи уже после начала работы.
Подтверждение потребуется в следующих случаях
- совершение покупок и другие денежные операции;
- передача имени, адреса, номера телефона и других личных данных сторонним сайтам;
- отправка электронных писем и сообщений;
- удаление файлов, изменение облачного хранилища и настроек аккаунта;
- работа с медицинской и государственной информацией, а также действия, связанные с безопасностью.
Microsoft отдельно напоминает, что ответственность за действия Copilot остаётся за пользователем. В компании советуют проверять получателей, содержимое и другие параметры перед подтверждением операции.
Новая система должна снизить риск случайных действий со стороны ИИ, однако полностью исключить ошибки она не может. Поэтому даже при автоматизации пользователю всё равно придётся контролировать наиболее важные операции.
