Геймер обнаружил, что Microsoft обучает свой ИИ на скриншотах его геймплея
Совсем недавно, 18 сентября, компания Microsoft в своём официальном блоге сообщила, что Gaming Copilot, геймерский ИИ-помощник, появится на ПК и смартфонах в формате беты, чтобы помогать пользователям в прохождении их любимых видеоигр. Данная система должна подсказывать игрокам, как пройти тот или иной квест, разгадать головоломку, победить сложного босса и многое другое. А вчера, 22 октября, пользователь форума ResetEra обнаружил, как именно компания обучает своего «геймерского наставника» — и большинству юзеров это очень не понравится.
«Это приложение было автоматически установлено на мой компьютер, и, наблюдая за сетевым трафиком, я понял, что оно автоматически отправляет все мои действия в Microsoft. Включая действия, связанные с игрой, по которой у меня заключено соглашение о неразглашении», — заявил пользователь с ником RedbullCola.
Чтобы удостовериться в своих предположениях, пользователь отправился в настройки Gaming Copilot. И, что удивит многих геймеров со всего мира, по умолчанию здесь активирована функция обучения искусственного интеллекта на основе текста, отображаемого на экране пользователя во время прохождения игр. То есть система делает скриншоты всего происходящего, а затем в автоматическом режиме распознаёт текст из конкретной игры и отправляет эту информацию на серверы Microsoft. И после этого компания использует действия игрока и его время, проведённое в различных тайтлах для того, чтобы обучить свои большие языковые модели.
Журналисты информационного издания Wccftech провели небольшое расследование и подтвердили, что функция обучения ИИ действительно активирована по умолчанию, но это ещё не самое неприятное. Издание отмечает, что инструмент Gaming Copilot также может обучаться, используя любые голосовые разговоры пользователя с ИИ-помощником во время прохождения видеоигр. Кроме того, приложение собирает данные о персонализации системы и различные данные из памяти, чтобы затем передать эту информацию компании.
Безусловно, все вышеперечисленные опции можно отключить («Игровая панель» → Gaming Copilot → иконка шестерёнки → «Настройки конфиденциальности» → отключить пункт Model training on text), чтобы перекрыть доступ компании к контенту, которым геймеры делиться не хотят. Проблема только в том, что с огромной долей вероятности миллионы геймеров со всего мира даже не подозревают о том, что их данные собирают и используют таким образом.
