OpenAI запустила систему определения возраста в ChatGPT: несовершеннолетних будут ограничивать
Вчера, 20 января, компания OpenAI официально сообщила о внедрении новой функции прогнозирования возраста пользователей чат-бота ChatGPT, которая должна помочь системе определить, принадлежит ли учётная запись того или иного юзера человеку младше 18 лет. Для прогнозирования возраста пользователя модель компании анализирует сочетание поведенческих сигналов юзера, а также дополнительные параметры учётной записи. Например, как долго существует аккаунт пользователя, в какое время суток обычно пользователь активнее всего взаимодействует с чат-ботом, как меняется формат запросов с течением времени и так далее.
Во внимание также принимается и возраст, который пользователь указал при регистрации аккаунта, но, очевидно, это не ключевой параметр, так как дату можно указать любую. В результате анализа система может определить пользователя в категорию «до 18 лет», и если это произошло по ошибке, человек всегда может быстро и достаточно легко подтвердить свой реальный возраст, восстановив полный доступ к ИИ-функциям. Для этого достаточно отправить селфи посредством Persona — это «безопасный сервис проверки личности», который рекомендует сама OpenAI.
При этом если модель прогнозирования возраста определит, что учётная запись в чат-боте принадлежит пользователю младше 18 лет, ChatGPT автоматически применит дополнительные меры защиты, направленные на снижение риска доступа несовершеннолетнего к конфиденциальной информации. Речь о довольно широком списке контента:
- графическое насилие или контент, содержащий кровавые сцены;
- вирусные челленджи, которые могут побудить несовершеннолетних к рискованному или опасному поведению;
- сексуальные, романтические или насильственные ролевые игры;
- описания самоповреждений;
- контент, продвигающий экстремальные стандарты красоты, нездоровые диеты или боди-шейминг.
Кроме того, если пользователь в процессе регистрации сам указал, что ему нет 18 лет, система автоматически применит вышеперечисленные ограничения. Правда, в компании не сообщили, будут ли ограничения автоматически сняты по достижению пользователем совершеннолетия. И, скорее всего, данное нововведение напрямую связано с грядущими изменениями в работе чат-бота — ещё в прошлом году OpenAI сообщила о желании запустить некий «взрослый режим» (он же Adult mode) общения с ИИ, в рамках которого будет гораздо меньше ограничений и запретных тем.
