В ChatGPT появится родительский контроль: OpenAI меняет подход к деликатным беседам
В последнее время пользователи всё чаще обращаются к ChatGPT в трудные моменты своей жизни, пытаясь получить полезный и ценный совет от искусственного интеллекта. В связи с этим вчера, 2 сентября, компания OpenAI в своём официальном блоге рассказала о стремлении усовершенствовать фирменные большие языковые модели, чтобы они лучше распознавали признаки психического и эмоционального стресса, реагируя на подобные сценарии соответствующим образом, опираясь в ответах на рекомендации экспертов из данной области. Разработчики даже поделились дорожной картой на следующие 120 дней, чтобы пользователи знали, чего им ожидать.
Например, компания продолжает расширять свой экспертный совет по вопросам благополучия за счёт психиатров, педиатров и врачей общей практики, которые вносят свой вклад в развитие больших языковых моделей. Эти специалисты помогают OpenAI разобраться в том, как модели должны вести себя в контексте психологического здоровья пользователя, плюс они принимают участие в усовершенствовании систем безопасности LLM.
Собственно, в свежем посте вопросу безопасности компания уделила особое внимание — теперь, к примеру, если система определяет деликатные беседы, чат-бот автоматически переводит разговор на модели рассуждения GPT-5-thinking и o3. По информации компании, эти модели уделяют больше внимания размышлениям и лучше анализируют контекст перед ответом, что позволяет им точнее следовать правилам безопасности, демонстрируя повышенную устойчивость к вредоносным подсказкам. В результате, какую бы модель пользователь не выбрал в рамках общения с чат-ботом, если ИИ определит признаки острого стресса, юзера принудительно переключат на «думающую» версию модели.
Завершает же список новых функций чат-бота система родительского контроля, которая заработает в течение следующего месяца. Благодаря данному улучшению родители смогут связать свою учётную запись с профилем ребёнка посредством простого приглашения посредством электронной почты. После этого родители смогут контролировать взаимодействие подростка с ChatGPT и управлять поддержкой определённых функций (например, можно будет отключить память или историю чата). И, что куда важнее, если система обнаружит, что ребёнок находится в стрессовом состоянии, родители получат уведомление, дабы предпринять определённые шаги — например, обратиться к специалисту.
