Чат-бот Claude теперь может завершить диалог, если посчитает его оскорбительным
Сегодня, 18 августа, информационное издание The Verge со ссылкой на свои источники сообщило, что компания Anthropic выпустила довольно важное обновление, которое в корне изменит общение пользователя с чат-ботом Claude. Суть в том, что если искусственный интеллект посчитает диалог оскорбительным или нарушающим правила площадки, он, в качестве крайней меры, просто завершит общение в данной беседе, полностью её заблокировав. В компании рассказали, что данный механизм будет активирован в том случае, если пользователь продолжит запрашивать у чат-бота генерацию вредоносного контента, несмотря на множественные отказы ИИ.
В Anthropic рассказали, что если чат-бот примет решение прекратить диалог, пользователь больше не сможет в данной беседе отправлять сообщения. При этом самого пользователя, естественно, блокировать никто не станет — он всё ещё сможет создавать новые чаты с искусственным интеллектом, редактировать и переписывать предыдущие сообщения в рамках чат-бота Claude. Более того, представители компании делают акцент на том, что большинству пользователей переживать из-за блокировки диалога не стоит, потому что львиная доля юзеров чат-бота никогда с этим не столкнётся, даже если речь идёт об обсуждении спорных тем.
Также, что немаловажно, чат-бот с апдейтом получил настройку не завершать диалог в случае, если общение идёт с человеком, у которого есть определённые проблемы с психическим здоровьем. Более того, компания-разработчик ИИ даже заключила партнёрское соглашение с онлайн-сервисом кризисной поддержки Throughline, чтобы улучшить ответы на ряд вопросов, связанных с ментальными проблемами пользователей. Соответственно, блокировать диалоги ИИ будет только в крайних случаях, когда запросы пользователя явно выходят за пределы адекватного поведения.
