Google удаляет ИИ-сводки по вопросам, связанным со здоровьем: система давала неточную информацию
В мае 2024 года компания Google официально запустила функцию под названием «Обзор от ИИ» в рамках своей поисковой выдачи — с тех пор технологии на базе искусственного интеллекта предоставляют краткую сводку с основной информацией по поисковому запросу пользователей. И, что примечательно, система предоставляла краткие ответы и сводки информации даже по вопросам, связанным со здоровьем и самочувствием человека. Но, к сожалению, исходя из недавнего расследования информационного издания Guardian, ИИ довольно часто ошибался и предоставлял неточные данные — это привело к тому, что Google отключила «Обзор от ИИ» для определённых вопросов, связанных со здоровьем.
Например, эксперты отметили, что ИИ на запрос «нормальный диапазон показателей анализа крови на функции печени» выдавал множество различных цифр без контекста ситуации, а ещё система совершенно не учитывает национальность пользователя, его пол, этническую принадлежность и даже возраст пациента. Соответственно, в краткой сводке предоставлялась неточная информация, из-за которой пользователи с серьёзными заболеваниями печени могли ошибочно решить, что на самом деле они совершенно здоровы, так и не обратившись за консультацией к специалисту. Эксперты из данной области назвали данную информацию «опасной» и «тревожной», так как она может нанести реальный вред здоровью.
Хотя в Google заявили об удалении кратких сводок по вышеуказанному запросу,
К сожалению, хотя Google уже удалила краткие ИИ-сводки по запросам, связанным с результатами анализов функционирования печени (речь о двух конкретных поисковых запросах), давать развёрнутый ответ по данной ситуации представители поискового гиганта не стали.
«Мы не комментируем отдельные удаления из Поиска. В случаях, когда обзоры ИИ не учитывают контекст, мы работаем над общими улучшениями, а также принимаем соответствующие меры в соответствии с нашей политикой», — заявил представитель Google.
Кроме того, исследователи обнаружили, что если задать аналогичные вопросы по анализам печени, но с немного иной формулировкой, Google всё равно будет выдавать краткую сводку с абсолютно той же информацией, на которую ранее жаловались журналисты Guardian. Также стоит отметить, что на деле данных о здоровье в «Обзорах от ИИ», вводящих пользователей в заблуждение, может быть гораздо больше — ранее эксперты уже обнаружили множество неточностей, связанных с вопросами по психическом здоровье человека.
