Искусственный интеллект не вычислить: OpenAI закрыла инструмент распознавания ИИ-текста

В январе 2023 года компания OpenAI, разработавшая ChatGPT, выпустила специальный инструмент для распознавания текста, сгенерированного искусственным интеллектом. Однако теперь компания закрывает его, соответствующее заявление появилось на официальном сайте.

По состоянию на 20 июля 2023 года инструмент больше не доступен из-за низкой точности. Мы работаем над учетом отзывов и в настоящее время исследуем более эффективные методы проверки подлинности текста, а также взяли на себя обязательство разработать и внедрить механизмы, позволяющие пользователям понять, является ли аудио- или визуальный контент сгенерированным искусственным интеллектом.

Судя по всему, OpenAI не прекращает попытки выпустить инструмент для распознавания ИИ-контента во многом из-за его опасности — злоумышленники могут умышленно создавать убедительные и вводящие в заблуждение тексты. Это может касаться как студентов, которые хотят упростить своё домашнее задание, так и тех, кто хочет вмешаться в выборы и тому подобное.

Издание PCMag сообщает, что изначальный инструмент по определению сгенерированного ИИ текста работал довольно неточно. Только 26% текстов, созданных нейросетью, он определял как «текст, скорее всего написанный искусственным интеллектом», а в 9% случаев сервис ошибался и считал созданный человеком текст как машинный. К тому же инструмент работал только с полотнами размером не менее 1 000 символов.