adblock check

ChatGPT больше не друг студента? Он теперь встраивает в текст водяные знаки — вот как выглядят

Это похоже на какой-то эксперимент или временную меру со стороны разработчиков нейросети OpenAI

Одну из проблем ИИ-моделей относят к сфере обучения — возможность сгенерировать сочинения и подобные работы вместо того, чтобы писать их самим, массово привлекает школьников и студентов. Проблема в том, что распознать сгенерированный текст трудно или вообще нельзя. Видимо, для борьбы с этим (вслед за объявлением о тестировании водяных знаков на сгенерированных изображениях) разработчики ChatGPT начали встраивать в текст специальные невидимые символы.

ChatGPT больше не друг студента? Он теперь встраивает в текст водяные знаки — вот как выглядят

Эти невидимые символы представляют собой специальные Unicode-коды (например, неразрывного пробела), которые незаметны человеческому глазу, но видны в специальных редакторах. Например, они отображаются в популярном текстовом редакторе Sublime Text или в онлайн-инструментах.

В блоге Rumi (сотрудники этой компании заметили это одними из первых) сообщают, что ChatGPT стал поступать вышеописанным образом только в новых моделях o3 и o4-mini при генерации длинных ответов (например, на запрос «напиши полное эссе о Департаменте образования»). Но личный опыт автора этой новости несколько иной — невидимые символы встраиваются и в короткие ответы, если генерируемый текст похож на читинг со стороны пользователя. Похоже, что сейчас это работает только с ответами на английском языке.

ChatGPT больше не друг студента? Он теперь встраивает в текст водяные знаки — вот как выглядят

На данный момент разработчики ChatGPT нигде не сообщали об этом нововведении — вероятно, специально, чтобы о нём знало как можно меньше людей и, соответственно, такие водяные знаки не удалялись (а стираются они в любом текстовом редакторе). В Rumi видят это временной мерой со стороны OpenAI, ведь общественность рано или поздно массово узнает о таком поведении нейросетей, с которым легко бороться.

В будущем разработчикам ничего не помешает отказаться от этого новшества, как когда-то они тихо закрыли свой сервис для определения сгенерированных текстов (который работал с крайне низкой точностью).

Источник

BoobyBoo85 BoobyBoo85
Без вести проспавший
ИИ ИИ
11,8K участников
Вступить
10 комментариев по лайкам по дате
Оставьте комментарий...
Оставьте комментарий...
Абсолютно бесполезная функция так как 100% сделают сайт в который можно сгенерированный текст вставить и получить текст без этих водяных знаков (может уже такой есть)
scarf 3 месяца
Открою секрет. Многие не будут таким пользоваться. А уже сейчас есть спец проги которые отслеживают данные текста и узнают что их сделала нейронка. Так же как с метаданными с фотографий.
BoobyBoo85 3 месяца
Автор
Проблема в том, что эти спецпроги демонстрируют низкую точность распознавания
пофиг.
Bobs 3 месяца
Чепуха, это просто неразрывные пробелы и узкие неразрывные пробелы, просто расставили по правилам типографики
saibaken 3 месяца
Видимо новые модели как раз обучали без чистки этих пробелов или получилось обучить правилам типографики
Bobs 3 месяца
Не исключено, что это не типографика через обучение моделей, а просто постобработка через фиксированные правила
Osipart555 3 месяца
В университетах давно есть программы для распознавание текста нейросети, такие как Антиплагиат. Водяные знаки это вообще не проблема, для любого уверенного пользователя ПК, знающий word, Excel 😅 Любой дурак может прогонять текст через среду разработки, скомпилировав в другой формат и обратно. Другое дело сам текст, стилистика и синтаксис. Пока нейросеть пишет не очень, потому доврльно легко это выявляется!
BoobyBoo85 3 месяца
Автор
Вроде как ни один сервис не может с достаточным процентом ошибок определить текст нейросети
Limows 3 месяца
Xiaomi ❤︎
Наконец-то
Оставьте комментарий...
Оставьте комментарий...