Ещё в феврале этого года некоммерческая исследовательская организация OpenAI заявила, что разработала алгоритм, который может писать правдоподобные фейковые новости и прочий спам. Однако создатели вовремя оценили негативные последствия, к которым может привести выпуск этой технологии в общее пользование. Проект поставили на паузу, решив уделить больше времени тестированию. Теперь же представители OpenAI сообщают, что алгоритм готов к использованию, и никакого существенного вреда он принести не может.
Изначально искусственный интеллект, о котором идёт речь в этой новости, был разработан для того, чтоб генерировать ответы на вопросы, рассказывать истории и переводить тексты. Но со временем исследователи стали опасаться, что злоумышленники смогут использовать его в своих целях, создавая недостоверные инфоповоды. Однако все сценарии работы этого алгоритма, по словам издания Еngadget, сводились, в основном, к написанию сказок о единорогах и созданию текстовых квестов.
Поскольку тесты утилиты не привели к широко распространённому злоупотреблению, OpenAI выпустили её полноценную версию. В своём блоге разработчики пишут, что в будущем алгоритм может помочь исследователям разработать более совершенные виды систем обнаружения синтетических текстов и фейковых новостей.
Сама идея искусственного интеллекта, который может производить правдоподобные поддельные новости, по понятным причинам очень беспокоит как исследователей, так и простых пользователей. Пока непонятно, к каким последствиям на самом деле приведёт публикация алгоритма в открытом доступе, так что нам необходимо просто немного подождать.
Лучший способ осознать полный спектр способностей утилиты от OpenAI — попробовать её в деле. Вы можете получить доступ к веб-версии алгоритма, перейдя на сайт.
Вы увидите, что этот термин будет использоваться довольно часто в ближайшие пару лет, потому что он не такой надуманный. Однако надумано то, что люди смогут контролировать ИИ. Даже если мы это сделаем, как мы узнаем, делаем ли мы это социально приемлемым способом? Этично ли это? Или мы создаем ситуацию, когда один человек управляет машиной, а эта машина управляет людьми?