Генеральный директор Midjourney Дэвид Хольц сообщил в Discord, что компания временно прекращает бесплатное тестирование одноимённой нейросети из-за «чрезвычайного спроса и злоупотребления пробными версиями». По словам Хольца, меры предосторожности оказались недостаточными для предотвращения создания фейковых изображений. Бесплатное тестирование будет закрыто до внедрения следующих улучшений системы. В настоящее время за использование технологии придется платить не менее 10 долларов в месяц.
Как объясняет The Washington Post, в последние недели Midjourney оказалась в центре скандалов и нежелательного внимания. Пользователи с помощью нейросети создали реалистичные подделки арестованного Дональда Трампа и Папы Франциска в дорогом пуховике. Эти изображения были быстро идентифицированы как фальшивые, но есть опасения, что Midjourney, DALL-E от OpenAI и подобные генераторы могут быть использованы для распространения дезинформации.
Midjourney признала, что ей трудно установить политику в отношении контента, поскольку нейросеть позволяет создавать всё более реалистичные изображения. В 2022 году Хольц оправдал запрет на изображения китайского лидера Си Цзиньпина, написав в Discord, что команда хочет лишь «минимизировать драму», так как наличие доступа нейросети в Китае важнее сатирического контента. В ответ на изображения Трампа компания запретила использовать слово «арестован» в текстовых подсказках. Однако эти запреты можно легко обойти изменением формулировки.
Беспокойства по поводу использования нейросетей стремительно возросли вместе с их быстрым развитием. 29 марта более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо с призывом приостановить «опасные» эксперименты с ИИ до моменты выработки общих протоколов безопасности.
