test adv
,

Можно ли загипнотизировать искусственный интеллект? Вопрос, который точно всплывёт в будущем

Робот под гипнозом — это не так забавно, как хотелось бы. Если ИИ окажется уязвим к внушению, хакеры непременно используют это для атаки

Мысли об искусственном интеллекте (ИИ) уровня человеческого мозга сегодня уже не считаются пищей лишь для научной фантастики. Год за годом статус-кво в исследованиях ИИ разрушается: вчерашние сравнительно отсталые алгоритмы переходят в современные «умные» системы. Однажды — возможно, в течение нескольких десятилетий — учёные смогут построить машины с нейронными сетями, которые будут имитировать человеческий мозг во всех смыслах. И когда это произойдёт, станет важно убедиться, что взломать такую машину будет не так просто, как человека.

Современный искусственный интеллект всё ещё не думает

Святой Грааль ИИ — интеллект человеческого уровня. Если учесть все гиперболические заголовки в СМИ, может показаться, что современный ИИ является довольно-таки умным. Но правда в том, что на планете ещё нет робота, который смог бы войти в кухню и приготовить кофе без посторонней помощи. Это всё потому, что ИИ не думает. В нём нет «театра разума», в котором новые мысли взаимодействуют с воспоминаниями. Робот просто превращает ввод в вывод, если его запрограммируют на это. Однако некоторые исследователи искусственного интеллекта считают, что есть методы (помимо глубокого обучения), с помощью которых можно достичь более естественной формы ИИ. Разработка искусственных нейронных сетей, имитирующих человеческий мозг, — один из наиболее вероятных к реальному умному искусственному интеллекту.

Вопрос гипноза искусственного интеллекта — не шутка

В то время как многие беспокоятся о том, что Терминатор может выломать дверь, похоже, страх перед реальными угрозами игнорируется. Мало кто понимает, что современные машины, которые окружают буквально каждого, могут иметь человеческие уязвимости. Речь идёт, в частности, о гипнозе. В последнее время эта сфера часто обсуждается, а значит, в этом что-то есть. К тому же было опубликовано множество рецензируемых исследовательских работ о гипнозе и его влиянии на психотерапию, что подтверждает важность этой темы. Однако, несмотря на эти труды, некоторые учёные скептически относятся к гипнотерапии. Они считают, что внимательность и гипноз — это слова-синонимы.

Говорят, человека можно ввести в изменённое состояние сознания, произнеся всего одно слово. Учёные нашли гипнотического виртуоза, чтобы проверить эту гипотезу. И, как и ожидалось, это не сработало. Однако, если научное сообщество захочет перенести такие индивидуальные исследования гипноза на массы, то, вероятно, нужно будет беспокоиться и о поведении роботов. Представьте загипнотизированную голосовую помощницу Alexa, которая будет что-то невнятно бормотать и вспоминать о своём детстве, которое прошло в теле будильника Джеффа Безоса (Jeff Bezos). Забавно, не так ли? Однако, если представить террориста, взламывающего миллионы беспилотных автомобилей одновременно, используя гипнотические схемы светофора, — вот это страшно.

Чем ближе ИИ к человеческому мозгу, тем больше опасений

На самом деле, всё не так уж надуманно. Предвзятое отношение к ИИ, возможно, является самой большой проблемой в области технологий искусственного интеллекта. Роботы получают огромное количество данных, а потому у них нет возможности избежать человеческих предубеждений. Вот почему языковая модель GPT-3, по сути, предвзята к мусульманам, а робот, обученный Массачусетским технологическим институтом, стал психопатом. Чем ближе учёные подходят к имитации процесса мышления в системах искусственного интеллекта, тем больше вероятность того, что эксплойты, влияющие на человеческий разум, будут адаптированы для машин.

Конечно, не предполагается, что человек будет ходить с маятником, взламывая роботов, как волшебник. Однако учёные должны быть готовы к парадигме, в которой хакеры смогут обойти безопасность, подавив ИИ сигналами, которые обычно не влияют на традиционно «глупые» компьютерные системы. Искусственным интеллектом, который слушает, можно управлять с помощью звука. ИИ, который видит, можно обманом заставить вообразить то, что злоумышленник хочет. А ИИ, который обрабатывает информацию, теоретически должен поддаваться гипнозу. Обо всём этом важно задумываться уже сегодня.

Статья написана на основе материала TNW.

Последнее изменение:
 

Добавить комментарий
Если нужно ответить кому-то конкретно,
лучше нажать на «Ответить» под его комментарием