Вас беспокоит робо-апокалипсис? Сотни фантастических фильмов уже предвидели вариант, в котором может быть развернут сценарий восстания роботов. Нет гарантий, что самообучающаяся умная машина не подвластна обычному сбою. Даже в случае, если машины не собираются захватывать мир и выкачивать из него энергию, есть риск, что искусственный интеллект может принять ошибочные решения. Именно поэтому Google создает безопасный способ как предотвратить эти действия.
Есть две противоборствующие стороны в данном вопросе. Первая сторона — это Google, Facebook*, Amazon и Microsoft, которые хорошо инвестируют в развитие ИИ, и другая — это Элон Маск и Стивен Хокинг, которые со скептицизмом относятся к вопросу.
Компания DeepMind, принадлежащая Google, создала меры безопасности, благодаря которым можно перехватить управление роботом. Эта система позволит человеку-оператору остановить самообучение машины и предотвратить возможность причинения вреда человечеству, и окружающей среде.
«Как только искусственный интеллект достигнет уровня человека, во многих сферах ожидается резкий скачек в развитии. Кроме того, ИИ будет воспроизводить себя. Только оцените эти перспективы и в то же время возможные опасности». — Считает Бостром.
Опубликованный документ является совместной работой DeepMind и оксфордского Института будущего человечества. Ник Бостром, директор и учредитель института, не первый год занимается изучением опасного развития ИИ. По этому поводу он написал несколько книг, в которых обсуждал возможные последствия «восстания машин».
* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.
Почему ИИ превзойдя человека, не будет иметь на это права?
Прям так и скачек?