,

Чтобы обмануть автопилот Tesla, достаточно пары сантиметров клейкой ленты

Для «взлома» нужно наклеить на знак ограничения скорости кусок клейкой ленты черного цвета — Tesla перестанет распознавать его
Пара исследователей в области безопасности из компании McAfee, Стив Повольный (Steve Povolny) и Шиванги Триведи (Shivangee Trivedi), сумели обмануть умные системы автопилота Tesla. Как оказалось, для этого достаточно наклеить на знак ограничения скорости кусок клейкой ленты черного цвета. Тогда умный круиз-контроль перестает корректно распознавать его и разгонит автомобиль куда выше допустимого значения. Этими данными они поделились с изданием MIT Technology Review.
Стив Повольный и Шиванги Триведи использовали несколько сантиментов клейкой ленты черного цвета, чтобы удлинить среднюю линию цифры «3» на знаке ограничения скорости в 35 миль в час (около 56 километров в час). После этого они сели в Tesla Model X 2016 года и подъехали к нему с использованием автопилота, который должен считывать подобные знаки и контролировать максимально допустимую скорость.
Чтобы обмануть автопилот Tesla, достаточно пары сантиметров клейкой ленты
Когда автомобиль самостоятельно подъехал к знаку, он некорректно прочитал его и увеличил скорость на 50 миль в час (около 80 километров в час) — до 85 миль в час (около 137 километров в час). По данным исследователей, автопилот посчитал, что на знаке указано ограничение именно в 85 миль в час. Более того, они провели этот же тест с Tesla Model S 2016 года — результат оказался таким же, а проблема — массовой.

McAfee отправила исследование в компанию MobilEye (она занимается производством камер для Tesla) и издание MIT Tech Review, которое запросило комментарий в Tesla. Представители производителя электромобилей отказались объяснять текущее положение дел. Более того, они отметили, что не планируют вносить программные или аппаратные правки в модели 2016 года выпуска.

В MIT Tech Review отметили, что такой знак теоретически мог быть неправильно истолкован и человеком. В издании также подчеркнули, что камеры, которые использовали в моделях Tesla в 2016 году, вообще не были разработаны для того, чтобы использоваться с автопилотом. Что интересно, в более новых электромобилях компании Илона Маска подобной проблемы нет — там используются свежие разработки MobilEye, которые куда сложнее ввести в заблуждение.

Стив Повольный объяснил, что результаты тестирования вызывают крайнюю озабоченность из-за огромного числа электромобилей Tesla 2016 года на дорогах. Он подчеркнул, что вместе с коллегами не пытается распространять панику. Главная задача исследования — повысить осведомленность водителей и производителей.

Безопасность систем автопилота Tesla попадает под пристальное внимание не впервые. В прошлом году Национальная администрация безопасности дорожного движения провела федеральное расследование двух аварий с участием электромобилей производителя со смертельным исходом. В его ходе было установлено использование автопилота.

Tesla также участвует в судебном процессе против жены Уолтера Хуанга (Walter Huang), инженера Apple, который погиб после того, как его электромобиль Tesla врезался в разделительный барьер на трассе во время использования автопилота. По словам жены Хуанга, он неоднократно жаловался на то, что автопилот поворачивал электромобиль в сторону барьера, но не придал этому должного значения.
Чтобы обмануть автопилот Tesla, достаточно пары сантиметров клейкой ленты
Сегодня в Tesla подчеркивают, что автопилот компании не предназначен для того, чтобы сделать автомобиль полностью автономным — водители всегда должны держать руки на руле и контролировать движение. Тем не менее, генеральный директор компании, Илон Маск, настаивает на том, что в ближайшем будущем он намерен заставить свои электромобили перемещаться без действий со стороны водителя. Он обещал, что это случится уже в конце 2019-го, но, судя по всему, эволюция автопилота затянулась.
Последнее изменение:
 
sumechoo
sumechoo, 19 февраля 2020 - 15:35   (...)
если бы я такой знак увидел то же бы запросто спутал
Ответить
nickgric
nickgric, 19 февраля 2020 - 15:36   (...)
ну, такое, нужно обладать слишком плохим зрением и не носить очки, имхо)
Ответить
sumechoo
sumechoo, 19 февраля 2020 - 15:56   (...)
я не говорю о картинке в интернете, я говорю о знаке на дороге) это две большие разницы так то. движение, освещение, тени, неожиданность ситуации с наличием такого знака. в лучшем случае увидишь его пару секунд а дальше или назад едь что бы понять что там такое нарисовано было, или думай всю дорогу пока новый знак не появится
Ответить
nickgric
nickgric, 19 февраля 2020 - 16:28   (...)
Ну, хрен знает. Вообще, если честно, знаки в США неочевидные. С перепугу на такой вообще можно внимания не обратить. Никакого тебе большого красного круга с очевидным ограничением… =)
Ответить
artemida11111
artemida111112, 19 февраля 2020 - 23:19   (...)
Тот случай когда рашка сделала что-то правильно.
Ответить
nickgric
nickgric, 20 февраля 2020 - 12:32   (...)
Чего Рашка? Эти же знаки во многих странах — даже в Европе приблизительно такие же, насколько я помню
Ответить
artemida11111
artemida111112, 20 февраля 2020 - 13:37   (...)
Ладно. Тот случай когда америкосы облажались.
Ответить
nickgric
nickgric, 20 февраля 2020 - 17:04   (...)
кек)
Ответить

Добавить комментарий
Если нужно ответить кому-то конкретно,
лучше нажать на «Ответить» под его комментарием