«Все-таки ассистенту нужен человек»
Яна Лубнина — об обмане автопилота Tesla
Фото: Mike Blake / Reuters
Фото: Mike Blake / Reuters
Китайские автолюбители нашли способ смотреть кино и есть чипсы, пока включен режим Tesla AutoPilot. В Китае за $30 вы можете получить поездку на Tesla с Дуэйном Джонсоном. Звучит комично, но, по сути, так и есть, — пишет Уэрт. В материале рассказывается, как пользователь умной машины покупает крошечную копию головы знаменитости по прозвищу Скала, крепит ее над зеркалом заднего вида и обманывает Tesla, заставляя ее думать, что за рулем находится внимательный водитель.
Судя по всему, система автономного вождения Tesla не может отличить фигурки от реального человека. А это позволяет водителю отвлекаться от дороги, листать телефон или даже засыпать все, что запрещено при включенных функциях помощи водителю. В интернете можно найти видео той самой поездки с «Дуэйном Джонсоном». Водитель развлекается в салоне долгое время не получая предупреждений о невнимательности. Владельцы Tesla в разных странах прежде экспериментировали с солнцезащитными очками или утяжелителями на руле, чтобы сымитировать правильное положение рук. Подобные трюки показывают, что зависимость автопилота от датчиков и визуальных сигналов делает его уязвимым к манипуляциям в реальной среде. И пример с сувенирными фигурками знаменитостей примечателен тем, что речь не идет о взломе автомобиля в цифровом смысле.
Получается, маленький бытовой предмет может обнулить эффективность сложной системы, которую ученые разрабатывали годами. Современные системы помощи водителю становятся все сложнее, но их безопасность по-прежнему во многом зависит от того, насколько надежно они умеют распознавать человеческое поведение и внешние условия. Специалисты подчеркивают, что такие трюки особенно опасны, потому что создают ложное ощущение контроля и могут подтолкнуть водителей к слишком смелому использованию автопилота. Все-таки ассистенту нужен человек.