Посмотрите, как Rolls-Royce Cullinan пускает столбы песка в арабской пустыне

Новая уязвимость автопилота Tesla: его обманули «фантомными» изображениями
Новости

Кирилл Малышев

Исследователи израильского Универ­ситета имени Бен Гуриона пред­ставили результат работы, которой занимались последние два года. Они выяснили, каким способом можно сбить с толку машинное зрение авто­пилота Теслы и заставить его принять неожиданные для всех окружающих решения. Об этом пишет издание Wired.

  • Издание напоминает, что все системы автономного вождения опираются на то, что видят. Их зрение в одних моментах пока хуже человече­ского, в других – уже лучше. Последнее учёные решили использовать как слабость системы и достигли успеха.

  • На установленных вдоль дороги электронных табло, рекламных или с дорожной информацией, на доли секунды вспыхи­вали знаки ограни­чения скорости или требо­вания об остановке. Tesla успевала их заметить и реагиро­вала внезапным торможе­нием. Это чревато аварией, ведь другие водители, живые люди, не ожидают этого. Электронике было достаточно видеть картинку всего 0,42 секунды. С тем же резуль­татом машине можно показать другой авто­мобиль или пешехода, и он сочтёт их за помеху на пути.

  • С одной стороны, исследователи таким способом хотели привлечь внимание к проблеме потенциальных хакерских атак. От них неплохо защищены объективно важные ресурсы. А вот цифровые рекламные щиты – нет. Вмешатель­ство в их интерфейс, как доказали учёные, может парали­зовать движение или создать несколько ДТП.

  • Другой задачей было показать несовер­шенство системы, которую Tesla упорно именует автопилотом, подбивая клиентов рекламой больше отвлекаться от дороги. Израильские эксперты уверены, что добав­ление в систему лидара поможет избежать ошибок. Компьютер должен анализи­ровать большее число внешних факторов, и тогда «фантомы» не смогут сбить его с толку. Лидар «видит» только реальные объекты и не реагирует на плоские картинки.

  • Есть и решение. В Университете имени Бен Гуриона разработали алгоритм «Охотник за привиде­ниями». Он берёт во внимание все детали, которые постав­ляют ему радары, лидары, камеры и сенсоры. Программа способна распознать кратко­срочные вспышки «фантомов» и отсеять их как ложные.

  • Ранее автопилот Теслы уже уличали в неточной работе. Так, издание Insideevs публиковало ролик, в котором на извили­стой дороге с непростой разметкой и двумя полосами движения электрокар критически приближался к раздели­тельной, не сбрасывая скорость.


Как считаете, глупые придирки или полезная работа?

Почитать ещё