Toyota Yaris как CAPTCHA: Исследование уязвимости систем распознавания на базе ИИ

В рамках новаторского исследования в области кибербезопасности была продемонстрирована эффективность специально разработанных визуальных паттернов для нарушения работы систем распознавания объектов на базе искусственного интеллекта. Исследователь Билл Свиринген посвятил год разработке узоров, способных препятствовать корректному функционированию алгоритмов идентификации людей и предметов.Процесс разработки включал 31 миллион итераций тестирования, в ходе которых модель постоянно оптимизировала варианты паттернов. Кульминацией проекта стала оклейка автомобиля Toyota Yaris 2009 года одним из наиболее успешных узоров, нанесенным на плёнку.На конференции DEF CON данный автомобиль был представлен перед камерой Flock – системой, предназначенной для автоматического распознавания транспортных средств и номерных знаков. По заявлениям автора проекта, система не смогла корректно идентифицировать модифицированный автомобиль.Важно отметить, что цель проекта не заключалась в создании физически невидимого объекта. Человеческое зрение без труда распознавало автомобиль, а его колёса оставались видимыми. Основной успех заключался в обмане конкретного алгоритма распознавания, а не в воздействии на человеческое восприятие.Подобные изображения получили название «состязательные паттерны». Данный прецедент служит важным напоминанием о фундаментальных различиях в восприятии мира человеком и искусственным интеллектом. ИИ оперирует набором знакомых признаков, и, как показывает исследование, даже незначительное изменение паттерна поверхности может привести к дестабилизации процесса уверенного распознавания.