Студенты Мэрилендского университета придумали принт, делающий человека невидимым для камер распознавания лиц или силуэтов.
В результате ИИ не смог распознать конкретного человека в кадре, но видел остальных людей. Исследователи рассказали о механизме действия принта и камеры.
Ранее учёным уже удавалось создать изображение, которое «нейтрализует» алгоритмы камер видеонаблюдения. Во всех случаях метод обмана компьютерного зрения заключался в том, чтобы заставить компьютер пометить всё изображение как нечитаемое. Студенты Мэриленда пошли другим путём: они заставили компьютер не замечать конкретного человека в кадре, позволяя ему видеть остальных людей. Исследователи добились результата следующим образом:
Стоит отметить, что зная «антишаблон», можно обучить любую нейросеть видеть в нём человека.
В результате ИИ не смог распознать конкретного человека в кадре, но видел остальных людей. Исследователи рассказали о механизме действия принта и камеры.
Ранее учёным уже удавалось создать изображение, которое «нейтрализует» алгоритмы камер видеонаблюдения. Во всех случаях метод обмана компьютерного зрения заключался в том, чтобы заставить компьютер пометить всё изображение как нечитаемое. Студенты Мэриленда пошли другим путём: они заставили компьютер не замечать конкретного человека в кадре, позволяя ему видеть остальных людей. Исследователи добились результата следующим образом:
- Взяли набор данных COCO — на нём обучается алгоритм компьютерного зрения YOLOv2 (детектор).
- «Пропустили» COCO через детектор.
- Выявили шаблон, по которому компьютер распознаёт человека (математическую функцию).
- Применили к шаблону алгоритм градиентного спуска (он инвертирует шаблон — создаёт противоположные значения функции).
- Преобразовали «антишаблон» в изображение и разместили на свитере.
Стоит отметить, что зная «антишаблон», можно обучить любую нейросеть видеть в нём человека.
