June 14th, 2018

Leif Gram: Mr. Fix

Adversarial examples

Знаете, как конструируют специальные вражеские изображения, чтобы ломать классификаторы? Например, у кого-нибудь есть нейронная сеть, которая отличает кошек от собак. Иногда можно взять фотографию кошки, поменять несколько пикселей, так что человек вообще не заметит, а сеть будет уверенно говорить, что это теперь собака.
Вот, а умные люди придумывают, как заставить Теслу врезаться во что-нибудь: https://jalopnik.com/this-test-shows-why-tesla-autopilot-crashes-keep-happen-1826810902
Хорошее загадочное преступление, кстати: ехать перед Теслой, а потом внезапно уйти в правую полосу и освободить ей дорогу. Оказывается, она радостно разгонится и врежется в машину, которая была перед вами. Будут ли за это сажать в тюрьму?