Как обмануть робота: обзор уязвимостей современных нейросетей

Нейронные сети вошли в нашу жизнь, являясь одновременно и необходимым инструментом, и источником информационных угроз. Многие пока не слишком хорошо осведомлены, как всё это работает, что, конечно, не останавливает практического использования: смартфоны оснащаются различными системами биометрии, в основе которых лежат эти самые нейронные сети — распознавание лиц или радужки глаз, отпечатки пальцев и другие. Об уязвимостях нейросетевых технологий EADaily рассказал исполнительный директор, начальник управления статистического анализа банка «Ренессанс Кредит» Сергей Афанасьев.

Известный писатель-фантаст Артур Кларк однажды сказал:

«Если знаменитый, но старый ученый утверждает, что нечто возможно, он почти определенно прав. Если он утверждает, что нечто невозможно, он, очень вероятно, ошибается».

Если перевести эту цитату на современный бизнес-язык, то она может звучать примерно так:

«Если известные эксперты или крупные компании заявляют, что нечто невозможно, — они, очень вероятно, ошибаются».
 

В этом можно убедиться на практических примерах. Но сначала давайте попробуем разобраться, как работает фотобиометрия.

Пару лет назад в небольшом американском городе Ланкастер произошла необычная бытовая история. В полицию обратились пострадавшие покупатели, которых на местном рынке обманывал мошенник. Пока продавцы отлучались от своих прилавков, мошенник представлялся хозяином товара, брал деньги с покупателей и исчезал. Один из свидетелей нарисовал очень схематичный портрет мошенника, но уже на следующий день полиция поймала преступника

 

Оригинал здесь.

Комментарии

Чтобы оставить комментарий, Вам нужно авторизоваться.