Detección de imágenes adversarias basado en capas de Redes Neuronales Bayesianas

Abstract

Aunque las Redes Neuronales Profundas (DNNs) han demostrado repetidamente un rendimiento excelente, se sabe que son vulnerables a ataques adversarios que contienen perturbaciones imperceptibles para los humanos. Se han propuesto múltiples estrategias de defensa adversaria para aliviar este problema, pero a menudo muestran practicidad limitada en términos de eficiencia y manejo exclusivo de ataques específicos. En este artículo, analizamos el rendimiento de las Redes Neuronales Bayesianas (BNNs) dotadas de una distribución posterior aproximada flexible para detectar ejemplos adversarios. Además, estudiamos la robustez del método de detección cuando las capas Bayesianas se encuentran ya sea en la parte superior o a lo largo de las DNNs para determinar el papel de las capas ocultas de la red, y comparamos los resultados con los deterministas. Presentamos resultados empíricos que muestran cómo las BNNs ofrecen un método poderoso y práctico para detectar ejemplos adversarios en comparación con enfoques deterministas. Finalmente, discutimos los beneficios de las estrategias de diseño de las BNNs no solo para proporcionar detectores adversarios robustos, sino también para obtener estimaciones de incertidumbre bien predichas.