Multimagnet : uma abordagem baseada na formação não determinística de comitês para detecção de imagens contraditórias

Abstract

Os algoritmos de Aprendizado Profundo, em especial as Redes Neurais Convolucionais, são o estado da arte na solução de diversas tarefas envolvendo classificação e reconhecimento de imagens. Entretanto, trabalhos recentes mostraram que esses algoritmos estão suscetíveis a ataques com imagens contraditórias. Imagens contraditórias são aquelas que possuem perturbações ínfimas, geradas maliciosamente por um algoritmo de ataque, com o objetivo de produzir erros de classificação. Essas imagens maliciosas ameaçam seriamente a adoção de modelos de aprendizado em tarefas críticas de segurança em Visão Computacional, uma vez que ataques conduzidos nesses ambientes de produção poderiam acarretar em acidentes e prejuízos de larga escala. Este cenário problemático incentivou a comunidade científica a propor inúmeros métodos para defesa de modelos de aprendizado contra imagens contraditórias. Contudo, os principais métodos de defesa existentes têm falhado principalmente por permitirem que o atacante compreenda seus modi operandi. Assim sendo, esta dissertação propõe o MultiMagNet, um método de defesa que, ao apresentar um comportamento não determinístico, dificulta evasões por ataques contraditórios. O não determinismo do método proposto decorre de uma escolha aleatória, realizada em tempo de execução, de um comitê de múltiplos componentes que analisam individualmente as imagens a fim de, em conjunto, identificar exemplares contraditórios. Os resultados de um estudo comparativo conduzido nos datasets MNIST e CIFAR-10 mostraram que o MultiMagNet foi capaz de superar o MagNet, um método de detecção de imagens contraditórias baseado em comportamento não determinístico, na defesa contra imagens contraditórias geradas pelos principais algoritmos de ataque.