A+A-Acessibilidade
EnglishPortuguese
Buscar
26 Abr
09:00 Defesa de Mestrado Integralmente a distancia
Tema
Detecção de Exemplos Adversariais Baseada em Comitês de Defesas e de Contra-Ataques
Aluno
Rolan Alexander Valle Rey Sánchez
Orientador / Docente
Leonardo Montecchi
Breve resumo
Atualmente, muitos Sistemas Ciber-Físicos (Cyber-Physical Systems, CPS), como redes inteligentes e carros autônomos, contam com aprendizado de máquina para seu gerenciamento. Algoritmos baseados em aprendizado de máquina e, principalmente, o uso de aprendizado profundo (Deep Learning, DL) são vistos como uma panacéia para a tarefa de classificação. No entanto, a fragilidade dos sistemas de aprendizado profundo coloca preocupações reais sobre a segurança de sistemas críticos – por exemplo, falhas em detectores de objetos podem causar acidentes em carros autônomos. Ao mesmo tempo, há uma proliferação contínua de ataques a sistemas DL por meio de exemplos adversariais, ou seja, dados criados específicamente para induzir erros em sistemas de DL que, portanto, comprometem a segurança dos CPS. Neste trabalho, abordamos o problema de detecção de exemplos adversariais em tarefas de classificação de imagens. Propomos uma metodologia de detecção baseada no conceito de contra-ataques, ou seja, ataques aplicados em dados que são potencialmente adversariais, ​​como mecanismo de defesa. Nossa abordagem aplica combinações de contra-ataques e defesas nas imagens de entrada, extraindo features que permitem distinguir ataques adversários de dados legítimos. Em particular, nos concentramos em modelos DL para a tarefa de classificação baseada em ImageNet. Para os experimentos, usamos o dataset de validação do ImageNet e o dataset DAmageNet, um conjunto recente de exemplos adversários. Nossos experimentos mostram que as imagens naturais do ImageNet e as adversárias do DAmageNet exibem uma resposta diferente aos contraataques. Este resultado coloca a base para um estudo mais extenso de como a abordagem de contra-ataques pode ser usada para detectar imagens adversárias.
Banca examinadora
Titulares:
Leonardo Montecchi IC/UNICAMP
Esther Luna Colombini IC/UNICAMP
Tommaso Zoppi DMI/UniFI
Suplentes:
Gerberth Adín Ramírez Rivera IC/UNICAMP
Regina Lucia de Oliveira Moraes FT/UNICAMP