18 ago 2022
14:00 Defesa de Mestrado Auditório - IC3
Tema
MOPC-DARTS: Um Framework para Otimização Multi-Objetivo Aplicado a Neural Architecture Search
Aluno
Rafael Cortez Sanchez
Orientador / Docente
Orientador: Edson Borin / Coorientador: Vanderson Martins do Rosario
Breve resumo
Neural Architecture Search (NAS) é uma técnica para buscar automaticamente modelos de redes neurais profundas para resolver um determinado problema. Técnicas tradicionais de NAS geralmente têm como objetivo de busca a acurácia desses modelos, e portanto não consideram seu custo computacional no processo de otimização. Uma vez que o custo computacional está diretamente ligado ao consumo energético das redes neurais, existe um interesse em diminuir o custo computacional dos modelos para torná-los energeticamente mais sustentáveis. A partir desse desafio, este estudo propõe expandir a função objetivo do framework de NAS intitulado Partially Connected Differentiable Architecture Search (PC-DARTS), criando-se um novo framework a partir dele. Esse novo framework , intitulado MOPC-DARTS, permite que o usuário explore por meio de um hiper-parâmetro w a troca entre acurácia e custo computacional. Entre todos modelos produzidos pelo PC-DARTS, apenas 10,53% deles ultrapassaram a fronteira Pareto dos experimentos com o MOPC-DARTS, enquanto 46,07% dos modelos produzidos pelo MOPC-DARTS ultrapassaram a fronteira Pareto dos experimentos com o PC-DARTS. Além disso, considerando-se a fronteira global composta pela combinação dos experimentos com ambos frameworks, apenas 21,5% dos modelos produzidos pelo PC-DARTS estão contidos nessa fronteira.
Banca examinadora
Titulares:
Edson Borin IC/UNICAMP
Fernando José Von Zuben FEEC/UNICAMP
Marcos Medeiros Raimundo IC/UNICAMP
Suplentes:
Sandra Eliza Fontes de Avila IC/UNICAMP
Levy Boccato FEEC/UNICAMP