26 nov 2024
09:00 Defesa de Mestrado Sala 85 do IC2
Tema
Comparação de técnicas de XAI no contexto de reconhecimento de atividades humanas
Aluno
Patrick dos Santos Alves
Orientador / Docente
Edson Borin
Breve resumo
Nos últimos vinte anos, o desenvolvimento de modelos de Machine Learning (ML) tem aumentado, e a necessidade de entender as decisões tomadas por esses modelos tornou-se essencial para muitas aplicações, incluindo aquelas relacionadas a decisões que afetam vidas humanas. Nesse contexto, a Inteligência Artificial Explicável (XAI) surgiu como um campo de estudo que visa fornecer explicações para as decisões tomadas pelos modelos de ML, aumentando a confiança e a transparência desses modelos.
Além disso, a tarefa de Reconhecimento de Atividade Humana (HAR) tem sido amplamente estudada na literatura, e é desafiador entender as decisões tomadas pelos modelos nessa tarefa devido à complexidade dos modelos e à dificuldade de interpretar dados de séries temporais. Neste trabalho, extraímos características de dados de séries temporais usando a Transformada Rápida de Fourier (FFT) e redução na dimensionalidade dos dados usando técnicas de Aprendizado Manifold para treinar modelos de ML para HAR. Apesar da redução da dimensionalidade, o espaço de características é totalmente abstrato e é irracional compreender as características usadas pelos modelos para tomar decisões. Portanto, utilizamos duas técnicas de XAI de ponta, LIME e SHAP, para fornecer explicações para as decisões tomadas pelos modelos na tarefa de HAR. Também comparamos as explicações fornecidas por LIME e SHAP usando métricas de correlação e uma abordagem de remoção e re-treinamento de características para avaliar a importância das características identificadas pelas técnicas de XAI, avaliando o acordo entre elas e o impacto das características mais e menos importantes no desempenho do modelo.
Os resultados mostram que ambas as técnicas de XAI concordam em seus respectivos rankings de importância das características, mas SHAPé mais correlacionado com a Impureza de Gini do que LIME, indicando que SHAP está mais alinhado com o processo de decisão do modelo do que LIME. Apesar de algumas divergências nos rankings, ambas as técnicas de XAI identificam com sucesso as características mais e menos importantes usadas pelo modelo para a tarefa de HAR. Além disso, os modelos de ML SVM e kNN compartilham as mesmas características mais importantes entre os conjuntos de dados, e essas características são consistentes entre os modelos e conjuntos de dados.
Banca examinadora
Titulares:
| Edson Borin | IC/UNICAMP |
| Leonardo Tomazeli Duarte | FCA/UNICAMP |
| Helena de Almeida Maia | IC/UNICAMP |
Suplentes:
| Sandra Eliza Fontes de Avila | IC/UNICAMP |
| Alexandro José Baldassin | IGCE/UNESP |