21 dez 2023
14:00 Defesa de Mestrado Sala 53 do IC2
Tema
Uma análise de Sistemas de Probabilidade Genética como software de alta integridade
Aluno
Tainá Turella Caetano dos Santos
Orientador / Docente
Islene Calciolari Garcia
Breve resumo
É de conhecimento geral que a tecnologia possui um grande papel na sociedade atual e que
esta afeta diversas áreas, desde sistemas de recomendação disponíveis em redes sociais até software usado como evidência em casos criminais. Artefatos tecnológicos podem parecer inofensivos, mas quando cavamos mais a fundo nos mecanismos sociais que os alimentam e que são alimentados por eles, é fácil perceber que estes podem não ser tão justos ou até mesmo tão desconectados das disparidades sociais perpetradas por nós humanos.
Dependendo de quais esferas sociais tais algoritmos e sistemas atuam, os efeitos controversos de sua existência não supervisionada e inquestionada não são tão alarmantes, talvez porque o nível de integridade destas não seja alto o suficiente. É aceitável que, enquanto vemos nossos feeds em nossas redes sociais favoritas, não encontremos uma grande diversidade de posts. É menos aceitável quando um banco recusa um empréstimo a alguém porque um algoritmo de score de crédito, por motivos não bem definidos, sinalizou algum problema com o requerente. Mas seria inaceitável se um software utilizado como evidência criminal embasasse a prisão de uma pessoa inocente.
Ao usar software como evidência em tribunal, especificamente Software de Probabilidade Genética (PG), é preciso entender que uma saída deste software pode ser responsável
pelo encarceramento de uma pessoa por longos períodos devido à gravidade dos crimes
onde esta ferramenta se faz necessária. Portanto é imperativo compreender os mecanismos por trás deste software e garantir que ele passou por um processo minucioso de validação antes de sua aplicação em casos reais.
Existem muitas ferramentas de PG disponíveis para análise, mas nosso foco será limitado às ferramentas open source; LRmix/Forensim [6] (utilizada no Brasil [29]), EuroForMix [12], Kongoh [50], LikeLTD [65] e LabRetriever [44]. Nesta dissertação, nós
comparamos o processo de validação seguido pelas pessoas desenvolvedoras das ferramentas citadas com guidelines propostas pela comunidade forense e verificamos se os padrões propostos pela IEEE são seguidos. Também são recuperadas métricas referentes à cobertura de código pelos testes e rápidas análises estáticas são realizadas no código.
Nosso objetivo é caracterizar quais testes deveriam ser tidos como obrigatórios em
sistemas de alta integridade ao mesmo tempo em que analisamos se ambos os sistemas
selecionados performam tais testes corretamente, mesmo em cenários complexos baseados
em casos reais. Não temos a pretensão de desencorajar o uso deste tipo de software
em circunstâncias onde as amostras são menos complexas, até porque estas análises se
tornaram uma importante peça de evidencia em casos de abuso sexual, por exemplo.
Aqui apenas trazemos percepções sobre possíveis brechas no processo de validação que
poderiam ser danosas em casos complexos.
Banca examinadora
Titulares:
| Islene Calciolari Garcia | IC/UNICAMP |
| Renata Wassermann | IME/USP |
| Sandra Eliza Fontes de Avila | IC/UNICAMP |
Suplentes:
| Esther Luna Colombini | IC/UNICAMP |
| Ana Elisa Liberatore Silva Bechara | FD/USP |