Explicações baseadas em lógica para redes neurais artificiais usando relaxamento parcial das camadas com função de ativação ReLU

Abstract

As Redes Neurais Artificiais (RNAs) têm aplicações em diversas áreas. Porém, elas não podem ser facilmente interpretadas por seres humanos, por isso são classificadas como um algoritmo de caixa preta. Em sistemas sensíveis a falhas, como análise clínica de imagens e controle de voo, explicações para RNAs tornaram-se essenciais, motivando o desenvolvimento de métodos baseados em lógica para garantir interpretações confiáveis. Em vista disso, estudos recentes têm empregado modelos de Programação Linear Inteira Mista (MILP Mixed Integer Linear Programming) para representar Redes Neurais Artificiais (RNAs) com funções de ativação ReLU por meio de formulações compostas por restrições lógicasexpressasemtermosdedesigualdadeslinearesevariáveisbinárias.Essaabordagem permite não apenas a verificação formal das decisões do modelo, mas também a geração de explicações minimais, em que os atributos identificados como relevantes são suficientes para justificar a predição realizada. No entanto, estas soluções sofrem problemas de escalabilidade. Assim, este trabalho foca em obter explicações mais rápidas em detrimento da minimalidade por meio da relaxação de algumas variáveis binárias que representam a função de ativação ReLU. Na condução de experimentos, realizamos uma comparação entre o método original sem relaxação e o método com relaxação, levando em consideração o tempo de execução e a quantidade de atributos nas explicações. Os resultados demonstram que a relaxação proporciona uma redução de até 59.9% no tempo médio de explicação para um aumento de apenas 10.32% na quantidade de atributos da explicação, mitigando o problema de escalabilidade em detrimento da minimalidade. Para trabalhos futuros sugerimos abordagens mais complexas na escolha das variáveis relaxadas