Resumo
Os modelos de aprendizagem de máquina, como a máquina de vetores de suporte, são frequentemente usados para solucionar problemas de mundo real, auxiliando em tarefas de tomada de decisão. Eles são regularmente usados em conjunto com estratégias para mitigar o custo de classificações incorretas, como a estratégia de opção de rejeição para rejeitar instâncias difíceis de classificar e delegá-las a um especialista ou até para outro classificador. Isso pode aumentar a confiança do modelo. Explicações podem ser usadas para destacar as razões para a rejeição, sendo importantes para evitar confiar cegamente nos resultados obtidos pelo modelo. Embora a maioria dos trabalhos relacionados tenha desenvolvido meios para gerar explicações para modelos de aprendizagem de máquina, há uma falta de trabalho considerando a presença de opção de rejeição. Além disso, muitos métodos não garantem a corretude e a minimalidade das explicações. Tais métodos também podem ter capacidades de generalização insuficientes, com explicações muito sucintas e que não fornecem entendimentos suficientes sobre o modelo. Para abordar essas questões, apresentamos duas propostas principais. A primeira é uma abordagem baseada em lógica com garantias formais sobre a corretude e a minimalidade das explicações para classificadores com opção de rejeição. São geradas explicações para um classificador de vetores de suporte linear com opção de rejeição, nosso modelo-alvo. A avaliação da abordagem é feita por meio de comparação com um algoritmo heurístico para geração de explicações, chamado Anchors. Os resultados obtidos mostram que nosso método proposto fornece explicações mais concisas e com custo de tempo reduzido. Além disso, embora nossa abordagem seja demonstrada com classificadores de vetores de suporte lineares, ela pode ser facilmente adaptada para outros classificadores com opção de rejeição, como redes neurais e florestas aleatórias. Nossa segunda proposta concentra-se em fornecer uma maior capacidade de generalização para as explicações geradas. A generalização é importante, pois explicações mais gerais podem ser aplicadas a um maior número de instâncias e são capazes de trazer uma compreensãomaisaprofundadadecomoomodelofunciona.Issoéfeitoemduasabordagens: a Onestep, que gera explicações em um passo, e a Twostep, que gera explicações em dois passos. A avaliação é feita sobre os modelos perceptron multicamadas e classificador de vetores de suporte linear em um cenário de classificação, sem opç