Uma nova perspectiva para máquinas de aprendizagem mínima

Abstract

Este trabalho introduz três novas propostas para a máquina de aprendizagem mínima (Minimal Learning Machine, MLM), chamadas de overlap removed MLM (OR-MLM), fuzzy Cmeans MLM (FCM-MLM) e a máquina de aprendizagem mínima de peso leve (Lightweight Minimal Learning Machine, LW-MLM), onde as duas primeiras versões utilizam algoritmos de agrupamento na etapa de seleção de pontos de referência (reference points, RPs), enquanto que no LW-MLM a etapa de seleção de RPs é ignorada. O procedimento básico de treinamento do MLM está relacionado à seleção de um subconjunto de padrões de treinamento, chamados de pontos de referência. Tal subconjunto é utilizado para a realização de um mapeamento entre as configurações geométricas das amostras (pontos de entrada) e seus rótulos (pontos de saída) correspondentes. A proposição original sugere que a seleção dos pontos de referência seja feita de maneira aleatória, deixando a cargo do utilizador apenas a definição do número de pontos a serem utilizados. O método de busca em grade, combinado à validação cruzada, pode ser utilizado para seleção automática da quantidade de pontos. Porém, esse método de seleção frequentemente acarreta uma escolha inadequada dos pontos de referência, fazendo com que amostras ruidosas ou mesmo discrepantes componham tal subconjunto. Além disso, a utilização de todo o conjunto de treinamento como RPs resulta em um modelo sobreajustado (overfitted). Por este motivo, as propostas OR-MLM e FCM-MLM apresentam novas abordagens que buscam escolher um melhor subconjunto como RPs, porém com o custo de algortimos externos para isso. A fim de superar o problema na escolha de pontos de referência e evitar overfitting, o LW-MLM apresenta uma versão regularizada do MLM em que cada padrão é penalizado individualmente, além de modificar a etapa de predição de novos padrões, reduzindo a quantidade de cômputos inerentes ao processo de multilateração da proposta original. As propostas foram validadas com a realização de experimentos com conjuntos de dados do mundo real e artificiais. Os experimentos computacionais atestam o desempenho satisfatórios do LW-MLM quanto a capacidade de generalização e redução de complexidade, em comparativo com outras versões do MLM e demais regressores da literatura, e os experimentos para o OR-MLM e FCM-MLM também atestam a qualidade do modelo perante outras versões de classificadores da máquina de aprendizagem mínima