Explaining the black-box or using the black-box to develop better interpretable solutions? (Revista Brasileira de Computação Aplicada, 2025)
Compreender os processos de tomada de decisão por trás dos modelos de Inteligência Artificial tornou-se um aspecto crucial da IA. Este artigo descreve um estudo que compara o desempenho de modelos produzidos por algoritmos interpretáveis e de caixa-preta, avaliando se é possível utilizar modelos de caixa-preta para auxiliar no treinamento de modelos interpretáveis. Verificamos uma diferença significativa de desempenho entre os dois tipos de modelos. No entanto, o modelo interpretável foi capaz de imitar o comportamento dos modelos de caixa-preta de maneira satisfatória. Os resultados iniciais promissores obtidos ao usar modelos de caixa-preta para auxiliar no treinamento de modelos interpretáveis sugerem a potencial eficácia dessa abordagem.