Explaining the black-box or using the black-box to develop better interpretable solutions?
DOI:
https://doi.org/10.5335/rbca.v17i2.16459Keywords:
Black Box Models, Explainable AI, Interpretable Models, Post-hoc InterpretabilityAbstract
Understanding the decision-making processes behind Artificial Intelligence models became a crucial aspect of AI. This paper describes a study that compares the performance of models produced by both interpretable and black-box algorithms and evaluates if it is possible to use black-box models to assist in interpretable models' training. We verified a significant difference in performance between the two types of models. However, the interpretable model was able to mimic the behavior of the black-box models to a satisfactory degree. The promising initial results obtained from using black-box models to aid in interpretable models' training suggest the potential efficacy of this approach.
Downloads
Downloads
Published
Issue
Section
License
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Todos os artigos estão licenciados com a licença Creative Commons Atribuição-NãoComercial-SemDerivações 4.0 Internacional. Autores que publicam nesta revista concordam com os seguintes termos:
a) Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
b) Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
c) Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
