Explaining the black-box or using the black-box to develop better interpretable solutions?
DOI:
https://doi.org/10.5335/rbca.v17i2.16459Palavras-chave:
IA Explicável, Interpretabilidade Post-hoc, Modelos Caixa-Preta, Modelos InterpretáveisResumo
Compreender os processos de tomada de decisão por trás dos modelos de Inteligência Artificial tornou-se um aspecto crucial da IA. Este artigo descreve um estudo que compara o desempenho de modelos produzidos por algoritmos interpretáveis e de caixa-preta, avaliando se é possível utilizar modelos de caixa-preta para auxiliar no treinamento de modelos interpretáveis. Verificamos uma diferença significativa de desempenho entre os dois tipos de modelos. No entanto, o modelo interpretável foi capaz de imitar o comportamento dos modelos de caixa-preta de maneira satisfatória. Os resultados iniciais promissores obtidos ao usar modelos de caixa-preta para auxiliar no treinamento de modelos interpretáveis sugerem a potencial eficácia dessa abordagem.
Downloads
Downloads
Publicado
Edição
Seção
Licença
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Todos os artigos estão licenciados com a licença Creative Commons Atribuição-NãoComercial-SemDerivações 4.0 Internacional. Autores que publicam nesta revista concordam com os seguintes termos:
a) Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
b) Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
c) Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
