PESQUISA BIBLIOMÉTRICA SOBRE INTELIGÊNCIA ARTIFICIAL EXPLICÁVEL E AS TÉCNICAS USADAS PARA A SUA APLICAÇÃO

Resumo - O presente estudo teve como objetivo apresentar o panorama atual das pesquisas relacionadas as técnicas para obtenção de explicações sobre como modelos de machine learning para inteligência artificial, e em especial os modelos de deep learning, geram predições e classificações. A pesquisa em inteligência artificial explicável está sendo cada vez mais ampliada, devido a necessidade de obtenção de resultados que sejam aceitos e compreendidos pelos usuários, principalmente os relacionados a análise de imagens médicas. Foi realizada pesquisa exploratória na base de dados Scopus, de abordagem quantitativa, por meio da Teoria do Enfoque Meta Analítico Consolidado, TEMAC [1] . A pesquisa foi limitada aos ultimos 10 anos e os dados obtidos mostraram que houve crescimento significativo no interesse sobre o tema . Este interesse também está alinhado com as orientações surgidas com a GPDR - General Data Protection Regulation da União Européia [2] e a futura Lei Geral de Proteção De Dados – LGPD [3], relacionadas com o direito a explicação. Identificou-se que a técnica mais citada para explicar as decisões tomadas por algoritmos de machine learning é a LIME [4].

Abstract—The objective of this study was to present a systematic review of recent techniques for explaining predictions and classifications, obtained from deep neural network algorithms and machine learning in general . The XAI - Explainable Artificial Intelligence is an area on great demand, as the users of the results predictors and classifiers based on artificial intelligence, need an explanation of why such a result was obtained, with special focus on medical imaging analysis. This paper is the result of a systematic research using the Teoria do Enfoque Meta Analítico Consolidado, TEMAC[1]. We have defined a string for searching papers on SCOPUS repositories and the data collection showed us that there is a crescent interest on the area of XAI over the last decade. This data indicates a great interest in this area and it is aligned with the orientations stated by the GPDR[2] and in the to be sanctioned brazillian law LGPD - Lei Geral de Proteção de dados [3]. It was also identified that the most cited technique by researchers is LIME [4].