Modelos de IA interpretáveis para tomada de decisão judicial: além da explicabilidade em direção ao devido processo legal

Resumo

À medida que algoritmos de IA vão sendo empregados para aplicar regras jurídicas na determinação de direitos e obrigações, surgem questões relacionadas à observância do devido processo legal. A emergência de modelos opacos de aprendizado de máquina, cujas previsões não podem ser satisfatoriamente explicadas, tem impulsionado debates em torno da ideia de explicabilidade dos modelos de IA para tomada de decisão. Argumenta-se que (i) em relação a modelos de IA para tomada de decisão judicial, o critério da explicabilidade, além de se mostrar insuficiente para satisfazer as exigências de publicidade e fundamentação das decisões judiciais, impõe uma forma de desnudamento não exigida de juízes humanos; e (ii) um critério mais adequado seria o de modelos de tomada de decisão judicial interpretáveis, entendidas, como tais, decisões referidas ao direito vigente (legalidade), interna e externamente coerentes (consistência) e compatíveis com a decisão de um juiz humano em caso análogo.