Explainable Artificial Intelligence (XAI) e Human-in-the-Loop (HITL): Tecnologia e Mediação Docente no Feedback Formativo

Résumé

A inteligência artificial (IA) tem sido incorporada à educação como recurso capaz de otimizar processos e personalizar aprendizagens, mas seu uso suscita desafios relacionados à explicabilidade, à justiça e à mediação pedagógica. Este estudo teve como objetivo analisar a integração entre a Explainable Artificial Intelligence (XAI) e o modelo Human-in-the-Loop (HITL) na oferta de feedback formativo em ambientes digitais. Para isso, adotou-se uma abordagem teórico-reflexiva baseada em revisão bibliográfica interpretativa, a fim de problematizar produções acadêmicas relevantes e sistematizar contribuições sobre o tema. Os resultados indicam que, isoladamente, a IA apresenta limitações como a reprodução de vieses e a falta de contextualização pedagógica; entretanto, quando combinada à mediação docente em protocolos híbridos, possibilita a produção de devolutivas claras, personalizadas e inclusivas. Conclui-se que a articulação entre XAI e HITL representa um caminho promissor para fortalecer a aprendizagem flexível e garantir práticas avaliativas mais éticas, transparentes e equitativas, nas quais a tecnologia complementa, mas não substitui, a ação pedagógica.