O controlo social sobre a utilização de sistemas de inteligência artificial pela Administração Pública

Álvaro GONZÁLEZ-JULIANA; Maria Julia ILDEFONSO MENDONÇA

doi:10.34625/issn.2183-2705(37)2025.ic-18

Authors

Álvaro GONZÁLEZ-JULIANA Universitat Abat Oliba CEU https://orcid.org/0000-0001-5048-5710
Maria Julia ILDEFONSO MENDONÇA https://orcid.org/0000-0002-2482-9177

DOI:

https://doi.org/10.34625/issn.2183-2705(37)2025.ic-18

Keywords:

Transparência administrativa, algoritmos, inteligência artificial, Administração Pública

Abstract

This article analyses the guiding principles of the use of artificial intelligence systems by the Public Administration: reserve of humanity, transparency and explainability. In particular, it is emphasised that access to algorithmic information backed by the LADA is an essential tool for carrying out social control over the use of artificial intelligence systems by the Public Administration. However, this access to algorithmic information must necessarily be accompanied by other documentation that describes the algorithms in a manner understandable to a human being.

References

ÁLVAREZ GARCÍA, Vicente (2024), “La naturaleza jurídica de los algoritmos”, El Cronista del Estado Social y Democrático de Derecho, n.º 114.

ANTUNES, Luís Filipe Colaço (1993), “Mito e realidade da transparência administrativa”, in Estudos em homenagem ao Prof. Doutor Afonso Rodrigues Queiró, vol. II, Coimbra: Boletim da Faculdade de Direito da Universidade de Coimbra.

ARRUDA, Carmen Silvia Lima de (2020), O Princípio da Transparência, São Paulo: Quartier Latin.

BARBOSA DE MELO, António Moreira (1981), “As garantias dos administrados na Dinamarca e o princípio do arquivo aberto”, Boletim da Faculdade de Direito da Universidade de Coimbra, vol. 57.

BENTHAM, Jeremy (2001), “Farming defended”, in QUINN, Michael (Ed.), Writings on the poor laws, Oxford: Oxford University Press.

BOVENS, Mark (2005), “Public accountability”, in EWAN, Ferlie; LYNN, Laurence E; POLLITT, Christopher (Eds.), The Oxford handbook of public management, Oxford: Oxford University Press.

BROWN, A.J; VANDEKERCKHOVE, Wim; DREYFUSS, Suelette (2014), “The Relationship between Transparency, Whistleblowing, and Public Trust”, in ALA’I, Padideh; VAUGHN, Robert G (Eds.), Research Handbook on Transparency, Cheltenham e Northampton: Edward Elgar.

BUGARIC, Bojan (2004), “Openness and transparency in public administration: challenges for public law”, Wisconsin International Law Journal, n.º 22.

BUSUIOC, Madalina (2020), “Accountable Artificial Intelligence: Holding Algorithms to Account”, Public Administration Review, n.º 81.

CARVALHO, Raquel (1999), Á Informação Administrativa Procedimental, Porto: Publicações Universidade Católica.

CAUPERS, João (2009), “Sobre o conceito de documento administrativo”, Cadernos de Justiça Administrativa, n.º 75.

SÉRVULO CORREIA, José Manuel (1993), “O direito de informação e os direitos de participação dos particulares no procedimento e, em especial, na formação da decisão administrativa”, Cadernos de Ciência da Legislação, n.º 9-10.

DADELOT, Marc (2018), “Évolution et enjeux du droit d’accès aux documents administratifs depuis la loi du 7 octobre 2016 pour une république numérique”, Revue française d’administration publique, n.º 165.

DAVID, Sofia (2021), “A intimação para a prestação de informações, consulta de processos ou passagem de certidões”, in FREITAS, Tiago Fidalgo de; ALVES, Pedro Delgado (Orgs.), O Acesso à Informação Administrativa, Coimbra: Almedina.

DE FINE LICHT, Karl; DE FINE LICHT, Jenny (2020), “Artificial Intelligence, Transparency, and Public Decision-Making”, AI & Society, n.º 35.

FARINHO, Domingos Soares (2021), “The Portuguese Charter of Human Rights in the Digital Age: a legal appraisal”, Revista Española de la Transparencia, n.º 13.

FERNANDES, Débora Melo (2015), “O princípio da transparência administrativa: mito ou realidade?, Revista da Ordem dos Advogados, n.º 75.

FREITAS, Tiago Fidalgo de (2020), “A dimensão constitucional da transparência administrativa” in XAVIER, Rita, et al. (Orgs), Constitucionalismo e (Con)temporaneidade. Estudos em homenagem ao Professor Doutor Manuel Alfonso Vaz, Porto: Universidade Católica Editora.

FREITAS, Tiago Fidalgo de (2021), “O acesso à informação administrativa: regime e balanço”, in FREITAS, Tiago Fidalgo de; ALVES, Pedro Delgado (Orgs.), O Acesso à Informação Administrativa, Coimbra: Almedina.

GABARDO, Emerson; SANTOS, Fábio de Sousa (2023), “A exigência de transparência da inteligência artificial na atuação da Administração Pública brasileira”, in GOMES, Carla Amado; PEDRO, Ricardo; NETO, Eurico Bitencourt (Coords.), Em nome da transparência no direito administrativo. Um diálogo luso-brasileiro, Coimbra: Almedina.

GONÇALVES, José Renato (2006), “Estado burocrático e Estado transparente. Modelos institucionais de defesa do princípio da transparência: a Comissão de Acesso aos Documentos Administrativos (CADA)”, in MIRANDA, Jorge (Coord.), Estudos em Homenagem ao Professor Doutor Marcello Caetano no centenário do seu nascimento, volume I, Lisboa: Faculdade de Direito da Universidade de Lisboa.

GONÇALVES, José Renato (2024), “Trinta anos de acesso à informação das entidades públicas em Portugal e prevenção e luta contra a corrupção”, in OLIVEIRA, Alberto Augusto; PRATAS, Sérgio (Coords.), A Administração Aberta em Portugal. Que futuro?, Coimbra: Almedina.

GONZÁLEZ-JULIANA, Álvaro (2022), Transparencia administrativa sin Administración. El acceso a la información en poder de sujetos privados, Cizur Menor: Aranzadi.

GRIMMELIKHUIJSEN, Stephan (2022), “Explaining Why the Computer Says No: Algorithmic Transparency Affects the Perceived Trustworthiness of Automated Decision-Making”, Public Administration Review, n.º 83.

LEHNEN, Nathaly Veloso (2023), “Principais reflexões jurídicas suscitadas a partir da leitura da Carta Portuguesa de Direitos Humanos na Era Digital”, in MOREIRA, Vital, et al. (Orgs.), Anais de Artigos Completos do VII CIDH Coimbra 2022 Volume 7, São Paulo: Editora Brasílica.

MEIJER, Albert; GRIMMELIKHUIJSEN, Stephan (2020), “Responsible and Accountable Algorithmization. How to Generate Citizen Trust in Governmental Usage of Algorithms”, in SCHUILENBURG, Marc; PEETERS, Rik (Eds.), The Algorithmic Society: Technology, Power, and Knowledge, Nova Iorque: Routledge.

MESQUITA, Lurdes Varregoso; CRUZ, Rossana Martingo (2022), “Algumas notas reflexivas sobre a carta portuguesa de direitos humanos na era digital: da proteção da criança ao uso da inteligência artificial em processos decisórios”, in GONZÁLEZ PULIDO, Irene (Coord.), Fodertics 10.0: estudios sobre derecho digital, Granada: Comares.

MIRANDA, João (2010), “O acesso à informação administrativa não procedimental das entidades privadas”, in Estudos em homenagem ao prof. Doutor Sérvulo Correia, vol. II, Lisboa: Faculdade de Direito da Universidade de Lisboa.

MIRANDA, Jorge (2016), Curso de Direito Constitucional, Volume 2. Estrutura do Estado. Sistemas políticos. Atividade constitucional do Estado. Fiscalização de constitucionalidade, Lisboa: Universidade Católica Editora.

MITTELSTAD, Brent, et al. (2016), “The ethics of algorithms: Mapping the debate”, Big Data & Society, n.º 3.

PEDRO, Ricardo (2023), “Luzes e sombras sobre a transparência no uso de inteligência artificial e de algoritmos pela Administração Pública”, in GOMES, Carla Amado; PEDRO, Ricardo; NETO, Eurico Bitencourt (Coords.), Em nome da transparência no direito administrativo. Um diálogo luso-brasileiro, Coimbra: Almedina.

PONCE SOLÉ, Agustí (2019), “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, Revista General de Derecho Administrativo, n.º 50.

PRATAS, Sérgio (2020), A (nova) Lei de Acesso aos Documentos Administrativos, Coimbra: Almedina.

PRATAS, Sérgio (2024), “A Lei de Acesso aos Documentos Administrativos. Uma flor na lapela da democracia?”, in OLIVEIRA, Alberto Augusto; PRATAS, Sérgio (Coords.), A Administração Aberta em Portugal. Que futuro?, Coimbra: Almedina.

SILVA, Hugo Flores da (2023), “Transparência e Estado de Direito”, in GOMES, Carla Amado; PEDRO, Ricardo; NETO, Eurico Bitencourt (Coords.), Em nome da transparência no direito administrativo. Um diálogo luso-brasileiro, Coimbra: Almedina.