Workers under the aegis of Artificial Intelligence: New Risks and Challenges in the Light of Data Protection
DOI:
https://doi.org/10.34625/issn.2183-2705(38)2025.ic-22Keywords:
personal data, privacy, consent, companies, human dignityAbstract
This article analyses the impact of the advance of Artificial Intelligence (AI) in the workplace, considering human rights and the protection of personal data, in light of the Data Protection Regulation and the Artificial Intelligence Regulation. AI improves efficiency, productivity and safety at work, replacing dangerous tasks and promoting the dignity of workers. However, the uncontrolled use of these technologies raises concerns about privacy and the protection of personal data, especially in the labour context. The study highlights the importance of organisations adopting a culture of responsibility and regulatory compliance, guaranteeing respect for workers' rights when collecting, processing and storing data. It also discusses the legal challenges, reinforcing the responsibility of organisations to manage AI ethically and legally, in accordance with labour and data protection law. The results highlight the need to reflect on the impact of AI systems on workers' privacy, requiring public policies to minimize the challenges faced by organizations.
References
ABA CATOIRA, Ana. La garantia de los derechos como respuesta frente a los retos tecnológicos. In, Francisco Balaguer Callejón, Lorenzo Cotino Hueso (coord..). Derecho público de la inteligencia artificial. Fundación Manuel Giménez Abad de Estudios Parlamentarios y del Estado Autonómico, 2023, 57-84. ISBN: 9788412701609.
Acórdão do Tribunal da Relação de Lisboa, processo n.º 12234/21.0T8LSB.I.1-7, 13 de julho de 2023, relator Luís Filipe Pires de Sousa.
Acórdão do Tribunal da Relação do Porto, processo n.º 2594/19.8T8VFR-A.P1, de 14 de julho de 2021, relator Paula Leal de Carvalho.
Acórdão do Tribunal da Relação de Coimbra, processo n.º 4354/19.7T8CBR-A.C2, de 26 de junho de 2020, relator Felizardo Paiva.
AESST. Estratégias de segurança e saúde num mundo autonomizado [em linha]. 2024. [Consulta 25 de jun. de 2025]. Disponível em URL: https://osha.europa.eu/pt/publications/strategies-safety-and-health-automated-world
ALVES, Lurdes Dias. Proteção de Dados Pessoais no Contexto Laboral. O Direito à Privacidade do Trabalhador. Coimbra: Almedina, 2020. ISBN: 9789724085814
BARBOSA, Mafalda Miranda. Inteligência artificial e contrato de trabalho em funções públicas. Revista de Administração Pública, Número Especial, (10), 2024, 116–117.
BLANCO, Damásio. Human rights and Artificial Intelligence International Public Order in Cyberspace in the European AI ACT. Revista eletrónica de Direito, 1 (36), 2025. DOI 10.24840/2182-9845_2025-0001_0006
BUDHWAR, Pawan, et. al. Artificial intelligence – challenges and opportunities for HRM. The Internacional Journal of Human Resource Management, Vol.33, (6), 2022. DOI: 10.1080/09585192.2022.2035161. [Consulta: 06 de outubro de 2025].
CAPASSO, Mariana, ARORA, Payal, SHARMA, Deepshikha e TACCONI, Celeste. On the Right to Work in the Age of Artificial Intelligence: Ethical Safeguards in Algorithmic Human Resource Management. In, Business and Human Rights Journal, Vol.9, (3), 2025. [Consulta: 04 de outubro de 2025]. Disponível em: https://doi.org/10.1017/bhj.2024.26
CANOTILHO, José Gomes & MOREIRA, Vital Martins. Constituição da República Portuguesa anotada, Vol. I, 4.ª ed.. Coimbra: Coimbra Editora, 2007. ISBN: 978-972-32-1464-4.
CAZZANIGA, Mauro, JAUMOTTE, Florence, LI, Longji, MELINA, Giovanni, PANTON, Augustus, PIZZINELLI, Carlo, ROCKALL, Emma, TAVARES, Marina. Gen-AI: Artificial Intelligence and the Future of Work. IMF Staff Discussion Note SDN2024/001, International Monetary Fund, Washington, DC, 2024, 4. [Consulta: 04 de outubro de 2025]. Disponível em: file:///C:/Users/elisa/Downloads/SDNEA2024001%20(1).pdf
CELESTE, Eduardo, DE GREGORIO, Giovanni. Digital Humanism: The Constitucional Message of the GDPR (2021), 3 (1). Global Privacy Law Review, , 4, 2022. [última consulta: 04 outubro 2025]. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4045029
CHEN, Zhisheng., et. al. Ethics and discrimination in artificial intelligence-enabled recruitment. Humanities and Social Sciences Comunications. 10,(567), 2023. Disponível em: https://doi.org/10.1057/s41599-023-02079-x
CRISTOFOLINI, Chiara. Navigating the impact of AI systems in the workplace: strengths and loopholes of the EU AI Act from a labour perspective. Italian Labour Law e-Journal, Issue I, vol. 17, 2024, 82.
DINIS, Marisa, BERNARDINO, Filipe. Os sistemas de Inteligência e o cumprimento dos fatores ESG: perspetiva do Direito das Sociedades. Revista Jurídica Portucalense, (38). Porto: Universidade Portucalense, 2025, 25-46. DOI: https://doi.org/10.34625/issn.2183-2705(38)2025.ic-2 [Consulta: 05 de outubro de 2025]
DINIS, Marisa. Artificial Intelligence Systems – The Longa Manus of Managers. In Educational Administration: Theory and Practice, 30 (5), 2024, 6420-6425. https://doi.org/10.53555/kuey.v30i5.3950. [Consulta: 05 de outubro de 2025]. Disponível em: – https://kuey.net/index.php/kuey/article/view/3950(Scopus)
FAZENDEIRO, Ana. Regulamento Geral de Proteção de Dados. 4.ª Edição. Coimbra: Almedina, 2023.ISBN: 9789894015017
FIEGLER-RUDOL,Jakub, LAU, Karolina, MROCZEK, Alina, KASPERCZYK, Jsnusz. Exploring Human-AI Dynamics in Enhancing Workplace Health and Safety: A Narrayive Review. Int. J. Environ Res Public Health, 2025, (22), 199. [Consulta: 04 de outubro de 2025]. Disponível em: https://doi.org/10.3390/ijerph22020199.
FISHER, Elisabete, et al. Occupational Safety and Health Equity Impacts of Artificial Intelligence: A Scoping Review. International Journal of Environmental Research and Public Health. 2023, 20 (13): 6211. Doi: 10.3390/ijerph20136221. [Consulta: 06 de outubro de 2025]
FUSCO, Federico. Rethinking the Allocation Criteria of the Labour Law Rights and Protections: A Risk-Based Approach. European Labour Law Journal [online]. Vol. 11, (2)., 2020, 131.141. ISSN 2399-5556. DOI: https://doi.org/10.1177/2031952520905152. [Consulta: 04 de outubro de 2025]
GIOVANNI, Gaudio. Le discriminazioni algoritmiche. In Lavoro Diritti Europa, (1), 2024, 1-26.
GOMES, Canotilho; VITAL, Moreira. Constituição da República Portuguesa anotada. Vol. I. 4.ª ed. Coimbra: Coimbra Editora, 2007.
GONZÁLEZ-JULIANA, Álvaro, MENDONÇA. Maria Júlia Ildefonso. O controlo social sobre a utilização de sistemas de inteligência articial pela Administração Pública. In, Revista Jurídica Portucalense, (37), Porto: Universidade Portucalense, 2025, 370-391. DOI: https://doi.org/10.34625/issn.2183-2705(37)2025.ic-18 [Consulta: 05 de outubro de 2025]
LEŠNIK, Asja. Protection of Workers in Relation io the Use of Artificial Intelligence in tle Workplace. In, LeXonomica, 17 (1), 79-120. DOI: 10.18690/lexonomica.17.1.79-120.2025. [Consulta: 04 de outubro de 2025]
MAGALHÃES, Filipa Matias; PEREIRA, Maria Leitão. Regulamento Geral de Proteção de Dados, 3.ª ed. Lisboa: Vida Económica, 2020. ISBN: 9689897686801
MARZO, Claire e SMORTO, Guido. Gendering Platform Law. An introduction. In Labour & Law Issues, Vol. 10, (2), 2024, IV.
MIRANDA, Jorge.; MEDEIROS, Rui. Constituição da República Portuguesa anotada. Tomo I. Coimbra: Coimbra Editora, 2005. ISBN: 9789723218220
MOREIRA, Teresa Coelho. Direito do trabalho na era digital. Coimbra: Almedina, 2021. ISBN: 978-972-409775-6
NILSSOON, Karin Hennum, SANTANDER, Nuria Matilla, LEE, Min Kyung, BRULIN, Emma, BODIN, Theo, HÅKANSTA, Carin, Algorithmic management and occupational health: A comparative case study of organizational practices in logistics. In, Safety Science, Vol. 187, 2025. https://doi.org/10.1016/j.ssci.2025.106863. [Consulta: 05 de outubro de 2025] Disponível em: https://www.sciencedirect.com/science/article/pii/S0925753525000888.
OCDE. Recommendation of the Council on Artificial Intelligence [online], 2019/2024. Disponível em: https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449 [Consulta: 25 de junho de 2025]
OIT. Relatório Global: revolucionar a segurança e saúde no trabalho: O papel da IA e da digitalização. Genebra: BIT, 2025, 5-6; 9-13. ISBN: 9789220420584
OIT, Generative AI and Jobs: A Global Analysis of Potential Effects on Job Quantity and Quality, 2023. OIT. [Consulta: 01 de julho de 2025]. Disponível em: https://www.ilo.org/publications/ generative-ai-and-jobs-global-analysis-potential-effects-job-quantity-and
PERUZZI, Marco. Intelligenza artificiale a lavoro: l´Impacto dell’AI Act nella ricostruzione del sistema regolativo UE di tutela, in Biassini, Marco (eds). Diritto del lavoro e intelligenza artificiale, Giuffré, Millan, 2024, 115-143. [Consulta: 04 de outubro de 2025]. Disponível em: https://www.lavorodirittieuropa.it/images/Biasi_1.pdf
PERUZZI, Marco. IA e obblighi datoriali di tutela del lavoratore: necessità e declinazioni dell’approccio risk-based. Federalismi.it, Rivista di dirritto pubblico italiano, comparado ed europeo, (30), 2024, 225-249. ISSN: 1826-3534.
PINHEIRO, Alexandre Sousa. Privacy e proteção de dados pessoais: A construção dogmática do direito à identidade informacional. Lisboa: AAFDL, 2015. ISBN: 9786120002605
PINHEIRO, Alexandre Sousa. A proteção de dados na proposta de regulamento comunitário. Direito e Política ( 1), 9 ss, 2012.
POLAJŽAR, Aljoša. Analysis of the criteria for establishing the existence of an employment relationship of platform workers under the Plarform Work Directive – high expectations and limited outcome?. In, Revista Jurídica Portucalense, (38). Porto: Universidade Portucalense, 2025, 106-122. DOI: https://doi.org/10.34625/issn.2183-2705(38)2025.ic-6 [Consulta: 04 de outubro de 2025]
RAMIRO, Mónica Arenas, LIMA, David Diaz. Privacidad y Derechos Digitales. In, Francisco Balaguer Callejón, Lorenzo Cotino Hueso (coord..). Derecho público de la inteligencia artificial. Fundación Manuel Giménez Abad de Estudios Parlamentarios y del Estado Autonómico, 2023, 285-318. ISBN: 9788412701609.
ROZAS, José Carlos Fernández. La ley de inteligencia artificial de la Unión Europeia: Un modelo para innovaciones radicales, responsables y transparentes basadas en el riesgo. La Ley Unión Europeia [online], abr. 2024, n.º 124, Sección Estudios. Disponível em: https://diariolaley.laleynext.es/la-ley-union-europea/2024/04/01/la-ley-de-inteligencia-artificial-de-la-union-europea-un-modelo-para-innovaciones-radicales-responsables-y-transparentes-basadas-en-el-riesgo. [Consulta: 25 de junho de 2025].
RUSSELL, Stuart; NORVIG, Peter. Artificial Intelligence: A Modern Approach. 3rd ed. Prentice-Hall, 2010.ISBN-13: 9780136042594
SANTOS, Elisabete. Segurança e Saúde no Trabalho como direito social na legislação nacional e internacional: situação atual e desafios. In, Revista Jurídica Portucalense, (37), Porto: Universidade Portucalense, 2024. DOI: https://doi.org/10.34625/issn.2183-2705(36)2024.ic-18. [Última consulta em: 05 de outubro de 2025]
SANTOS, Mónica, ALMEIDA, Armando, CHAGAS, Dina. Inteligência Artificial aplicada à Saúde Ocupacional. Revista Portuguesa de Saúde Ocupacional [online], 18, esub0463, 2024. DOI:10.31252/RPSO.07.09.2024. [Consulta em: 01 de julho de 2025].
SARTOR, Giovanni. Artificial intelligence and human rights: between law and ethics. Maastricht Jornal of European and Comparative Law, 27 (issue 6), 2020, 705-719.
SCHELLMANN, Hilke. The Algorithm – How Al can hijack your career and steal your future. Londres: Hurst Publisher, 2024. ISBN: 9781805261339;
SILVA, Placídio. Ferreira da; SILVEIRA, Daniel Barile. da. Dever fundamental à informação e à inteligência artificial utilizada no mercado de trabalho. Contribuciones a las Ciencias Sociales, 2025, vol. 18, (5), e17727.
UNESCO. Recomendação sobre a Ética da Inteligência Artificial [online]. 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137. [Consulta: 26 de junho de 2025].
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024. Regulamento relativo à inteligência artificial. [Consulta: 25 de junho de 2025]. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/PDF/?uri=OJ:L_202401689
UNIÃO EUROPEIA. Declaração Europeia sobre direitos e princípios digitais [online]. 2022. .[Consulta: 23 de junho de 2025]. Disponível em: file:///C:/Users/elisa/Downloads/European_Declaration_on_Digital_Rights_and_Principles_signed_002_sPqb0eme38LoyyLQatnQJjkCZGU_94370%20(1).pdf
UNIÃO EUROPEIA. Declaração de Lisboa – Democracia Digital com propósito, 2021 – o reforço da dimensão humana do ecossistema digital. [última consulta: 26 junho 2025]; Disponível em: https://www.lisbondeclaration.eu/
UNIÃO EUROPEIA. Livro Branco sobre a Inteligência Artificial – Uma abordagem europeia de excelência e confiança [online]. 2020. [Consulta: 26 de junho de 2025]. Disponível em: https://commission.europa.eu/document/download/d2ec4039-c5be-423a-81ef-b9e44e79825b_pt?filename=commission-white-paper-artificial-intelligence-feb2020_pt.pdf
UNIÃO EUROPEIA. Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016. Regulamento Geral sobre a Proteção de Dados (RGPD). [Consulta: 26 de junho de 2025]. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=LEGISSUM:310401_2
WORLD ECONOMIC FORUM. The Future of Jobs Report 2025 [online]. 2025. Disponível em: https://www.weforum.org/publications/the-future-of-jobs-report-2025. [Consulta: 25 de junho de 2025]
ZHANG, Xianghan, ZHENGWEI, LI. Research on the Impact of Algorithmic Management on Employee Work Behavior in Platform Enterprises. In Journal of Economics and Management Sciences, Vol. 8 (2), 2025, 99-105. ISSN 2576-3008 E-ISSN 2576-3016 [última consulta: 04 de outubro de 2025]. Disponível em: https://doi.org/10.30560/jems.v8n2p99.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2025 Elisabete SANTOS
This work is licensed under a Creative Commons Attribution 4.0 International License.
Authors who published in the journal agree to the following terms:
- The Authors grant the Journal the right of first publication, and other non-exclusive publishing rights, licensed under the Creative Commons Attribution License which allows the sharing of work with recognition of its initial publication in this journal.
- Authors are able to take on additional contracts separately, non-exclusive distribution of the version of the paper published in this journal (ex .: publish in an institutional repository or as a chapter in a book), with an acknowledgement of its initial publication in this journal.
- Authors are permitted and encouraged to post and distribute their work online (eg .: in institutional repositories or on their website) at any point before or during the submission process, as it can lead to productive exchanges, as well as increase the impact and the citation of published work (See The Effect of Open Access).
RJP does not apply submission, publication or any other fees of any nature. Its articles are open access, with the goal of disseminating scientific knowledge and the debate of legal topics in the area of Legal Sciences.
