Do não cognitivismo dos homens ao não congnitivismo das máquinas: percursos para o uso de decisões judiciais automatizadas

Autores

  • Fernanda Borghetti Cantali Universidade do Vale do Rio dos Sinos
  • Wilson Engelmann Universidade do Vale do Rio dos Sinos

Palavras-chave:

Metaética, Não-Cognitivismo, Algoritmos, Decisões Automatizadas, Direito de Explicabilidade

Resumo

Vive-se cada vez mais em um mundo tecnorregulado, em que os softwares de inteligência artificial são os responsáveis por muitas decisões que impactam a vida dos indivíduos. As decisões automatizadas já são uma realidade, inclusive no Poder Judiciário. De longa data se discute o decisionismo judicial, já que muitas decisões são pautadas por opiniões pessoais e emoções, afastando-se da sustentação em critérios objetivos e conforme o Direito. Tratam-se de decisões que, do ponto de vista da metaética, são não cognitivistas. Quando um software é o responsável pela tomada de decisões, é imprescindível que os critérios utilizados para tanto possam ser efetivamente explicados. A impossibilidade de acesso aos referidos critérios, dependendo da forma como o algoritmo foi estruturado, é uma realidade a qual não pode ser admitida no âmbito do Poder Judiciário. Se decisões automatizadas são inexoráveis, é preciso ter como regra o uso de algoritmo o menos opaco possível, garantindo-se compreensibilidade, ou uma explicabilidade efetiva, sob pena de não mais se enfrentar o não-cognitivismo dos homens, mas o não-cognitivismo das máquinas.

Biografia Autor

Fernanda Borghetti Cantali, Universidade do Vale do Rio dos Sinos

Doutoranda em Direito Público no Programa de Pós-Graduação em Direito pela Universidade do Vale do Rio dos Sinos, UNISINOS. São Leopoldo, Rio Grande do Sul, Brasil. Mestre em Direito pela PUCRS. LLM em Direito Empresarial pelo CEU Law School. Professora de Direito Empresarial e de Direito da Propriedade Intelectual da UNISINOS e da ESMAFE – Escola Superior da Magistratura Federal. Advogado.

Referências

ALPAYDIN, Ethem. Introduction to Machine Learning. Cambridge, Massachusetts: The MIT Press, 2004.
ANDREESSEN, Marc. Why Software Is Eating The World? The Wall Street Journal. Ago., 2011. [Acesso em 28 dez. 2020]. Disponível em: https://www.wsj.com/articles/SB10001424053111903480904576512250915629460.
BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society. Jan.-Jun., 2016. [Acesso em 28 dez. 2020]. Disponível em: https://journals.sagepub.com/doi/pdf/10.1177/2053951715622512.
ČERKAA, Paulius; GRIGIENĖA, Jurgita; SIRBIKYTĖB, Gintarė. Liability for damages caused by artificial intelligence. Computer Law & Security Review. v. 31. n. 3. Jun., 2015.
DAVIES, Colin R. An evolutionary step in intellectual property rights: Artificial Intelligence and Intellectual Property. Computer Law & Security Review. v. 27, p. 601-619. Dec. 2011.
DOMINGOS, Pedro. The master algorithm: how the quest for the ultimate machine learning will remake our world. Nova York: Basic Books, 2015.
ENGELMANN, Wilson. Direito natural, ética e hermenêutica. Porto Alegre: Livraria do Advogado Editora, 2007.
ENGELMANN, Wilson; BARCAROLLO, Felipe. Inteligência artificial na advocacia no século XXI. In: MIRANDA, José Eduardo de; HUPFFER, Haide Maria; ENGELMANN, Wilson (Org.). Direito e inteligência artificial: o desafio ético no emprego das novas tecnologias. Curitiba: Brazil Publishing, 2020, p. 251-286.
ENGELMANN, Wilson; WERNER, Deivid Augusto. Inteligência artificial e Direito. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. 2. ed. rev., atual. e ampl. São Paulo: Thomson Reuters, Revista dos Tribunais, 2020, p. 145-174.
FERRARI, Isabela. Accountability de Algoritmos: a falácia do acesso ao código e caminhos para uma explicabilidade efetiva. ITS Rio. 2019. [Acesso em 28 dez. 2020]. Disponível em: https://itsrio.org/wp-content/uploads/2019/03/Isabela-Ferrari.pdf.
FERRARI, Isabela; BECKER, Daniel; WOLKART, Erick Navarro. Arbitrium ex Machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais. v. 995, set., 2018. [Acesso em 28 dez. 2020]. Disponível em: https://www.academia.edu/38199022/ARBITRIUM_EX_MACHINA_PANORAMA_RISCOS_E_A_NECESSIDADE.pdf?auto=download.
FERREIRA NETO, Arthur Maria. Metaética e a fundamentação do Direito. Porto Alegre: Elegantia Juris, 2015.
FLORIDI, Luciano (Editor). The Onlife Manifesto: being human in a hyperconnected era. London: Springer Open, 2015.
FLORIDI, Luciano. Soft Ethics and the Governance of the Digital. Philosophy & Technology, v. 31, 2018, p. 1-8.
FREEMAN, Katherine. Algorithmic Injustice: How the Wisconsin Supreme Court failed to protect due process rights in state v. Loomis. North Carolina Journal of Law & Technology. v. 18, Dez. 2016. [Acesso em 28 dez. 2020]. Disponível em: http://ncjolt.org/wp-content/uploads/2016/12/Freeman_Final.pdf.
HEIDEGGER, Martin. Ser e tempo. Tradução: Márcia Sá Cavalcante Schuback. 3. ed. São Paulo: Vozes, 2008.
ISRANI, Ellora. Algorithmic due process: mistaken accountability and attribution in State v. Loomis. JOLTdigest. [Acesso em: 28 dez. 2020]. Disponível em: https://jolt.law.harvard.edu/digest/algorithmic-due-process-mistaken-accountability-and-attribution-in-state-v-loomis-1.
KRYSTOSEK, Rebecca. The algorithm made me do it and other bad excuses.
Minnesota Law Review. v. 102, n. 03, Mai. 2017. [Acesso em 28 dez. 2020].Disponível em: http://www.minnesotalawreview.org/2017/05/the-algorithm-made-me-do-it-and-other-bad-excuses/.
KROLL, Joshua A.; HUEY, Joanna; BAROCAS, Solon; FELTEN, Edward W.; REIDENBERG, Joel R.; ROBINSON, David G.; YU, Harlan. Accountable Algorithms. Penn Law Review. v. 165, Issue 3, 2017. [Acesso em 28 dez. 2020]. Disponível em: https://scholarship.law.upenn.edu/penn_law_review/vol165/iss3/3/.
LIPTAK, Adam. Sent to Prison by a Software Program’s Secret Algorithms. The New York Times. 1 mai. 2017. [Acesso em 28 dez. 2020]. Disponível em: https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html.
MAGRANI, Eduardo. A internet das coisas. Rio de Janeiro: FGV Editora, 2018.
______. Inteligência Artificial: o que é e como ela pode afetar sua vida. ITS Rio. Abr. 2018. Curso “Inteligência artificia: (r)evolução na prática” ministrado on line.
______. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2. ed. Porto Alegre: Arquipélago Editorial, 2019.
MITTELSTADT, Brent Daniel; ALLO, Patrick; TADDEO, Mariarosaria; WACHTER, Sandra; FLORIDI, Luciano. The ethics of algorithms: Mapping the debate. Big Data & Society. Jul.-Dez. 2016. [Acesso em 28 dez. 2020]. Disponível em: https://journals.sagepub.com/doi/pdf/10.1177/2053951716679679.
MORAL MACHINE. MIT. [Acesso em 05 dez. 2020]. Disponível em: http://moralmachine.mit.edu/.
O’BRIEN, James A. Sistemas de Informação e as decisões gerenciais na era da internet. 2. ed. São Paulo: Saraiva, 2005.
OSOBA, O; WELSER IV, W. An intelligence in our image: The Risks of Bias and Errors in Artificial Intelligence. S. M: Rand Coporation Ed, 2017.
PASQUALE, Frank. Secret Algorithms Threaten the Rule of Law. MIT Technology Review. Jun. 2017. [Acesso em 28 dez. 2020]. Disponível em: https://www.technologyreview.com/s/608011/secret-algorithms-threaten-the-rule-of-law/.
RESOLUÇÃO DO PARLAMENTO EUROPEU, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime relativo aos aspetos éticos da inteligência artificial, da robótica e das tecnologias conexas (2020/2012(INL)). [Acesso em 28 dez. 2020]. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_PT.html.
SAYRE-MCCORD, Geoff. “Metaethics”. The Stanford Encyclopedia of Philosophy. Summer 2014 Edition. [Acesso em 28 dez. 2020]. Disponível em: https://plato.stanford.edu/archives/sum2014/entries/metaethics/.
______. “Moral Realism”. The Stanford Encyclopedia of Philosophy. Fall 2017 Edition. [Acesso em 28 dez. 2020]. Disponível em: https://plato.stanford.edu/archives/fall2017/entries/moral-realism/.
SCHWAB, Klaus. A quarta revolução industrial. Traduzido por Daniel Moreira Miranda. São Paulo: Edipro, 2016.
SMITH, Michael. The Moral Problem. Oxford: Blackwell Publishers, 1994.
STEIN, Ernildo. Introdução ao Método Fenomenológico Heideggeriano. In Sobre a Essência do Fundamento. Conferências e Escritos Filosóficos de Martin Heidegger. Tradução de Ernildo Stein. São Paulo: Abril Cultural (Coleção Os Pensadores), 1979.
STRECK, Lenio Luiz. Jurisdição Constitucional e Hermenêutica: uma nova crítica do Direito. 2. ed. rev. e ampl. Rio de Janeiro: Forense, 2004.
______. Hermenêutica jurídica (em) crise: uma exploração hermenêutica da construção do direito. 11. ed. Porto Alegre: Livraria do Advogado, 2014.
______. Advocacia virou exercício de humilhação e corrida de obstáculos. Conjur. Jul. 2016. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2016-jul-28/senso-incomum-advocacia-virou-exercicio-humilhacao-corrida-obstaculos.
______. Dicionário de Hermenêutica. Belo Horizonte: casa do Direito, 2017.
______. Hermenêutica e Jurisdição: diálogos com Lenio Streck. Porto Alegre: Livraria do Advogado, 2017.
______. Lawtechs, startups, algoritmos: Direito que é bom, nem falar, certo? Conjur. Mai. 2019. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2019-mai-16/senso-incomum-lawtechs-startups-algoritmos-direito-bom-nem-falar-certo.
______. Que venham logo os intelectuais para ensinarem aos especialistas. Conjur. Mai. 2019. [Acesso em: 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2019-mai-30/senso-incomum-venham-logo-intelectuais-ensinarem-aos-especialistas.
SUPREMO TRIBUNAL FEDERAL. [Acesso em 28 dez. 2020]. Disponível em: http://portal.stf.jus.br/processos/detalhe.asp?incidente=2419108.
TRINDADE, André Karam. A Filosofia no Direito e as condições de possibilidade do discurso jurídico. Conjur. Jun. 2014. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2014-jun-14/filosofia-direito-condicoes-possibilidade-discurso-juridico.
VAN ROOJEN, Mark. Moral Cognitivism vs. Non-Cognitivism. The Stanford Encyclopedia of Philosophy. Fall 2018 Edition. [Acesso em: 28 dez. 2020]. https://plato.stanford.edu/archives/fall2018/entries/moral-cognitivism/.

Downloads

Publicado

2021-07-31

Como Citar

Borghetti Cantali, F., & Engelmann, W. (2021). Do não cognitivismo dos homens ao não congnitivismo das máquinas: percursos para o uso de decisões judiciais automatizadas. Revista Jurídica Portucalense, 35–58. Obtido de https://revistas.rcaap.pt/juridica/article/view/21958

Edição

Secção

Investigação Científica