Do não cognitivismo dos homens ao não congnitivismo das máquinas: percursos para o uso de decisões judiciais automatizadas

Fernanda Borghetti Cantali; Wilson Engelmann

Authors

Fernanda Borghetti Cantali Universidade do Vale do Rio dos Sinos
Wilson Engelmann Universidade do Vale do Rio dos Sinos

Keywords:

Metaethics, Non-cognitivism, Algorithms, Automated Decisions, Right of Explicability

Abstract

People live increasingly in a techno regulated world, where artificial intelligence softwares are responsible for plenty of decisions that impact individuals’ lives. Automated decisions are already a reality, even in the judiciary. Judicial decisionism has long been discussed, as many decisions are based on personal opinions and emotions, moving away from being based on objective criteria and according to the law. These are decisions that, from the metaethics point of view, are non-cognitivists. When software is responsible for decision-making, it is essential that the criteria used for this can be effectively explained. The impossibility of access to these criteria, depending on the way the algorithm was structured, is a reality which cannot be admitted within the Judiciary. If automated decisions are inexorable, the rule should be to use the least opaque algorithm possible, ensuring comprehensibility, or effective explicability, otherwise we will no longer face men's non-cognitivism but machine non-cognitivism.

Author Biography

Fernanda Borghetti Cantali, Universidade do Vale do Rio dos Sinos

Doutoranda em Direito Público no Programa de Pós-Graduação em Direito pela Universidade do Vale do Rio dos Sinos, UNISINOS. São Leopoldo, Rio Grande do Sul, Brasil. Mestre em Direito pela PUCRS. LLM em Direito Empresarial pelo CEU Law School. Professora de Direito Empresarial e de Direito da Propriedade Intelectual da UNISINOS e da ESMAFE – Escola Superior da Magistratura Federal. Advogado.

References

ALPAYDIN, Ethem. Introduction to Machine Learning. Cambridge, Massachusetts: The MIT Press, 2004.
ANDREESSEN, Marc. Why Software Is Eating The World? The Wall Street Journal. Ago., 2011. [Acesso em 28 dez. 2020]. Disponível em: https://www.wsj.com/articles/SB10001424053111903480904576512250915629460.
BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society. Jan.-Jun., 2016. [Acesso em 28 dez. 2020]. Disponível em: https://journals.sagepub.com/doi/pdf/10.1177/2053951715622512.
ČERKAA, Paulius; GRIGIENĖA, Jurgita; SIRBIKYTĖB, Gintarė. Liability for damages caused by artificial intelligence. Computer Law & Security Review. v. 31. n. 3. Jun., 2015.
DAVIES, Colin R. An evolutionary step in intellectual property rights: Artificial Intelligence and Intellectual Property. Computer Law & Security Review. v. 27, p. 601-619. Dec. 2011.
DOMINGOS, Pedro. The master algorithm: how the quest for the ultimate machine learning will remake our world. Nova York: Basic Books, 2015.
ENGELMANN, Wilson. Direito natural, ética e hermenêutica. Porto Alegre: Livraria do Advogado Editora, 2007.
ENGELMANN, Wilson; BARCAROLLO, Felipe. Inteligência artificial na advocacia no século XXI. In: MIRANDA, José Eduardo de; HUPFFER, Haide Maria; ENGELMANN, Wilson (Org.). Direito e inteligência artificial: o desafio ético no emprego das novas tecnologias. Curitiba: Brazil Publishing, 2020, p. 251-286.
ENGELMANN, Wilson; WERNER, Deivid Augusto. Inteligência artificial e Direito. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. 2. ed. rev., atual. e ampl. São Paulo: Thomson Reuters, Revista dos Tribunais, 2020, p. 145-174.
FERRARI, Isabela. Accountability de Algoritmos: a falácia do acesso ao código e caminhos para uma explicabilidade efetiva. ITS Rio. 2019. [Acesso em 28 dez. 2020]. Disponível em: https://itsrio.org/wp-content/uploads/2019/03/Isabela-Ferrari.pdf.
FERRARI, Isabela; BECKER, Daniel; WOLKART, Erick Navarro. Arbitrium ex Machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais. v. 995, set., 2018. [Acesso em 28 dez. 2020]. Disponível em: https://www.academia.edu/38199022/ARBITRIUM_EX_MACHINA_PANORAMA_RISCOS_E_A_NECESSIDADE.pdf?auto=download.
FERREIRA NETO, Arthur Maria. Metaética e a fundamentação do Direito. Porto Alegre: Elegantia Juris, 2015.
FLORIDI, Luciano (Editor). The Onlife Manifesto: being human in a hyperconnected era. London: Springer Open, 2015.
FLORIDI, Luciano. Soft Ethics and the Governance of the Digital. Philosophy & Technology, v. 31, 2018, p. 1-8.
FREEMAN, Katherine. Algorithmic Injustice: How the Wisconsin Supreme Court failed to protect due process rights in state v. Loomis. North Carolina Journal of Law & Technology. v. 18, Dez. 2016. [Acesso em 28 dez. 2020]. Disponível em: http://ncjolt.org/wp-content/uploads/2016/12/Freeman_Final.pdf.
HEIDEGGER, Martin. Ser e tempo. Tradução: Márcia Sá Cavalcante Schuback. 3. ed. São Paulo: Vozes, 2008.
ISRANI, Ellora. Algorithmic due process: mistaken accountability and attribution in State v. Loomis. JOLTdigest. [Acesso em: 28 dez. 2020]. Disponível em: https://jolt.law.harvard.edu/digest/algorithmic-due-process-mistaken-accountability-and-attribution-in-state-v-loomis-1.
KRYSTOSEK, Rebecca. The algorithm made me do it and other bad excuses.
Minnesota Law Review. v. 102, n. 03, Mai. 2017. [Acesso em 28 dez. 2020].Disponível em: http://www.minnesotalawreview.org/2017/05/the-algorithm-made-me-do-it-and-other-bad-excuses/.
KROLL, Joshua A.; HUEY, Joanna; BAROCAS, Solon; FELTEN, Edward W.; REIDENBERG, Joel R.; ROBINSON, David G.; YU, Harlan. Accountable Algorithms. Penn Law Review. v. 165, Issue 3, 2017. [Acesso em 28 dez. 2020]. Disponível em: https://scholarship.law.upenn.edu/penn_law_review/vol165/iss3/3/.
LIPTAK, Adam. Sent to Prison by a Software Program’s Secret Algorithms. The New York Times. 1 mai. 2017. [Acesso em 28 dez. 2020]. Disponível em: https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html.
MAGRANI, Eduardo. A internet das coisas. Rio de Janeiro: FGV Editora, 2018.
______. Inteligência Artificial: o que é e como ela pode afetar sua vida. ITS Rio. Abr. 2018. Curso “Inteligência artificia: (r)evolução na prática” ministrado on line.
______. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2. ed. Porto Alegre: Arquipélago Editorial, 2019.
MITTELSTADT, Brent Daniel; ALLO, Patrick; TADDEO, Mariarosaria; WACHTER, Sandra; FLORIDI, Luciano. The ethics of algorithms: Mapping the debate. Big Data & Society. Jul.-Dez. 2016. [Acesso em 28 dez. 2020]. Disponível em: https://journals.sagepub.com/doi/pdf/10.1177/2053951716679679.
MORAL MACHINE. MIT. [Acesso em 05 dez. 2020]. Disponível em: http://moralmachine.mit.edu/.
O’BRIEN, James A. Sistemas de Informação e as decisões gerenciais na era da internet. 2. ed. São Paulo: Saraiva, 2005.
OSOBA, O; WELSER IV, W. An intelligence in our image: The Risks of Bias and Errors in Artificial Intelligence. S. M: Rand Coporation Ed, 2017.
PASQUALE, Frank. Secret Algorithms Threaten the Rule of Law. MIT Technology Review. Jun. 2017. [Acesso em 28 dez. 2020]. Disponível em: https://www.technologyreview.com/s/608011/secret-algorithms-threaten-the-rule-of-law/.
RESOLUÇÃO DO PARLAMENTO EUROPEU, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime relativo aos aspetos éticos da inteligência artificial, da robótica e das tecnologias conexas (2020/2012(INL)). [Acesso em 28 dez. 2020]. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_PT.html.
SAYRE-MCCORD, Geoff. “Metaethics”. The Stanford Encyclopedia of Philosophy. Summer 2014 Edition. [Acesso em 28 dez. 2020]. Disponível em: https://plato.stanford.edu/archives/sum2014/entries/metaethics/.
______. “Moral Realism”. The Stanford Encyclopedia of Philosophy. Fall 2017 Edition. [Acesso em 28 dez. 2020]. Disponível em: https://plato.stanford.edu/archives/fall2017/entries/moral-realism/.
SCHWAB, Klaus. A quarta revolução industrial. Traduzido por Daniel Moreira Miranda. São Paulo: Edipro, 2016.
SMITH, Michael. The Moral Problem. Oxford: Blackwell Publishers, 1994.
STEIN, Ernildo. Introdução ao Método Fenomenológico Heideggeriano. In Sobre a Essência do Fundamento. Conferências e Escritos Filosóficos de Martin Heidegger. Tradução de Ernildo Stein. São Paulo: Abril Cultural (Coleção Os Pensadores), 1979.
STRECK, Lenio Luiz. Jurisdição Constitucional e Hermenêutica: uma nova crítica do Direito. 2. ed. rev. e ampl. Rio de Janeiro: Forense, 2004.
______. Hermenêutica jurídica (em) crise: uma exploração hermenêutica da construção do direito. 11. ed. Porto Alegre: Livraria do Advogado, 2014.
______. Advocacia virou exercício de humilhação e corrida de obstáculos. Conjur. Jul. 2016. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2016-jul-28/senso-incomum-advocacia-virou-exercicio-humilhacao-corrida-obstaculos.
______. Dicionário de Hermenêutica. Belo Horizonte: casa do Direito, 2017.
______. Hermenêutica e Jurisdição: diálogos com Lenio Streck. Porto Alegre: Livraria do Advogado, 2017.
______. Lawtechs, startups, algoritmos: Direito que é bom, nem falar, certo? Conjur. Mai. 2019. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2019-mai-16/senso-incomum-lawtechs-startups-algoritmos-direito-bom-nem-falar-certo.
______. Que venham logo os intelectuais para ensinarem aos especialistas. Conjur. Mai. 2019. [Acesso em: 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2019-mai-30/senso-incomum-venham-logo-intelectuais-ensinarem-aos-especialistas.
SUPREMO TRIBUNAL FEDERAL. [Acesso em 28 dez. 2020]. Disponível em: http://portal.stf.jus.br/processos/detalhe.asp?incidente=2419108.
TRINDADE, André Karam. A Filosofia no Direito e as condições de possibilidade do discurso jurídico. Conjur. Jun. 2014. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2014-jun-14/filosofia-direito-condicoes-possibilidade-discurso-juridico.
VAN ROOJEN, Mark. Moral Cognitivism vs. Non-Cognitivism. The Stanford Encyclopedia of Philosophy. Fall 2018 Edition. [Acesso em: 28 dez. 2020]. https://plato.stanford.edu/archives/fall2018/entries/moral-cognitivism/.