Do não cognitivismo dos homens ao não congnitivismo das máquinas: percursos para o uso de decisões judiciais automatizadas
Palavras-chave:
Metaética, Não-Cognitivismo, Algoritmos, Decisões Automatizadas, Direito de ExplicabilidadeResumo
Vive-se cada vez mais em um mundo tecnorregulado, em que os softwares de inteligência artificial são os responsáveis por muitas decisões que impactam a vida dos indivíduos. As decisões automatizadas já são uma realidade, inclusive no Poder Judiciário. De longa data se discute o decisionismo judicial, já que muitas decisões são pautadas por opiniões pessoais e emoções, afastando-se da sustentação em critérios objetivos e conforme o Direito. Tratam-se de decisões que, do ponto de vista da metaética, são não cognitivistas. Quando um software é o responsável pela tomada de decisões, é imprescindível que os critérios utilizados para tanto possam ser efetivamente explicados. A impossibilidade de acesso aos referidos critérios, dependendo da forma como o algoritmo foi estruturado, é uma realidade a qual não pode ser admitida no âmbito do Poder Judiciário. Se decisões automatizadas são inexoráveis, é preciso ter como regra o uso de algoritmo o menos opaco possível, garantindo-se compreensibilidade, ou uma explicabilidade efetiva, sob pena de não mais se enfrentar o não-cognitivismo dos homens, mas o não-cognitivismo das máquinas.
Referências
ANDREESSEN, Marc. Why Software Is Eating The World? The Wall Street Journal. Ago., 2011. [Acesso em 28 dez. 2020]. Disponível em: https://www.wsj.com/articles/SB10001424053111903480904576512250915629460.
BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society. Jan.-Jun., 2016. [Acesso em 28 dez. 2020]. Disponível em: https://journals.sagepub.com/doi/pdf/10.1177/2053951715622512.
ČERKAA, Paulius; GRIGIENĖA, Jurgita; SIRBIKYTĖB, Gintarė. Liability for damages caused by artificial intelligence. Computer Law & Security Review. v. 31. n. 3. Jun., 2015.
DAVIES, Colin R. An evolutionary step in intellectual property rights: Artificial Intelligence and Intellectual Property. Computer Law & Security Review. v. 27, p. 601-619. Dec. 2011.
DOMINGOS, Pedro. The master algorithm: how the quest for the ultimate machine learning will remake our world. Nova York: Basic Books, 2015.
ENGELMANN, Wilson. Direito natural, ética e hermenêutica. Porto Alegre: Livraria do Advogado Editora, 2007.
ENGELMANN, Wilson; BARCAROLLO, Felipe. Inteligência artificial na advocacia no século XXI. In: MIRANDA, José Eduardo de; HUPFFER, Haide Maria; ENGELMANN, Wilson (Org.). Direito e inteligência artificial: o desafio ético no emprego das novas tecnologias. Curitiba: Brazil Publishing, 2020, p. 251-286.
ENGELMANN, Wilson; WERNER, Deivid Augusto. Inteligência artificial e Direito. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. 2. ed. rev., atual. e ampl. São Paulo: Thomson Reuters, Revista dos Tribunais, 2020, p. 145-174.
FERRARI, Isabela. Accountability de Algoritmos: a falácia do acesso ao código e caminhos para uma explicabilidade efetiva. ITS Rio. 2019. [Acesso em 28 dez. 2020]. Disponível em: https://itsrio.org/wp-content/uploads/2019/03/Isabela-Ferrari.pdf.
FERRARI, Isabela; BECKER, Daniel; WOLKART, Erick Navarro. Arbitrium ex Machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais. v. 995, set., 2018. [Acesso em 28 dez. 2020]. Disponível em: https://www.academia.edu/38199022/ARBITRIUM_EX_MACHINA_PANORAMA_RISCOS_E_A_NECESSIDADE.pdf?auto=download.
FERREIRA NETO, Arthur Maria. Metaética e a fundamentação do Direito. Porto Alegre: Elegantia Juris, 2015.
FLORIDI, Luciano (Editor). The Onlife Manifesto: being human in a hyperconnected era. London: Springer Open, 2015.
FLORIDI, Luciano. Soft Ethics and the Governance of the Digital. Philosophy & Technology, v. 31, 2018, p. 1-8.
FREEMAN, Katherine. Algorithmic Injustice: How the Wisconsin Supreme Court failed to protect due process rights in state v. Loomis. North Carolina Journal of Law & Technology. v. 18, Dez. 2016. [Acesso em 28 dez. 2020]. Disponível em: http://ncjolt.org/wp-content/uploads/2016/12/Freeman_Final.pdf.
HEIDEGGER, Martin. Ser e tempo. Tradução: Márcia Sá Cavalcante Schuback. 3. ed. São Paulo: Vozes, 2008.
ISRANI, Ellora. Algorithmic due process: mistaken accountability and attribution in State v. Loomis. JOLTdigest. [Acesso em: 28 dez. 2020]. Disponível em: https://jolt.law.harvard.edu/digest/algorithmic-due-process-mistaken-accountability-and-attribution-in-state-v-loomis-1.
KRYSTOSEK, Rebecca. The algorithm made me do it and other bad excuses.
Minnesota Law Review. v. 102, n. 03, Mai. 2017. [Acesso em 28 dez. 2020].Disponível em: http://www.minnesotalawreview.org/2017/05/the-algorithm-made-me-do-it-and-other-bad-excuses/.
KROLL, Joshua A.; HUEY, Joanna; BAROCAS, Solon; FELTEN, Edward W.; REIDENBERG, Joel R.; ROBINSON, David G.; YU, Harlan. Accountable Algorithms. Penn Law Review. v. 165, Issue 3, 2017. [Acesso em 28 dez. 2020]. Disponível em: https://scholarship.law.upenn.edu/penn_law_review/vol165/iss3/3/.
LIPTAK, Adam. Sent to Prison by a Software Program’s Secret Algorithms. The New York Times. 1 mai. 2017. [Acesso em 28 dez. 2020]. Disponível em: https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html.
MAGRANI, Eduardo. A internet das coisas. Rio de Janeiro: FGV Editora, 2018.
______. Inteligência Artificial: o que é e como ela pode afetar sua vida. ITS Rio. Abr. 2018. Curso “Inteligência artificia: (r)evolução na prática” ministrado on line.
______. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2. ed. Porto Alegre: Arquipélago Editorial, 2019.
MITTELSTADT, Brent Daniel; ALLO, Patrick; TADDEO, Mariarosaria; WACHTER, Sandra; FLORIDI, Luciano. The ethics of algorithms: Mapping the debate. Big Data & Society. Jul.-Dez. 2016. [Acesso em 28 dez. 2020]. Disponível em: https://journals.sagepub.com/doi/pdf/10.1177/2053951716679679.
MORAL MACHINE. MIT. [Acesso em 05 dez. 2020]. Disponível em: http://moralmachine.mit.edu/.
O’BRIEN, James A. Sistemas de Informação e as decisões gerenciais na era da internet. 2. ed. São Paulo: Saraiva, 2005.
OSOBA, O; WELSER IV, W. An intelligence in our image: The Risks of Bias and Errors in Artificial Intelligence. S. M: Rand Coporation Ed, 2017.
PASQUALE, Frank. Secret Algorithms Threaten the Rule of Law. MIT Technology Review. Jun. 2017. [Acesso em 28 dez. 2020]. Disponível em: https://www.technologyreview.com/s/608011/secret-algorithms-threaten-the-rule-of-law/.
RESOLUÇÃO DO PARLAMENTO EUROPEU, de 20 de outubro de 2020, que contém recomendações à Comissão sobre o regime relativo aos aspetos éticos da inteligência artificial, da robótica e das tecnologias conexas (2020/2012(INL)). [Acesso em 28 dez. 2020]. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_PT.html.
SAYRE-MCCORD, Geoff. “Metaethics”. The Stanford Encyclopedia of Philosophy. Summer 2014 Edition. [Acesso em 28 dez. 2020]. Disponível em: https://plato.stanford.edu/archives/sum2014/entries/metaethics/.
______. “Moral Realism”. The Stanford Encyclopedia of Philosophy. Fall 2017 Edition. [Acesso em 28 dez. 2020]. Disponível em: https://plato.stanford.edu/archives/fall2017/entries/moral-realism/.
SCHWAB, Klaus. A quarta revolução industrial. Traduzido por Daniel Moreira Miranda. São Paulo: Edipro, 2016.
SMITH, Michael. The Moral Problem. Oxford: Blackwell Publishers, 1994.
STEIN, Ernildo. Introdução ao Método Fenomenológico Heideggeriano. In Sobre a Essência do Fundamento. Conferências e Escritos Filosóficos de Martin Heidegger. Tradução de Ernildo Stein. São Paulo: Abril Cultural (Coleção Os Pensadores), 1979.
STRECK, Lenio Luiz. Jurisdição Constitucional e Hermenêutica: uma nova crítica do Direito. 2. ed. rev. e ampl. Rio de Janeiro: Forense, 2004.
______. Hermenêutica jurídica (em) crise: uma exploração hermenêutica da construção do direito. 11. ed. Porto Alegre: Livraria do Advogado, 2014.
______. Advocacia virou exercício de humilhação e corrida de obstáculos. Conjur. Jul. 2016. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2016-jul-28/senso-incomum-advocacia-virou-exercicio-humilhacao-corrida-obstaculos.
______. Dicionário de Hermenêutica. Belo Horizonte: casa do Direito, 2017.
______. Hermenêutica e Jurisdição: diálogos com Lenio Streck. Porto Alegre: Livraria do Advogado, 2017.
______. Lawtechs, startups, algoritmos: Direito que é bom, nem falar, certo? Conjur. Mai. 2019. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2019-mai-16/senso-incomum-lawtechs-startups-algoritmos-direito-bom-nem-falar-certo.
______. Que venham logo os intelectuais para ensinarem aos especialistas. Conjur. Mai. 2019. [Acesso em: 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2019-mai-30/senso-incomum-venham-logo-intelectuais-ensinarem-aos-especialistas.
SUPREMO TRIBUNAL FEDERAL. [Acesso em 28 dez. 2020]. Disponível em: http://portal.stf.jus.br/processos/detalhe.asp?incidente=2419108.
TRINDADE, André Karam. A Filosofia no Direito e as condições de possibilidade do discurso jurídico. Conjur. Jun. 2014. [Acesso em 28 dez. 2020]. Disponível em: https://www.conjur.com.br/2014-jun-14/filosofia-direito-condicoes-possibilidade-discurso-juridico.
VAN ROOJEN, Mark. Moral Cognitivism vs. Non-Cognitivism. The Stanford Encyclopedia of Philosophy. Fall 2018 Edition. [Acesso em: 28 dez. 2020]. https://plato.stanford.edu/archives/fall2018/entries/moral-cognitivism/.
Downloads
Publicado
Como Citar
Edição
Secção
Licença
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores conservam os direitos de autor e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite a partilha do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são estimulados a publicar e distribuir o seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
A RJP não aplica taxas de submissão, publicação ou de qualquer outra natureza, sendo os artigos publicados em acesso livre e aberto, com a missão de difusão do conhecimento científico e o debate de temas jurídicos na área das Ciências Jurídicas.