Vinicius Ferrasso da Silva[1]

 As ontologias advêm da Filosofia e se referem a um sistema de categorização dos objetos do mundo para a organização da realidade, o que, para o presente tema dessa tese, torna-se indispensável. Assim, as ontologias especificam conceitos sobre um dado campo de conhecimento e das relações, das estrições e dos axiomas válidos entre esses conceitos e suas instâncias. Isso prove uma boa taxonomia tanto de entidades quanto de instâncias desse universo de discurso. [2]

Com isso, antes de adentrar-se no terreno fértil da aplicação Inteligência Artificial no Direito, por cautela, deve-se buscar um conhecimento mínimo da construção cognitiva tecnológica, esta que se conecta com o direito dia após dia. E por razões óbvias, não se pode desprezá-la, posto o risco de se ficar sem a compreensão dos fenômenos que inevitavelmente irão de surgir no Direito.

A Inteligência Artificial (IA),[3] que merece um capítulo dedicado nesta tese, é uma subárea da Ciência da Computação e, por isso, é de grande importância desvelar-se os conceitos sobre algoritmos, machine learning, redes neurais e deep learning, malwares e, indiscutivelmente, as diretrizes ética na construção dos sistemas de IA. Ao fim e ao cabo, são elementos estruturantes da Inteligência Artificial. Para que se tenha uma visão de mundo adequada para identificar-se e reconhecer-se a disruptura no direito, o primeiro capítulo, intitulado Os elementos estruturantes da Inteligência Artificial, está dividido em seis subcapítulos. São eles: (i) a transparência algorítmica; (ii) machine learning e os tipos de aprendizagem; (iii) as redes neurais artificiais e deep learning; (iv) a inteligência artificial e suas características; (v) a inteligência artificial contra malwares; e, por fim, (vi) as diretrizes éticas para construção coerente e integra dos sistemas de inteligência artificial. Quanto ao review conceitual, entende-se necessário para compreensão terminológica conceitual da IA ao analisar-se o modo como a IA vem sendo inserida no Direito.

De certo modo, é razoável afirmar que a Inteligência Artificial, devido a sua incomparável característica transdisciplinar que navega nos diagnósticos médicos, com informações até então confessadas ao médico do paciente, ou até a outras aplicações autônomas de aeronaves, veículos, embarcações e espaçonaves,[4] está em voga em diversas áreas do conhecimento. O direito está a recepcioná-lo em diversas tarefas repetitivas de reduzido grau intelectual.

No entanto, o avanço da Inteligência Artificial em áreas do conhecimento diferentes da Ciência da Computação exige a aproximação com o expert e o estudo da área do conhecimento que se objetiva cooperar. Do mesmo modo, para aproximar-se do Direito da Inteligência Artificial, coerentemente, deve-se desenvolver os conceitos fundamentais estruturantes da Inteligência Artificial. Indiscutivelmente, o mais relevante são as características oferecidas pelos algoritmos.

Importante frisar aos operadores do direito que o ensinamento de algoritmos é fundamental nos cursos da área tecnológica, por ser o passo inicial para o desenvolvimento do raciocínio lógico. E, por consequência, a introdução aos conceitos e prática da programação da Ciência da Computação[5]. O uso de algoritmos é muito mais intenso, complexo, profundo e impactante na rotina humana, indo desde a previsão do tempo até a seleção de currículos para uma vaga de emprego, uma organização de pautas de discussão social, bem como influências políticas. Os cientistas da biociência já auferiram que emoções não são meramente um fenômeno espiritual, mas concluíram que elas são algoritmos bioquímicos vitais para a sobrevivência e a reprodução dos mamíferos.[6]

Dito isso, um algoritmo pode ser definido como um conjunto de regras que define precisamente uma sequência de operações, para inúmeras e diferentes finalidades. A exemplo, pode-se citar os modelos de previsão de cenários e comportamentos;[7] um conjunto de regras que cria o aprendizado de máquina por meio de um sistema computacional que busca realizar uma tarefa T, aprendendo a partir de uma experiência  E, procurando melhorar uma performance P.[8]

Ainda, trata-se de um conjunto de instruções matemáticas ou regras que, se fornecidas especialmente a um computador, auxiliarão de modo eficiente e eficaz a calcular uma reposta com precisão para um problema.[9] Contudo, no tocante desta pesquisa, demonstrar-se-á que há um problema incontornável nessa quadra da história dos sistemas de IA, isto é, esse conjunto de instruções matemáticas (input), apesar de construir o sistema de IA, não prestam accountability da decisão/resposta alcançada (output), na forma desejável ao Direito.

Os algoritmos corriqueiramente são utilizados para solucionar problemas do dia a dia. Eles são considerados comuns, mas também são criados especificamente para soluções precisas de hards cases, como de grande importância no desenvolvimento de soluções informáticas com as características específicas e determinadas. A exemplo, há: input dados fornecidos capazes de fornecer respostas objetivadas; output quantificável produzido; definiteness como espécie de instrução clara e inequívoca; finiteness encerrado após um número finito de etapas; e effectiveness, com cada instrução sendo básica o suficiente para ser viável e executada por uma pessoa.

Para exemplificar, suponha-se criar um algoritmo que busque ordenar um conjunto de números inteiros de um conjunto a partir de 1. O referido exemplo é utilizado por Horowitz para definir um algoritmo, para gerar o determinado comando a seguir: diante de um conjunto de números inteiros que se encontram classificados (57123486 – 17523486 – 12573486 – 12375486 – 12345786 – 12345786), busque encontrar o menor e insira-o na lista ordenada (12345678). Nota-se que o comando é uma pergunta; por isso, não é considerado ainda um algoritmo, mas caso alcance a ordem objetivada (12345678), demonstrando como os números foram armazenados e como ele construiu o resultado, resultará num algoritmo objetivado.[10] Vale destacar aqui que o algoritmo não faz nenhum juízo de valor para além de sua programação; o output decorrerá exclusivamente dos inputs. Nesse processo, o algoritmo fornecerá uma resposta/decisão com base nos dados de entrada.

Com relação ao funcionamento algorítmico, pode-se classificá-los em duas espécies: os programados e os não programados. São os algoritmos programados que seguem as operações parametrizadas pelo programador. Assim, a informação ingressa no sistema, o algoritmo atua sobre ela e o resultado (output) sai do sistema. Nesse processo, o programador domina todas as etapas operacionais de construção algorítmica.

A ideia motriz dos algoritmos não programados ficou conhecida como aprendizado de máquinas denominada de machine learning, e exsurgiu, em 1950, no artigo Computational Machinery and Intelligence; porém, ganhou dinamismo somente após três décadas. Por meio das resoluções de equações e da análise de textos em diferentes linguagens, desenvolvia-se, na ocasião, uma capacidade randômica de aprendizado de máquinas.[11]

A aparição mais corriqueira dos algoritmos não programados, considerada a categoria primeira, é aquela que emprega algoritmos supervisionados,[12] quando o sistema é construído com dados elaborados e previamente escolhidos por seres humanos. Busca-se prever uma variável dependente a partir de uma lista de variáveis independentes. O aprendizado de máquina supervisionado é a área que concentra a maioria das aplicações bem-sucedidas e onde a maioria dos problemas já estão bem definidos.[13]

 

 

 

 

 

Quadro 2 – Relação de inputs x outputs

Variáveis Independentes	Variáveis Dependentes
Anos de Carreira, Formação, Idade	Salário
Idade do Carro, Idade do Motorista	Risco de Acidente Automotivo
Texto de um livro	Escola Literária
Temperatura	Receita de venda de sorvete
Imagem da Rodovia	Ângulo da direção de um carro autônomo
Histórico escolar	Nota no ENEM

Fonte: Elaborado pelo autor.

 

Observa-se que a característica básica de sistemas de aprendizado supervisionado é que os dados que são utilizados para treiná-los contêm a resposta desejada. Isto é, contêm a variável dependente resultante das variáveis independentes observadas, em que os dados são anotados com as respostas ou classes a serem previstas.

Nesse caso, a gama de dados rotulados e a saída objetivada são carregados e treinados no sistema, e o modelo ajusta as suas variáveis para mapear as entradas para a saída correspondente. O sistema é carregado com um objetivo mandamental output, bem como vários inputs, que serão testados em várias direções. Após a inserção dos inputs, constatar-se-ão inúmeros erros, que demandarão o retorno para nova programação (error back propagation). Já as tarefas mais coerentes passam a construir as camadas neurais internas (hidden layers). Isto é, na medida em que os algoritmos passam a conferir um peso maior às conexões acertadas, os resultados desejados começam a dominar as tarefas.[14] E nesse sentido, convém destacar tal especificidade que à frente será de grande valia para elucidações dos limites de aplicabilidade dos sistemas de IA no Direito, posto que tais correções de algoritmos enviesados no campo empírico, obstam os sistema de IA de aproximar-se das decisões judiciais. E, além disso, quanto maior o número de camadas de aprendizado, maior é a probabilidade de vieses, e diminui-se a capacidade do sistema de IA oferecer a accountability dos outputs.

Destaca-se que, dentre as técnicas mais conhecidas para resolver problemas de aprendizado supervisionado, estão: regressão linear, regressão logística, redes neurais artificiais, máquina de suporte vetorial (ou máquinas kernel), árvores de decisão, k-vizinhos mais próximos e Bayes ingênuo.[15]

 

Figura 1 – Camadas de aprendizado supervisionado

Fonte: Honda; Facure; Yaohao (2020).

Convém destacar aqui que os inúmeros erros (vieses) são resultantes da inserção dos inputs, o que demandam o retorno para nova programação (error back propagation). No caso do sistema de IA Victor, caso ocorra após a etapa laboratorial, isso passa a ser constatado somente na prática, isto é, somente quando o sistema de IA já tiver realizado a seleção de uma tese de modo equivocado, o que se torna um problema por ora incontornável.

Os algoritmos não supervisionados (non-supervised learning algorithms) são considerados uma segunda categoria relevante, que são utilizados para descobrir padrões em determinado conjunto de dados não rotulados. Eis um objetivo em si mesmo ou um meio para atingir outro determinado objetivo. Em outras palavras, o algoritmo de aprendizagem busca encontrar estrutura nas entradas fornecidas de maneira independente. Sem qualquer classe pré-definida, os algoritmos não supervisionados têm a capacidade de organizar e de oferecer amostras desejáveis.

Exemplificando, são algoritmos utilizados pelas instituições bancárias para aprovar a concessão de empréstimos em que o desempenho dos algoritmos demonstra uma aparente precisão[16]. Assim, os dados serão referentes ao histórico do cliente, considerando o seu score de crédito. Em outras palavras, os algoritmos captam as características abonatórias e desabonatórias do tomador de crédito. Ainda, a referida técnica é empregada no reconhecimento e na identificação de faces e de vozes, além da criação de sistemas de tomada de decisão em curto espaço de tempo, viabilizando, por exemplo, a construção de carros e drones autônomos.

Ocorre que, em muitas ocasiões, o alcance de dados organizados é praticamente impossível, ou demanda um custo financeiro desproporcional ao resultado a ser alcançado.[17] No caso da manipulação com os algoritmos não supervisionados, o computador terá de descobrir os perfis sem dados anotados e necessitará de métodos de aprendizado não supervisionados. A saída é uma espécie de predição, observando, nos registros de dados, se existem padrões que permitiam a inferência de um grupo ou perfil a ser destacado. Outra opção seria ver diretamente quais dados são correlacionados e, então, aprender uma regra associativa entre eles.

Resulta afirmar que, com o aprendizado não supervisionado, pretende-se, ao fim e ao cabo, encontrar uma representação dos dados mais informativa dos que aqui são dispostos. Essa representação exsurge mais informativa e mais simples, destacando a informação nos pontos mais relevantes. A exemplo, os dados oriundos das palavras de um texto jurídico e a sua forma representativa seriam a representação matemática das palavras.

 

Figura 2 – Representação de dados do aprendizado não supervisionado

 

 

 

 

 

Fonte: Honda; Facure; Yaohao (2020).

 

Já no nosso cotidiano, os exemplos de aprendizado não supervisionados são sistemas de recomendação de filmes ou de músicas, detecção de anomalias e visualização de dados. A estruturação algorítmica que funciona de forma não supervisionada para atingir determinada finalidade é a rede neural convolucional, utilizada com sucesso no reconhecimento de imagens e no processamento de vídeo. Na área da saúde, a técnica é utilizada para o diagnóstico de determinadas doenças.[18]

As técnicas mais conhecidas para resolver problemas de aprendizado não supervisionado são: redes neurais artificiais, Expectativa-Maximização, clusterização k-médias, máquina se suporte vetorial (ou máquinas kernel), Clusterização Hierárquica, word2vec, análise de componentes principais, florestas isoladoras, mapas auto-organizados, máquinas de Boltzmann restritas, eclat, apriori e t-SNE.[19]

O modelo de aprendizado não supervisionado está na fronteira do conhecimento, pois são considerados mais complicados do que problemas de aprendizado supervisionado, precipuamente porque não se tem a reposta prévia nos dados. Como consequência disso, fica extremamente complicado e controverso avaliar um modelo de aprendizado não supervisionado.

E aqui está o cerne da questão do sistema de IA Victor: o problema da incapacidade de antever as tarefas desempenhadas pelos algoritmos de machine learning.  Mesmo com projetos de sistemas de IA com acurácias elevadas, os aprendizados mais simples ou supervisionados não dispõem do racional matemático do seu funcionamento na sua totalidade.[20] Em outras palavras, uma decisão sem accountability, o que dificulta muito sua atuação no Direito, em que qualquer decisão deve ser fundamentada.

No tocante, a transparência algorítmica pode ser entendida com base na acessibilidade e na compreensibilidade.[21] Com relação ao sistema de IA dar maior ênfase para a primeira, isto é, para a publicização do código-fonte, o ponto crucial se refere ao componente da compreensibilidade. Com a estrutura do aprendizado de máquina se tornando mais complexa, a mera abertura do código-fonte não auxilia na compreensão do modus operandi do sistema de IA,[22] e aqui reside o problema incontornável ao Direito.

A opacidade nessa quadra da história é um problema que acompanha os especialistas da ciência da computação desde sempre. Em termos matemáticos, o funcionamento do aprendizado de máquina é invisível para todos; logicamente, salvo os matemáticos e os programadores. Desse modo, quando equivocados (enviesados), o veredito algorítmico se torna irrefutável, ou seja, imune de discordâncias e contestações. Isso resulta afirmar que o viesse poderá ser perpetuado e, assim, contribuirá, a exemplo, para as disseminações de eventuais discriminações e desigualdades sociais num efeito feedback loop.[23]

Dessa forma, o código-fonte apenas demonstra a regra do machine learning utilizado e não a fundamentação decisória da seleção da questão de repercussão geral. Isso porque essa seleção nasce automaticamente a partir dos dados da rede neural artificial construída no sistema de IA, por isso, anteriormente se destacou que, quanto mais camadas das redes neurais profundas, menor é a capacidade de accoutability.

Essa opacidade do aprendizado deriva exatamente da evolução da dimensionalidade do próprio sistema de IA[24]. Ou seja, quanto mais julgados do STF transformados em algoritmos para construção do machine learning, mais opaca a explicação do racional da decisão dos sistemas de IA.[25] Destaca-se que essa opacidade que impede a identificação prévia dos algorítmicos enviesados, que  se diferenciam do viesse cognitivo, este que deriva da discricionariedade resultante do consequencialismo por razões políticas e econômicas. Portanto, os sistemas de IA no Direito, sobremaneira, devem preocupar-se com as duas espécies de enviesamentos algorítmicos, que são considerados como elementos determinísticos para limitar a aplicabilidade dos sistemas de IA no âmbito da seleção das questões de temas de repercussão geral.

Ainda, por fim, a terceira categoria de aprendizagem de máquinas é denominada de aprendizagem por reforço (reinforced learning algorithms). Nela, a máquina tenta aprender qual é a melhor ação a ser tomada. Dependendo das circunstâncias que essa ação será executada, os algoritmos de aprendizagem por reforço são treinados para tomar decisões. Há um feedback sobre o sucesso ou erro do output, que será́ utilizado para aprimorar o algoritmo.

Os algoritmos de aprendizagem por reforço, ao contrário dos algoritmos supervisionados e não supervisionados, não criam outputs corretos. No entanto, são os mais semelhantes ao comportamento dos seres humanos, pois focam na questão de maximizar a performance com base em consequências positivas ou negativas. É como um homem que se embriaga e, ao acordar no dia seguinte de ressaca, constata os efeitos negativos do álcool na corrente sanguínea. Os algoritmos de aprendizagem por reforço são de comum utilização em jogos, e a pontuação maior ou menor que eles atingem no processo funciona como recompensa.

A evolução humana sempre foi algo incerto e aleatório; dúvidas quanto à evolução da humanidade foi algo sempre perseguido pelo homem. E essa incerteza deve ser considerada e incorporada nas eventuais mudanças no ambiente do processo da melhor decisão. De fato, essa ideia de mudança no processo decisório caminha junto com o conceito de aprendizagem por esforço na área da psicologia, em que a decisão de um indivíduo a depender pode ser recompensada ou punida. Com repetições dos eventos, estima-se que o indivíduo passe a associar as ações que lhe garanta mais recompensa dentro de determinado ambiente que lhe é proposto. Esse objetivo na área da psicologia é denominado de behaviorismo.[26]

Essa ideia de recompensa figura no aprendizado de máquinas, sendo que a máquina, diante de um conjunto de cenários possíveis, acaba escolhendo uma determinada ação a se tomar e recebendo a recompensa associada a essa ação ótima. Assim, quando maximizada a decisão oriunda do processo de aprendizado, a máquina recebe a recompensa associada a essa ação específica, assim como, primordialmente, também recebe e memoriza essa combinação para atos futuros. O processo se repete, passa por diversos erros (error back propagation), até que a máquina seja capaz de escolher a melhor ação e decidir, do mesmo modo, o futuro num caso idêntico. Diferentemente do ser humano, que, submetido a processos repetitivos, tende a aumentar a probabilidade de falhas, o algoritmo é o caminho que possibilita a máquina a gravar e a jamais esquecer a combinação ótima já alcançada em cenários pretéritos. Contudo, a problemática reside nos vieses que exsurgem somente na prática.[27]

De modo que se possa aproximar a função e o desempenho algorítmico da realidade, utiliza-se o exemplo da causa-efeito no mundo animal. No adestramento animal, a punição e a recompensa são meios pelos quais se busca o sucesso do adestramento. Sabe-se que qualquer animal nasce sem obediência ao seu proprietário e, de início, os comandos desatendidos serão punidos com expressões negativas e, lamentavelmente, até com chicoteadas. Porém, quando o animal inicia o processo de aprendizado e demonstra seus primeiros atos de obediência, as recompensas são realizadas com afagos e alimentos de preferência do animal. Esse processo se repete inúmeras vezes até que o animal passe a sopesar a causa-efeito e a consubstanciar unicamente os atos que gerem recompensas.[28]

A relação de causa-efeito é muito ilustrativa para se trazer para a ceara da ciência da computação, pois o algoritmo é muito eficiente para captar as combinações ótimas de causa-efeito. Exemplificando, no caso do mercado financeiro, há a possibilidade de se estruturar um portfólio no mercado financeiro e de ajustar a combinação de ativos comprados/vendidos a depender do retorno monetário (recompensa). Com isso, de alcançar ganhos de acordo com o mercado.

Outro exemplo ocorre com os aplicativos de trânsito: no momento de uma colisão, o algoritmo do sistema capta o congestionamento com a diminuição de velocidade para aquela parte do trajeto e deixa de receber as recompensas, acusando, assim, uma ocorrência atípica para os demais condutores. Então, há o deslocamento dos condutores para outra rota mais rápida, e isso se repete noutros incidentes no trânsito. O sistema algorítmico vai aprender que deve mudar os condutores para uma rota alternativa.

O desafio do sistema algorítmico, utilizando-se o exemplo do cão, é descobrir o lugar ótimo entre o comando easy “exploration” (fazer o cão sentar-se) e o comando hard “exploitation” (fazer o cão recuar, saltar, atacar etc.), que denota para aplicações extremamente complexas. A exemplo, eis o caso de identificar jurisprudências ou precedentes de um determinado tribunal para a aplicação num caso concreto.

Deve-se destacar que a parcela da crítica dos operadores do direito, quanto ao avanço da Ciência da Computação no Direito, reside no fato de que há possíveis escapes no controle sobre os processos de aprendizagem de algoritmos. Além disso, os avanços foram inspirados na biologia e na psicologia do cérebro humano.[29] Por isso, a doutrina de Desai sinaliza uma necessária regulação, para que não se desperdice a oportunidade de convergência dessas duas áreas.[30]

O pesquisador Desai destaca um mal-entendido em torno dos algoritmos, que justifica a transparência como um conceito importante. Contudo, uma ilusão de clareza pode se configurar quando ocorre uma pura exposição algorítmica, com a simples disponibilidade de códigos-fonte.[31] Por isso, há uma preocupação importante que paira em torno da regulamentação sobre as aplicações algorítmicas em softwares e na evolução algorítmica.[32] Também há uma preocupação em criar instrumentos que detectam desvios e utilizações errôneas, construindo uma espécie de sistema de auditoria e governança, exatamente na linha de uma necessária regulamentação.

Contudo, nesse ponto específico, já se desvelou que o (error back propagation), por mais que sejam disponibilizados os códigos-fonte ou criados os sistemas de auditoria e governança, os vieses serão verificados somente no funcionamento do sistema de IA. Além disso, os referidos códigos-fonte ou sistemas de auditoria e governança servem apenas para que os idealizadores do projeto possam revisar a performance do sistema de IA, uma espécie de accountability privada.

Convém destacar que, quando os algoritmos são relacionados com o Direito, torna-se indispensável, diante da característica da previsão e da especificação da finalidade objetivada, realizar a diferença entre os sistemas jurídicos baseados na common law e na civil law,[33] de modo que se opte o sistema acertado para exploração algorítmica.

No estudo subsidiado e orientado por dados, a exemplo, torna-se tangível a possibilidade de prever certos resultados e, com o auxílio da machine learning, analisar redes, processar linguagem natural, mas, notadamente, afastando-se das decisões judiciais pelos limites de aplicabilidade dos sistema de IA no Direito. Há possibilidades de traduzir um conjunto de regras, transformando-o em códigos executáveis pela máquina, naquilo denominado de LegalTech.[34]

Atualmente, o fenômeno da aproximação do Direito com a tecnologia é um fenômeno mundial[35]. Nota-se que muitas tarefas antes desempenhadas por humanos operadores do direito passaram a ser, de modo mais eficiente, desempenhadas por um software. O processo se tornou eletrônico; a Suprema Corte, que já analisava os possíveis temas de repercussão geral por meio do Plenário Virtual, com o advento da Pandemia do vírus SARS-CoV-2 causador de COVID-19, passou a fazer as sessões de plenário por intermédio da tecnologia de vídeo conferência, como se os ministros estivessem no plenário. Contudo, sempre se tem de ter em mente os efeitos colaterais da inserção tecnológica no Direito.

A fusão do Direito com a tecnologia ocorreu definitivamente durante a pandemia, quando muitos especialistas da área tecnológica passaram a afirmar que o avanço tecnológico de 8 a 10 anos se deu em 3 meses de pandemia.  Assim, a corrida aos dados para construção de um aprendizado de máquina se tornou objeto de desejo de desenvolvedores de sistema de IA para o Direito.

Dito isso, nesse capítulo foi destacada a opacidade algorítmica e ausência de accountability, em especial, das redes neurais artificiais profundas que limita os sistemas no Direito. No próximo subcapítulo, estudar-se-á o aprendizado de máquina, que é uma atividade complexa e que exige cuidado por parte dos programadores. Atualmente, já se sabe que não é a quantidade de informações enviadas para a construção dos sistemas de IA que importa e, sim, a qualidade destas, pois dados enviesados – discricionários – também ensinarão a máquina a desempenhar suas funções de forma enviesada, ancorando, de forma automatizada, o consequencialismo por razões econômicas e políticas visitadas no capítulo anterior.

Nesse sentido, é importante visitar-se o modo de construção do aprendizado de máquinas e seus limites de aplicabilidade no Direito.

 

---