Inteligência Artificial no Direito — Você sabe o que é viés algorítmico?

Nas últimas semanas, aprofundei-me nos estudos acerca da aplicação da Inteligência Artificial no âmbito jurídico. Sempre nutri grande interesse pela tecnologia, pois esta constitui parte essencial da minha alma. É uma paixão, desde que me entendo por gente. No entanto, minha escolha profissional acabou por recair, veja só, sobre o Direito, área que, ao menos duas décadas atrás, quando ainda estava na faculdade, era um tanto quanto avessa à tecnologia em geral. Porém, desde os tempos acadêmicos até o presente momento, busco constantemente integrar esses dois universos, o jurídico e o digital.

Durante algum tempo, adiei o aprofundamento no estudo da Inteligência Artificial aplicada ao Direito, consciente do tempo e da dedicação que tal empreitada exigiria. Contudo, tornou-se inadiável. Atualmente, a presença da IA é onipresente, influenciando decisões e fornecendo respostas antes mesmo de formulá-las. Ao experimentar uma ferramenta de IA capaz de elaborar minutas jurídicas com celeridade e qualidade impressionantes (vale mencionar a plataforma www.minutaia.com.br), passei a refletir sobre o impacto dessa revolução tecnológica. Se por um lado sua eficiência é deslumbrante, por outro, não se pode ignorar os riscos que emergem dessa nova realidade. Você já ouviu falar sobre viés algorítmico?

A inserção da Inteligência Artificial (IA) no âmbito jurídico tem sido objeto de intensos debates acadêmicos e práticos, especialmente no que concerne aos seus impactos na tomada de decisões judiciais, na segurança jurídica e na proteção dos direitos fundamentais. A utilização crescente de sistemas autônomos para a análise de processos, elaboração de minutas de decisões e previsão de desfechos judiciais traz consigo não apenas vantagens em termos de eficiência, mas também riscos substanciais, especialmente relacionados ao viés algorítmico, à responsabilidade civil e penal pelos erros da IA e à necessidade premente de regulamentação adequada.

O que é viés algorítmico?

Um dos problemas mais sensíveis na adoção de sistemas de IA no Direito é o viés algorítmico, que ocorre quando um modelo computacional, ao processar informações e sugerir decisões, reflete padrões discriminatórios já presentes nos dados utilizados para seu treinamento. A parcialidade pode decorrer tanto da seleção inadequada de dados quanto da estruturação dos cálculos estatísticos empregados pelos algoritmos. No campo jurídico, isso pode levar à perpetuação de desigualdades, impactando, por exemplo, a concessão de liberdade provisória, a definição de penas e a análise de risco de reincidência criminal.

Nos Estados Unidos, o caso do software COMPAS ilustra bem essa problemática. Trata-se de um sistema utilizado para prever a probabilidade de reincidência de indivíduos processados criminalmente. Estudos apontaram que o algoritmo atribuía escores mais altos de risco de reincidência a pessoas negras em comparação com indivíduos brancos, mesmo quando apresentavam históricos criminais semelhantes. Esse tipo de viés, se não corrigido, pode conduzir a decisões injustas, contrárias aos princípios constitucionais da igualdade e da imparcialidade jurisdicional.

Responsabilidade civil e penal

Outro aspecto crucial é a responsabilidade civil e penal derivada do uso de IA no âmbito judicial. Se uma decisão automatizada resultar em dano a uma das partes do processo, surge a questão de quem deve ser responsabilizado: o magistrado que a homologou, o desenvolvedor do software, a instituição que o adotou ou o próprio Estado? A responsabilidade objetiva do Estado por atos judiciais lesivos está prevista na doutrina e na legislação brasileira, mas a introdução da IA como intermediária no processo decisório adiciona uma camada de complexidade a essa discussão.

A doutrina tem debatido a possibilidade de aplicação de teorias como a do 'risco tecnológico', que defende a responsabilidade dos fornecedores de tecnologia por danos decorrentes do uso inadequado de seus produtos. No entanto, no contexto da IA, a previsibilidade e a rastreabilidade dos erros ainda são desafiadoras, tornando difícil a atribuição inequívoca de responsabilidade. No campo penal, a autonomia decisória da IA também suscita preocupações, especialmente quanto à impossibilidade de imputar dolo ou culpa a um sistema artificial, exigindo, assim, uma revisão dos paradigmas tradicionais de responsabilização jurídica.

A regulação da IA no Direito

No que tange à regulamentação da IA no Direito, observa-se um movimento crescente em diversas jurisdições para estabelecer diretrizes claras sobre sua utilização. Na União Europeia, a proposta do Artificial Intelligence Act busca categorizar sistemas de IA de acordo com os riscos que representam e impor restrições específicas aos sistemas considerados de 'alto risco', como aqueles usados no setor jurídico. Nos Estados Unidos, o debate regulatório ainda está em fase inicial, com medidas descentralizadas sendo implementadas em nível estadual. No Brasil, a discussão legislativa avança com o Projeto de Lei nº 21/2020, que estabelece princípios e diretrizes para o uso da IA, incluindo a transparência, a responsabilidade e a não discriminação.

A ausência de um marco regulatório consolidado impõe desafios significativos para a segurança jurídica. A utilização de IA em processos judiciais demanda um arcabouço normativo que garanta não apenas a eficiência e a celeridade, mas também o respeito aos princípios fundamentais do Direito. Questões como a necessidade de revisão humana das decisões automatizadas, a transparência dos algoritmos e a proteção de dados pessoais são aspectos que devem ser considerados na elaboração de normas específicas para o setor.

Inovação e direitos fundamentais

Diante desse cenário, a regulação da IA no Direito deve buscar um equilíbrio entre inovação tecnológica e proteção dos direitos fundamentais. A implementação de sistemas de IA no Judiciário e na advocacia deve ser acompanhada de mecanismos eficazes de controle, revisão e responsabilização, a fim de garantir que a tecnologia atue como um instrumento de aprimoramento da Justiça, e não como um fator de comprometimento de sua equidade e confiabilidade.