Os Perigos Ocultos da IA: Como Ela Pode Comprometer a Justiça Tributária
Diário de Classe: A Intersecção entre Inteligência Artificial e Direito
Este artigo se propõe a explorar a relação entre diversas disciplinas, como Ciência Jurídica, Filosofia, Linguística e Ciência da Computação, em resposta a preocupações levantadas sobre a utilização de inteligência artificial (IA) no campo jurídico, especialmente em relação à “invenção de precedentes” por sistemas de IA.
Os Modelos de Linguagem de Grande Escala (LLMs), como o ChatGPT, têm avançado em muitas áreas, trazendo benefícios notáveis. Contudo, sua propensão a gerar informações errôneas, conhecidas como alucinações, representa um desafio, especialmente em contextos que exigem precisão, como o direito. Essas alucinações podem ocorrer tanto quando as saídas são contraditórias quanto quando informações não verificáveis são inseridas, levantando assim preocupações sobre a confiabilidade dos dados gerados.
Um estudo sobre o uso da IA no direito revela que essas ferramentas podem criar precedentes fictícios ou adaptar regras de maneira a favorecer uns em detrimento de outros, distorcendo a imparcialidade jurídica. Casos já foram reportados em que advogados se depararam com citações falsas geradas por sistemas de IA, o que compromete a integridade do processo legal.
A discussão se torna ainda mais pertinente ao considerar o uso de IA em problemas tributários, onde a pressão por resultados pode correr o risco de direcionar a aplicação da lei de maneira enviesada. A interseção entre tecnologias emergentes e legados jurídicos traz à tona a necessidade de supervisão humana. Essa supervisão é fundamental para assegurar que as decisões tomadas com base em IA estejam alinhadas com os direitos e proteções legais estabelecidos.
Além disso, o crescimento do uso de IA em tribunais e órgãos administrativos sugere que a adoção dessas tecnologias não é uma questão de se, mas de como. É essencial implementar diretrizes claras e um marco regulatório que promova a transparência e a responsabilidade no uso de ferramentas de IA. A inclusão desses tópicos no currículo acadêmico poderia preparar futuros profissionais do direito para navegar esse novo cenário, abordando tanto as questões éticas quanto os fundamentos técnicos das tecnologias emergentes.
O olhar crítico e a formação adequada para o uso de IA visam transformar essas ferramentas em aliadas do sistema judiciário, em vez de ameaça à sua integridade. É necessário incutir uma cultura de responsabilidade e discernimento no uso das tecnologias, assegurando que o respeito aos direitos fundamentais e ao devido processo legal permaneça no centro das práticas jurídicas.
Assim, ao refletir sobre as interações entre inteligência artificial e práticas jurídicas, vemos a necessidade de uma abordagem colaborativa e crítica para garantir não apenas a eficácia, mas também a justiça nas decisões tomadas por meio dessas novas ferramentas tecnológicas.
