Em nova decisão, Corte Constitucional da Colômbia analisa o uso de ferramentas de IA pelo poder Judiciário do país

Em nova decisão, Corte Constitucional da Colômbia analisa o uso de ferramentas de IA pelo poder Judiciário do país 

Em decisão de 16 de agosto, a Corte Constitucional da Colômbia, órgão Judiciário supremo em matéria de direito constitucional do país, examinou se haveria violação do direito fundamental ao devido processo legal em razão do uso, por um juiz, de uma ferramenta de inteligência artificial (IA) para fundamentar sua decisão. No caso concreto, foi verificado que um juiz de 2ª instância havia utilizado a IA generativa para escrever uma decisão deferindo um pedido de tutela de urgência feito por uma mãe, que solicitou que seu filho, uma criança com necessidades especiais, ficasse isento de pagar taxas a uma empresa de seguros de saúde para ter acesso a tratamento médico.

A situação envolvia um pedido de tutela de urgência, movido em 2023, discutindo principalmente se a exigência de uma empresa de seguro de saúde de que fossem realizados co-pagamentos ou uma taxa para autorizar procedimentos médicos infringia os direitos fundamentais da criança portadora do espectro autista à saúde e à vida digna. Na segunda instância, o juiz do caso proferiu uma decisão favorável ao deferimento da tutela, e, contudo, em meio a sua argumentação, transcreveu trechos de sua interação com uma ferramenta de IA generativa, que ele usou para motivar seu veredito. Dessa maneira, no entendimento da Corte Constitucional, tendo em conta o uso da IA na emissão da decisão em sede de tutela, seria relevante analisar se a mesma foi adequadamente motivada ou se poderia ser o produto de alucinações e preconceitos gerados pela tecnologia.

Com isso, a Corte buscou abarcar alguns pontos principais em seu julgamento, como: (i) o direito fundamental ao devido processo legal; (ii) o devido processo legal em um sistema jurisdicional que utiliza IA; (iii) o sistema de IA: conceitos e aspectos básicos sobre seu funcionamento; (iv) impactos do uso de ferramentas de IA na sociedade; (v) estado da IA na Colômbia; (vi) marcos regulatórios da IA no mundo: instrumentos de soft law e iniciativas regulatórias nacionais; (vii) algumas experiências concretas relacionadas à IA na prática judicial; (viii) a garantia do juiz natural em um sistema jurisdicional que utiliza IA e (ix) o devido processo probatório em um sistema jurisdicional que utiliza IA.

Primeiro, o tribunal constitucional deliberou a respeito da possível violação do devido processo legal pelo fato do juiz ter utilizado a ferramenta de IA para sua fundamentação. Aqui, a Corte considerou que não houve substituição do exercício da função jurisdicional pela IA, essencialmente porque o sistema de IA foi utilizado após a decisão ter sido fundamentada e tomada. Segundo a decisão, “na ordem metodológica adotada pela decisão tutelar, o juiz primeiro identificou a tese que iria sustentar, depois as normas constitucionais aplicáveis ao caso, a referência jurisprudencial que deveria ser levada em conta em razão da identidade fática com a matéria analisada, para, em seguida, resolver o caso concreto indicando que a cobrança de coparticipações e taxas moderadoras constituía uma barreira ao acesso ao serviço de saúde da criança e, só então, anunciou e procedeu à realização de perguntas no referido sistema de IA, a fim de transcrever as respostas dadas na consulta”.

Depois, a decisão analisa o cumprimento aos princípios da transparência, responsabilidade e privacidade pelo juiz de 2ª instância. Aqui, o tribunal estabeleceu que os princípios de transparência e responsabilidade exigidos não foram totalmente cumpridos, mas por outro lado, o princípio da privacidade foi atendido, uma vez que o juiz não inseriu dados pessoais da criança ou de seu histórico médico, ou das partes envolvidas na disputa.

Então, a corte assinala a relevância dos instrumentos regulatórios para estabelecer uma espécie de roteiro que, por meio de princípios e diretrizes, garanta que os sistemas de IA sejam desenvolvidos e controlados sob uma abordagem ética. Como exemplos, a decisão cita a Carta Europeia de Ética sobre o Uso de Inteligência Artificial em Sistemas Judiciais e seu Ambiente, emitida em 2018 pela Comissão Europeia para a Eficiência da Justiça (CEPEJ) do Conselho da Europa, bem como o Kit de ferramentas global sobre IA e o Estado de Direito para o Judiciário, publicado pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO) em 2023. Ambos são iniciativas normativas que visam fornecer aos atores judiciais (como juízes, promotores, advogados e universidades de direito) o conhecimento e as ferramentas necessárias para entender os benefícios e os riscos da IA no meio jurídico.

Assim, a Corte decidiu que, de fato, o direito ao devido processo legal não havia sido violado pelo juiz em questão, e, portanto, não havia causa para a nulidade do processo, uma vez que o uso da ferramenta de IA “não implicava uma invasão da função de administração da justiça pela autoridade judicial competente”. Contudo, notou também que, em observância às garantias constitucionais e aos direitos fundamentais, e dados os riscos de alucinações, vieses discriminatórios e outros associados à IA, faz-se necessário o estabelecimento de critérios orientadores, bem como a adoção de guias com diretrizes para sua implementação pelos juízes, e, ainda, que o Judiciário adote práticas que, de acordo com os princípios constitucionais, permitam o uso razoável e proporcional de ferramentas de IA, sem prejudicar o devido processo legal ou restringir a autonomia e a independência do Judiciário.

Finalmente, a Corte ordenou que os juízes da Colômbia, de maneira geral, avaliem o uso adequado de ferramentas de IA considerando as melhores práticas e aplicando critérios éticos e de respeito às leis vigentes, de maneira a garantir os direitos fundamentais, especialmente o devido processo, quando considerem necessário e adequado fazer uso deles, e a assegurar a independência e autonomia judicial. Ainda, preconizou que o uso da IA nas decisões judiciais na Colômbia deverá obedecer determinados critérios, como: transparência; responsabilidade; privacidade; não-substituição da racionalidade humana; confiabilidade e verificações constantes; prevenção de riscos; promoção da igualdade e equidade; regulação ética; monitoramento e adaptação contínuos; e idoneidade. Por fim, o julgado determinou que o Conselho Superior da Magistratura colombiano publique, em até 4 meses, um guia, manual ou diretriz em relação à implementação da IA generativa no Poder Judiciário.

A decisão pode ser acessada através do link: Sentencia T-323 de 2024