12 de setembro de 2024
compartilhe
União Europeia, Reino Unido, Estados Unidos, dentre outros países, assinam primeiro tratado internacional sobre o uso de IA
No dia 5 de setembro, na cidade de Vilnius, capital da Lituânia, representantes da União Europeia, Reino Unido, Estados Unidos, Andorra, Georgia, Islândia, Noruega, Israel, San Marino e Moldávia assinaram o primeiro tratado internacional que versa sobre o uso de inteligência artificial (IA). O documento, proposto pelo Conselho da Europa, é intitulado “Convenção sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito” e se propõe a garantir “uma estrutura jurídica que considere o progresso e a inovação da IA, ao mesmo tempo em que gerencie os riscos que ela pode representar para os direitos humanos, a democracia e o Estado de Direito”.
De início, o tratado define um sistema de IA como “um sistema baseado em máquina que, para objetivos explícitos ou implícitos, infere, a partir do input que recebe, como gerar resultados, como previsões, conteúdo, recomendações ou decisões que possam influenciar ambientes físicos ou virtuais”. Ainda, ao delinear seu escopo de atuação, o documento define algumas obrigações impostas a seus signatários, dentre elas: cada parte deve aplicar a convenção às atividades que utilizarem sistemas de IA, realizadas por autoridades públicas ou agentes privados agindo em seu nome. As partes devem, ainda, lidar com os riscos e impactos decorrentes de quaisquer outras atividades que utilizarem sistemas de IA, realizadas por agentes privados em conformidade com o tratado. Contudo, os signatários ficam isentos da obrigação de aplicar as disposições do acordo em casos envolvendo proteção de seus interesses de segurança nacional, bem como em atividades de pesquisa e desenvolvimento relativas a sistemas de IA ainda não disponibilizados.
O segundo capítulo possui enfoque nas obrigações envolvendo a proteção dos direitos humanos, dos processos democráticos e do Estado de Direito. Aqui, a convenção narra que as partes signatárias devem adotar e manter medidas para garantir que as atividades da IA sejam compatíveis com as obrigações de proteção dos direitos humanos, conforme o direito internacional e o direito interno. Também, os membros devem garantir que os sistemas de IA não sejam usados para prejudicar a integridade, a independência e a eficácia das instituições e dos processos democráticos, como o princípio da separação de poderes, o respeito à independência judicial e o acesso à Justiça, além de proteger o acesso justo e a participação dos indivíduos no debate público, bem como sua capacidade de formar opiniões livremente.
Depois, o documento estabelece princípios gerais relacionados às atividades dos sistemas de IA a serem seguidos por seus signatários. Nesse ponto, cabe destaque para as disposições que ensejam, no âmbito da IA: o respeito à dignidade humana e à autonomia individual; o cumprimento de requisitos adequados de transparência e supervisão; a responsabilidade sobre impactos negativos nos direitos humanos resultados de atividades envolvendo IA; a adoção de medidas para garantir o respeito e a equidade, bem como proibir a discriminação; a superação das desigualdades sociais; a proteção da privacidade e dos dados pessoais; a garantia da confiabilidade dos sistemas de IA e a promoção da inovação segura.
O capítulo seguinte trata da adoção de medidas para disponibilizar recursos acessíveis e eficazes, de acordo com cada sistema legal, no caso de violações dos direitos humanos resultantes de sistemas de IA. Nesse sentido, o procedimento sugerido determina a cessão de informações suficientes pelos órgãos autorizados às pessoas afetadas, de forma que essas vítimas possam usá-las ao apresentarem uma reclamação às autoridades competentes. Ainda, a convenção destaca a necessidade de transparência por parte dos sistemas de IA que possam ter impactos significativo sobre direitos humanos e garantias processuais, de maneira que os usuários sejam sempre notificados que se trata de uma IA.
Outro importante tema abordado são os mecanismos de acompanhamento e a cooperação entre os signatários. Nesse ponto, o documento define a chamada “conferência das partes” como a forma de reunião obrigatória com vistas a identificar problemas, resolver disputas, fornecer informações ou suplementar a convenção. Assim, no caso de haver alguma controvérsia entre as partes quanto à interpretação ou aplicação do tratado, estas poderão solucioná-la por meio de negociações ou de quaisquer outros meios pacíficos de sua escolha.
Por fim, a implementação das provisões da convenção deve ser realizada em observância ao princípio da não-discriminação, em respeito aos direitos das pessoas com deficiência e das crianças, de forma a encorajar e promover o aprendizado digital para a população e protegendo os direitos humanos existentes. Além disso, seus dispositivos não devem ser interpretados de maneira restritiva e a adesão a eles deve ser considerada por meio de discussões públicas e de consultas a partes interessadas. O tratado entrará em vigor no primeiro dia do mês seguinte ao término de um período de três meses após a data em que cinco signatários, incluindo pelo menos três estados membros do Conselho da Europa, o tiverem ratificado.
O tratado pode ser acessado através do link: Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law
