A inteligência artificial (IA) é uma tecnologia com o potencial de transformar diversos aspectos da vida humana, desde a saúde e a educação até a economia e a segurança. No entanto, junto com essas oportunidades, a IA também apresenta riscos e desafios, incluindo a violação de direitos fundamentais, a possibilidade de gerar discriminação, a manipulação de comportamentos e o impacto na autonomia das pessoas.
Diante disso, é crucial estabelecer um arcabouço jurídico-regulatório que assegure o desenvolvimento e a utilização ética, segura e responsável da IA, respeitando os valores e os princípios da sociedade. Nesse sentido, a União Europeia (UE) tem se destacado como uma das líderes globais na regulamentação da IA, tendo apresentado em abril de 2021 uma proposta legislativa chamada EU AI Act, que visa criar um conjunto de regras harmonizadas para a IA no bloco econômico.
Após um amplo processo de consulta pública e de negociação entre as instituições europeias, este conjunto de normas regulatórias alcançou um acordo político em 8 de dezembro de 2023. Embora ainda precise ser aprovado pelo Parlamento Europeu e pelo Conselho da UE antes de se tornar uma lei vigente, o EU AI Act já representa um marco histórico na governança da IA na Europa e no mundo.
Principais objetivos e impactos do EU AI Act:
O EU AI Act tem como objetivo primordial garantir que a IA seja desenvolvida e utilizada em conformidade com os valores e os direitos fundamentais da UE, tais como a dignidade humana, democracia, igualdade, o estado de direito e respeito pela diversidade. Para isso, estabelece uma abordagem assimétrica baseada em uma matriz de avaliação de riscos, classificando as aplicações de IA em quatro categorias: proibidas, de alto risco, de risco limitado e de risco mínimo.
- Aplicações proibidas: são aquelas incompatíveis com os valores e os princípios da UE, como o uso de IA em técnicas manipulativas ou em sistemas de social scoring. Tais aplicações são banidas na UE, sujeitas a penalidades severas em caso de violação.
- Aplicações de alto risco: quando a IA pode causar danos significativos aos direitos e às liberdades das pessoas ou à segurança pública, abrangendo setores como infraestrutura, transporte, saúde e educação. Estão sujeitas a obrigações específicas, incluindo avaliação prévia de risco, garantia de qualidade e segurança dos dados, transparência, supervisão humana e intervenção, além de monitoramento, auditoria e registro em um banco de dados europeu de IA de alto risco.
- Aplicações de risco limitado: ocasião em que a IA pode gerar impacto moderado nos direitos e liberdades das pessoas, como o uso de IA em sistemas de identificação biométrica. Estas aplicações estão sujeitas à obrigação de transparência, informando os usuários sobre a natureza e os objetivos da IA.
- Aplicações de risco mínimo: como jogos ou assistentes virtuais, estão isentas de obrigações específicas, mas devem respeitar as regras gerais de proteção de dados, defesa do consumidor e concorrência.
No geral, o EU AI Act visa promover um ecossistema de confiança na IA na Europa, incentivando o desenvolvimento e o uso de aplicações de IA que sejam éticas, seguras e responsáveis, e que contribuam para o bem-estar social, o crescimento econômico e a competitividade da UE. Em outras palavras, o EU AI Act visa garantir a proteção dos direitos e das liberdades das pessoas que são afetadas pela IA, assegurando que elas tenham acesso a informações, a explicações, a mecanismos de controle e a vias de recurso.
Além disso, é importante ressaltar que este conjunto de normas regulatórias busca estabelecer um padrão global de regulamentação da IA, que possa servir de referência e de inspiração para outros países e regiões que queiram adotar medidas semelhantes.
Desafios e implicações éticas do EU AI Act
Apesar de representar um avanço, o EU AI Act enfrenta desafios e implicações éticas que demandam atenção. Um desses desafios é a necessidade de manter a regulamentação relevante e adaptável em um cenário de inovação acelerada em IA, ou seja, ele deve ser atualizado e revisado periodicamente com base em evidências e consultas públicas, uma vez que as mudanças tecnológicas são constantes e dinâmicas.
Outro desafio é garantir a implementação efetiva e fiscalização rigorosa do EU AI Act, dependendo da cooperação e coordenação entre diversos atores e níveis de governança. Para isso, o EU AI Act propõe a criação de um órgão europeu de IA para supervisionar, orientar e apoiar a aplicação das regras em toda a UE, em colaboração com autoridades nacionais de supervisão.
Já em relação as implicações éticas, uma das preocupações é lidar com o viés algorítmico, uma vez que um sistema de IA possui poder de reproduzir ou amplificar preconceitos, estereótipos ou discriminações. Desta forma, o EU AI Act busca mitigar esse viés exigindo o uso de dados de alta qualidade e diversidade em aplicações de IA de alto risco, transparência, supervisão e monitoramento periódico.
Ademais, outra implicação ética é garantir transparência e responsabilidade nos sistemas de IA, essenciais para a confiança, compreensão e participação dos usuários e partes interessadas. Sendo assim, o EU AI Act busca fortalecer o accountability das instituições, exigindo que aplicações de IA de alto risco e risco limitado sejam acompanhadas de etiquetas, manuais e documentações que informem os usuários sobre características e riscos.
Implicações do EU AI Act para o Brasil
O Brasil, assim como a UE, tem demonstrado esforços significativos na regulamentação da IA, evidenciado pelo projeto de lei em discussão no Congresso (PL 2338/2023), que compartilha semelhanças com o EU AI Act. Ambos adotam uma abordagem baseada em riscos, proibindo o uso de IA em situações de risco excessivamente alto e identificando setores críticos.
Por outro lado, o projeto de lei brasileiro apresenta diferenças e lacunas em relação ao EU AI Act. Por exemplo, não há nenhum dispositivo que aborde explicitamente o uso de IA em sistemas automatizados de recomendação de conteúdo, uma aplicação de risco limitado especificado no EU AI Act. Outra lacuna é a falta de definição clara sobre a implementação e fiscalização das regras no projeto de lei brasileiro, bem como a coordenação entre atores e níveis de governança. Esses aspectos são fundamentais para a efetividade e consistência da regulamentação.
No entanto, é importante salientar que, embora existam características e particularidades distintas, o EU AI Act pode servir de inspiração e referência para o Brasil, facilitando o diálogo e a cooperação na área de inovação e tecnologia. Essa colaboração pode promover o intercâmbio de conhecimentos, fortalecendo a convergência e harmonização das regras e padrões. Desta forma, uma cooperação estratégica pode beneficiar ambos os países na governança global da IA, defendendo valores comuns e influenciando outros países e regiões a adotarem boas práticas.