A inteligência artificial (IA) é uma tecnologia em constante e rápida evolução que pode trazer diversos benefícios à sociedade e à economia em diversos setores industriais. A tecnologia é capaz de melhorar processos, otimizar operações e realizar previsões eficientes. Ao mesmo tempo em que a IA é bastante promissora, muitos dos seus elementos e técnicas também podem trazer consequências negativas para a sociedade.
Diante desse cenário, a União Europeia (UE) tomou frente para apresentar uma proposta legislativa. Esta tem como objetivo garantir o uso ético da IA, resguardando os direitos fundamentais e os princípios da UE.
I. O contexto da regulamentação
O acelerado avanço tecnológico da inteligência artificial marcou a última década, principalmente com o surgimento da IA generativa. Esta tecnologia inclui os modelos de aprendizagem profunda capazes de criar conteúdos semelhantes aos criados por humanos com a utilização de tecnologias como o processamento de linguagem natural (NLP). Os principais exemplos desses modelos são ChatGPT, Midjourney e Bard.
Neste contexto, os desafios que surgiram com o desenvolvimento dos sistemas IA foram o enviesamento, no qual se caracteriza por tendência na produção de resultados a favor ou contra uma pessoa, objeto ou posição. E a opacidade, em que os sistemas de IA tornam-se demasiado complexos para a utilização humana.
A partir de então, demonstrou-se a necessidade de regulamentar o tema com mecanismos para a criação de algoritmos mais transparentes e de utilização segura, ética e de confiança, visando o bom funcionamento do mercado interno.
II. Análise da Proposta de Regulamento
II.I. Objetivos da Proposta de Regulamento de IA
Dentre os objetivos principais da Proposta de Regulamento para IA estão:
- A garantia de que os sistemas de IA colocados no mercado são seguros e respeitam os direitos fundamentais.
- A garantia de segurança jurídica para facilitar investimentos e inovação na área.
- Tornar a fiscalização dos sistemas de IA mais eficiente.
- Facilitar o desenvolvimento de um mercado único dos sistemas de IA para evitar a fragmentação do mercado.
II.II. Âmbito de aplicação da Proposta de Regulamento de IA
Relativamente ao âmbito de aplicação, a Proposta segue uma abordagem que classifica os sistemas de IA em graus de riscos para os direitos fundamentais. Sendo assim, a classificação dos sistemas é feita em quatro categorias: risco inaceitável e, portanto, proibidos; risco elevado; risco limitado e; risco mínimo.
Os sistemas de IA que representam um risco inaceitável são proibidos, uma vez que são os que apresentam grande violação à saúde, à segurança ou outro direito fundamental. São os sistemas subliminares, manipuladores ou exploradores que causem danos. Também os sistemas de pontuação social governamental e os sistemas de identificação biométrica em tempo real em espaços públicos.
Já os sistemas de risco elevado são permitidos, desde que cumpram certos requisitos, principalmente relacionados à transparência. Dentre as obrigações incluem-se avaliações de conformidade, que funcionam como avaliações de impacto de algoritmos. A manutenção de sistemas de gestão de risco, governança, realização de testes rigorosos e manutenção de documentação técnica e registo.
Por fim, os sistemas que representam um risco mínimo possuem menos requisitos que, de certa forma, relacionam-se também com a transparência. Por exemplo ,alertar os utilizadores de que estão a interagir com uma máquina. Dessa forma, garantem que esses utilizadores estejam cientes da natureza automatizada da interação, permitindo-lhes tomar decisões bem informadas sobre como proceder. Além disso, esses sistemas seriam responsáveis por esclarecer se estão usando tecnologias como reconhecimento de emoções ou classificação biométrica e notificar os usuários quando a IA tiver criado ou manipulado o conteúdo de imagens, áudio ou vídeo para representar informações falsas.
Ademais, é importante destacar que o regulamento teria alcance para além das fronteiras da União Europeia, o que implica que qualquer sistema de IA que produza resultados utilizados dentro do território da UE estar-lhe-ia sujeito. Isso significa que tanto indivíduos quanto empresas que estejam localizados na União Europeia e que introduzam um sistema de IA no mercado europeu ou o utilizem dentro do território da UE também estariam sujeitos às regulamentações.
III. Os próximos passos
A proposta de Regulamento da IA é um marco regulatório global. Mesmo que ainda não aprovado, as organizações devem começar a adaptar-se para poderem implementar o seu produto ou serviço já em conformidade com as novas regras que surgirão.
É um fato que o desenvolvimento de sistemas de IA continuará, porém, as organizações devem implementar sistemas de gestão de riscos, realizar avaliações de conformidade e estabelecer um sistema de governança interno para a IA.
Diversas organizações já começaram a desenvolver tais sistemas como a Organização Internacional de Normalização (ISO) e o Instituto Nacional de Normas e Tecnologia dos EUA (NIST) e podem servir de guias para definir padrões organizacionais.
IV. Conclusão
A regulação da inteligência artificial na Europa é um esforço multifacetado que equilibra a necessidade de inovação com a necessidade de proteger os direitos individuais, a privacidade e os princípios éticos. Ela reconhece o potencial transformador da IA ao mesmo tempo em que aborda os riscos potenciais que ela representa para a sociedade. Embora ainda leve certo tempo para ser aprovado, o regulamento certamente já deve ser levado em conta para o futuro da IA.