EUROPA | Parlamento negoceia primeiras regras para inteligência artificial mais segura

As regras visam promover a adoção de uma IA centrada no ser humano e fiável, bem como proteger a saúde, a segurança, os direitos fundamentais e a democracia dos seus efeitos nocivos.

O Parlamento Europeu adotou a sua posição de negociação sobre o Regulamento Inteligência Artificial (IA), esta quarta-feira, por 499 votos a favor, 28 contra e 93 abstenções, em antecipação às conversações com os Estados-Membros da UE sobre a forma final da lei. As regras assegurarão que a IA desenvolvida e utilizada na Europa respeita plenamente os direitos e valores da UE, incluindo a supervisão humana, a segurança, a privacidade, a transparência, a não discriminação e o bem-estar social e ambiental.

As regras seguem uma abordagem baseada no risco e estabelecem obrigações tanto para os fornecedores e como para aqueles que utilizam sistemas de IA, em função do nível de risco que esta pode colocar. Por consequência, os sistemas de IA com um nível de risco inaceitável para a segurança das pessoas serão proibidos, como os utilizados para classificação das pessoas com base no seu comportamento social ou nas suas características pessoais.

Os eurodeputados alargaram a lista de modo a incluir proibições de utilizações intrusivas e discriminatórias da IA, tais como:

sistemas de identificação biométrica à distância «em tempo real» e «em diferido» em espaços públicos;

sistemas de categorização biométrica que utilizem características sensíveis (por exemplo, género, raça, etnia, estatuto de cidadania, religião, orientação política);

sistemas de policiamento preditivo (baseados na definição de perfis, localização ou comportamento criminoso passado);

sistemas de reconhecimento de emoções na aplicação da lei, na gestão das fronteiras, no local de trabalho e nos estabelecimentos de ensino;

e remoção não direcionada de imagens faciais da Internet ou de filmagens de videovigilância (circuito fechado) para criar bases de dados de reconhecimento facial (violação dos direitos humanos e do direito à privacidade).

Os eurodeputados garantiram que a classificação das aplicações de risco elevado passará a incluir sistemas de IA que prejudicam significativamente a saúde, a segurança e os direitos fundamentais das pessoas ou o ambiente. Os sistemas de IA utilizados para influenciar os eleitores e o resultado das eleições e os sistemas de recomendação utilizados pelas plataformas de redes sociais (com mais de 45 milhões de utilizadores) foram adicionados à lista de risco elevado.

Os fornecedores de modelos de base (um desenvolvimento novo e em rápida evolução no domínio da IA) terão de avaliar e atenuar eventuais riscos (para a saúde, ambiente, segurança. direitos fundamentais, democracia e Estado de direito) e registar os seus modelos na base de dados da União antes da sua introdução no mercado da UE. Os sistemas de IA generativa que têm por base tais modelos, como o ChatGPT, terão de cumprir os requisitos de transparência (revelando que os conteúdos foram gerados por IA, o que ajudará a distinguir as técnicas de manipulação de imagens – também conhecidas como deepfake – das imagens reais) e assegurar salvaguardas contra a produção de conteúdos ilegais. Terão igualmente de ser disponibilizados ao público resumos pormenorizados dos dados protegidos por direitos de autor utilizados para a sua aprendizagem.

Para impulsionar a inovação no domínio da inteligência artificial e apoiar as PME, os eurodeputados acrescentaram isenções para atividades de investigação e componentes de IA fornecidos ao abrigo de licenças de fonte aberta. A nova lei promove os chamados ambientes de testagem de regulamentação, ou ambientes reais, criados pelas autoridades públicas para testar a inteligência artificial antes da sua utilização.

Por último, os eurodeputados pretendem reforçar o direito dos cidadãos de apresentarem queixas sobre sistemas de IA e receberem explicações sobre decisões baseadas em sistemas de IA de risco elevado que tenham um impacto significativo nos seus direitos fundamentais. Os deputados também reformaram o papel do Serviço Europeu para a Inteligência Artificial, que será incumbido de acompanhar a aplicação do conjunto de regras em matéria de inteligência artificial.

Após a votação, o correlator Brando Benifei (S&D, Itália) referiu: «Hoje, todos os olhos estão em nós. Enquanto as grandes empresas de tecnologia estão a soar o alarme sobre as suas próprias criações, a Europa avançou e propôs uma resposta concreta aos riscos que a IA está a começar a colocar. Queremos que o potencial positivo da IA para a criatividade e a produtividade seja aproveitado, mas também lutaremos para proteger a nossa posição e combater os perigos para as nossas democracias e liberdades durante as negociações com o Conselho».

O correlator Dragos Tudorache (Renew, Roménia) afirmou: «O Regulamento Inteligência Artificial definirá o tom a nível mundial no desenvolvimento e governação da inteligência artificial, assegurando que esta tecnologia, destinada a transformar radicalmente as nossas sociedades através dos enormes benefícios que pode oferecer, evolui e é utilizada em conformidade com os valores europeus da democracia, dos direitos fundamentais e do Estado de direito.»