O Parlamento Europeu aprovou um texto com o objetivo de regulamentar a inteligência artificial, abrindo caminho para que a União Europeia crie a primeira legislação mundial sobre esta temática. Cada vez mais utilizada na interação entre marcas e consumidores, vamos perceber como a União Europeia quer legislar esta tecnologia.
Os eurodeputados defendem que deve ser estabelecida uma abordagem baseada no risco, caso o sistema de IA seja suscetível de afetar a proteção dos consumidores, e que sejam definidas obrigações tanto para os fornecedores como para aqueles que utilizam esta tecnologia.
Os códigos de conduta da IA deverão ainda ser criados com a participação de utilizadores e de partes interessadas, em especial, as organizações de consumidores.
A legislação proposta pretende ainda incluir proibições de utilizações intrusivas e discriminatórias da IA, tais como:
- sistemas de identificação biométrica à distância em tempo real em espaços acessíveis ao público;
- sistemas de identificação biométrica à distância em diferido, com a única exceção para a repressão de crimes graves por autoridades responsáveis pela aplicação da lei e apenas após autorização judicial;
- sistemas de categorização biométrica que utilizem características sensíveis (por exemplo, género, raça, etnia, estatuto de cidadania, religião, orientação política);
- sistemas de policiamento preditivo (baseados na definição de perfis, localização ou comportamento criminoso passado);
- sistemas de reconhecimento de emoções na aplicação da lei, na gestão das fronteiras, no local de trabalho e nos estabelecimentos de ensino;
- remoção não direcionada de imagens faciais da Internet ou de filmagens de videovigilância (circuito fechado) para criar bases de dados de reconhecimento facial (violação dos direitos humanos e do direito à privacidade).
Relativamente aos sistemas de IA generativa, como o ChatGPT, terão de cumprir os requisitos de transparência, isto é, revelar que os conteúdos foram gerados por IA.
Os eurodeputados garantiram também que a classificação das aplicações de risco elevado passará a incluir sistemas de IA que prejudicam significativamente a saúde, a segurança e os direitos fundamentais das pessoas ou o ambiente.
Os sistemas de IA utilizados para influenciar os eleitores e o resultado das eleições e os sistemas de recomendação utilizados pelas plataformas de redes sociais (com mais de 45 milhões de utilizadores) foram adicionados à lista de risco elevado.
Além disso, os fornecedores de modelos de base terão de avaliar e atenuar eventuais riscos e registar os seus modelos na base de dados da União antes da sua introdução no mercado da UE.
Relativamente aos sistemas de IA generativa, como o ChatGPT, terão de cumprir os requisitos de transparência, isto é, revelar que os conteúdos foram gerados por IA. Terão ainda de assegurar salvaguardas contra a produção de conteúdos ilegais assim como disponibilizar publicamente resumos pormenorizados dos dados protegidos por direitos de autor utilizados para a sua aprendizagem.
Por fim, a legislação vai criar isenções para atividades de investigação e componentes de IA fornecidos ao abrigo de licenças de fonte aberta, permitindo testes em ambiente real criados pelas autoridades públicas.
A aprovação do Parlamento Europeu surge no seguimento da proposta da Comissão Europeia, em abril de 2021, para regular a IA. Agora começam as negociações sobre a forma final da lei.
