Tecnologia

Os desafios da utilização da IA para os consumidores

Assegurar uma utilização segura da IA para os consumidores

O Parlamento Europeu instou a Comissão a adotar várias medidas para fazer face aos desafios decorrentes da Inteligência Artificial (IA) e dos processos automatizados de tomada de decisões.

Uma resolução aprovada pelo Parlamento Europeu (PE) aborda os desafios colocados pela utilização e pelo rápido desenvolvimento da IA, apelando a um conjunto sólido de direitos para proteger os consumidores neste domínio.

O PE reconhece o potencial do processo automatizado de tomada de decisões para oferecer serviços inovadores e de melhor qualidade aos consumidores, incluindo novos serviços digitais, como os assistentes virtuais e os “chatbots” (ou programas de simulação de conversa).

No entanto, “quando interagem com um sistema que automatiza a tomada de decisões, os consumidores devem estar bem informados acerca do seu funcionamento, saber como contactar a pessoa responsável e entender como é que as decisões automatizadas do sistema podem ser verificadas e corrigidas”, diz a assembleia europeia.

Esses sistemas devem utilizar apenas conjuntos de dados de elevada qualidade e imparciais e “algoritmos explicáveis e imparciais”, a fim de melhorar os seus resultados e aumentar a confiança e a aceitação dos consumidores, salienta a resolução.

Os eurodeputados consideram que são necessárias “estruturas de revisão” para corrigir eventuais erros nas decisões automatizadas, defendendo que os consumidores devem poder solicitar a revisão e correção, por um ser humano, das decisões automatizadas que sejam definitivas e permanentes.

“Os seres humanos devem ser sempre responsáveis, em última instância, pelas decisões tomadas no quadro de serviços profissionais, nomeadamente nos setores médicos, jurídicos e contabilísticos, assim como no setor bancário”, diz o PE.

Os eurodeputados apelam a um sistema de avaliação dos riscos para a IA e a uma abordagem comum da UE para assegurar os benefícios destas tecnologias e atenuar os riscos no bloco europeu.

Revisão das regras sobre segurança e responsabilidade
A emergência de produtos com capacidade de decisão automatizada coloca novos desafios, uma vez que esses produtos podem evoluir e agir de forma imprevista.

O PE quer que a Comissão apresente propostas legislativas para atualizar as regras europeias sobre a segurança dos produtos (por exemplo, as relativas às máquinas e à segurança dos brinquedos), a fim de garantir que os consumidores sejam informados sobre a utilização desses produtos e protegidos dos danos e que os fabricantes saibam quais são as suas obrigações.

A diretiva relativa à responsabilidade decorrente dos produtos defeituosos, aprovada há mais de 30 anos, também precisa de ser revista para que sejam adaptados conceitos como “produto”, “dano” e “defeito” e as regras que regem o ónus da prova.

Atenção aos preços diferenciados e a práticas discriminatórias
As regras da UE requerem que os comerciantes informem os consumidores quando os preços dos bens ou serviços tenham sido personalizados com base em processos automatizados e na definição de perfis de comportamento dos consumidores, relembra o PE, pedindo à Comissão que acompanhe de perto a aplicação destas regras.

O executivo comunitário deverá fazer o mesmo em relação às regras que proíbem o bloqueio geográfico para assegurar que os processos automatizados não sejam utilizados para discriminar os consumidores com base na sua nacionalidade, local de residência ou localização temporária.