Tecnologia

Como resolver os riscos da IA para os consumidores

Como resolver os riscos da IA para os consumidores

A Inteligência Artificial (IA) e os processos de decisão automatizados podem apresentar ameaças para os consumidores, levando o Parlamento Europeu (PE) a pretender proteger esses mesmos consumidores.

Uma vez que os algoritmos inteligentes podem processar dados com precisão e velocidade superiores às capacidades humanas, as aplicações da IA têm-se tornado comuns nos negócios, na saúde, educação, sistema legal, entre outros campos. “Mas a confiança na IA também apresenta riscos”, admite o PE, indicando, especialmente, as áreas em que as decisões são tomadas “sem a supervisão humana”. A aprendizagem das máquinas depende de padrões de reconhecimento alocados em arquivos de dados. Os principais problemas surgem quando estes dados refletem preconceitos societais ou são tendenciosos.

A IA é cada vez mais utilizada nos sistemas de decisão algorítmica Sistemas de Supervisão e Aquisição de Dados (mais conhecidos por ADS). Por isso, o PE alerta para várias situações, onde impacto da decisão das pessoas pode ser “significativo,” como o acesso a crédito, emprego, tratamento médico ou a sentenças judiciais. “Os processos de tomada de decisão automáticos podem perpetuar as divisões da sociedade. Alguns algoritmos utilizados atualmente mostraram-se tendenciosos no que diz respeito ao sexo feminino, por exemplo”, refere a nota de imprensa do PE.

O desenvolvimento da IA e dos processos de decisão automatizados também apresenta desafios para a confiança e o bem-estar dos consumidores, salientando os responsáveis do Parlamento Europeu que”, quando os consumidores estão a interagir com este tipo de sistemas, devem estar convenientemente informados sobre como operam”.

Por tudo isto, a resolução adotada no dia 23 de janeiro solicita à Comissão Europeia que examine a necessidade de medidas adicionais para garantir um conjunto forte de direitos que protejam os consumidores no contexto da IA e dos processos de decisão automatizados.