A Inteligência Artificial influenciará os rumos da humanidade, os estudiosos averiguam de que forma isso acontecerá. Recentemente, o secretário geral da ONU, António Guterres disse que a IA pode contribuir para “eliminar a pobreza, lutar contra a fome, curar o câncer e potencializar as ações climáticas”. Em sentido oposto, especialistas brasileiros se mostram mais céticos, como Enio Alterman Blay, doutorando em Engenharia de Sistemas e Complexidade na Escola Politécnica da USP (Poli-USP). Ele destaca que “quando falamos de um sistema que é treinado por dados, precisamos entender que esses dados já possuem vieses, uma vez que são formados por informações existentes em diferentes espaços. Essas informações, muitas vezes, já são carregadas de preconceito. A desigualdade já existe nos dados. A IA só vai reproduzir esses preconceitos e desigualdades”.
Leia a matéria na íntegra na página da Época Negócios.
O pesquisador detalha com exemplos de que maneira a IA pode reproduzir preconceitos.
Os dados são “absolutos” no sentido que representam o que foi medido, o problema é como eles são usados para tirar outras conclusões ou fazer extrapolações e conjecturas”.
Alguns exemplos:
A população carcerária brasileira é majoritariamente negra. Sendo assim, um sistema de IA que não leve isso em conta trará resultados desfavorecendo este grupo, simplesmente por motivos estatísticos. (Vide o caso Compras nos EUA (a)).
No filme Coded Bias a pesquisadora Joy Buolawini mostra como diversos sistemas de reconhecimento facial não reconheciam pessoas pretas por não terem sido treinados com bases de dados com rostos pretos, além de problemas técnicos para reconhecê-los.
Sistemas automatizados para seleção de pessoal que tornou-se mais frequente em departamentos de RH também são treinados com dados de candidatos idealizados ou mesmo da própria empresa. Sendo assim, a tendência deste sistema será reproduzir o perfil existente e não aumentar a diversidade de gênero, raça, escolaridade, origem, etc.
Esses exemplos servem para mostrar que o uso de IA para processos que envolvam a sociedade precisam de mais cuidado para serem implementados e utilizados e que, como discutido no painel do evento Ethos 360, não são sistemas de IA que irão resolver a desigualdade. Esta deve ser vista como o primeiro objetivo e, a partir daí, implementar sistemas que tornem as pessoas, empresas e sociedade mais justas.
Localização
Formando Engenheiros e Líderes
© 2024 Escola Politécnica da USP
Menu
