A inteligência artificial não é uma coisa fácil e podem surgir problemas com ela mesmo em empresas com ampla experiência em desenvolvimento nesse campo. Também aconteceu com Amazon. Conforme relatado pela agência de notícias Reuters: “A empresa teve que abandonar um projeto baseado em IA que selecionava automaticamente o pessoal. Seu principal problema é a opressão das mulheres."
Um experimento fracassado da Amazon
Na maioria dos casos, o treinamento de IA é feito analisando dados históricos. Seu problema frequente é o desempenho de tarefas baseadas em "pré-conceitos". Nesse caso, o “preconceito” era um número significativo de homens que trabalhavam na área de TI. O software desenvolveu um algoritmo que classifica questionários que listam faculdades femininas e que contêm a palavra "feminina" nas últimas posições da classificação.
Leia também: Amazon lança Echo Wall Clock com suporte para assistente de voz Alexa
"A equipa de desenvolvimento procurou desenvolver um programa que, de 100 candidaturas submetidas, selecciona as 5 melhores, de acordo com determinados critérios." - relata uma fonte sem nome.
Leia também: Amazon apresenta o alto-falante inteligente Echo Show atualizado com uma tela grande de 10 polegadas
Quando a empresa percebeu que o programa estava dando resultados com base nas diferenças de gênero, decidiu ajustar os algoritmos de IA. No entanto, a reputação do projeto foi prejudicada. Além disso, não havia garantias de que não houvesse outros "vieses" no programa. Portanto, sem pensar muito, a Amazon decidiu cobrir o projeto até tempos melhores.
Só podemos esperar que o projeto seja corrigido e continue a agradar os usuários com resultados honestos.
fonte: theverge