Por trás da aparente imparcialidade dos algoritmos, ferramenta por meio da qual são preenchidos questionários e outros recursos disponibilizados por empresas na internet, escondem-se critérios nebulosos de injustiças, preconceitos e discriminações.
A denúncia é da matemática Cathy O’Neil, dos Estados Unidos. Por causas desses problemas, ela enxerga entraves na revolução dos algoritmos.
Formada em Harvard e Massachussetts Institute of Technology (MIT), duas das mais prestigiadas universidades do mundo, ela é uma das mais respeitadas estudiosas em efeitos colaterais da economia do Big Data.
De forma resumida, a definição mais corrente, na Internet, indica que algoritmo é uma sequência finita de instruções, bem definidas e não ambíguas, executadas, mecânica ou eletronicamente, em um intervalo de tempo finito e com uma quantidade de esforço finita. Não é necessariamente, um programa de computador e, sim, os passos necessários para realizar uma tarefa, como preencher um questionário virtual.
Os algoritmos estão por toda parte. Nos formulários de vagas de emprego, de contratos com bancos e seguradoras, nas propagandas, notícias personalizadas etc.
Em entrevista à BBC Brasil, Cathy O’Neil disse que os algoritmos não são ferramentas neutras e objetivas. Refretem visões de mundo de seus programadores e, de forma geral, reforçam preconceitos e prejudicam os mais pobres.
Um exemplo do problema detectado por Cathy O’Neil está nos algoritmos de seguros de automóveis nos Estados Unidos. Motoristas que nunca receberam uma multa, mas que tinham restrições de crédito por morarem em bairros pobres pagavam valores mais altos do que aqueles com facilidade de crédito, mas já condenados por dirigirem embriagados.
Outro exemplo são os testes de personalidade em entrevistas de emprego. A pesquisadora diz que, antes, as pessoas se candidatavam a uma vaga indo até uma determinada loja que precisava de um funcionário. Hoje, todo mundo se candidata pela internet. É isso que gera os testes de personalidade. Existe uma quantidade tão grande de pessoas se candidatando a vagas que é necessário haver algum filtro. E esse filtro é feito por meio do uso de Algoritmos.
Os testes de personalidade e programas que filtram currículos são alguns exemplos de como os algoritmos estão afetando o mundo do trabalho.
Para Cathy O’Neil os algoritmos vão transformar as pessoas em robôs ou que os robôs vão substituir o trabalho dos seres humanos.
A melhor maneira de resolver o problema, segundo a pesquisadora, é fazer com que os algoritmos sejam auditados por terceiros, de fora da empresa que aplica o algoritmo.
Com dados da BBC Brasil e outras fontes.
