Pesquisador adverte: Algoritmos já estão “usando e até mesmo controlando” os humanos

Estamos cercados por algoritmos em quase tudo que fazemos, desde navegar na Web até tomar decisões financeiras. Mas nós, como seres humanos, já temos uma opinião sobre como esses algoritmos moldam nossa realidade?

Talvez não, de acordo com nova pesquisa.

“Nossa exploração nos levou à conclusão de que, com o tempo, os papéis da tecnologia da informação e dos humanos foram revertidos”, escreveu Dionysios Demetis, professor do Centro de Estudos de Sistemas da Universidade Hull, em Yorkshire, Inglaterra, em um ensaio para The Conversation. “No passado, nós humanos usamos a tecnologia como uma ferramenta. Agora, a tecnologia avançou ao ponto em que está usando e até nos controlando ”.

Decidimos delegar

No ensaio, Demetis se baseia em um artigo que publicou no ano passado com Allen Lee, professor da Virginia Commonwealth University, no Journal ofthe Association for Information Systems.

Em vez de ter algoritmos e máquinas que tomam decisões que não nos afetam de maneira alguma, Dementis argumenta que somos de fato “profundamente afetados por eles de formas imprevisíveis”. E os humanos fizeram dessa forma: “nós progressivamente restringimos nossa própria decisão, nossa capacidade de processamento e permitimos que os algoritmos assumissem. ”

Agora, a tecnologia avançou ao ponto de nos usar e até nos controlar.

Dionysios Demetis

Como prova, Demetis aponta exemplos de advogados sendo substituídos por inteligência artificial, recrutadores excessivamente dependentes de ferramentas de terceiros para eliminar candidatos ruins, e o fato de que uma maioria considerável de negociações em mercados de câmbio é determinada não por humanos, mas por algoritmos que chamam os comandos de compra e venda em milésimos de segundo.

Até mesmo foi permitido ao software prever criminosos futuros, controlando a liberdade humana, determinando como a liberdade condicional é negada ou concedida aos prisioneiros. Desta forma, as mentes dos juízes estão sendo moldadas por mecanismos de tomada de decisões que eles não conseguem entender devido à complexidade do processo e à quantidade de dados que envolve.

Cabeça de máquina

Essa confiança excessiva nos algoritmos, de acordo com Demetis, também pode resultar em falhas de mercado – não causadas por um “bug na programação”, mas aprendidas de comportamento que “emergiram da interação de milhões de decisões algorítmicas que se jogam de formas imprevisíveis. “

Na verdade, os humanos são um impedimento. “As pessoas que administram o sistema comercial passaram a ver as decisões humanas como um obstáculo à eficiência do mercado”, escreveu Demetis.

Em última análise, a escolha de entregar a tomada de decisão às máquinas poderia nos preparar para um futuro sombrio. Pior cenário: “dominação tecnológica”, segundo Demetis.

Mas não é tarde demais – ainda.

“Precisamos decidir, enquanto ainda podemos, o que isso significa para nós como indivíduos e como sociedade.”

Com informações:
The Conversation: Algorithms have already taken over human decision making
The Economist:What Causes a Flash Crash?
The New York Times: Legal
Pro Publica: Machine Bias risk assessments in criminal sentencing

Sobre o autor