IBM abandona divisão de reconhecimento facial por mau uso da tecnologia

A gigante da tecnologia IBM deve parar de oferecer software de reconhecimento facial para “vigilância em massa ou perfil racial”.

O anúncio ocorre quando os EUA enfrentam pedidos de reforma policial após o assassinato de um homem negro, George Floyd.

Em uma carta ao Congresso dos EUA, a IBM disse que os sistemas de IA usados na aplicação da lei precisavam ser testados “por preconceito”.

Um ativista disse que foi uma jogada “cínica” de uma empresa que foi fundamental na criação de tecnologia para a polícia.

Em sua carta ao Congresso, o executivo-chefe da IBM, Arvind Krishna, disse que a “luta contra o racismo é mais urgente do que nunca”, estabelecendo três áreas em que a empresa queria trabalhar com o Congresso: reforma da polícia, uso responsável da tecnologia e ampliação de habilidades educacionais. oportunidades.

“A IBM se opõe firmemente e não tolerará o uso de nenhuma tecnologia, incluindo a tecnologia de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, perfis raciais, violações de direitos humanos e liberdades básicas”, escreveu ele.

“Acreditamos que agora é a hora de iniciar um diálogo nacional sobre se e como a tecnologia de reconhecimento facial deve ser empregada pelas agências policiais nacionais”.

Em vez de confiar no reconhecimento facial potencialmente tendencioso, a empresa instou o Congresso a usar uma tecnologia que traria “maior transparência”, como câmeras corporais em policiais e análises de dados.

A análise de dados é mais essencial para os negócios da IBM do que os produtos de reconhecimento facial. Também trabalhou para desenvolver tecnologia para o policiamento preditivo, que também criticou o possível viés.

‘Não sejamos enganados’

Eva Blum-Dumontet, da Privacy International, disse que a empresa cunhou o termo “cidade inteligente”.

“Em todo o mundo, eles adotaram um modelo ou urbanização que contava com câmeras e sensores de CFTV processados pelas forças policiais, graças às plataformas inteligentes de policiamento que a IBM os vendia”, disse ela.

“É por isso que agora é muito cínico a IBM se virar e afirmar que deseja um diálogo nacional sobre o uso da tecnologia no policiamento”.

Ela acrescentou: “A IBM está tentando se redimir porque foi fundamental para o desenvolvimento das capacidades técnicas da polícia por meio do desenvolvimento das chamadas técnicas de policiamento inteligente. Mas não vamos nos deixar enganar pela sua última jogada.

“Antes de tudo, o anúncio foi ambíguo. Eles falam sobre o fim do reconhecimento facial de ‘uso geral’, o que me faz pensar que não será o fim do reconhecimento facial da IBM, apenas será personalizado no futuro.”

A Liga da Justiça Algorítmica (The Algorithmic Justice League) foi um dos primeiros grupos ativistas a indicar que havia vieses raciais nos conjuntos de dados de reconhecimento facial.

Um estudo de 2019 realizado pelo Massachusetts Institute of Technology descobriu que nenhuma das ferramentas de reconhecimento facial da Microsoft, Amazon e IBM era 100% precisa quando se tratava de reconhecer homens e mulheres com pele escura.

E um estudo do Instituto Nacional de Padrões e Tecnologia dos EUA sugeriu que os algoritmos de reconhecimento facial eram muito menos precisos na identificação de rostos afro-americanos e asiáticos em comparação com os caucasianos.

A Amazon, cujo software Rekognition é usado pelos departamentos de polícia dos EUA, é um dos maiores players do setor, mas também existem vários players menores, como o Facewatch, que opera no Reino Unido. A Clearview AI, que foi instruída a parar de usar imagens do Facebook, Twitter e YouTube, também vende seu software para as forças policiais dos EUA.

Maria Axente, especialista em ética em IA da consultoria PwC, disse que o reconhecimento facial demonstrou “riscos éticos significativos, principalmente no aprimoramento do viés e discriminação existentes”.

Ela acrescentou: “Para construir confiança e resolver questões importantes da sociedade, tanto o objetivo quanto o lucro devem ser uma medida-chave do desempenho”.