Sim, trabalhadores humanos também estão ouvindo gravações do Google Assistant

Incluindo áudio gravado por engano

Um relatório da emissora pública belga VRT NWS revelou como os contratantes pagos para transcrever os arquivos de áudio coletados pelo assistente de IA da Google podem acabar ouvindo informações confidenciais sobre os usuários, incluindo nomes, endereços e detalhes sobre suas vidas pessoais.

É a última história que relata como nossas interações com assistentes de IA não são tão particulares quanto gostaríamos de acreditar. No início deste ano, um relatório da Bloomberg revelou detalhes semelhantes sobre o Alexa da Amazon, explicando como os clipes de áudio gravados pelos dispositivos Echo são enviados sem o conhecimento dos usuários para empreiteiros humanos, que transcrevem o que está sendo dito para melhorar os sistemas de IA da empresa.

Modelo do Google Assistant, o Google Home

Pior, esses clipes de áudio geralmente são gravados inteiramente por acidente. Geralmente, os assistentes de IA, como Alexa e Google Assistant, só começam a gravar áudio quando ouvem sua palavra de ativação (por exemplo, “Ok Google”), mas esses relatórios mostram que os dispositivos geralmente começam a gravar por engano.

Na história do VRT NWS, que enfoca os usuários do Google Assistant, falantes holandeses e flamengos, a emissora revisou cerca de mil gravações, das quais 153 foram capturadas acidentalmente. Um empreiteiro disse à publicação que ele transcreve cerca de 1.000 clipes de áudio do Assistente do Google a cada semana. Em um dos clipes que revisou, ele ouviu uma voz feminina em apuros e disse que sentia que “violência física” estava envolvida. “E então se torna pessoas reais que você está ouvindo, não apenas vozes”, disse o empreiteiro.

Você pode assistir mais no relatório de vídeo abaixo (em inglês):

Empresas de tecnologia dizem que enviar clipes de áudio para seres humanos para serem transcritos é um processo essencial para melhorar sua tecnologia de reconhecimento de fala. Eles também enfatizam que apenas uma pequena porcentagem das gravações é compartilhada dessa maneira. Um porta-voz do Google disse à Wired que apenas 0,2% de todas as gravações são transcritas por humanos e que esses clipes de áudio nunca são apresentados com informações de identificação sobre o usuário.

No entanto, isso não impede que os indivíduos revelem informações confidenciais na gravação. E as empresas certamente não são sinceras sobre esse processo de transcrição. A página da política de privacidade do Google Home, por exemplo, não menciona o uso de prestadores de serviços humanos por parte da empresa ou a possibilidade de que o Home possa registrar usuários por engano.

Essas ofuscações podem causar problemas legais para a empresa, diz Michael Veale, pesquisador de privacidade em tecnologia do Instituto Alan Turing, em Londres. Ele disse à Wired que esse nível de divulgação pode não atender aos padrões estabelecidos pelos regulamentos GDPR da UE. “Você tem que ser muito específico sobre o que você está implementando e como”, disse Veale. “Acho que o Google não fez isso porque seria assustador”.

Em um post publicado no final do dia, o Google defendeu a prática de usar funcionários humanos para revisar as conversas de áudio do Assistente. A empresa diz que aplica “uma ampla gama de salvaguardas para proteger a privacidade do usuário durante todo o processo de revisão”, e faz esse trabalho de revisão para melhorar o processamento de linguagem natural do Assistente e seu suporte a vários idiomas. Mas o Google também se responsabilizou pelo fracasso dessas salvaguardas no caso do trabalhador terceirizado belga que forneceu o áudio ao VRT NWS, quebrando as regras de segurança e privacidade de dados da empresa no processo.

“Acabamos de saber que um desses revisores de idiomas violou nossas políticas de segurança de dados vazando dados de áudio holandeses confidenciais”, escreve David Monsees, gerente de produto da equipe de Pesquisa do Google que criou a postagem do blog. “Nossas equipes de resposta de segurança e privacidade foram ativadas nesta questão, estão investigando e tomaremos providências. Estamos realizando uma revisão completa de nossas salvaguardas neste espaço para evitar que erros de conduta como esse aconteçam novamente ”.