em busca de uma internet livre dos filtros da colonialidade e do “universalismo”

Um bom artigo que aborda diretamente, e em dimensões cotidianíssimas, questões e conceitos trabalhados na finalização de nossos cursos.


Buscas no Google podem ser racistas?

Arwa Mahdawi (*)
(do GUARDIAN)

Sede do Google, na Califórnia
Sede do Google, na Califórnia (Paul Sakuma – Associated Press)

Estudo de Harvard aponta viés racial nos resultados, mas a culpa não é do mecanismo de buscas, e sim dos nossos próprios preconceitos.

Lamento informar, leitores, mas segundo Harvard a internet é racista. Sugiro que você pare de usá-la imediatamente se não quiser denegrir seu nome por ser cliente do Google e de outros sites. Bom, na verdade talvez seja melhor esperar até terminar de ler…

Um recente estudo de Latanya Sweeney sobre buscas no Google apontou uma “discriminação significativa” nos anúncios exibidos, dependendo de se o nome buscado tem, estatisticamente falando, mais chances de ser de uma pessoa branca ou de uma pessoa negra.

Então, a procura por uma “Emma” no Google provavelmente não irá motivar nada mais sinistro do que um convite para ir atrás do telefone e endereço da Emma, ao passo que a busca por uma “Jermaine” pode gerar um anúncio de procura por um prontuário criminal. Na verdade, a pesquisa de Sweeney sugere que há uma chance 25% maior de você topar com um anúncio de buscas por prontuários criminais a partir de nomes “identificadores de negros” do que com nomes que soem como de pessoas brancas.

Mas o que exatamente isso significa? Será que o Google tem alguma ferramenta de identificação racial incrustada nos seus algoritmos? Bom, não exatamente. O Google já declarou inequivocamente que “não conduz nenhuma identificação racial”, e a própria pesquisa admite que a discriminação provavelmente não é tão insidiosa assim. Em vez disso, ela propõe que as discrepâncias demográficas provavelmente derivam de algoritmos “inteligentes” que adaptam o posicionamento dos anúncios com base nos hábitos da massa de usuários. Em suma, escreve Sweeney, os resultados geram “questionamentos sobre se a tecnologia de anúncios do Google expõe um preconceito racial na sociedade, e como as tecnologias de anúncios e buscas podem se desenvolver para assegurar a justiça racial”.

Uau – então alguém acaba de declarar que a sociedade tem preconceitos raciais? Parem as máquinas.

Embora o estudo de Harvard tenha alguns argumentos interessantes, ele é também um caso revelador de “dualismo digital” –a ideia de que as realidades on-line e off-line são separadas e distintas. Isso pode ter sido verdade décadas atrás, quando a internet era algo com que você estabelecia uma conexão discada para consultar promoções de videocassetes no AltaVista, mas essa é hoje uma ideia terrivelmente ultrapassada. A maioria das pessoas atualmente vê o mundo virtual como um simples reflexo do mundo real. Na verdade, um relatório deste ano do Departamento Governamental para a Ciência proclama que “o Reino Unido é agora tanto um ambiente virtual quanto um lugar real”.

A questão de como (e se) a tecnologia pode se livrar daquilo que Sweeney chama de “racismo estrutural” acarreta alguns paralelos interessantes com os debates sobre a linguagem, que ocorrem desde muito antes de o Google ser uma centelha no olhar de Sergey Brin. Veja, por exemplo, a expressão que usei no começo, “denegrir seu nome”. É um termo bastante comum, e você dificilmente acusaria de racismo alguém que o use; no entanto, é um termo carregado.

Há séculos as pessoas tentam livrar a língua do seu “racismo estrutural”, por meio da invenção de dialetos politicamente neutros. O esperanto, criado por um homem de nome maravilhoso, LL Zamenhof, foi o mais bem-sucedido desses esforços, concebido para transcender as nacionalidades e promover a paz, o amor, a harmonia, todas essas coisas boas. Não foi muito longe nesse sentido, mas conseguiu chegar a dezenas de milhares de falantes fluentes, além de cerca de mil falantes nativos. Pode-se dizer que o equivalente tecnológico ao esperanto seja a “criação sensível a valores” (VSD, na sigla em inglês), a crença de que a tecnologia deve, em seu processo de concepção, ser ativamente influenciada para levar em conta os valores humanos, em vez de simplesmente reagir a eles posteriormente. Embora pareça na superfície ser uma boa ideia, é um ninho de serpentes de questões éticas quando você vai mais fundo, abrindo um debate mais amplo sobre a ideia de valores universais e relativismo cultural.

Mas toda essa teoria é, talvez, um pouco erudita demais, e se afasta do ponto mais importante na pesquisa de Sweeney: que suas pegadas digitais têm profundas implicações na sua vida real. Como (não) disse Descartes: “Googlito ergo sum” – estou no Google, logo existo. E, se no Google você é um criminoso em potencial, isso tornará um tanto mais difíceis as suas chances de arrumar um emprego. Mas se livrar desse preconceito não é uma questão de algoritmos, é uma questão de mudança de atitudes.

Há uma interessante observação sobre isso na própria palavra “highbrow” [“erudito”, ou literalmente “fronte alta”]: um termo que vem da frenologia, uma “ciência” do século 19 que usava o formato dos crânios humanos para justificar o racismo. Nas décadas de 1820 a 1840, quando a frenologia estava no auge, os empregadores costumavam solicitar uma referência de caráter a um frenologista local, para confirmar se você seria um bom empregado ou um criminoso em potencial. Naquela época, portanto, seu crânio servia como uma espécie de busca no Google. E não progredimos como sociedade mudando nossos crânios; mudamos o que havia dentro deles.

(*) Tradução de Rodrigo Leite

FONTE: Folha de São Paulo

Anúncios

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s