O preconceito moral por detrás dos resultados de pesquisa

Será possível obtermos um resultado de pesquisa imparcial dos motores de busca? Andreas Ekström defende que isso é impossível filosoficamente.

Os motores de busca tornaram-se nas fontes mais fiáveis de informações e árbitros da verdade. Mas será possível obtermos um resultado de pesquisa imparcial? Andreas Ekström, autor e jornalista sueco, defende que isso é impossível filosoficamente. Nesta palestra que faz pensar, pede-nos que reforcemos os laços entre a tecnologia e as humanidades, e recorda-nos que, por detrás de cada algoritmo está um conjunto de crenças pessoais que nenhum código consegue eliminar totalmente.

Sempre que visito uma escola e falo com os alunos, sempre lhes faço a mesma pergunta: "Por que vocês usam a busca do Google?



Por que vocês optam pela ferramenta de busca do Google?" É engraçado, mas sempre recebo as mesmas três respostas. Primeiro: "Porque funciona", o que é uma ótima resposta. Também opto pelo Google por isso. Segundo, alguém vai dizer: "Não conheço outras ferramentas". Não é uma resposta tão boa quanto a anterior, e normalmente respondo: "Busque 'ferramenta de busca' no Google", e vai encontrar algumas alternativas interessantes". Por último, mas não menos importante, inevitavelmente, algum aluno levanta a mão e diz: "Com o Google, sempre obtenho o resultado melhor e imparcial". "Sempre obtenho o resultado melhor e imparcial."

Por que os alunos optam pela busca do Google?

• [accordion]
• Resposta 1 - Ótima ##star####star####star####star####star-half-o##
• Porque funciona.
• Resposta 2 -  Regular ##star####star####star-half-o##
• Não conheço outras ferramentas.
• Resposta 3 - Assustadora! ##star-half-o##
• Sempre obtenho o resultado melhor e imparcial.

Como um cara de humanas, embora um cara de humanas digitais, isso simplesmente me assusta, embora eu também saiba que essa confiança, essa ideia de um resultado imparcial, é a base de nosso apreço e paixão coletivos pelo Google. Vou mostrar por que, filosoficamente, isso é quase impossível.

Mas primeiro vou falar, só um pouquinho, sobre um princípio básico por trás de cada pesquisa feita, do qual às vezes parecemos nos esquecer. Sempre que você pesquisar algo no Google, faça antes a seguinte pergunta a si mesmo: "Estou buscando um fato isolado?" Tipo, qual é a capital da França? Quais elementos compõem a molécula de água? Perfeito. Pesquise à vontade. Não há um grupo sequer de cientistas que esteja perto de provar que as respostas são "Londres" e "H3O". Não se vê uma grande conspiração em torno disso. Concordamos, em escala mundial, quanto a quais são as respostas para esses fatos isolados.

Porém, se você complicar a pergunta só um pouquinho, assim: "Por que existe um conflito entre Israel e Palestina?", não estará mais buscando exatamente um único fato, mas estará buscando conhecimento, o que é bem mais complicado e delicado. 

E, para chegar ao conhecimento, você precisa trazer 10, 20 ou 100 fatos à mesa, reconhecê-los e dizer: "Sim, todos são verdadeiros". Mas, por causa de quem somos - jovens, idosos, negros, brancos, gays, héteros -, vamos valorizá-los de forma diferente: "Sim, isso aqui é verdade, mas isso aqui é mais importante pra mim do que aquilo". É aí que a coisa fica interessante, porque é aí que nos tornamos humanos, que começamos a debater, a criar uma sociedade. E, para realmente chegar a algum lugar, precisamos filtrar todos os fatos, entre amigos, vizinhos, pais, filhos, colegas de trabalho, jornais, revistas, para finalmente estarmos baseados em conhecimento real, algo que uma ferramenta de busca é ruim em nos ajudar a obter.

Prometi a vocês um exemplo, apenas para mostrar por que é tão difícil chegar ao conhecimento real, claro e objetivo, como ponto para reflexão. Vou fazer algumas pesquisas simples, buscas simples. Vamos começar com "Michelle Obama", a primeira-dama dos Estados Unidos, e vamos clicar em "imagens". Funciona muito bem, como vocês podem ver. É um resultado de busca praticamente perfeito. Só ela aparece nas fotos. Nem o presidente aparece.

Como isso funciona? Bem simples. O Google usa muita inteligência para isso, mas, de forma bem simples, eles analisam principalmente duas coisas. Primeiro, o que está escrito na legenda da foto, em cada site? Está escrito "Michelle Obama" abaixo da foto? É bem provável que seja ela mesma na foto. Segundo, o Google analisa o arquivo da imagem, o nome com que o arquivo foi carregado no site. Novamente, se o nome do arquivo for "MichelleObama.jpeg", é bem provável que a foto não seja do Clint Eastwood. Então, você tem essas duas coisas, e obtém um resultado mais ou menos assim.

Fatores básicos analisados pelo Google para indexar uma imagem

• [accordion]
• Legenda da imagem
• O que está escrito na legenda da foto. Está escrito "Michelle Obama"? Abaixo da foto? Hmmm... Vamos para o Segundo Fator.
• Nome do arquivo
• O nome do arquivo é "MichelleObama.jpeg"? Sim? Então, se os dois fatores são confirmados é muito provável que a imagem seja mesmo de Michelle Obama.

Bem, em 2009, Michelle Obama foi vítima de uma campanha racista, quando as pessoas começaram a insultá-la através dos resultados de pesquisa relacionados a ela. Uma foto circulou em toda a internet, com o rosto dela distorcido, fazendo-a parecer com um macaco. Essa imagem foi publicada em toda a internet. As pessoas a publicaram realmente com a intenção de aparecer nos primeiros resultados de pesquisa. Certificaram-se de escrever "Michelle Obama" na legenda e de carregar a imagem como "MichelleObama.jpeg", ou algo assim. Entendem por quê? Para manipular os resultados. E funcionou também. Então, ao pesquisar imagens de "Michelle Obama" em 2009, a imagem distorcida de macaco aparecia entre os primeiros resultados.

Mas os resultados são autoajustáveis, o que é meio que a vantagem disso tudo, porque o Google avalia a relevância a cada hora, a cada dia. Porém, o Google não fez isso dessa vez. Eles pensaram: "Isso é racismo e um resultado ruim de pesquisa. Vamos lá e vamos corrigir isso manualmente. Vamos escrever algum código para consertar isso". E assim o fizeram. Não acredito que alguém nesta sala ache que isso foi uma má ideia. Também não acho.

Mas então, dois anos depois, Anders Behring Breivik, o "Anders" mais procurado no Google, fez o que fez. É 22 de julho de 2011, um dia terrível na história da Noruega. Este homem, um terrorista, explodiu dois edifícios governamentais, a poucos metros daqui, em Oslo, na Noruega, e depois viajou para a ilha de Utøya e matou a tiros um grupo de jovens. Quase 80 pessoas morreram naquele dia.

Muitos descreveriam esse ato de terror como realizado em duas etapas, que ele fez duas coisas: explodiu os edifícios e atirou nos jovens. Não é verdade. Foram três etapas: ele explodiu aqueles edifícios, atirou naqueles jovens, depois parou e esperou até que o mundo o buscasse no Google. Ele preparou todas as três etapas igualmente bem.

Alguém que imediatamente entendeu isso foi um desenvolvedor web sueco, especialista em otimização de ferramentas de busca de Estocolmo, chamado Nikke Lindqvist. Ele também é um cara bem político e ele estava lá nas redes sociais, em seu blog e Facebook. Ele disse a todo mundo:

O que esse cara deseja agora é controlar sua própria imagem. Vejamos se conseguimos distorcer os resultados. Vejamos se nós, do mundo civilizado, conseguimos protestar contra o que ele fez, insultando-o em seus resultados de pesquisa.

Mas como? Ele disse o seguinte a todos os leitores dele: "Procurem na internet imagens de cocô de cachorro em calçadas. Imagens de cocô de cachorro em calçadas. Publiquem-nas em suas páginas, seus sites, seus blogs. Certifiquem-se de escrever o nome do terrorista na legenda, coloquem o seguinte nome na imagem: 'Breivik.jpeg'. Vamos mostrar ao Google que essa é a imagem do terrorista". E funcionou. Dois anos após a campanha contra Michelle Obama, essa campanha de manipulação contra Anders Behring Breivik funcionou. Ao pesquisar a imagem dele no Google semanas após os eventos de 22 de julho, na Suécia, você veria a imagem do cocô de cachorro no topo dos resultados, como uma pequena forma de protesto.

Por incrível que pareça, o Google não interveio dessa vez. Eles não ajustaram manualmente esses resultados de pesquisa. Então, a pergunta que não quer calar: há algo diferente entre esses dois acontecimentos? Há algo diferente entre o que aconteceu com Michelle Obama e o que aconteceu com Anders Behring Breivik? Claro que não. É exatamente a mesma coisa, mas o Google interveio em um caso e no outro não.

Por quê? Porque Michelle Obama é uma pessoa honrada, e Anders Behring Breivik é uma pessoa desprezível. Percebem o acontece aqui? A avaliação de uma pessoa acontece e há apenas um mandachuva no mundo com a autoridade para dizer quem é quem. "Gostamos de você. Não gostamos de você. Acreditamos em você; não em você. Está certo, errado. É verdadeiro, falso. Você é Obama. Você é Breivik." Isso é que é poder.

Então, peço que vocês lembrem que, atrás de cada algoritmo, sempre existe alguém com um conjunto de crenças pessoais que código algum jamais poderá erradicar totalmente. 

Minha mensagem não é apenas ao Google, mas a todos os que creem piamente em códigos, em todo o mundo. Vocês precisam identificar sua própria parcialidade. Precisam entender que são humanos e assumir responsabilidade como tais.

Digo isso porque acredito que chegamos a um ponto em que é absolutamente imperativo que atemos esses laços novamente, de maneira mais forte: ciências humanas e tecnologia, mais unidas que nunca, e, no mínimo, lembrar que essa ideia maravilhosamente sedutora de um resultado de pesquisa imparcial e limpo é, e provavelmente continuará sendo, um mito.

Obrigado pela atenção.

(Aplausos)

Fonte: [TED]
[Visto no Brasil Acadêmico]