Querido Facebook, é assim que vocês estão destruindo a democracia

“As mentiras on-line envolvem mais do que a verdade”, diz a ex-analista e diplomata da CIA Yaël Eisenstat. “Enquanto os objetivos dos algori...

“As mentiras on-line envolvem mais do que a verdade”, diz a ex-analista e diplomata da CIA Yaël Eisenstat. “Enquanto os objetivos dos algoritmos [de rede social] forem nos manter engajados, eles nos alimentarão com o veneno que ataca nossos piores instintos e fraquezas humanas.” Nesta palestra ousada, Eisenstat explora como empresas de rede social como o Facebook incentivam conteúdo inflamatório, contribuindo para uma cultura de polarização política e desconfiança, e apela aos governos para responsabilizar essas plataformas para proteger o discurso civil e a democracia.

Cerca de cinco anos atrás, percebi que estava perdendo a habilidade de me envolver com pessoas que não pensam como eu. A ideia de discutir questões polêmicas com meus colegas americanos estava começando a me dar mais azia do que as vezes que me envolvi com suspeitos de extremismo no exterior. Estava começando a ficar mais amarga e frustrada.

E assim, mudei todo o meu foco de ameaças à segurança nacional global para tentar entender o que estava causando esse impulso rumo à polarização extrema nos EUA.

Como ex-oficial da CIA e diplomata que passou anos trabalhando em questões de contraextremismo, comecei a temer que isso estivesse virando uma ameaça muito maior à nossa democracia do que qualquer adversário estrangeiro.

Comecei a me aprofundar e a me manifestar sobre isso, o que acabou me levando a ser contratada pelo Facebook e finalmente me trouxe aqui hoje para continuar alertando você sobre como essas plataformas estão manipulando e radicalizando muitos de nós, e para falar sobre como recuperar as praças públicas digitais. Eu fui oficial do serviço estrangeiro no Quênia apenas alguns anos após os ataques do 11 de setembro, e conduzi as chamadas campanhas “Hearts and Minds” ao longo da fronteira com a Somália. Grande parte do meu trabalho era construir a confiança das comunidades consideradas mais suscetíveis a mensagens extremistas.

Passava horas bebendo chá com clérigos antiocidentais declarados e até dialogava com alguns suspeitos de terrorismo, e, embora muitos desses encontros começassem com suspeita mútua, não me lembro de nenhum deles resultando em gritos ou insultos, e, em alguns casos, até trabalhamos juntos em áreas de interesse mútuo.

As ferramentas mais poderosas que tínhamos eram simplesmente escutar, aprender e cultivar empatia. Esta é a essência do trabalho da Hearts and Minds, porque vi repetidamente que a maioria das pessoas queria se sentir ouvida, validada e respeitada. E acredito que é isso que a maioria de nós deseja.

Então, o que vejo acontecendo on-line hoje é especialmente triste e muito mais difícil de resolver.

Estamos sendo manipulados pelo atual ecossistema de informações, enraizando tantos de nós no absolutismo, que “meio-termo” se tornou um palavrão.

Porque agora, empresas de rede social como o Facebook lucram nos segmentando e fornecendo conteúdo personalizado que valida e explora nossos preconceitos. O resultado final depende de provocar um sentimento forte para nos manter engajados, frequentemente incentivando as vozes mais inflamatórias e polarizadoras, ao ponto de não parecer mais possível chegarmos a um consenso. E apesar de um coro crescente de pessoas clamando pela mudança das plataformas, está claro que elas não farão o suficiente por conta própria. Portanto, os governos devem determinar a responsabilidade para os danos do mundo real causados por esses modelos de negócios e impor custos reais sobre os efeitos prejudiciais que estão causando na nossa saúde pública, nossa praça pública e nossa democracia. Mas, infelizmente, isso não vai acontecer a tempo da eleição presidencial nos EUA, então continuo a dar esse alerta, porque mesmo se um dia tivermos regras fortes em vigor, todos teremos que agir pra consertar isso.

Quando comecei a mudar meu foco de ameaças no exterior para o colapso do discurso civil nos EUA, me perguntei se podíamos redirecionar algumas campanhas Hearts and Minds para ajudar a curar nossas diferenças. Nossa experiência de mais de 200 anos com a democracia funciona em grande parte porque podemos debater de forma aberta e apaixonada nossas ideias para as melhores soluções.

Mas embora ainda acredite profundamente no poder do discurso civil “olho no olho”, ele não consegue competir com os efeitos polarizadores e a dimensão das redes sociais no momento.

As pessoas sugadas por essas armadilhas de indignação nas redes sociais muitas vezes parecem mais difíceis de romper com as mentalidades ideológicas do que as comunidades vulneráveis com as quais trabalhei.

Então, quando me ligaram do Facebook em 2018 e me ofereceram esta função de liderar operações de integridade eleitoral para publicidade política, senti que tinha que aceitar. Eu não tinha ilusões de que iria consertar tudo, mas quando ofereceram a oportunidade de ajudar a conduzir melhor as coisas, eu tinha pelo menos que tentar.

Não trabalhava diretamente na polarização, mas eu analisava quais questões eram as mais polêmicas em nossa sociedade e, portanto, as mais exploráveis nos esforços de interferência eleitoral, que era a tática da Rússia antes de 2016.

Então comecei fazendo perguntas. Eu queria entender os problemas sistêmicos subjacentes que estavam permitindo tudo isso, para descobrir como corrigi-los.

Ainda acredito no poder da internet para fazer mais vozes serem ouvidas, mas apesar do objetivo declarado de construir uma comunidade, as maiores empresas de rede social atuais são antitéticas no conceito de discurso racional. Não há como recompensar o ato de escutar, como encorajar o debate civil e como proteger as pessoas que desejam sinceramente fazer perguntas em uma indústria na qual otimizar o engajamento e o crescimento de usuários são as duas métricas mais importantes para o sucesso. Não há incentivo para ajudar as pessoas a irem mais devagar, para criar conflito suficiente para que as pessoas parem, identifiquem a reação emocional a algo e questionem as próprias suposições antes de se envolverem.

A triste realidade é: mentiras são mais envolventes on-line do que verdades, e a obscenidade vence o raciocínio baseado em fatos em um mundo otimizado para viralidade sem atrito.

Enquanto o objetivo dos algoritmos for nos manter engajados, continuarão a nos alimentar com o veneno que ataca nossos piores instintos e fraquezas humanas. E sim, raiva, desconfiança, a cultura do medo, ódio: nada disso é novo nos Estados Unidos. Mas, nos últimos anos, a rede social explorou isso e, a meu ver, desequilibrou dramaticamente a balança. E o Facebook sabe disso. Um artigo recente do “Wall Street Journal” expôs uma apresentação interna do Facebook em 2018 que aponta especificamente os próprios algoritmos das empresas para aumentar a presença de grupos extremistas em sua plataforma e polarizar os usuários. Mas eles ganham dinheiro nos mantendo engajados. O ambiente de informação moderno é formado fazendo nossos perfis e depois nos segmentando em categorias cada vez mais restritas para aperfeiçoar este processo de personalização. Somos bombardeados com informações que confirmam nossas opiniões, reforçando nossos preconceitos e nos fazendo sentir incluídos.

São as mesmas táticas que víamos recrutadores de terroristas usando em jovens vulneráveis, embora de formas menos pronunciadas e mais localizadas antes da rede social, com o objetivo final de persuadir comportamentos.

Infelizmente, nunca tive o poder no Facebook de causar um impacto real. Na verdade, no meu segundo dia, meu título e descrição de funções foram alterados e fui cortada das reuniões de tomada de decisão. Meus maiores esforços, tentando criar planos para combater a desinformação e repressão eleitoral em anúncios políticos, foram rejeitados. Fiquei lá por pouco menos de seis meses. Mas eis a minha maior lição do meu tempo lá. Existem milhares de pessoas no Facebook trabalhando apaixonadamente em um produto que eles realmente acreditam que torna o mundo um lugar melhor, mas enquanto a empresa continuar a apenas mexer nos limites da política de conteúdo e moderação, ao invés de considerar como a máquina é projetada e monetizada, eles nunca irão realmente abordar como a plataforma está contribuindo para o ódio, divisão e radicalização.

Essa é a única conversa que nunca escutei durante meu tempo lá [no Facebook], porque exigiria fundamentalmente aceitar que o que criaram pode não ser o melhor para a sociedade, e concordar em alterar todo o modelo de produto e lucro.

Então, o que podemos fazer sobre isso? Não estou dizendo que a rede social seja a única responsável para a situação em que estamos hoje. Claramente, temos questões sociais profundas que precisamos resolver. Mas a resposta do Facebook, de que ele é só um espelho da sociedade, é uma tentativa conveniente de desviar qualquer responsabilidade na maneira como a plataforma deles está amplificando conteúdo prejudicial e levando alguns usuários a opiniões extremas.

E o Facebook poderia, se eles quisessem, consertar algumas dessas coisas.

Eles poderiam parar de destacar e sugerir teóricos da conspiração, grupos de ódio, fornecedores de desinformação e, sim, em alguns casos, até o presidente dos EUA.

Eles poderiam parar de usar as mesmas técnicas de personalização que usam para nos vender tênis para apresentar retórica política. Eles poderiam refazer os algoritmos para focar uma métrica diferente de engajamento, e criar formas de proteção para impedir que determinado conteúdo se torne viral antes de ser revisado. E eles poderiam fazer tudo isso sem se tornar o que chamam de “árbitros da verdade”.

Mas deixaram claro que não farão a coisa certa se não forem forçados a isso. E, sinceramente, por que fariam? Os mercados continuam recompensando-os e eles não estão infringindo a lei. Porque, atualmente, não há leis nos EUA que forcem o Facebook ou qualquer empresa de rede social a proteger nossa praça pública digital, nossa democracia e até mesmo nossas eleições. Cedemos a tomada de decisão sobre quais regras escrever e o que fazer para cumprir para os CEOs de empresas de internet com fins lucrativos. É isso que nós queremos? Um mundo pós-verdade no qual a toxicidade e o tribalismo superam o diálogo e a busca de consenso? Continuo otimista de que ainda temos mais em comum do que a mídia atual e o ambiente on-line retratam, e acredito que ter mais perspectiva contribui para uma democracia mais robusta e inclusiva. Mas não do jeito que está agora. E vale a pena enfatizar: não quero acabar com essas empresas. Eu só quero que tenham um certo nível de responsabilidade, assim como o resto da sociedade. É hora das autoridades se posicionarem e cumprirem sua função de proteger os cidadãos. E enquanto não há uma legislação mágica para consertar tudo isso, acredito que os governos podem e devem encontrar o equilíbrio entre proteger a liberdade de expressão e responsabilizar essas plataformas por seus efeitos na sociedade.

E poderiam fazer isso em parte insistindo na transparência real em torno de como esses mecanismos de recomendação estão funcionando; e como a curadoria, amplificação e segmentação estão acontecendo.

Quero que essas empresas sejam responsabilizadas não quando um indivíduo postar informações incorretas ou retórica extrema, mas quando os mecanismos deles de recomendação as espalharem, seus algoritmos direcionarem as pessoas para isso, e suas ferramentas forem usadas para atingir as pessoas com ele. Tentei fazer mudanças dentro do Facebook e falhei, mas tenho usado minha voz novamente nos últimos anos para continuar soando este alarme e, quem sabe, inspirar mais pessoas a exigir essa responsabilização.

Minha mensagem para você é simples: pressione seus representantes no governo a se posicionarem e pararem de ceder nossa praça pública para interesses com fins lucrativos. Ajude a educar amigos e familiares sobre como eles estão sendo manipulados on-line. Esforce-se para interagir com pessoas que não têm os mesmos interesses. Faça deste assunto uma prioridade. Precisamos de uma abordagem de toda a sociedade para consertar isso.

E minha mensagem para os líderes do meu ex-empregador Facebook é esta: as pessoas estão usando suas ferramentas exatamente como foram projetadas para semear ódio, divisão e desconfiança, e vocês não só estão permitindo, mas possibilitando isso. E sim, há muitas histórias ótimas de coisas positivas acontecendo em sua plataforma ao redor do mundo, mas isso não torna nada disso certo.

Só está piorando à medida em que as eleições se aproximam, e ainda mais preocupante, enfrentaremos nossa maior crise potencial até agora, se os resultados não forem confiáveis e se houver violência.

E quando em 2021 vocês disserem de novo: “Sabemos que temos que fazer melhor”, quero que se lembrem deste momento, porque não são mais apenas algumas vozes esparsas. Líderes dos direitos civis, acadêmicos, jornalistas, anunciantes, seus próprios funcionários estão gritando para todos escutarem que suas políticas e práticas de negócios prejudicam as pessoas e a democracia. Vocês podem agir como quiserem, mas não podem mais dizer que por essa vocês não esperavam.

Obrigada. 

Fonte: TED
Visto no Brasil Acadêmico