Frances Haugen: “Há um padrão de comportamento no Facebook de colocar o lucro à frente da nossa segurança”

Não gosta de estar no centro das atenções, vive numa localidade onde as pessoas não a reconhecem na rua e não lê as suas menções no Twitter. Ainda assim, Frances Haugen é hoje um nome incontornável.

A cientista de dados trabalhou no Facebook entre 2019 e maio de 2021 como gestora de produto no departamento de integridade cívica. No dia em que saiu da empresa levou com ela cópias de milhares de páginas de documentos internos que deram origem a uma investigação do Wall Street Journal e acionaram uma audição no Senado.

“Eu não podia de forma responsável esperar mais tempo”, disse esta segunda-feira à plateia que assistiu, na Altice Arena, em Lisboa, à abertura de mais uma edição da Web Summit.

“Há um padrão de comportamento no Facebook de colocar o lucro à frente da nossa segurança”, reitera — uma acusação que a rede social recusa, argumentando que Haugen escolheu a dedo os documentos que forneceu à imprensa para dar uma impressão errada do Facebook. Hoje, no palco principal da cimeira tecnológica, a ex-funcionaria respondeu à letra: “Eles podem sempre divulgar mais documentos”. 

O caso, que ficou conhecido como Facebook Pappers, denunciava falhas graves, das quais a empresa tinha conhecimento e sobre as quais se recusou a agir.

Segundo o Wall Street Journal, os documentos mostram que há uma elite da cultura, do jornalismo e da política que escapa intencionalmente à moderação na plataforma e os visados tiram partido disso. O Instagram, que pertence ao Facebook, é tóxico para jovens adolescentes e a empresa sabe, mas tem consistentemente minimizado os seus efeitos negativos publicamente. O algoritmo tem várias limitações: além de não entender várias línguas, tem dificuldade em identificar vídeos de atiradores que filmam os seus próprios ataques ou analisar discurso de ódio. Na Índia, segundo os trabalhadores do Facebook, a plataforma contribuiu ativamente para um crescendo do conflito inter-religioso e a empresa recusou agir por receio de ferir “sensibilidades políticas”, já que alguns grupos tinham ligações ao governo em funções. Estes são apenas alguns exemplos, mas a lista é extensa.

Em Lisboa, Frances Haugen disse esta segunda-feira que “más pessoas e más ideias não são o problema. O problema é quem tem o megafone”.

Em resumo, explica, basta escaparem três conteúdos ao algoritmo que tem de avaliar milhares de publicações para que estes sejam amplificados por grupos altamente motivados. Uma vez amplificados, sobem no ranking e são mostrados a mais gente. É por isso que “um ranking que tem por base o engajamento é perigoso” — mais ainda quando o algoritmo não consegue entender a língua.

Há lugares, como a Etiópia, exemplifica Haugen, onde se falam seis línguas e 95 dialetos, em que a moderação de conteúdos não acontece.

“Quando a base de segurança é língua por língua, essa [moderação] não chega aos lugares mais frágeis do mundo” porque “não é possível escalar” uma solução. Então, conclui, são muitos estes locais que estão mais vulneráveis ao que acontece nas redes sociais do Facebook. “E o que pode estragar um jantar de família na América tem consequências bem mais graves noutro sítio”, nota.

Depois, a estrutura da própria empresa não é favorável a um controlo mais efetivo, já que quem avalia, em última instância, se determinado conteúdo deve ou não ser tolerado é também quem tem de garantir que a empresa não se mete em apertos políticos.

“O Facebook tentou reduzir esta questão a uma falsa escolha: liberdade de expressão ou censura. O que digo é que há soluções sustentadas em conteúdo que podem tornar a plataforma mais segura”. Aliás, acrescenta a cientista de dados, se a rede social se focasse em mostrar efetivamente o que partilham os nossos amigos e família “teríamos, de graça, um Facebook mais seguro”.

Haugen assume-se “assoberbada” com a visibilidade que ganhou ao tornar-se denunciante, mas diz-se igualmente “feliz” pela oportunidade de levantar o véu sobre as práticas duvidosas da empresa liderada por Mark Zuckerberg. “Todo o ser humano merece a dignidade da verdade” e “eu queria garantir que as pessoas tinham a informação necessária para fazer escolhas responsáveis”.

Quando decidiu sair da empresa percebeu que para ter o impacto que desejava precisava de dar a cara — fê-lo numa entrevista ao 60 minutos e depois testemunhou perante o congresso norte-americano e a comissão de valores mobiliários norte-americana, porque quando se fala com as autoridades “o círculo de confiança aumenta”.

Sentiu medo? Sim, antes de bater com a porta, mas depois “acreditava genuinamente que havia milhões de vidas em risco nos próximos anos. Comparado a isso, nada parece verdadeiramente uma consequência”. 

Questionada sobre mudança de nome do Facebook  — a rede social Facebook não vai desaparecer, mas a empresa-mãe agora chama-se Meta — Haugen lamentou que “a escolha, uma e outra, seja expandir”. Desta vez, o Facebook vai investir “em videojogos”, em vez de se concentrar em corrigir os “problemas básicos de segurança” que tem nas suas plataformas. “Não percebo como isso faz sentido”, lamenta a cientista de dados.

Na sequência da publicação deste artigo, com as declarações de Haugen, um porta-voz do Facebook disse ao The Next Big Idea que “esta é uma comparação ridícula e uma falsa escolha. Não é como se uma empresa pudesse apenas construir novas tecnologias ou investir para manter as pessoas seguras. Obviamente, podemos e devemos fazer as duas coisas ao mesmo tempo – e fazemos”, reitera a empresa.

O Facebook ainda vai a tempo de mudar? Sim, diz Haugen, mas será difícil com Mark Zuckerberg na liderança, e é pouco provável que venhamos a ter alterações nessa matéria. “O Facebook seria mais forte com alguém a liderar que se focasse na segurança”, concluiu.

Ainda assim, diz-se “crente na capacidade das pessoas e organizações mudarem. (…) Os erros de Mark Zuckerberg não fazem dele má pessoa, mas insistir nos erros com conhecimento…”.

Para Haugen, o líder do Facebook tem “um sonho lindo, de conectar pessoas e fazer do mundo um sítio melhor”. É possível, assegura, mas muito teria de mudar.

A Web Summit arrancou hoje em Lisboa e a organização espera cerca de 40 mil participantes, entre startups, investidores, empreendedores e jornalistas.

Entre os vários oradores, destaca-se a presença da denunciante Frances Haugen; Tom Taylor, responsável pela assistente virtual da Amazon, a Alexa; a portuguesa Daniela Braga, fundadora da DefinedCrowd (agora Defined.Ai), que foi convidada para integrar a task-force da Administração de Joe Biden para a estratégia da inteligência artificial, David Simas, o lusodescendente que é CEO da Obama Foundation e que foi vice-assistente do ex-presidente dos EUA; a comediante Amy Poehler, o presidente da Microsoft, Brad Smith, entre muitos outros.

Veja aqui o roteiro The Next Big Idea para esta edição da cimeira tecnológica.

A Web Summit decorre até 4 de novembro.

---

*Artigo atualizado com as declarações do porta-voz do Facebook