Imagem 1

A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo

A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo

O economista Ladislau Dowbor comenta estudo de Max Fisher, jornalista do New York Times, que viajou para todos os países onde pesquisou os impactos das redes sociais, inclusive no Brasil, fornecendo uma primeira visão de conjunto das dinâmicas que representa esse novo universo.

Por LADISLAU DOWBOR

O tema é essencial: o impacto da conectividade global manipulada por gigantes planetários de gestão da informação, o chamado GAFAM (Google, Apple, Facebook, Amazon, Microsoft), gerando uma capacidade de influenciar comportamentos em escala radicalmente nova, atingindo bilhões de pessoas em todo o planeta. Há muita discussão sobre fake news, mas a imensa maioria utiliza as mídias sociais de maneira pouco consciente, desconhecendo o uso da Inteligência Artificial, a função dos algoritmos, o interesse dos anunciantes e as articulações políticas, em particular com os sistemas de segurança norte-americanos. É um universo novo que transforma a economia, a política, as relações sociais, a cultura, o uso do tempo, as relações de trabalho.

Nesse sentindo, o estudo de Max Fisher é uma leitura necessária. Fisher é jornalista do New York Times, com prêmio Pulitzer, e fez a lição de casa. Viajou para todos os países onde pesquisou os impactos desta “máquina do caos”, inclusive no Brasil, entrevistou líderes de movimentos de diferentes posicionamentos políticos, pesquisadores e controladores mundiais como Zuckerberg e outros. Consultou material de pesquisas internas das próprias corporações de mídias sociais. Em outros termos, temos uma primeira visão de conjunto das dinâmicas que representa esse novo universo. As fontes são detalhadas de maneira muito profissional – 40 páginas de notas e referências – que tornam esse livro uma ferramenta importante. A escrita flui de maneira agradável, é um jornalista, escreve de maneira simples e direta, tem dados suficientes para não precisar embelezar.

É importante lembrar que esse universo que absorve horas do nosso tempo diariamente é imensamente rentável. Estamos falando das maiores fortunas e das maiores corporações do mundo. O dinheiro vem essencialmente da publicidade. É importante lembrar que os acessos são gratuitos, mas toda a publicidade que alimenta as fortunas dos gigantes da comunicação é financiada pelas empresas que produzem os bens e serviços que compramos e é incorporada nos preços que pagamos. Em outros termos, este gigante corporativo mundial é financiado por nós, no pagamento extra que custeamos. A opção é “transformar todos os usuários em renda, vendendo anúncios… E, conforme o fornecimento de anúncios de internet aumenta, o preço cai. Em um memorando de 2014, o CEO da Microsoft anunciou que ‘cada vez mais, a commodity realmente escassa é a atenção do ser humano’.” (p.161) A filosofia básica? “Eles iam vender anúncios, todo mundo ia ficar rico.” (p.158)

A batalha, portanto, é por nossa atenção e “engajamento”, ou seja, a geração de um vínculo emotivo o mais forte possível, amarrando as pessoas na telinha. O método é simples. Usando AI e algoritmos, o uso das mídias pela população é permanentemente analisado, em detalhes, e as mensagens que mais captam atenção, likes, comentários, compartilhamentos, têm o seu conteúdo analisado e categorizado, identificando os conteúdos e formatos que mais “engajam” as pessoas. Selecionando o que mais captura a atenção, entre bilhões de mensagens, o algoritmo evolui para outra seleção entre seleções e assim sucessivamente, até concentrar a reprodução no tipo de conteúdo que mais amarra as pessoas, e essas mensagens é que passam a aparecer a cada passo, para cada usuário, segundo o perfil identificado.

De certa forma, não somos mais nós que escolhemos o que ver, somos alimentados com o que gostamos de ver. “Em questão de meses, com uma equipe pequena, tínhamos um algoritmo que aumentava o tempo assistido e gerava milhões de dólares de receita extra em publicidade”, diz um participante. “Foi muito, muito empolgante” (p.147). Em termos de impacto, o sistema, sem consciência dos usuários, passou a canalizar a atenção das pessoas, e a confirmar visões cada vez mais estreitas, por confirmações repetidas de diversas fontes. É o que chamamos de “bolhas” e que Fisher chama de “tocas de coelho”.

A gestão baseada em algoritmos que priorizam o que maximiza a atenção utiliza pontuação. No Facebook, “comentários curtos ganhavam quinze pontos, recompartilhamentos e comentários longos ganhavam trinta, recompensando tudo que provocasse uma discussão longa e emotiva.” Um relatório interno alertou que “os conteúdos com desinformação, veneno e violência são excessivamente dominantes entre os recompartilhamentos.” O próprio Zuckerberg escreveu que “quando deixamos sem controle, as pessoas se envolverão de modo desproporcional com conteúdo mais sensacionalista e provocador” (p.324-325). A deformação ficava clara, mas o que prevaleceu foi o interesse comercial: como o envolvimento emocional, em particular carregado de ódio, era é que gerava mais adesão e multiplicação de mensagens, e, portanto, mais interesse publicitário, os algoritmos foram instruídos a reforçar as polarizações.

Veja Também:  Fake News: ontem, hoje e amanhã

Ainda que Trump, Bolsonaro e outros líderes utilizassem empresas como a Cambridge Analytica e outras empresas de difusão direcionada por algoritmos, a realidade é que, no quadro da política de maximização de atenção das próprias plataformas, as pessoas eram levadas à polarização e a reações fanáticas, de tanto ver os seus preconceitos reproduzidos e compartilhados. As plataformas geraram na realidade um sistema de seleção negativa. Uma pesquisa de 300 milhões de comentários descobriu “como tratar pessoas e fatos em termos moral-emotivos aguçados traz à tona os instintos de aversão e violência no público – que é afinal de contas, exatamente o que as plataformas sociais fazem, em uma escala de bilhões, a cada minuto de todos os dias…Sociedades inteiras estimuladas para o conflito, a polarização e a fuga da realidade – para algo como o trumpismo” (p.211).

Importante insistir no mecanismo, que fica claro nas análises e nos exemplos: para vender mais espaço publicitário, busca-se maximizar o compartilhamento, e os algoritmos são instruídos para canalizar, estimular ou abafar as mensagens de bilhões de usuários segundo este critério, com a IA ajudando a encontrar as reorientações necessárias. Como as polarizações emotivas, em particular os sentimentos de identidade grupal e de ódio tribal são poderosos motivadores, terminam por dominar as mídias sociais. Em outros termos, a deformação é embutida e inteligentemente construída pelo próprio critério de maximização, guiado por sua vez pelo interesse geral de maximização de retorno financeiro. “Em linhas gerais, é algo inconsciente, quase animalista, e por isso facilmente manipulado por líderes oportunistas ou por algoritmos em busca de lucro.” Provavelmente ambos (p.243).

Boa parte da força do livro resulta do fato de ser recente: nos últimos anos, universidades e centro de pesquisa de vários países realizaram estudos quantitativos e qualitativas, que são aqui sintetizadas. Temos realmente agora um dimensionamento do impacto frequentemente catastrófico, em particular no caso do YouTube, que inflamou ódios e conflitos raciais em diversas partes do mundo. “O feito dos sistemas do YouTube de conseguir analisar e organizar bilhões de horas de vídeo em tempo real, depois direcionar bilhões de usuários pela rede, com esse nível de precisão e consistência, era incrível para a tecnologia e demonstrava a sofisticação e a potência do algoritmo”(p.272). O YouTube, comenta um pesquisador, “havia criado uma nova identidade coletiva”. 

Fisher dedica capítulos a Myanmar, onde o ódio entre comunidades de religiões diferentes levou a massacres de minorias, mas também no Sri Lanka, apresenta o caso dos Estados Unidos, do Brasil (capítulo 11), da Índia, da Alemanha e outras regiões europeias com subida do fascismo ou de movimentos neonazistas. De repente, frustrados ideológicos encontram não só caminhos para falar para o mundo, mas algoritmos que potencializam os seus discursos de forma desproporcional. Em dezembro 2022, o Facebook informava ter 2,96 bilhões de usuários mensais.

É importante notar, e isso aparece em numerosas partes do livro, a que ponto as deformações continuam sem enfrentamento, sem regulação, apesar de muitas denúncias, e evidências claras do papel nefasto para o convívio social. Deixem-me lembrar que estive na Tunísia nos momentos da Primavera Árabe, e jovens me explicavam como as mídias sociais os haviam ajudado a se articularem online. Alguns anos depois, essas mesmas pessoas lamentavam a inversão de valores que essas mídias haviam gerado. Continuamos no limbo. Inteligência artificial manipulada por estupidez natural.  


Max Fisher – A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo – Todavia Ed., São Paulo, 2023 (Original: The Chaos Machine – Little, Brown and Cy., 2022), 510p.

Tagged:

Leave comment