No admirável mundo novo das Big Techs
POR TATIANA CARLOTTI
No extremo topo do 1% que abocanha a metade da riqueza que nós, do 99%, produzimos, estão as Big Techs, as grandes corporações de tecnologia que revolucionaram, em tão pouco tempo, a nossa forma de existir neste admirável novo mundo.
Gráfico do Visual Capitalist, referente a julho de 2024, aponta que, em valor total de mercado, Apple, Microsoft, Nvidia, Alphabet, Amazon e Meta somadas chegam a US$ 15,4 trilhões. O PIB dos EUA está em US$ 29 trilhões; o do Brasil, U$S 2,3 trilhões.
Em IA-Cracia: como enfrentar a ditadura das Big Techs (Kotter, 2024), Ergon Cugler, especialista em Data Science e Data Analytics, explicita como essas empresas conquistaram tanto poder e as implicações políticas, culturais e sociais do modelo de negócios imposto por elas sobre indivíduos, coletividades e democracias.
Um livro necessário para todos que desejam navegar pelas redes, com menos ingenuidade, durante as nove horas diárias que nós, brasileiros, passamos diante da tela.
Algoritmos não são neutros
“A cada clique, a cada interação nas redes, estamos diariamente contribuindo para um sistema que parece nos conhecer melhor do que nós mesmos”, aponta Cugler, ao citar situações em que pensamos em comprar alguma coisa e ela surge na tela, reiteradamente, como se a máquina lesse os nossos pensamentos.
Não lê, ele garante.
Com o dom da palavra, num texto acessível e bem-humorado, Cugler constrói seu raciocínio ancorado em exemplos do nosso cotidiano na internet, o que facilita muito a compreensão de conceitos básicos como, por exemplo, o de algoritmo:
“Um algoritmo, de forma simples, é um conjunto de instruções ou regras que um computador segue para resolver um problema ou realizar uma tarefa. Vamos pensar nele como uma receita de bolo: quando você segue uma receita, há uma série de passos específicos que você deve executar em uma ordem particular para transformar ingrediente crus em um bolo delicioso. Da mesma forma, os algoritmos processam dados seguindo um conjunto de etapas definidas para alcançar um resultado desejado”, explica.
Algoritmos são, portanto, criados pelos programadores das big techs, cujos valores, interesses e vieses acabam por determinar como nós navegamos nesse mundo virtual. “As tecnologias e os chamados algoritmos não são imparciais e sem vieses. São criados por corporações e, portanto, refletem as opiniões, prioridades e possíveis preconceitos de seus criadores”, destaca.
Da falta de transparência nas políticas de restrição de alcance ao racismo algorítmico, exemplos de arbítrio não faltam e eles levantam preocupações no mundo inteiro, evidenciando o descompromisso dessas corporações em garantir um mínimo ambiente saudável na internet.
A solução? Cluger é categórico: “a busca por equidade e justiça digital exige não apenas ajustes técnicos, mas uma mudança fundamental na abordagem em relação aos algoritmos, visando garantir que essas ferramentas promovam a diversidade, a inclusão e a imparcialidade”.
Monopólio, manipulação e lobby
O livro alerta sobre o monopólio dessas corporações, que estão impedindo qualquer possibilidade de concorrência, inclusive comprando pequenas startups. “Cada novo ciclo de inovação tecnológica foi aproveitado por essas empresas para solidificar seu domínio, criando barreiras de entrada quase intransponíveis para qualquer novo competidor”, afirma.
Além disso, as Big Techs seguem um modelo de negócios que se ancora em técnicas de manipulação emocional para nos manter expostos aos anúncios publicitários o maior tempo possível. Em 2022, a Meta alcançou 2,96 bilhões de usuários ativos mensais, com um lucro por usuário de 39,63 dólares, gerando uma receita de publicidade próxima a 114 bilhões de dólares, aponta Cugler.
Para manter esse padrão, essas empresas dependem do nosso engajamento e aí entram os algoritmos. “É comum entrar em uma plataforma e gastar horas vendo apenas aquilo que parece feito sob medida para você, refletindo as suas preferências, as suas curiosidades e até as suas inseguranças. Essa é a mágica – e a armadilha – do mecanismo de recomendação algorítmica”, explica o autor.
Cada vez mais, nós trafegamos por “um ambiente digital mais personalizado, com feeds infinitos feitos para nós, no qual algoritmos cumprem o papel de direcionar
conteúdos que possam fazer com que fiquemos mais tempo conectados e entretidos”.
Em meio a esse looping de informações, que apenas reafirmam os nossos pontos de vista, a desinformação entra em cena, reiterando absurdos até que eles se tornem verdades. Uma verdadeira indústria da mentira, com disseminação em massa, vem mobilizando as frustrações e o ódio gestado dia sim, e no outro também, pelas desigualdades brutais do neoliberalismo.
Afinal, mentiras, discurso de ódio, teorias da conspiração rendem mais cliques do que a verdade dos fatos, o bom senso político, a pesquisa acadêmica e a educação que recebemos em casa. O problema, aponta Cugler, é que “além de amplificar desinformações conspiratórias, os algoritmos podem reduzir o alcance de quem produz narrativas e conhecimentos informativos”.
Durante a pandemia, conta o autor, “os vídeos promovendo curas milagrosas e desinformação sobe a vacina receberam, significativamente, mais visibilidade do que os conteúdos científicos que explicavam a importância da vacinação e desmentiam falas alegações”.
“Em vez de priorizarem informações precisas e com base em evidências, as plataformas promoveram conteúdos que geram mais engajamento, independentemente de sua veracidade. Isso cria um ambiente onde a evidência cientifica é suprimida, enquanto a desinformação se espalha rapidamente”, complementa.
E lá se vão democracias em meio ao festival de horrores das lideranças fascistas que afirmam que latinos comem pets, que beber água sanitária mata a Covid-19, enquanto ganham apoio de eleitores em todos os cantos do mundo. Mas, a perversidade desse modelo de negócios não para aí.
IA-Cracia
Em 2023, foi revelado que a Google e outras Big Techs estavam coletando dados de usuários sem consentimento explícito, a partir de técnicas de rastreamento invasivas. “Essas práticas não apenas violam a privacidade de usuários, mas também são usadas para manipular comportamentos de consumo e influenciar decisões políticas e sociais em larga escala”, alerta Cugler.
Em sua avaliação, nós estamos vivendo uma era de “acumulação primitiva de dados, onde informações pessoais – que poderiam ser utilizadas para o bem comum ou para políticas públicas em benefício da sociedade, ou mesmo que poderiam ser protegidas pelo direito à privacidade dos cidadãos – são apropriadas e monetizadas sem que tenhamos controle ou informação disso”.
Ao mesmo tempo, apesar de as plataformas pertencerem às empresas, “a dinâmica do ambiente digital faz com que elas “passem a ter características públicas, ou seja, que seus algoritmos sirvam como instrumentos políticos, disputando não apenas a narrativa do ambiente digital, mas influenciando os próprios rumos de políticas públicas e de eleições”.
Não precisamos ir muito longe, basta acompanhar o próximo julgamento no Supremo Tribunal Federal (STF) sobre o 8 de janeiro; ou se lembrar da queda de braços, vencida pela Corte brasileira, pelo menos por enquanto, contra a empáfia e os bilhões de Elon Musk.
Afinal, como defende Cugler, “a internet não pode ser terra sem lei e não por mero mote, mas por preservação da vida e da própria democracia”. Em sua avalição, “com o atual controle unilateral dos algoritmos, temos quase que uma IA-cracia, um novo paradigma de controle social e política, em que os algoritmos pautam visões de mundo e quais debatem ganham ou perdem visibilidade no cenário nacional e internacional”.
A saída, frisa, é “a governança intersetorial”, envolvendo no desenho desses algoritmos, além das empresas detentoras das plataformas, o Estado e a sociedade civil com suas organizações, a academia e os especialistas neste tema.
O livro também traz as principais reivindicações de dois projetos de lei (PLs) apresentados no Congresso brasileiro para regular e fiscalizar o serviço das Big Techs. O PL 2630/2020, que por pressão das corporações foi retirado da pauta de votação em maio de 2023, ao propor uma série de medidas em defesa da liberdade, do uso responsável e da transparência na internet. E o PL 2338/2023, ou “PL da Inteligência Artificial”, que estabelece diretrizes e limites para um responsável das IAs no país.
Cugler reitera que tanto o PL 2338/2023 quanto o PL 2630/20 “não dão ao Estado qualquer margem para censurar publicações ou cercear o desenvolvimento tecnológico com Ias, porque a moderação e o desenvolvimento continuam sendo responsabilidade das Big Techs. A diferença é que elas passariam a ter obrigação de tornar os seus processos e critérios transparentes, garantindo o cumprimento da legislação brasileira”.
“Logo, não se trata de regular os conteúdos dos usuários ou as tecnologias em si, mas de regular a atividade econômica das Big Techs, isto é, as companhias por trás dessas tecnologias”, detalha.
Um verdadeiro guia para os internautas e, em meio à guerra contra o obscurantismo, uma munição para todos nós.
Ergon Cluger, autor de IA-Cracia: como enfrentar a ditadura das Big Techs (Kotter, 2024), por Marcos Bruno / @marcos.the.black
Repórter do Fórum 21 desde 2022, com passagem por Carta Maior (2014-2021) e Blog Zé Dirceu (2006-2013). Tem doutorado em Semiótica (USP) e mestrado em Crítica Literária (PUC-SP).