Inteligência artificial reitera estereótipos ao interpretar mulheres, diz ONU

Inteligência Artificial promove estereótipos ultrapassados ​​sobre o papel e o desempenho das mulheres na sociedade. ONU Mulheres apela por mudanças em todos os ciclos dessa tecnologia. (Imagem: Elma Okic / ONU)

POR CORRESPONDENTE IPS
Inter Press Service

NAÇÕES UNIDAS – À medida que a inteligência artificial (IA) transforma a maneira como as pessoas trabalham, se comunicam e se mantêm informadas, essa tecnologia reproduz estereótipos de gênero e exclui as mulheres das decisões sobre o futuro digital, alerta um estudo da ONU Mulheres.

Jayathma Wickramanayake, chefe de Tecnologias Digitais da ONU Mulheres, afirmou que “o mais preocupante é que isso não é uma falha de projeto, mas uma lacuna política real que ficou completamente sem solução”.

Dos 138 países avaliados em todo o mundo, apenas 24 fizeram referência ao gênero em suas estratégias nacionais de IA, e somente 18 incluíram medidas substantivas sensíveis ao gênero.

“Os modelos de IA extraem preconceitos de décadas de textos escritos por pessoas, sobre pessoas, em um mundo onde as mulheres eram categorizadas no âmbito do lar e da família, e os homens no âmbito dos negócios e da carreira”, observou a especialista do Sri Lanka.

Segundo a ONU Mulheres, quando pesquisadores pediram a grandes modelos linguísticos que completassem uma frase que começasse com o gênero de uma pessoa, uma em cada cinco respostas se mostrou sexista ou misógina.

As evidências sugerem que o problema é generalizado. Um estudo com 133 sistemas de IA revelou que 44% apresentavam viés de gênero, enquanto mais de um quarto demonstrava viés tanto de gênero quanto racial.

Em alguns casos, os sistemas de IA geraram respostas que apresentam as mulheres como objetos sexuais ou como subordinadas aos homens.

Estudos recentes mostram que, à medida que a IA generativa se torna parte do cotidiano de bilhões de pessoas — desde escrever e-mails até planejar campanhas e criar apresentações —, as desigualdades também estão sendo reforçadas por meio de algoritmos discriminatórios.

Só no Reino Unido, por exemplo, 88% das agências de publicidade e mídia já utilizam essa tecnologia de alguma forma.

Para muitas mulheres e meninas, os riscos vão muito além dos estereótipos. As mulheres já sofrem níveis desproporcionais de abuso online, e a IA está facilitando a criação e a disseminação de algumas formas de violência.

Segundo dados da ONU Mulheres, quase um em cada quatro defensores dos direitos humanos, ativistas e jornalistas entrevistados relataram ter sofrido violência online facilitada por inteligência artificial.

Nesse estudo, 12% dos entrevistados disseram que suas imagens pessoais foram compartilhadas sem seu consentimento, enquanto 6% relataram ter sido alvo de deepfakes ou imagens e vídeos manipulados.

Com a crescente popularidade do conteúdo gerado por IA, aumentam as preocupações de que o assédio, a manipulação e o abuso baseados em imagens se tornem mais difíceis de detectar e prevenir.

Ao mesmo tempo, as mulheres continuam sub-representadas nas indústrias que desenvolvem essa tecnologia, o que levanta preocupações de que o futuro da inteligência artificial esteja sendo construído sem que suas perspectivas sejam refletidas no projeto.

Embora se espere que a IA impulsione o crescimento em todos os setores focados em tecnologia, as mulheres representam apenas 30% da força de trabalho global na área de IA, de acordo com a Organização Internacional do Trabalho (OIT).

A ONU Mulheres alerta que as pessoas que constroem esses sistemas não refletem adequadamente a diversidade das populações que eles pretendem servir.

Segundo a organização, sem uma maior participação de mulheres e outros grupos sub-representados, os preconceitos existentes correm o risco de se enraizarem nas tecnologias futuras.

O impacto econômico da IA ​​também pode ser desigual. As mulheres têm quase o dobro da probabilidade dos homens de ocupar empregos com alto risco de automação fora do setor de IA.

Esses efeitos podem ser exacerbados por outros fatores, como raça, deficiência, renda e localização geográfica.

À medida que a IA transforma os mercados de trabalho, a ONU Mulheres alerta que as comunidades que já enfrentam exclusão podem ficar ainda mais para trás se medidas específicas não forem tomadas.

Combater o preconceito não é apenas uma questão de direitos, segundo a ONU Mulheres, mas também faz sentido do ponto de vista empresarial.

Um estudo da Aliança Contra os Estereótipos, uma iniciativa convocada pela ONU Mulheres, revelou que a publicidade livre de estereótipos de gênero gera melhores resultados comerciais.

Marcas que utilizam publicidade inclusiva registraram maior crescimento de vendas, maior fidelização de clientes e maior poder de precificação do que seus concorrentes.

À medida que a IA influencia cada vez mais o marketing e a criação de conteúdo, as organizações que integram a inclusão em seus processos de IA provavelmente se beneficiarão, enquanto aquelas que não o fizerem poderão enfrentar riscos comerciais e de reputação.

A ONU Mulheres exige que a igualdade de gênero – e os direitos e experiências de mulheres e meninas – sejam integrados em todas as etapas do ciclo de vida da IA, desde o desenvolvimento até a implementação e a governança.