Guterres propõe governança global para inteligência artificial

Relatório aponta que 99% das deepfakes (imagens, áudios e vídeos manipulados) são de natureza sexual e 96% têm como alvo mulheres e meninas (Elma Okic – ONU Mulheres)

CORRESPONDENTE IPS
Inter Press Service

GENEBRA – O secretário-geral das Nações Unidas, António Guterres, propôs controles globais abrangentes sobre a inteligência artificial (IA), alertando que seus chips cada vez mais poderosos, projetados para uso civil, estão sendo transferidos para o campo de batalha, onde os “robôs assassinos” já são a norma.

Em seu discurso desta segunda-feira, dia 6, no Diálogo Global das Nações Unidas sobre Governança da IA, nesta cidade suíça de Genebra, o chefe da ONU também destacou a necessidade de maior acessibilidade para os bilhões de pessoas que não têm acesso a essa tecnologia revolucionária.

Ele insistiu que qualquer acordo futuro “deve ser globalmente confiável” e priorizar a segurança, particularmente a segurança das crianças, para protegê-las da manipulação e do abuso gerados digitalmente.

Fazendo eco a esse apelo, a presidente da Assembleia Geral da organização, a alemã Annalena Baerbock, instou à ação coletiva para combater esse “lado sinistro” da IA.

Segundo seus relatórios, 99% dos deepfakes (imagens, áudios e vídeos manipulados) são de natureza sexual e 96% têm como alvo mulheres e meninas.

Guterres afirmou que outras prioridades para o equilíbrio global em matéria de IA devem incluir a restrição do acesso à tecnologia de aprendizagem automática para países em desenvolvimento, enquanto todos os centros de dados de IA devem funcionar com energia renovável até 2030.

O Diálogo reúne representantes de países membros da ONU, empresas, pesquisadores, especialistas técnicos e ativistas da sociedade civil nos dias 6 e 7 de julho, dando seguimento a apelos feitos na ONU desde 2017.

Uma segunda edição deste Diálogo já está planejada para maio de 2027 em Nova York.

A inteligência artificial, com sua simulação dos processos de inteligência humana por máquinas, “continuará a crescer, poderá mudar o mundo de maneiras que ainda não compreendemos e alterar a dinâmica de poder do nosso planeta”, destacou o acadêmico canadense Yoshua Bengio, professor da Universidade de Montreal.

Bengio, copresidente do Painel Científico Internacional Independente das Nações Unidas sobre IA, enfatizou que “evidências muito preocupantes mostram que modelos de IA de ponta são capazes de enganar humanos, que não entendem quando estão sendo avaliados”.

Em um relatório recente, o Painel alertou que a IA “pode ​​causar danos catastróficos, seja por si só ou devido a usuários maliciosos” e que essa tecnologia “está ultrapassando tanto o conhecimento científico quanto a capacidade dos governos de se adaptarem”.

Guterres mencionou o temido desenvolvimento de “robôs assassinos” — Sistemas de Armas Autônomas Letais — que por muito tempo pertenceram à ficção científica, mas agora são uma realidade em alguns teatros de operações. Eles estão sendo desenvolvidos por países como os Estados Unidos, a China, Israel e a Coreia do Sul.

Além disso, a desinformação em larga escala, os ciberataques, a vigilância automatizada, a discriminação algorítmica e a perda de controle sobre os sistemas mais avançados são alguns dos problemas levantados em relação à IA.

Guterres afirmou em seu discurso que a IA, “se usada corretamente e amplamente compartilhada, poderia comprimir décadas de desenvolvimento em anos e se tornar o grande equalizador do século XXI”.

Ele argumentou que a segurança e o bem-estar das crianças devem ser uma prioridade em qualquer futuro acordo de governança e instou as nações a adotarem um compromisso com a segurança infantil no campo da IA.

Esse compromisso deve incluir padrões de segurança para essa tecnologia especificamente para crianças e tolerância zero para abuso sexual: nenhuma empresa deve permitir que sua IA gere imagens sexuais de crianças, e todas as empresas devem detectar, denunciar e remover essas imagens, disse Guterres.

Como segunda prioridade em relação aos controles de IA, o chefe da ONU enfatizou que os direitos humanos são inegociáveis.

“A IA nunca deve tirar a dignidade nem reforçar a discriminação. E em todas as decisões cruciais — na justiça, na saúde, no policiamento — as máquinas podem fornecer informações, mas os humanos devem decidir e responder”, afirmou.

Em relação ao investimento em IA, o Secretário-Geral observou que o financiamento privado para infraestrutura de IA chega a cerca de 500 trilhões de dólares, enquanto o apoio público à capacidade de IA em países em desenvolvimento permanece, em comparação, praticamente insignificante.

Para ajudar a colmatar esta lacuna, anunciou que mais de 20 países apoiam a sua iniciativa de uma rede global, apoiada pelas Nações Unidas, para partilhar e cooperar no desenvolvimento de capacidades em IA.

“Não podemos permitir que a exclusão digital se torne uma exclusão em IA, e que a exclusão em IA se torne uma exclusão em termos de desenvolvimento, segurança e soberania”, disse Guterres.

Ele também pediu transparência, instando todas as grandes empresas de IA a mensurar e divulgar publicamente o impacto ambiental completo de seus sistemas — carbono, água e terra — e a se comprometer a alimentar todos os seus data centers com energia renovável até 2030.

Ele lembrou de relatórios que indicavam que, até 2030, as empresas de IA “poderiam consumir mais eletricidade do que todos os países, exceto cinco, e água suficiente para atender às necessidades de 1,3 bilhão de pessoas na África Subsaariana durante um ano inteiro”.

“Pode parecer intangível, mas seu impacto não é”, resumiu ele.