Imagem 1

O gênio da IA escapou da lâmpada: a ONU deve fazê-la funcionar em prol da Humanidade

O gênio da IA escapou da lâmpada: a ONU deve  fazê-la funcionar em prol da Humanidade

A IA é empolgante e aterrorizante ao mesmo tempo. As implicações e a evolução potencial da IA são enormes, para dizer o mínimo. Chegamos a um ponto crítico na história da humanidade que nos diz que, mesmo neste momento, a IA é muito mais inteligente que os humanos. (Imagem: Mike MacKenzie/ Wikimedia Commons).

POR ANWARUL K CHOWDHURY

Quando me pediram recentemente para expressar minha opinião sobre os avanços fenomenais da Inteligência Artificial (IA) e se as Nações Unidas desempenham um papel em sua governança global, lembrei-me das Três Leis da Robótica, um conjunto de regras elaboradas pelo autor de ficção científica Isaac Asimov e introduzido em seu conto de 1942.

Eu disse a mim mesmo que a ficção científica agora encontrou a vida real. A primeira lei estabelece o princípio mais fundamental ao enfatizar que “Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal”. A norma de 80 anos seria útil para o cenário atual do mundo da IA.

IA no comando

A IA é empolgante e aterrorizante ao mesmo tempo. As implicações e a evolução potencial da IA são enormes, para dizer o mínimo. Chegamos a um ponto crítico na história da humanidade que nos diz que, mesmo neste momento, a IA é muito mais inteligente que os humanos.

Até mesmo a IA “primitiva” controla muitos aspectos e atividades de nossas vidas diárias, independentemente de onde vivemos neste planeta. Nossa conectividade global em um nível pessoal: e-mails, calendários, transporte como Uber, GPS, compras e muitas outras atividades agora são cuidadas pela IA.

Então pense sobre as redes sociais, como elas influenciam nosso pensamento e nossa natureza interativa, que injetou uma perigosa incerteza que já causou problemas consideráveis para a ordem social e estresse mental.

Humanidade dependente de IA

A humanidade é quase inteiramente dependente da IA de uma forma ou de outra. Pense em como os humanos seriam indefesos sem um smartphone influenciado pela IA em suas mãos. A IA é o setor de tecnologia que mais cresce e espera-se que adicione US$ 15 trilhões à economia global nos próximos cinco a sete anos.

Mesmo em seu estágio atual de desenvolvimento de vários chatbots de IA liderados pela OpenAI, o Google e outros nos últimos meses alarmaram especialistas bem-intencionados. Quando os especialistas foram questionados sobre o futuro da IA, eles deram uma resposta honesta: “Não sabemos”.

Eles são de opinião que neste momento só se podem prever desenvolvimentos para os próximos cinco anos, para além disso nada se pode prever. As pessoas estão falando sobre o ChatGPT-4 como uma IA de próximo nível, mas ela já pode estar aqui.

Potencial ilimitado e não regulamentado da IA

O potencial da IA é tão ilimitado que já foi comparado à corrida armamentista na qual as nações estão engajadas numa busca sem fim por segurança e poder por meio da aquisição de armas cada vez mais variadas em número e eficácia.

No entanto, para a IA, os principais players são gigantes da tecnologia com enormes recursos e nenhuma orientação ética. Eles estão nessa corrida da IA pelo lucro: apenas lucro e, como corolário, um poder inexplicável de dominar as atividades humanas.

Surpreendentemente, não existem regras, regulamentos ou leis que regem o setor de IA. É livre para todos, pode ser comparado ao “faroeste selvagem”.

Armas nucleares e IA

Os especialistas compararam a IA ao advento da tecnologia nuclear, que pode ser aproveitada para o benefício da humanidade ou usada para a sua aniquilação. Chegam ao ponto de qualificar a IA de arma de destruição em massa mais potente do que as armas nucleares. As armas nucleares não podem produzir armas nucleares mais poderosas, mas a IA pode gerar uma IA mais poderosa porque ela se autocapacita, por assim dizer.

A preocupação é que, à medida que a IA se torna mais poderosa, por conta própria, ela não pode ser controlada, mas teria a capacidade de controlar humanos. Como a tecnologia nuclear, nós não podemos “desinventar a IA”. Portanto, o risco ainda não totalmente conhecido dessas tecnologias de ponta permanece.

Ameaça existencial

Embora reconheçam os muitos usos potencialmente benéficos da IA em áreas médicas, para previsão do tempo, mitigação dos impactos das mudanças climáticas e muitas outras áreas, os especialistas estão soando o alarme de que a superinteligência da IA seria uma “ameaça existencial”, possivelmente muito mais catastrófica, mais iminente do que a atual e sempre desafiadora crise climática.

Você pode ler a versão em inglês deste artigo aqui.

A principal preocupação é que, na ausência de governança global e arranjos regulatórios, os maus atores podem usar a IA por outras motivações que não sejam boas para a sociedade, boas para as pessoas e boas para o nosso planeta como um todo. Como sabemos, os gigantes da tecnologia não são motivados por esses objetivos positivos.

A IA pode ter sérios efeitos disruptivos. Em maio, pela primeira vez na história, os números do desemprego nos EUA citam a IA como a razão para a perda desses empregos.

Maus agentes sem barreiras

Os maus atores sem barreiras de segurança podem abusar do poder da IA para gerar um dilúvio de desinformação para influenciar negativamente as opiniões de grandes segmentos da humanidade, interrompendo assim os processos eleitorais e destruindo a democracia e as instituições democráticas. A tecnologia de inteligência artificial, na área de conhecimento químico, pode ser utilizada para fabricar armas químicas, sem um sistema regulatório.

Precisamos perceber que a IA é notavelmente boa em fazer narrativas convincentes sobre qualquer assunto. Qualquer um pode ser enganado por esse tipo de coisa. Como os humanos nem sempre são racionais, o uso que fazem da IA não pode ser racional ou positivo. Agentes ruins devem ser controlados para que a IA não represente uma ameaça à humanidade.

As Nações Unidas devem liderar a governança global da IA

Todos esses pontos pesam muito a favor da governança global. Se você me perguntar quem deveria liderar isso, minha resposta enfática seria “as Nações Unidas, é claro!”

Veja Também:  Cerca de 76 milhões de pessoas vivem como deslocadas em todo o mundo

A experiência, credibilidade e universalidade das Nações Unidas como organização normativa global obviamente têm um papel na criação de normas regulatórias para IA e sua evolução.

É necessário proteger questões morais e éticas, bem como princípios globais fundamentais, dos ataques da IA, como direitos humanos, em particular direitos humanos de terceira geração, cultura de paz, consolidação da paz, resolução de disputas e conflitos, boa governança, instituições democráticas, eleições livres e justas e muito mais.

Além disso, é igualmente importante examinar e abordar as implicações para os governos nacionais do uso global da IA, que afeta a soberania das nações. Valeria a pena explorar se a IA pode influenciar os processos de negociação intergovernamentais, agora ou no futuro.

Agências da ONU e implicações de suas atividades com IA

Duas agências da ONU anunciaram recentemente atividades relacionadas à IA. A UNESCO informou que organizou uma reunião virtual em nível ministerial no final de maio com participantes selecionados, enquanto compartilhava as estatísticas de que menos de 10% das instituições educacionais usavam IA. A Unesco descreveu o software ChatGPT como “extremamente popular”. Uma entidade da ONU não deveria ter feito tal endosso a um produto tecnológico gigante.

Chamando a si mesma de “agência de tecnologia da ONU”, a União Internacional de Telecomunicações (ITU) anunciou que está convocando a Cúpula Global “AI for Good Global Summit” no início de julho para “mostrar a IA e tecnologia de robôs como parte de um diálogo global sobre como a inteligência artificial e a robótica pode servir como forças para o bem.”

A chamada agência de tecnologia da ONU reivindicou o crédito por hospedar “a primeira conferência de imprensa sobre robôs da ONU”, juntamente com “eventos com executivos da indústria, funcionários do governo e líderes de pensamento sobre IA e tecnologia”.

É necessário um alerta em todo o sistema da ONU que forneça diretrizes para interações com os gigantes da tecnologia e estabeleça acordos de colaboração com eles. A tecnologia de IA está se desenvolvendo tão rápido que deve haver uma consciência de possíveis erros cometidos por uma ou outra entidade da ONU.

Mesmo em seu nível atual de desenvolvimento, a IA está muito à frente do ChatGPT e da robótica na condução das motivações de lucro dos gigantes da tecnologia, e isso é uma grande preocupação para todas as pessoas bem-intencionadas.

Essas entidades da ONU negligenciaram ou até ignoraram a parte da Declaração sobre a Comemoração do Septuagésimo Quinto Aniversário das Nações Unidas, adotada como resolução 75/1 pela Assembleia Geral da ONU em 21 de setembro de 2021, que alertou que “… usados maliciosamente, eles podem alimentar divisões dentro e entre os países, aumentar a insegurança, minar os direitos humanos e exacerbar a desigualdade”. Estas palavras de advertência devem ser cumpridas por todos com a maior seriedade.

A “Nossa Agenda Comum” das Nações Unidas refere-se à IA

O secretário-geral da ONU, António Guterres, no seu relatório intitulado Our Common Agenda (OCA) emitido em setembro de 2021, promete “trabalhar com os Estados-Membros para estabelecer uma Plataforma de Emergência para responder a crises globais complexas.

A plataforma não seria um novo órgão ou instituição permanente. Seria ativado automaticamente em crises de escala e magnitude suficientes, independentemente do tipo ou natureza da crise envolvida.

A IA é certamente uma daquelas “crises globais complexas” e já é hora de o secretário-geral compartilhar formalmente seus pensamentos sobre como planeja enfrentar o desafio. Será tarde demais para a Cúpula do Futuro convocada pelo Secretário-Geral para setembro de 2024, para discutir um regime regulatório global para IA sob a autoridade da ONU. Nesse meio tempo, a tecnologia de IA poderá se manifestaria de uma forma que impossibilite qualquer governança global.

Fora da lâmpada

O gênio da IA escapou da lâmpada: a ONU deve garantir que o gênio da IA sirva aos melhores interesses da humanidade e do nosso planeta.

O impacto da IA é tão amplo e tão geral que é relevante e pertinente a todas as áreas cobertas pela OCA. Cabe a nós que o Secretário-Geral apresente suas próprias recomendações sobre o que deve ser feito sem esperar pela Cúpula do Futuro no próximo ano.

Nosso futuro que está sendo afetado pela IA deve ser tratado AGORA. A IA está se espalhando com velocidade e propagação inconcebíveis. O secretário-geral, como líder mundial à frente das Nações Unidas, não deve subestimar a seriedade do desafio. Ele tem que dar o pontapé inicial sem esperar por um consenso negociado entre os Estados-Membros.

A ONU deve regular a IA e garantir sua governança global eficaz e eficiente

As principais propostas identificadas pela OCA em seus 12 compromissos incluem “Promover a regulamentação da inteligência artificial” para “garantir que isso esteja alinhado com os valores globais compartilhados”.

Na OCA, o Secretário-Geral afirmou que “Nosso sucesso em encontrar soluções para os problemas inter-relacionados que enfrentamos depende de nossa capacidade de antecipar, prevenir e nos preparar para os grandes riscos que temos pela frente.

Isso coloca uma agenda de prevenção revitalizada, abrangente e global na frente e no centro de tudo o que fazemos…. Onde bens públicos globais não são fornecidos, temos o oposto: ‘males’ públicos globais na forma de riscos e sérias ameaças ao bem-estar humano.

Esses riscos agora são cada vez mais globais e têm um impacto potencial maior. Alguns são até existenciais…. Estar preparado para prevenir e responder a esses riscos é um contraponto essencial para uma melhor gestão do patrimônio mundial e dos bens públicos globais.”

A comunidade mundial deve ser tranquilizada sabendo que a liderança das Nações Unidas já sabe bem quais os passos que devem ser dados neste momento.


Embaixador Anwarul K. Chowdhury é ex-Secretário-Geral Adjunto e Alto Representante das Nações Unidas e fundador do Movimento Global por uma Cultura de Paz.

Tradução: Tatiana Carlotti

Tagged: , ,

Leave comment