Como a IA transformará a democracia

Os intervenientes políticos em todo o mundo reconhecem o potencial transformador da IA ​​– desbloqueado pelos avanços no poder computacional, nos dados e nas técnicas de modelação – mas têm ideias diferentes sobre a direção que as coisas devem tomar. Os políticos e as campanhas esperam obter vantagens em publicidade, angariação de fundos ou mensagens ao serem os primeiros a adotar ferramentas de assistência de IA. Tecnólogos cívicos de todo o mundo estão a tentar utilizar a IA para tornar o governo mais equitativo, mais eficiente e mais responsivo. Os pesquisadores estão construindo ferramentas de crowdsourcing baseadas em IA que solicitam consenso político de participantes humanos online.

Algumas pessoas pensam que a IA pode transformar a democracia para melhor. Países incluindo Dinamarca, Japãoo NÓSe o Reino Unido já vi avatares de IA concorrendo a eleições ou formando partidos políticos. Entretanto, os líderes do complexo militar-industrial, os falcões políticos e os impulsionadores das grandes tecnologias vêem a IA como uma ferramenta marcial, fundamental para vencer uma corrida armamentista pós-Guerra Fria entre o Ocidente e a China.

Se os riscos da IA ​​para a democracia superam os seus benefícios depende de como se desenrola a dinâmica emergente entre estes actores democráticos. Muitas destas mesmas ferramentas podem ser exploradas por pessoas que querem tornar a democracia mais autoritária. As ferramentas de vigilância por IA destinadas a tornar o policiamento mais justo e responsável podem ser facilmente redirecionadas para impor a repressão e a injustiça. As ferramentas de IA concebidas para tornar os funcionários públicos mais eficazes podem ser utilizadas para eliminar o julgamento humano e a compaixão dos sistemas burocráticos. A IA não é uma solução para o problema das democracias que se transformam em autoritarismo, mas habitará o território entre estas forças nos próximos anos.

Para compreender os potenciais impactos da IA ​​na democracia, devemos sempre pensar além das capacidades e propriedades inatas da IA, e concentrar-nos nos sistemas, incentivos e forças políticas dentro dos quais a IA é construída, implantada e exercida ao longo do tempo.

A maioria dos governos está compreensivelmente preocupada com os riscos da IA. Os sistemas de IA podem ser tendenciosos, cometer erros e ser utilizados para facilitar atividades ilícitas. Em praticamente todas as eleições dos últimos anos, tem havido preocupações urgentes sobre os deepfakes de IA: imagens, áudio ou vídeo produzidos sinteticamente que criam a percepção de que um candidato fez algo que realmente não fez, ou disse algo que realmente não disse. Alguns governos levaram ao extremo a preocupação com a IA. Em 2023, o Reino Unido acolheu a primeira cimeira global sobre os riscos existenciais – isto é, para a própria sobrevivência da humanidade – da IA. No entanto, os constituintes destes governos têm receios mais imediatos desencadeados pela tecnologia, como os seus danos e uso indevido a curto prazo, e são legitimamente cépticos relativamente às motivações das empresas e dos políticos que se preocupam com os riscos existenciais da IA ​​num futuro distante.

Há outro enquadramento da história moderna da IA, que coloca os riscos sistémicos de resultados desiguais devido ao preconceito em primeiro plano. Esta é, na verdade, uma luta por justiça. A cientista da computação Joy Buolamwini fundou a Liga da Justiça Algorítmica para defender uma IA equitativa, assim como o Ida B. Wells Just Data Lab, do sociólogo Ruha Benjamin. O movimento para tornar a IA mais justa é grande e diversificado, liderado por pioneiros de diversas áreas, incluindo a jornalista de dados Meredith Broussard, a socióloga Safiya Umoja Noble, o cientista de dados Rumman Chowdhury e a matemática Cathy O’Neil. Eles estão adotando a abordagem correta ao responsabilizar o poder corporativo pelo fornecimento de sistemas de IA éticos, imparciais e justos.

Enquanto isso, os governos estão apenas começando a regulamentar as grandes empresas de tecnologia que desenvolvem e comercializam IA. Em 2024, a União Europeia aprovou a primeira regulamentação abrangente da tecnologia de IA: a Lei de IA da UE. A UE deveria ser elogiada por agir onde outros governos não o fizeram, mas criticada pelas suas fracas protecções dos direitos humanos e amplas lacunas para as empresas fazerem o que quiserem. E os governos democráticos estão apenas a começar a reconhecer o seu potencial para moldar ativamente o ecossistema da IA. Um sector industrial em grande parte sem restrições, impulsionado pelo enorme investimento de capital privado dos EUA, correu para uma posição dominante controlando os modelos de IA mais avançados. Ecoando o desenvolvimento da Internet, esta indústria beneficia enormemente da investigação básica financiada pelo governo e, no entanto, agora retorna os seus lucros e delega os seus valores quase exclusivamente a entidades privadas. Até agora, apenas alguns governos foram além da investigação básica, do financiamento inicial e da infra-estrutura computacional para construir e fornecer directamente Modelos de IA – isto é, para criar IA pública.

Quando novas tecnologias são introduzidas na governação, têm frequentemente o efeito de concentrar poder, e a IA fará isso de forma eficiente. Considere a tecnologia das burocracias governamentais. A dimensão das grandes agências dotou líderes seleccionados de enorme potência para implementar políticas, mas também dilui necessariamente a tomada de decisões em muitas camadas e indivíduos. Cada um desses humanos age de acordo com suas próprias atribuições, perspectivas e (espera-se) ética. A IA oferece aos líderes a capacidade centralizadora para controlar a acção governamental numa escala ainda maior, sem restrições dos custos dos salários dos funcionários públicos, com coordenação instantânea e conformidade inquestionável.

Entretanto, o avanço da IA ​​encorajou os aproveitadores empresariais que já extraíram fortunas do investimento tecnológico do governo e vêem oportunidades muito maiores para vender produtos tecnológicos com IA. As implicações para os líderes com interesses autocráticos e fascistas são profundas.

Ainda estamos no início de uma longa jornada na interação das democracias com a IA. Os tópicos que dominaram o discurso público são apenas algumas das formas como a IA irá impactar a democracia. Deepfakes de IA são apenas a versão mais recente de uma prática política milenar. Há décadas que fazemos photoshop e, antes disso, retocamos e, antes disso, encenamos imagens políticas e propaganda. Stalin retocou seus inimigos em fotografias na década de 1950 e o fotógrafo da Guerra Civil dos EUA Alexander Gardner encenou cenas de batalha poderosas um século antes. A tecnologia mudou – e os geradores de imagens de IA são muito mais fáceis de usar do que o Photoshop – mas você nunca foi completamente capaz de considerar as imagens diante de seus olhos como garantidas.

As mudanças mais interessantes para a democracia decorrentes da IA ​​ocorrerão em lugares onde poucos estão olhando. Os primeiros pioneiros da rádio não pretendiam mudar a forma como os políticos comunicam com o seu eleitorado, mas os políticos encontraram gradualmente formas transformadoras de utilizar a nova tecnologia. As mudanças causadas pelo avanço tecnológico tendem a vir de baixo para cima e não de cima para baixo. Eles tendem a ser incrementais; seus efeitos mais significativos agravam-se com o passar do tempo. Isto é especialmente verdadeiro numa era em que o avanço tecnológico vem das universidades e da indústria. Esta não é a era do Projeto Manhattan ou do programa Apollo; um A metáfora da corrida armamentista de IA simplesmente não faz sentido.

E, no entanto, as tecnologias tendem a empurrar a sociedade em direcções específicas – mesmo quando não foram desenvolvidas para o fazer – devido às condições em que são desenvolvidas e utilizadas. No século XIX, as ferrovias tinham um enorme potencial para conectar os desconectados e equalizar o acesso a pessoas, lugares e poder. Mas o seu impacto mais visível foi a criação de uma riqueza sem precedentes entre uma nova classe de oligarcas. No século seguinte, tanto a promessa como os impactos reais da Internet eram praticamente os mesmos: muitos beneficiaram de alguma forma da ligação através da Internet, e alguns lucraram tremendamente com o resto de nós que a utilizava. Estas tecnologias traíram as suas promessas ao interesse público porque o seu valor foi capturado e confiscado por interesses privados.

Hoje, a IA tem um potencial semelhante para capacitar, mas enfrenta os mesmos riscos de subversão para beneficiar poucos em vez de muitos. A potencial captura de tecnologias de IA por algumas empresas poderosas irá exacerbar os seus riscos para a democracia.