A regulamentação da IA ​​não é suficiente. Precisamos da moral da IA

Papa Leão XIV recentemente chamado para que “os construtores de IA cultivem o discernimento moral como parte fundamental do seu trabalho – para desenvolver sistemas que reflitam justiça, solidariedade e uma reverência genuína pela vida”.

Alguns líderes de tecnologia, incluindo o cofundador da Andreessen Horowitz, Marc Andreessen, zombado tais chamadas. Mas fazer isso é um erro. Não precisamos apenas de regulamentação da IA ​​– precisamos da moral da IA.

Toda tecnologia carrega uma filosofia, quer queiramos admitir ou não. A imprensa disseminou conhecimento e enfraqueceu hierarquias. Eletricidade dissolvida à distância. A internet quebrou a fronteira entre a vida pública e privada. A inteligência artificial pode revelar-se a mais reveladora até agora, porque nos obriga a confrontar o que, se é que existe, é exclusivamente humano.

Os governos estão lutando para acompanhar. A Lei de IA da União Europeia é a tentativa mais ambiciosa até agora para regulamentar o aprendizado de máquina; os Estados Unidos produziram as suas próprias ordens e planos. Os líderes da indústria falam alto de “proteção” e “alinhamento”. A linguagem da segurança domina, como se a ética fosse uma lista de verificação que pudesse ser codificada e implementada.

As regras são necessárias. Eles podem limitar os danos, impedir o abuso e fornecer responsabilização. Mas não podem dizer-nos que tipo de mundo queremos construir. Respostas regulatórias como mas raramente responde por que. A ética tratada como conformidade torna-se estéril – um processo de gestão de riscos em vez de reflexão moral. O que falta não é outro livro de regras, mas uma bússola moral ou humana.

A questão mais profunda não é se as máquinas podem pensar, mas se os humanos ainda podem escolher. Algoritmos automatizados já moldam o que lemos, onde investimos e em quem ou no que confiamos. As telas às quais estamos todos colados todos os dias influenciam tanto as emoções quanto as eleições. Quando as decisões são terceirizadas para modelos de dados, a responsabilidade moral passa do humano para o mecânico. O perigo não é que as máquinas desenvolvam demasiada inteligência, mas que deixemos de exercitar a nossa.

Os tecnólogos frequentemente descrevem a ética em termos computacionais: alinhamento, camadas de segurança, ciclos de feedback. Mas a consciência não é um parâmetro a ser ajustado. É uma capacidade viva que cresce através da empatia, da cultura e da experiência. Uma criança aprende o certo e o errado não através da lógica, mas através do relacionamento – sendo amada, corrigida e perdoada. Da mesma forma, aprendem a prestar contas: que as ações têm consequências e que a responsabilidade é inseparável da escolha. Essa é a essência do crescimento moral humano e não pode ser replicada pela computação.

A inteligência artificial forçará um novo acerto de contas com a dignidade humana – um conceito mais antigo que qualquer tecnologia, mas curiosamente ausente da maioria das conversas sobre o assunto. A Dignidade insiste que o valor de uma pessoa é intrínseco, não mensurável em dados ou produção económica. É um princípio que vai contra a lógica da otimização. Num mundo construído sobre métricas de envolvimento, a dignidade lembra-nos que nem tudo o que pode ser quantificado o deveria ser.

O capital tem um papel especialmente poderoso aqui. O que é financiado é construído. Durante décadas, os investidores recompensaram a velocidade e a escala – crescimento a todo custo. Mas as tecnologias emergentes hoje não são ferramentas neutras; são espelhos, refletindo e amplificando nossos valores. Se construirmos sistemas que explorem a atenção ou reforcem preconceitos, não poderemos ficar surpreendidos quando a sociedade ficar mais distraída e dividida.

A devida diligência ética deve tornar-se tão rotineira quanto a devida diligência financeira. Antes de perguntarmos qual o tamanho que uma tecnologia pode atingir, deveríamos perguntar que tipo de comportamento ela incentiva, que dependências cria e quem deixa para trás. Isso não é idealismo moral ou altruísmo; é uma previsão pragmática. A confiança será o bem escasso do século da IA ​​e não poderá ser facilmente comprada (ou codificada) depois de perdida.

O desafio do nosso tempo é manter a inteligência moral em sintonia com a inteligência das máquinas. Deveríamos usar a tecnologia para expandir a empatia, a criatividade e a compreensão – e não para reduzir a complexidade humana a padrões de previsão. A tentação é construir sistemas que antecipem cada escolha. O caminho mais sábio é preservar a liberdade que permite que a escolha signifique alguma coisa.