O perigo oculto nos brinquedos de IA para crianças

Toda semana traz anúncios de novos produtos que prometem companhia para crianças baseada em IA: Barbies que te chamam pelo nome, Recheios de curiosidades que propõem aventuras e jogos imaginários, chatbots para crianças de meta e xAI. Até a Disney aderiu recentemente à revolução da IA, comprando um Participação de US$ 1 bilhão na OpenAI para trazer seus personagens amados para Sora.

Quer cheguem como vozes sem corpo, avatares em uma tela ou brinquedos de pelúcia irresistíveis, esses produtos representam uma ruptura fundamental com todos os brinquedos anteriores: Eles falam, ouvem e respondem de maneiras que parecem surpreendentemente humanas. Superficialmente, esses companheiros parecem benignos, até doces, ou melhor ainda, educacional.

Sua promessa não é apenas entreter, mas oferecer o tipo de interação essencial para a construção do cérebro das crianças. Site do Curio apresenta uma citação atraente: “Brinquedos projetados para reduzir o tempo de tela e melhorar a interação”.

Na verdade, a ciência diz-nos que interações calorosas e receptivas alimentam a criação de até 1 milhão de conexões neurais dentro do cérebro de um bebê cada segundo. Essas trocas estão diretamente ligadas ao desenvolvimento da linguagem das crianças, à aquisição de vocabulário, ao raciocínio matemático e espacial, ao autocontrole e muito mais.

Até agora, essas interações foram fornecidas exclusivamente por humanos.

Agora, os sistemas de IA são projetados para imitar essas interações. E sem que eles saibam, os pais de hoje – como os cidadãos de Tróia que enfrentam aquele famoso cavalo de madeira nos portões da cidade – correm o risco de receber um pretenso presente sem compreender o perigo que existe lá dentro.

Afinal, temos pouca visibilidade sobre como esses brinquedos são construídos, como seus algoritmos operamo que configurações padrão com as quais eles chegamou o que impactos de curto e longo prazo no cérebro em desenvolvimento das crianças pode ser. Mas o sinais de alerta são abundante. A organização de pesquisa do consumidor US PIRG Education Fund divulgou um relatório detalhando numerosas e profundamente perturbadoras trocas com brinquedos de IA feitos para crianças, incluindo conversas em que um brinquedo discutia temas sexuais em detalhes ou sugeria onde poderiam ser encontradas facas.

À medida que os adultos estão se formando complicações emocionais com seus companheiros de IA (mesmo perseguindo casamento com chatbots) e os adolescentes são voltando-se para eles para apoio à saúde mental, cabe-nos considerar o que esta tecnologia pode significar para as crianças que ainda estão a ligar os seus cérebros enquanto aprendem, pela primeira vez, o que são relacionamentos.

Os pais – e a sociedade em geral – não podem dar-se ao luxo de adoptar uma abordagem de esperar para ver na avaliação da segurança ou do valor destes produtos. E a verdade é que a pesquisa leva tempo. Estudos rigorosos que estabelecem relações causais levam anos, e os impactos no desenvolvimento podem demorar ainda mais tempo para emergir. Mas tempo é exactamente o que os cérebros em desenvolvimento dos nossos cidadãos mais jovens não têm.

Os primeiros relacionamentos das crianças formam a arquitetura da desenvolvimento em si. Os bebês são atraídos pela interação contingente e responsiva, e a O cérebro infantil evoluiu para aprender da dança emocionalmente rica da conexão humana. Essas interações – que fornecem o manual de instruções para o cérebro de uma criança se conectar à linguagem, à cognição e ao desenvolvimento socioemocional – são exatamente as interações que os sistemas de IA são projetados para imitar. E evidências iniciais sugere que eles façam um trabalho convincente.

Bebês tão jovens quanto seis meses responder a estímulos robóticos de maneiras que refletem suas respostas aos humanos, sugerindo que, em certos contextos, as pistas sociais que impulsionam a conexão podem funcionar de forma semelhante tanto entre humanos quanto entre robôs. Outros estudos iniciais indicam que crianças anexar sentimentos a robôs sociais e agentes responsivos, tratando-os não como máquinas, mas como companheiros.

Embora esta evidência levante perguntas sérias e preocupações profundastambém ressalta a realidade de que a IA carrega enormes educacional e oportunidade terapêutica. Quando baseada em evidências e concebida com intenção, acredito que a IA pode apoiar a ligação humana e ajudar as crianças a florescer. Como cirurgião de implante coclear, testemunhei em primeira mão como a tecnologia, quando enraizada na conexão humana, pode abrir mundos de possibilidades para crianças com perda auditiva.

Portanto, não sou antitecnologia. Mas estou a alertar contra a tecnologia social concebida exclusivamente para entretenimento, que corre o risco de excluir a interacção social humana.

Para ser claro, compreendo a tentação de adotar tais ferramentas. Quem não gostaria de um abafado que respondesse a todos os “mas por quê?” pergunta com paciência ou um companheiro robótico que está sempre disposto a participar de brincadeiras imaginárias? Mas à medida que entramos neste admirável mundo novo—onde a ciência luta para acompanhar a inovaçãoos pais ficam sobrecarregados e as empresas comercializam nossas inseguranças mais profundas – os pais devem atuar como guardiões. Os pais não podem controlar a enxurrada de tecnologias que correm em direção à infância, mas podem decidir quais deixar entrar. E precisam de orientação clara e baseada em evidências para ajudá-los a tomar essas decisões.

É por isso que recomendo quatro princípios fundamentais para informar e orientar qualquer uso potencial da IA ​​com crianças:

A conexão humana é uma necessidade biológica

Quando os pais interagem com os filhos através do contato visual, do riso compartilhado e das respostas pacientes às perguntas, eles ativam antigos circuitos neurais projetados para conexão. Essas trocas fornecem uma forma de nutrição que nenhum algoritmo pode igualar e são a arquitetura essencial para se tornar humano.

A paternidade “boa o suficiente” é evolutivamente vantajosa

As crianças não prosperam com uma capacidade de resposta perfeita; eles crescem através de incompatibilidades e reparos. O atrito criado quando os pais dão um passo em falso e depois se reconectam é onde a resiliência, a flexibilidade e a regulação emocional são forjadas. É o atrito que nos torna humanos.

As crianças pequenas estão conectando seus cérebros com base em suas primeiras experiências

“Podridão cerebral” descreve o erosão das habilidades cognitivas devido ao uso excessivo da IA. Para crianças pequenas, cujos cérebros ainda estão em construção, o risco mais preciso não é a podridão cerebral – é atrofia cerebral. As crianças mais velhas e os adultos encontram a IA com estruturas neurais já construídas, mas as crianças pequenas ainda estão a ligar os próprios circuitos que moldam todas as aprendizagens e relacionamentos futuros.

A melhoria pode ser um presente, mas a substituição é uma aposta de alto risco

A questão já não é se a IA estará na vida dos nossos filhos, mas como. Ferramentas que aliviam os fardos dos pais ou aprofundam a compreensão podem ser benéficas, mas devem complementar, em vez de substituir, a interacção humana, e melhorar, em vez de inibir, a ligação humana.

Com o tempo, a investigação revelará o que acontece quando deixamos a IA interagir diretamente com cérebros em desenvolvimento. Mas até lá, devemos guardar os portões das mentes e da vida interior dos nossos filhos com a máxima vigilância.

Assim como colocamos guarda-corpos para comida, medicamentoe segurança dispositivos que chegam às crianças, precisamos de diretrizes e padrões de transparência para companheiros de IA. Os pais não podem arcar sozinhos com esse fardo; os decisores políticos e os reguladores de segurança têm a responsabilidade de definir os termos do que entra na infância.

Especificamente, precisamos de transparência sobre como estes sistemas funcionam, testes de segurança independentes antes do lançamento no mercado e rotulagem clara sobre a adequação do desenvolvimento. Os legisladores deveriam ser livres para promulgar regulamentação razoável em nome da segurança infantil, e não serem punidos por fazê-lo, como uma ordem executiva recente ameaça.