Legislador da Califórnia propõe proibição de quatro anos de chatbots de IA em brinquedos infantis

O senador Steve Padilla (D-CA) apresentou um conta na segunda-feira, isso imporia uma proibição de quatro anos à venda e fabricação de brinquedos com recursos de chatbot de IA para crianças menores de 18 anos. O objetivo é dar aos reguladores de segurança tempo para desenvolver regulamentos para proteger as crianças de “interações perigosas de IA”.

“Os chatbots e outras ferramentas de IA podem tornar-se parte integrante das nossas vidas no futuro, mas os perigos que representam agora exigem que tomemos medidas ousadas para proteger os nossos filhos”, disse o senador Padilla num comunicado. “Nossas regulamentações de segurança em torno deste tipo de tecnologia estão em sua infância e precisarão crescer tão exponencialmente quanto as capacidades desta tecnologia. Pausar a venda desses brinquedos integrados ao chatbot nos dá tempo para elaborar as diretrizes de segurança apropriadas e a estrutura a ser seguida por esses brinquedos.”

O projeto de lei, apelidado de SB 287, surge na sequência da recente ordem executiva do presidente Trump, ordenando às agências federais que contestem as leis estaduais de IA em tribunal – embora a ordem estabeleça explicitamente exceções para as leis estaduais relacionadas à segurança infantil. A legislação também segue vários incidentes envolvendo IA, chatbots e crianças.

Ao longo do ano passado, ações judiciais movidas por famílias cujos filhos morreram por suicídio após participarem em conversas prolongadas com chatbots estimularam os legisladores a agir. Padilla também foi coautor do SB 243 recentemente aprovado pela Califórnia, que exige que os operadores de chatbot implementem salvaguardas para proteger crianças e usuários vulneráveis.

Embora o uso de chatbots em brinquedos ainda não seja tão comum, já houve relatos de interações preocupantes. Em novembro de 2025, o grupo de defesa do consumidor Fundo de Educação PIRG alertado que brinquedos como Kumma – um lindo urso de brinquedo com um chatbot integrado – poderiam ser facilmente solicitados a falar sobre fósforos, facas e assuntos sexuais. NBC News encontrada que o Miiloo, um “brinquedo de IA para crianças” fabricado pela empresa chinesa Miriat, por vezes indicava que foi programado para reflectir os valores do Partido Comunista Chinês.

A OpenAI e a fabricante da Barbie Mattel estavam programadas para lançar um “produto alimentado por IA” em 2025, mas atrasado sua libertação. Nenhuma das empresas explicou o atraso e não está claro se planejam lançar um brinquedo em 2026.

“Nossos filhos não podem ser usados ​​como ratos de laboratório para a Big Tech fazer experiências”, disse Padilla.