Precisamos proteger as crianças americanas online

Imagine uma grande empresa dos EUA – vamos chamá-la de “Big Corp”. É uma das empresas mais valorizadas do mundo, mas todo o seu modelo de lucro depende da dependência das crianças nos seus produtos. E as consequências deste vício são catastróficas.

Os próprios estudos internos da Big Corp mostram que esse vício alimenta ansiedade, depressão, distúrbios alimentares e ideação suicida entre menores. Mas quando essas descobertas vêm à tona, a empresa enterra a pesquisa e mente ao Congresso sobre os resultados.

(time-brightcove not-tgx=”verdadeiro”)

Ao mesmo tempo, a Big Corp expõe as crianças a danos impensáveis, falhando e muitas vezes recusando-se abertamente a pôr fim ao abuso.

Um comportamento tão terrível por parte de uma empresa norte-americana exigiria uma responsabilização imediata. No entanto, de acordo com uma petição recente apresentada por mais de 1.800 queixosos, incluindo pais e filhos, Meta alegadamente cometeu estes mesmos crimes durante anos. A única diferença: em vez de atirar os nossos filhos aos lobos no mundo físico, a gigante da Big Tech supostamente vendeu a segurança das crianças para obter lucro no espaço virtual.

O resumo, relatado pela primeira vez por TEMPOfornece apenas as evidências mais recentes que documentam como empresas de tecnologia como a Meta, proprietária do Facebook e do Instagram, têm como alvo crianças com características viciantes – independentemente das consequências.

De acordo com o processo, e com o ex-chefe de segurança e bem-estar do Instagram, Vaishnavi Jayakumar, a Meta tem uma política de não remover indivíduos que se envolvam em tráfico sexual em suas plataformas até que os usuários denunciem o agressor pelo menos 17 vezes.

Em setembro, o Subcomitê Judiciário do Senado para Privacidade, Tecnologia e Direito, que presido, ouviu relatos de ex-funcionários corajosos da Meta, como Jayakumar, que trabalhou em pesquisas sobre segurança de jovens. Em uma audiência bombástica, eles descreveram como a Meta suprimiu pesquisas internas que mostravam que crianças que usavam seus fones de ouvido de realidade virtual foram propostas sexualmente por adultos no Metaverso da empresa.

Para a criança, os danos psicológicos e fisiológicos de tal abuso não são diferentes dos danos causados ​​se acontecessem pessoalmente. No entanto, de acordo com os denunciantes e centenas de páginas de documentos internos, a Meta procurou uma “negação plausível”, eliminando qualquer prova que pudesse forçar a empresa a agir. A certa altura, os executivos até alertaram os pesquisadores contra referindo-se para “crianças” em suas plataformas VR. Seu eufemismo preferido? “Supostos menores com vozes jovens que podem ser menores de idade.”

Embora a empresa tenha afirmado que “mantém o seu histórico” e nega qualquer culpa, tais ações prejudiciais têm sido rotina na Meta. No início deste ano, a Comissão Federal de Comércio revelado que em 2019, o Instagram incentivou “groomers” conhecidos a se conectarem com menores por meio de recomendações algorítmicas de acompanhamento. Embora a empresa estivesse ciente dessas interações perigosas, o CEO Mark Zuckerberg supostamente optou por não fortalecer as equipes de segurança da plataforma para economizar dinheiro.

Com Meta e outras plataformas Big Tech, vimos este filme repetidamente: algoritmos conectar crianças com traficantes de drogas e inundar seus feeds com conteúdo pró-suicídio; Chatbots de IA sexualizar crianças em fantasias de RPG; recursos de design permitem que as crianças compartilhe sua localização precisa em tempo real em um mapa com qualquer pessoa, incluindo predadores ansiosos para localizá-los.

A dura verdade é que não se pode confiar nas grandes empresas de tecnologia para tornarem as suas plataformas seguras desde a concepção, porque medidas de segurança significativas prejudicariam os seus resultados financeiros. O Congresso deve intensificar-se e garantir que estas empresas sejam finalmente responsabilizadas pelos danos que infligiram a toda uma geração de crianças.

No início deste ano, reintroduzi o sistema bipartidário Lei de Segurança Online para Crianças (KOSA), o que garantiria que as crianças tivessem as mesmas proteções contra danos no mundo virtual que têm no mundo físico. A versão do Senado da KOSA estabeleceria um claro dever de cuidado para as plataformas online para prevenir ameaças específicas a menores, incluindo abuso sexual, drogas ilícitas e a promoção do suicídio e de distúrbios alimentares. Exigir que as grandes empresas de tecnologia assumam a responsabilidade de tornar os seus próprios produtos mais seguros é essencial para proteger as crianças e dar tranquilidade aos pais.

A legislação tem um apoio bipartidário esmagador, tendo sido aprovada no Senado no ano passado por uma votação de 91-3. Este ano, a legislação já recuperou a maioria à prova de veto com 67 co-patrocinadores do Senado.

Em uma audiência do Comitê Judiciário do Senado no ano passado, Zuckerberg, da Meta, enfrentou dezenas de pais que perderam seus filhos devido a danos nas redes sociais. “Sinto muito por tudo que vocês passaram”, disse ele. “Ninguém deveria ter que passar pelas coisas que suas famílias sofreram.”

Mas não é a primeira vez que ele pede desculpas desse tipo. E para os pais que vivem com perdas inimagináveis, qualquer pedido de desculpas sem ação não tem sentido.

Eles merecem responsabilidade. O Lei de Segurança Online para Crianças poderia finalmente entregá-lo.