O sistema de segurança de IA do ensino médio confunde a bolsa Doritos com uma possível arma de fogo

Um estudante do ensino médio no condado de Baltimore, Maryland, teria sido algemado e revistado depois que um sistema de segurança de IA sinalizou seu saco de batatas fritas como uma possível arma de fogo.

Taki Allen, estudante da Kenwood High School, disse à afiliada da CNN WBAL“Eu estava segurando um saco de Doritos – tinha duas mãos e um dedo para fora, e eles disseram que parecia uma arma.” Mas, como resultado, Allen disse: “Eles me fizeram ficar de joelhos, colocar as mãos nas costas e me algemar”.

Num comunicado partilhado com os pais, a diretora Katie Smith disse que o departamento de segurança da escola revisou e cancelou um alerta de detecção de armas, enquanto Smith (que não percebeu imediatamente que o alerta tinha sido cancelado) relatou a situação ao oficial de recursos da escola, que chamou a polícia local.

Omnilert, a empresa que opera o sistema de detecção de armas de IA, disse à CNN: “Lamentamos que este incidente tenha ocorrido e desejamos transmitir nossa preocupação ao estudante e à comunidade em geral afetada pelos eventos que se seguiram”. No entanto, Omnilert disse que “o processo funcionou conforme planejado”.